論文の概要: Training Negatives Still Matter After Calibrating Answerability Readouts

• arxiv url: http://arxiv.org/abs/2610.26461v1
• Date: Mon, 19 Oct 2026 14:12:40 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 17:27:52.79926
• Title: Training Negatives Still Matter After Calibrating Answerability Readouts
• Title（参考訳）: 回答の可読度を調整した上での負のトレーニングは依然として重要
• Abstract要約: トレーニング陰性な構築が、キャリブレーションされた予測、ランキング、下流の回答保持にどのように影響するかを検討する。 否定的なパスを保持するネイティブトレーニングと、それらを排除した空のトレーニングを比較します。 以上の結果より, トレーニング陰性は, 共通校正後においても, ランク付けや下流決定に影響を及ぼすことが明らかとなった。
• 参考スコア（独自算出の注目度）: 18.071860573159807
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Answerability readouts predict whether a passage supplies an answer, but whether calibration can compensate for removing negative passages during training remains unclear. We present a controlled study of how training-negative construction affects calibrated prediction, ranking, and downstream answer retention. We compare native training, which retains negative passages, with empty training, which removes them, holding questions, labels, positive examples, and model weights fixed. Both are calibrated on the same labeled native examples. On SQuAD 2.0 and RepLiQA, native-trained logistic readouts at selected depths achieve lower Brier loss for Qwen2.5-7B-Instruct and Gemma-2-9B-it, with or without output scores. Native fusion also outperforms calibrated output alone. Post-hoc AUROC analysis shows better ranking under native training, beyond what threshold adjustment alone can explain. On the official SQuAD 2.0 development set, native readout policies improve F1 over empty policies but retain more answers to unanswerable questions. The advantage varies by estimator and depth, while RepLiQA's text shortcuts limit claims about contextual understanding. Unfinished generations prevent complete answer-level evaluation, although worst-case bounds preserve the native-empty F1 gains. Our findings show that training negatives affect ranking and downstream decisions even after common calibration, without establishing a universal advantage for native training.
• Abstract（参考訳）: 解答可読性は、解答路が解答を提供するかどうかを予測するが、校正が訓練中に負の通過を除去するために補うことができるかどうかはまだ不明である。 本研究は,トレーニング陰性構築が校正予測,ランキング,下流の回答保持にどのように影響するかを制御した研究である。 否定的なパスを保持するネイティブトレーニングと、それらを取り除く空のトレーニングを比較し、質問やラベル、肯定的な例、モデルの重みを固定します。 どちらも同じラベル付きネイティブの例で校正されている。 SQuAD 2.0 と RepLiQA では,Qwen2.5-7B-Instruct と Gemma-2-9B-it に対して,出力スコアの有無にかかわらず,選択深度でネイティブトレーニングしたロジスティック読み出し値が低い。 ネイティブフュージョンは、キャリブレーションされた出力を単独で上回る。 ホット後のAUROC分析では、しきい値調整だけで説明できる以上の、ネイティブトレーニングでのランキングが向上している。 公式のSQuAD 2.0開発セットでは、ネイティブ読み出しポリシーは空のポリシーよりもF1を改善するが、解決不可能な質問に対する回答はより多く保持する。 利点は推定量と深さによって異なり、RepLiQAのテキストショートカットは文脈的理解に関する主張を制限する。 未完成世代は完全な回答レベル評価を阻止するが、最悪のケース境界はネイティブ空のF1ゲインを保持する。 本研究は, 共通校正後においても, トレーニングネガティブがランク付けや下流決定に影響を及ぼし, ネイティブトレーニングの普遍的優位性を確立しないことを示した。

関連論文リスト

• Can Language Models Learn When to Abstain? Policy Learning and Calibrated Answer Selection [0.0]
  モデル自体または別のコンポーネントをトレーニングして、回答を確認します。 TriviaQAでは、平均カバレッジは20.2%から30.9%に増加した。 NQ-Openでは、セレクタはフィルタのしきい値平均ユーティリティを改善するが、常に無視するよりもパフォーマンスが悪い。
  論文  参考訳（メタデータ） (2026-10-09T16:33:27Z)
• Self-Confirming Superposition Traps in Reinforcement Learning [62.71685993550818]
  強化学習はエージェントのポリシーによって選択されたデータに基づいて表現し、その結果のリターンを使って次の選択を導く。 これらのデータに対して表現フィッティングがグローバルに最適である場合でも,このループは低リターンポリシーを維持可能であることを示す。
  論文  参考訳（メタデータ） (2026-09-26T21:56:26Z)
• $T^5$: Twin-Critic Training for Token-Level Thoughts in Reinforcement Mid-Training [38.44142588468548]
  既存のグループ相対法では、コストがかかる。 単一生成軌道からトークンレベルの利点を校正するツインクリティカルな方法であるtfourを提案する。 実験の結果、最先端の批判のない手法と比較して、tfourは平均ベンチマーク性能を7.8%改善し、平均トレーニングステップ時間を63.4%削減した。
  論文  参考訳（メタデータ） (2026-09-26T17:07:57Z)
• Learning Evidence Sufficiency Boundaries for Selective Answering in Grounded Multi-Hop QA [0.0]
  本研究は, 証拠満足度境界による選択的解答について検討する。 同じ質問に対して、モデルはサポートされていない、または部分的にサポートされているコンテキストを排除すべきである。 次世代ネイティブトレーニングフレームワークであるEvidence Sufficiency Boundary Trainingを紹介した。
  論文  参考訳（メタデータ） (2026-09-01T15:16:11Z)
• Negative Advantage Is a Double-Edged Sword: Calibrating Advantage in GRPO for Deep Search [46.519867732514825]
  ディープサーチエージェントは、検索エンジンとのマルチターンインタラクションを開始し、強力な質問応答能力を示す。 このようなパフォーマンスは、コアトレーニングアルゴリズムとしてグループ相対ポリシー最適化(GRPO)に依存している。 本稿では,深層探索タスクに特化して設計されたアドバンテージキャリブレーション手法であるCalibAdvを提案する。
  論文  参考訳（メタデータ） (2026-04-20T13:21:19Z)
• ReNeg: Learning Negative Embedding with Reward Guidance [69.81219455975477]
  テキスト・ツー・イメージ(T2I)生成アプリケーションでは、負の埋め込みは生成品質を向上させるための単純で効果的なアプローチであることが証明されている。 Rewardモデルにより導かれる改良された負の埋め込みを学習するために設計されたエンドツーエンドの手法であるReNegを紹介する。
  論文  参考訳（メタデータ） (2024-12-27T13:31:55Z)
• Making Large Language Models Better Reasoners with Alignment [57.82176656663245]
  推論(Reasoning)とは、証拠を使って結論に達する認知過程である。 近年の研究では、思考の連鎖(COT)推論プロセスによるデータ上の微調整LDMは、その推論能力を著しく向上させることができることが示されている。 テキストアライメントファインチューニング(AFT)パラダイムを3ステップで導入する。
  論文  参考訳（メタデータ） (2023-09-05T11:32:48Z)
• Language Model Pre-training on True Negatives [109.73819321246062]
  差別的事前訓練言語モデル(PLM)は、故意に破損した言語から原文を予測することを学ぶ。 既存のPLMは、すべての破損したテキストを検査せずに同等に否定的に扱う。 我々は、偽陰性予測に対処し、真陰性に関する事前学習言語モデルを促進するために、強化された事前学習手法を設計する。
  論文  参考訳（メタデータ） (2022-12-01T12:24:19Z)
• A Close Look into the Calibration of Pre-trained Language Models [56.998539510508515]
  事前訓練された言語モデル(PLM)は、予測の不確かさを確実に見積もることに失敗する可能性がある。 トレーニングにおけるPLMの校正性能の動的変化について検討する。 最近提案された2つの学習可能な手法を拡張して、モデルを直接収集し、合理的な信頼度を推定する。
  論文  参考訳（メタデータ） (2022-10-31T21:31:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。