論文の概要: Better Answers, Weaker Evidence Control: Evidence Bypass in On-Policy Distillation

• arxiv url: http://arxiv.org/abs/2611.01967v1
• Date: Sun, 01 Nov 2026 15:05:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-04 23:36:30.513397
• Title: Better Answers, Weaker Evidence Control: Evidence Bypass in On-Policy Distillation
• Title（参考訳）: より良い答え, ウェイカーエビデンスコントロール: オンライン蒸留におけるエビデンスバイパス
• Abstract要約: オンライン蒸留(OPD)は、証拠に対する応答性を弱めながら、回答精度を向上させることができる。 学生は、文書の変更後に元の正しい回答を保持して、別のものをサポートする。 制御された摂動は、答えクリティカルなエビデンスへのシフトを局所化し、バイパスは、元の答えに対する学生の事前蒸留閉書の嗜好によって増大する。
• 参考スコア（独自算出の注目度）: 54.48057636953618
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: On-policy distillation (OPD) can improve answer accuracy while weakening responsiveness to supporting evidence. We investigate this separation in scientific-document question answering through matched document interventions that change the supported answer while preserving the question and unrelated context. We identify evidence bypass: a student retains an originally correct answer after the document changes to support a different one. On QASPER with a Qwen3-4B student, standard OPD raises original-document accuracy by 3.4 percentage points, lowers counterfactual accuracy by 5.3 points, and increases bypass by 15.7 points; the same directional pattern appears on PeerQA. Controlled perturbations localize the shift to answer-critical evidence, and bypass grows with the student's pre-distillation closed-book preference for the original answer. A factorized study of teacher targets, privileged information, divergence, and supervision density finds that explicitly supplying the teacher with annotated answer-critical spans yields the largest joint improvement in evidence response and claim support. These findings motivate Evidence-Paired OPD (EP-OPD), which combines on-policy supervision on matched documents supporting different answers to the same question with an answer-level margin that favors each document's supported answer over its paired alternative. Across both datasets and two student sizes, EP-OPD recovers 54-66% of standard OPD's counterfactual-accuracy loss while preserving 80-85% of its original-document accuracy gain. Our results establish evidence responsiveness as a distinct training and evaluation target alongside answer accuracy. Our code is publicly available at: https://github.com/RuoranXu/EP-OPD.
• Abstract（参考訳）: オンライン蒸留(OPD)は、証拠に対する応答性を弱めながら、回答精度を向上させることができる。 本研究は,質問と無関係な文脈を保存しながら,支援された回答を変更する文書介入を通じて,科学的文書質問応答におけるこの分離について検討する。 学生は、文書の変更後に元の正しい回答を保持して、別のものをサポートする。 Qwen3-4B学生のQASPERでは、標準PDは原文書の精度を3.4ポイント向上し、偽文書の精度を5.3ポイント低下させ、バイパスを15.7ポイント増加させる。 制御された摂動は、答えクリティカルなエビデンスへのシフトを局所化し、バイパスは、元の答えに対する学生の事前蒸留閉書の嗜好によって増大する。 教師の目標、特権情報、分岐度、監督密度の因子分析により、教師に注釈付き回答クリティカルスパンを明示的に供給することは、エビデンス応答とクレームサポートにおいて最大の共同改善をもたらすことがわかった。 Evidence-Paired OPD (EP-OPD) は、同じ質問に対する異なる回答をサポートするマッチした文書に対する政治上の監督と、それぞれの文書が支持する回答をペアの代替案よりも優先する回答レベルマージンを組み合わせたものである。 両方のデータセットと2つの学生サイズで、EP-OPDは標準PDの偽物精度損失の54～66%を回復し、元の文書精度の80～85%を保存している。 本研究は,回答精度とともに,個別の学習目標と評価目標としてエビデンス応答性を確立した。 私たちのコードは、https://github.com/RuoranXu/EP-OPD.comで公開されています。

関連論文リスト

• Adaptive-Policy Distillation: Knowledge Injection under Information Asymmetry [46.34272783980547]
  OPDは単純なオフポリケーション蒸留よりも文書知識をはるかに効率よく注入する。 本稿では,教師へのロールアウトを共同で行う適応・ポリシィ蒸留法を提案する。 ラベルや検証装置がなければ、PDはOPDよりも54.6%向上し、QASPERでは0.558 F1、BioASQでは0.486 MRRのスコアを得た。
  論文  参考訳（メタデータ） (2026-10-31T11:59:35Z)
• RAG-Stress: Probing the Limits of Evidence Reliance in Retrieval-Augmented Generation [8.913068656400208]
  RAG-Stress(英語版)は、検索強化世代における証拠依存の限界を調べるための診断プロトコルである。 本研究では,各モデルの質問に対する誤解率(MR)を,検索なしで正確に解答する。 我々は、APIモデル、オープンモデル、強化学習で訓練された検索エージェントにまたがる15のシステムを評価する。
  論文  参考訳（メタデータ） (2026-10-08T03:40:48Z)
• Regime Boundary Alignment for Evidence-Gated Question Answering [14.305051281043378]
  RBA(Regime Boundary Alignment)は、同じ質問と金の答えの一致した変種について、単一の読者を訓練する。 3つの種にまたがる3つのマルチホップQAデータセットでは、RCAはサポート対象の回答率を60パーセント以上削減する。 結果は, 支持境界の両側で, 証拠有意な回答を学ばなければならないことを示唆している。
  論文  参考訳（メタデータ） (2026-09-25T18:48:13Z)
• What Does Privileged Information Add to On-Policy Self-Distillation? [57.872246350931306]
  オンラインの自己蒸留(On-policy self-distillation)により、言語モデルは、答や解決方法を見る、自分自身の凍結したコピーから学ぶことができる。 AMPLE-Mathは、5,319の数学的問題からなる再利用可能なスイートで、同じ答えを6つの推論ビューで共有する。 直接応答型ロールアウトを監督する思考能力のある教師によって、Qwen3-1.7Bの改良の大部分は参照レス蒸留によるものである。
  論文  参考訳（メタデータ） (2026-09-17T15:57:10Z)
• Beyond Teacher Likelihood: Group-Calibrated On-Policy Distillation for Long-Context Reasoning [19.29382518431932]
  GC-OPD (Group-Calibrated On-Policy Distillation) は、強力な教師から高濃度のトークンレベルガイダンスを用いて生徒に独自の反応を訓練する。 GC-OPD(Group-Calibrated On-Policy Distillation)は、各ロールアウトグループ内の検証報酬と軌道レベルのPDスコアを正規化する。 相対アドバンテージベースの信用割当(RACA)は、相対的なOPDの利点に応じてトークン間でこの軌道レベルの残差を分配する。
  論文  参考訳（メタデータ） (2026-08-19T17:54:58Z)
• BOUND: Brief-Guided Corrective Preference Distillation at Search-Control Boundaries [82.41764922522565]
  BOUNDは、永続的な探索ドリフトのための短いガイド付き修正選好蒸留フレームワークである。 Trajectory SFT は Bamboogle で 5.6 EM 、BrowseComp-Plus で 4.8 の精度で上回っている。
  論文  参考訳（メタデータ） (2026-08-09T15:32:16Z)
• GATES: Self-Distillation under Privileged Context with Consensus Gating [89.62339954332248]
  我々は、監督が信頼できない環境で自己蒸留を研究する。 非対称な文脈で回答する文書に焦点をあてる。 複数の文書ベース推論トレースをサンプリングすることにより、教師のコンセンサスからオンラインでの監督を導出する。
  論文  参考訳（メタデータ） (2026-02-24T05:56:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。