論文の概要: Beyond the Answer: Student-Conditioned Trace Construction for Reasoning Distillation

• arxiv url: http://arxiv.org/abs/2610.23831v1
• Date: Fri, 16 Oct 2026 17:52:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:08.059144
• Title: Beyond the Answer: Student-Conditioned Trace Construction for Reasoning Distillation
• Title（参考訳）: 留学生による蒸留用トレーサ構築
• Abstract要約: 証拠豊富な推論のための留学生条件のトレース・コンストラクションと蒸留の枠組みであるReDiSTを紹介する。 凍結した学生マッチング読解画面は、回答回復と回答確率を用いて、オリジナルおよび編集された候補をランク付けする。 ReDiSTは、回答のみ、オリジナルトレース、評価されたトレース選択と書き直しベースラインよりも、ソースタスクとクロスベンチマークのパフォーマンスを改善することができる。
• 参考スコア（独自算出の注目度）: 14.723280424936512
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A reasoning trace can accompany a correct answer without providing effective supervision for a particular student. We study how to construct traces that improve learning beyond answer-only supervision by considering both their intermediate content and their accessibility to the target learner. We introduce ReDiST, a student-conditioned trace-construction and distillation framework for evidence-rich reasoning. Starting from the student's own attempts, ReDiST revises answer-correct drafts against the supplied evidence and repairs unsuccessful drafts with additional guidance from the verified answer. A frozen student-matched reader screens and ranks original and edited candidates using answer recovery and verified-answer probability, given the question, evidence, and candidate trace. We distill the selected targets while balancing trace and final-answer supervision with an auxiliary answer loss. Construction and selection occur offline, and inference uses only the distilled student. Experiments on question-answering benchmarks show that ReDiST can improve both source-task and cross-benchmark performance over answer-only, original-trace, and the evaluated trace-selection and rewriting baselines. Across supervision recipes, performance rankings can differ between source and transfer benchmarks, highlighting the importance of evaluating trace teaching utility across distributions.
• Abstract（参考訳）: 推論トレースは、特定の学生に効果的な監督を与えることなく、正しい回答を伴うことができる。 本研究では,その中間的内容と対象学習者へのアクセシビリティを両立させることで,回答のみの指導を超えて学習を改善するトレースを構築する方法について検討する。 証拠豊富な推論のための留学生条件のトレース・コンストラクションと蒸留の枠組みであるReDiSTを紹介する。 学生自身の試みから始めて、ReDiSTは提供された証拠に対する回答の正しいドラフトを修正し、検証された回答から追加のガイダンスで、失敗するドラフトを修復する。 凍結した学生マッチング読解画面は、質問、証拠、候補者の痕跡を考慮し、回答の回復と回答確率を用いて、オリジナルおよび編集された候補をランク付けする。 トラヒックと最終回答管理のバランスを保ちながら, 選択したターゲットを蒸留し, 補助的な回答損失を発生させる。 構築と選択はオフラインで行われ、推論は蒸留された学生のみを使用する。 質問応答ベンチマークの実験により、ReDiSTは、回答のみ、オリジナルトレース、評価されたトレース選択と書き直しベースラインよりも、ソースタスクとクロスベンチマークのパフォーマンスを改善できることが示された。 監督のレシピ全体を通じて、パフォーマンスランキングはソースと転送のベンチマークによって異なり、分散のトレース教育ユーティリティを評価することの重要性を強調している。

関連論文リスト

• Radioactive Feedback: Tracing Models Trained by Label-Only LLM Supervision [43.284214508946015]
  LLM-as-a-Judge知識蒸留は教師による実演の代替となる。 ここで研究されたラベルのみの変種では、学生は全ての反応を生成し、スカラースコアのみから改善する。 教師が生成した答えが生徒のトレーニングセットに入ることはないので、評価者固有の痕跡は低帯域幅の報酬信号を通さなければならない。 報酬そのものに行動選好の登録パターンをエンコードする放射能フィードバックを導入する。
  論文  参考訳（メタデータ） (2026-10-11T15:09:58Z)
• ReTeach: Building a Self-Teacher through Multi-Round Reflection and Retry [7.440703574961596]
  自己蒸留は、個別に訓練された、より有能な教師なしで推論を改善することができる。 リフレクションは、自己生成の試みから明示的なエラー診断と修正ガイダンスを引き出す方法を提供する。 リフレクティブな自己蒸留フレームワークであるReTeachを紹介する。
  論文  参考訳（メタデータ） (2026-10-08T08:58:01Z)
• On-Policy Visual Evidence Distillation [29.145226066460193]
  本稿では,視覚エージェントのオンライン蒸留法であるRe Reflection on Visual Evidence (ReVuE)を紹介する。 ReVuEは、同じクエリに対して複数の学生生成軌跡を比較し、観察された視覚的証拠を要約し、最初の失敗を診断する。 我々は,これらの反射が教師の予測にどの程度強く影響するかに応じて,トークンレベルの蒸留損失をグループ化し,再重み付けする。
  論文  参考訳（メタデータ） (2026-09-29T06:47:11Z)
• VAD: Attributing Visual Evidence for Target Reconstruction in Multimodal On-Policy Distillation [46.347555076026964]
  マルチモーダル・オン・ポリティクス蒸留は、生徒が生成した軌跡を教師に監督することで、きめ細かい視覚的知識を伝達する。 主な課題は、どの補正が、どのように蒸留するかだけでなく、視覚的証拠によって支えられているかを推定することである。 本稿では,教師の補正の視覚的帰属部分を推定する対物目標再構成アルゴリズムである視覚属性蒸留(VAD)を紹介する。
  論文  参考訳（メタデータ） (2026-07-30T17:43:46Z)
• H$^2$SD: Hybrid Hindsight Self-Distillation [61.71131241473028]
  検証可能な報酬付き強化学習(RLVR)は、言語モデル推論のための信頼性の高い結果監視を提供する。 既存の自己蒸留法は特権教師を追加するが、通常は一定の役割を割り当てる。 本稿では,教師のコンテキストに適応し,トラジェクタの正当性を更新するHybrid Hindsight Self-Distillation(MathrmH2mathrmSD$)を紹介する。
  論文  参考訳（メタデータ） (2026-07-21T10:47:27Z)
• Rethinking Reward Supervision: Rubric-Conditioned Self-Distillation [60.55792673956761]
  我々は, ルブリックを構造化, きめ細かいフィードバックとして組み込んだフレームワークであるtextbfRubric-Conditioned Self-Distillationを提案する。 その結果, ルーリック条件の自己蒸留は, ルーリックレベルの基準をトークンレベルのガイダンスに効果的に変換することを示した。
  論文  参考訳（メタデータ） (2026-06-17T17:54:04Z)
• Mitigating Spurious Correlations Between Question and Answer via Chain-of-Thought Correctness Perception Distillation [25.195244084313114]
  CoPeD (Chain-of-Thought Correctness Perception Distillation) は,学生モデルの推論品質の向上を目的としている。 CoPeDは学生モデルに対して、正しい合理性に基づいて回答を予測し、誤ったときに修正するよう推奨する。
  論文  参考訳（メタデータ） (2025-09-06T05:33:17Z)
• ReVISE: Learning to Refine at Test-Time via Intrinsic Self-Verification [53.80183105328448]
  Refine via Intrinsic Self-Verification (ReVISE)は、LLMが自己検証を通じてアウトプットを自己修正できる効率的なフレームワークである。 様々な推論タスクに関する実験により、ReVISEは効率的な自己補正を実現し、推論性能を大幅に向上することを示した。
  論文  参考訳（メタデータ） (2025-02-20T13:50:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。