論文の概要: CoTranslator: Reverse to Forward Chain-of-Thought Translator for Reasoning Distillation

• arxiv url: http://arxiv.org/abs/2610.20828v1
• Date: Wed, 14 Oct 2026 19:15:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:16.035969
• Title: CoTranslator: Reverse to Forward Chain-of-Thought Translator for Reasoning Distillation
• Title（参考訳）: CoTranslator: 蒸留用フォワード・チェーン・オブ・ソート・トランスレータ
• Abstract要約: 推論蒸留は正しい答えを持つチェーン・オブ・シント(CoT)データを必要とする。 検証された前方応答の分布に対する逆CoT応答の変換を学習するCoTranslatorを提案する。
• 参考スコア（独自算出の注目度）: 9.945777305343324
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Reasoning distillation requires chain-of-thought (CoT) data with correct answers, but obtaining such data efficiently remains challenging. Forward CoT generation (FCG) followed by rejection sampling (RS) produces verified, question-only responses, yet may require many teacher calls for difficult problems. Reverse CoT generation (RCG) is cheaper because it conditions on the known answer, but access to this answer can lead to post-hoc rationalization and a mismatch with the student's answer-free inference setting. We propose CoTranslator, which learns to translate reverse CoT responses toward the distribution of verified forward responses. Trained on a small set of paired reverse and rejection-sampled forward responses, it supports large-scale generation and verification of student training data. Across six student models evaluated on six mathematics benchmarks, CoTranslator improves average accuracy over semantic suppression by up to $5.82$ percentage points. For two 4B students, it retains $95.0\%$ of rejection sampling's average accuracy while using $35.9\%$ of its estimated compute. Without retraining, the same translator transfers to a new mathematics dataset, a different teacher, and STEM problems, improving average STEM accuracy by $4.88$ and $4.31$ percentage points for 4B and 8B students, respectively. These results show that CoTranslator offers an efficient and transferable approach to reasoning distillation.
• Abstract（参考訳）: 蒸留には正しい答えを持つチェーン・オブ・シント(CoT)データが必要であるが、そのようなデータを効率的に得ることは依然として困難である。 前向きのCoT生成 (FCG) と後続のリジェクションサンプリング (RS) は、検証された質問のみの応答を生成するが、難しい問題に対する多くの教師の呼び出しを必要とする可能性がある。 Reverse CoT generation (RCG) は、既知の回答に条件があるため安価であるが、この回答へのアクセスは、学生の解答自由推論設定とのミスマッチや、ポストホックな合理化につながる可能性がある。 検証された前方応答の分布に対する逆CoT応答の変換を学習するCoTranslatorを提案する。 ペア化された逆と拒絶サンプリングされたフォワードレスポンスの小さなセットに基づいてトレーニングされ、大規模な生成と学生のトレーニングデータの検証をサポートする。 6つの数学ベンチマークで評価された6つの学生モデルのうち、CoTranslatorは意味的抑圧よりも平均精度を最大5.82ドルまで改善する。 2人の4B学生は、推定計算値の35.9.%を使わずに、拒絶サンプリングの平均精度を9,5.0.%として保持する。 再訓練なしでは、同じ翻訳者が新しい数学データセット、異なる教師、STEM問題に移行し、平均STEMの精度を4Bと8Bの学生にそれぞれ4.88ドルと4.31ドルのパーセンテージで改善する。 これらの結果は、CoTranslatorが蒸留の推理に効率的かつ伝達可能なアプローチであることを示している。

関連論文リスト

• A Query Is Not a Commitment: Learning to Correct Expert Answers in Online Deferral [6.792743621449621]
  そこで本研究では,学習者が専門家を選別し,回答を得る前に修正機能を修正するオンライン学習について検討する。 観察された損失は、専門家の品質と未完成の修正の両方を反映している。 本稿では,ORUCBを提案する。
  論文  参考訳（メタデータ） (2026-10-05T11:55:34Z)
• E$^2$-OPSD: Taming Entropy Overshoot in On-Policy Self-Distillation [31.08813672185829]
  模範指導は、現在の答えを解決された隣り合う問題に置き換える。 E$2$-OPSDは、OPSDよりも平均4.3ポイントの数学推論を改善する。
  論文  参考訳（メタデータ） (2026-10-04T08:32:33Z)
• What Does Privileged Information Add to On-Policy Self-Distillation? [57.872246350931306]
  オンラインの自己蒸留(On-policy self-distillation)により、言語モデルは、答や解決方法を見る、自分自身の凍結したコピーから学ぶことができる。 AMPLE-Mathは、5,319の数学的問題からなる再利用可能なスイートで、同じ答えを6つの推論ビューで共有する。 直接応答型ロールアウトを監督する思考能力のある教師によって、Qwen3-1.7Bの改良の大部分は参照レス蒸留によるものである。
  論文  参考訳（メタデータ） (2026-09-17T15:57:10Z)
• H$^2$SD: Hybrid Hindsight Self-Distillation [61.71131241473028]
  検証可能な報酬付き強化学習(RLVR)は、言語モデル推論のための信頼性の高い結果監視を提供する。 既存の自己蒸留法は特権教師を追加するが、通常は一定の役割を割り当てる。 本稿では,教師のコンテキストに適応し,トラジェクタの正当性を更新するHybrid Hindsight Self-Distillation(MathrmH2mathrmSD$)を紹介する。
  論文  参考訳（メタデータ） (2026-07-21T10:47:27Z)
• Beyond Rejection Sampling: Trajectory Fusion for Scaling Mathematical Reasoning [11.643707169039502]
  構造化された監視構築プロセスとしてリジェクションサンプリングを再構成する微調整戦略であるTrajFusionを提案する。 具体的には、TrajFusionは、試行錯誤推論を明示的にモデル化する融合軌道を形成する。 複数のベンチマークによる大規模な実験は、TrajFusionがRFTを一貫して上回っていることを示している。
  論文  参考訳（メタデータ） (2026-02-04T10:20:56Z)
• Mitigating Spurious Correlations Between Question and Answer via Chain-of-Thought Correctness Perception Distillation [25.195244084313114]
  CoPeD (Chain-of-Thought Correctness Perception Distillation) は,学生モデルの推論品質の向上を目的としている。 CoPeDは学生モデルに対して、正しい合理性に基づいて回答を予測し、誤ったときに修正するよう推奨する。
  論文  参考訳（メタデータ） (2025-09-06T05:33:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。