論文の概要: Stepwise-Querying: Distilling Reasoning without Access to Teacher Chain-of-Thought

• arxiv url: http://arxiv.org/abs/2610.41769v1
• Date: Fri, 30 Oct 2026 14:10:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:05:31.764106
• Title: Stepwise-Querying: Distilling Reasoning without Access to Teacher Chain-of-Thought
• Title（参考訳）: ステップワイズクエリ:教師の連鎖にアクセスできることなく推論を蒸留する
• Abstract要約: 本稿では,教師の内部チェーン・オブ・ソート・トレースへのアクセスを必要とせずに,ステップ固有の説明を抽出するステップワイズ・クエリを提案する。 同じ教師に対して、中間的導出、妥当性チェック、個々のステップの修正を個別に要求すると、統合されたソリューションが標準教師付き微調整に使用される。 2人の教師、2人の学生、4つの数学とコードのベンチマークで、本手法は3つのベースラインと比較した16の内14のスコアを達成している。
• 参考スコア（独自算出の注目度）: 5.213740325873423
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Reasoning distillation is widely used to transfer the reasoning capabilities of large language models to smaller students through teacher-generated supervision. In the black-box setting, however, teachers may expose only final answers and brief solutions, leaving intermediate calculations and validity conditions unavailable and thus limiting the reasoning supervision available for distillation. We propose Stepwise Querying, which elicits step-specific explanations without requiring access to the teacher's internal chain-of-thought (CoT) traces. Independent queries to the same teacher request intermediate derivations, validity checks, and corrections for individual steps, the assembled solutions are then used for standard supervised fine-tuning. Across two teachers, two students, and four mathematics and code benchmarks, our method achieves the highest score in 14 of 16 comparisons with three baselines. We further introduce Stepwise Explanation Information Gain (SEIG), a diagnostic based on the log-ratio of a frozen student's probabilities of correct step completion under stepwise and global explanations. Analyses on GSM8K show that incorrect-answer trajectories can remain useful when they preserve valid intermediate reasoning, while further decomposition yields limited additional gains.
• Abstract（参考訳）: 推論蒸留は、教師による指導を通じて、大規模言語モデルの推論能力を小学生に伝達するために広く用いられている。 しかし、ブラックボックス設定では、教師は最終回答と簡単な解しか公開せず、中間計算と有効条件は使用できないため、蒸留に利用可能な推論の監督が制限される。 本稿では,教師の内部連鎖(CoT)トレースへのアクセスを必要とせずに,ステップ固有の説明を与えるステップワイズクエリを提案する。 同じ教師に対して、中間的導出、妥当性チェック、個々のステップの修正を個別に要求すると、統合されたソリューションが標準教師付き微調整に使用される。 2人の教師、2人の学生、4つの数学とコードのベンチマークで、本手法は3つのベースラインと比較した16の内14のスコアを達成している。 さらに、ステップワイズおよびグローバルな説明の下で、凍結した学生の正しいステップ完了確率の対数比に基づく診断である、ステップワイズ説明情報ゲイン(SEIG)についても紹介する。 GSM8Kの分析では、正しい中間的推論を保ちながら、さらなる分解は限定的な追加利得をもたらす。

関連論文リスト

• E$^2$-OPSD: Taming Entropy Overshoot in On-Policy Self-Distillation [31.08813672185829]
  模範指導は、現在の答えを解決された隣り合う問題に置き換える。 E$2$-OPSDは、OPSDよりも平均4.3ポイントの数学推論を改善する。
  論文  参考訳（メタデータ） (2026-10-04T08:32:33Z)
• The Weakest Link: Distilling LLM Reasoning with Worst-Case Constrained Reinforcement Learning [13.582247024726156]
  現在のアプローチは緊張に直面している。検証可能なタスク報酬を純粋に最適化することは、報酬のハッキングにつながる。 この平均化は、基本的に推論の性質と不一致である、と我々は主張する。 本研究の目的は, 蒸留法を強化学習問題として定式化することである。
  論文  参考訳（メタデータ） (2026-09-29T13:51:52Z)
• TeacherGRPO: Closing the Capacity Gap in Reasoning Distillation via Teacher Alignment [70.40748464576045]
  強力な教師モデルから小さな学生への蒸留はギャップカースに面している。 教師がより高度に成長するにつれて、複雑な分布は生徒が近似できるものから多様化し、パフォーマンスが低下する。 本研究では,教師がデータを捨てたり,推論品質を劣化させたりすることなく,直接生徒の分布に適応する教師アライメントを提案する。
  論文  参考訳（メタデータ） (2026-09-27T10:13:54Z)
• What Does Privileged Information Add to On-Policy Self-Distillation? [57.872246350931306]
  オンラインの自己蒸留(On-policy self-distillation)により、言語モデルは、答や解決方法を見る、自分自身の凍結したコピーから学ぶことができる。 AMPLE-Mathは、5,319の数学的問題からなる再利用可能なスイートで、同じ答えを6つの推論ビューで共有する。 直接応答型ロールアウトを監督する思考能力のある教師によって、Qwen3-1.7Bの改良の大部分は参照レス蒸留によるものである。
  論文  参考訳（メタデータ） (2026-09-17T15:57:10Z)
• BOUND: Brief-Guided Corrective Preference Distillation at Search-Control Boundaries [82.41764922522565]
  BOUNDは、永続的な探索ドリフトのための短いガイド付き修正選好蒸留フレームワークである。 Trajectory SFT は Bamboogle で 5.6 EM 、BrowseComp-Plus で 4.8 の精度で上回っている。
  論文  参考訳（メタデータ） (2026-08-09T15:32:16Z)
• CausalOPD: First-Wrong-Step Supervision for Distilling Causal Chain Reasoning [5.241146164724621]
  CausalOPDはオンラインプロセス蒸留フレームワークである。 知識を付加した教師は、まずドメイン固有の因果規則に基づく軌跡を提供する。 因果段階のカリキュラムはエビデンスレベルからメカニズムレベル、結論レベルのエラーへと進化する。
  論文  参考訳（メタデータ） (2026-08-04T13:49:12Z)
• H$^2$SD: Hybrid Hindsight Self-Distillation [61.71131241473028]
  検証可能な報酬付き強化学習(RLVR)は、言語モデル推論のための信頼性の高い結果監視を提供する。 既存の自己蒸留法は特権教師を追加するが、通常は一定の役割を割り当てる。 本稿では,教師のコンテキストに適応し,トラジェクタの正当性を更新するHybrid Hindsight Self-Distillation(MathrmH2mathrmSD$)を紹介する。
  論文  参考訳（メタデータ） (2026-07-21T10:47:27Z)
• Rethinking Reward Supervision: Rubric-Conditioned Self-Distillation [60.55792673956761]
  我々は, ルブリックを構造化, きめ細かいフィードバックとして組み込んだフレームワークであるtextbfRubric-Conditioned Self-Distillationを提案する。 その結果, ルーリック条件の自己蒸留は, ルーリックレベルの基準をトークンレベルのガイダンスに効果的に変換することを示した。
  論文  参考訳（メタデータ） (2026-06-17T17:54:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。