論文の概要: Masked Distillation: Internalizing the Chain-of-Thought in Language Models

• arxiv url: http://arxiv.org/abs/2607.22629v1
• Date: Thu, 18 Jun 2026 21:19:38 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-02 22:55:38.994201
• Title: Masked Distillation: Internalizing the Chain-of-Thought in Language Models
• Title（参考訳）: マスケ蒸留 : 言語モデルにおける結束の内在化
• Abstract要約: 大規模推論モデル(LRM)は、推論時に最終的な答えを生成する前に、中間ステップの長い明示的な連鎖を生成する。 これらの中間トークンで表現された計算は、言語モデルのパラメータに内部化できますか? 本稿では, 学生のLLMを学習して, 質問に照らされた解トークンのみを予測する知識蒸留フレームワークであるtextitmasked distillationを紹介した。
• 参考スコア（独自算出の注目度）: 15.237352001135376
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large Reasoning Models (LRMs) produce long, explicit chains of intermediate steps before generating a final answer at inference time. These intermediate traces dominate latency, memory usage, and serving cost, even though the final answer correctness is not causally related to the trace correctness and the trace length is not a reliable indicator of the problem complexity. This raises a natural question: can the computation expressed in these intermediate tokens be internalized into the parameters of a language model, enabling it to produce answers directly (or with much shorter intermediate traces)? We introduce \textit{masked distillation}, a knowledge-distillation framework in which a student LLM is trained to predict only the solution tokens conditioned on the question, while a reasoning teacher provides feedback on the student's responses after conditioning on the question and its own CoT trace. We instantiate this framework in two settings: (i) a \textit{self-distillation} setting, in which the same model serves as the teacher in thinking mode and as the student in non-thinking mode, and (ii) a \textit{dual-model} setting, in which a larger reasoning teacher supervises a separate smaller non-thinking student over the solution tokens. By treating intermediate tokens as a scaffold which reasoning models use to fit over the solution tokens, We additionally vary the length of intermediate-token scaffolding the student is supervised on, interpolating between full internalization (the student emits only the solution) and no internalization (the student emits the full trace before the answer). We evaluate the framework through controlled experiments on two reasoning domains: GSM8K (grade-school arithmetic) and Countdown (a number-puzzle search task).
• Abstract（参考訳）: 大規模推論モデル(LRM)は、推論時に最終的な答えを生成する前に、中間ステップの長い明示的な連鎖を生成する。 これらの中間トレースは、最終回答の正しさがトレースの正しさと因果関係がなく、トレース長が問題複雑性の信頼できる指標ではないにもかかわらず、レイテンシ、メモリ使用量、サービスコストを支配している。 これらの中間トークンで表現された計算は言語モデルのパラメータに内部化され、直接(あるいははるかに短い中間トレースで)回答を生成できるのか? 本稿では,学習者のLLMが質問に条件付けされた解トークンのみを予測するための知識蒸留フレームワークである「textit{masked distillation」を紹介した。 このフレームワークを2つの設定でインスタンス化する。 i)同じモデルが思考モードの教師、非思考モードの学生として機能する「textit{self-distillation}」の設定 (ii) より大きい推論の教師が、解のトークンに対して別の小さな非思考の学生を監督する「textit{dual-model}」の設定。 中間トークンを解析モデルが解トークンに適合する足場として扱うことにより、学生が監督している中間トークンの足場の長さも変化し、完全な内部化(生徒は解のみを放出する)と内部化(学生は答えの前に完全なトレースを出力する)の間に補間する。 GSM8K(中等教育算術)とCountdown(小数点探索タスク)の2つの推論領域に関する制御実験により,本フレームワークの評価を行った。

関連論文リスト

• SimpleOPD: Simple Tokenizer-Agnostic On-Policy Distillation for Long-Context Reasoning [54.402550664505576]
  オンライン蒸留(OPD)は、より強力な教師モデルから短文の学生に推論能力を伝達する有望な方法を提供する。 長文推論モデル SU-01 から短文学習者モデルへの証明推論能力の移譲により,この設定について検討する。 Qwen3, Qwen3.5, Intern-S2, GLM-4.7, Gemma-4を含む同族および異族の両方の実験は、数学的推論において一貫した利得を示している。
  論文  参考訳（メタデータ） (2026-08-14T12:57:02Z)
• Chained Recursive Language Models for Multi-Iteration Reasoning [46.765013720309064]
  Chained Recursive Language Models (Chained RLM)は、推論時のアーキテクチャである。 各ルートは元の問題とコンテキストを受信するが、完全な会話履歴を継承しない。 各段階の計算では、中間アーティファクトを検査し、修正し、同じモデルで後の新しい推論によって拡張することができる。
  論文  参考訳（メタデータ） (2026-08-05T17:50:08Z)
• Probing to Refine: Reinforcement Distillation of LLMs via Explanatory Inversion [84.20493238687187]
  単純な模倣を超えて、より深い概念的理解を具現化する新しい枠組みを導入する。 underlinetextitFirst, to address pattern memorization, Explanatory Inversion (EI) generated target explanatory probes' underlinetextitSecondは、一般化を改善するために、Explainatory GRPO (texttEXGRPO) は、新しいダイアログ構造ユーティリティーボーナスを用いた強化学習アルゴリズムを使用する。
  論文  参考訳（メタデータ） (2026-02-26T23:01:46Z)
• Chain-of-thought Reviewing and Correction for Time Series Question Answering [22.889720488678076]
  本稿では,時系列質問応答の明示的な補正機構を備えた多段階推論を行うT3LLMを提案する。 このフレームワーク内では、作業者は構造化されたプロンプトの下で段階的思考連鎖(CoT)を生成し、レビュアーは推論を検査し、誤ったステップを特定し、修正的なコメントを提供する。 複数の実世界のTSQAベンチマークの実験により、T3LLMは強力なLLMベースのベースラインに対して最先端のパフォーマンスを達成することが示された。
  論文  参考訳（メタデータ） (2025-12-27T15:54:18Z)
• SMRC: Aligning Large Language Models with Student Reasoning for Mathematical Error Correction [13.864749522667273]
  大規模言語モデル(LLM)は、数学的な問題を解く際にしばしば推論エラーを発生させる。 我々は,LLMを学生の推論と整合させる新しい手法であるtextttSMRC (textitunderlineStudent underline UnderlineReasoning underlineCorrection) を提案する。
  論文  参考訳（メタデータ） (2025-11-18T17:22:37Z)
• Decomposition-Enhanced Training for Post-Hoc Attributions In Language Models [64.49342399229529]
  我々は、ポストホック帰属を推論問題として再編成し、回答を構成単位に分解し、それぞれ特定の文脈に結び付けることができると論じる。 DecompTuneは、モデルに中間的推論ステップとして解解分解を生成することを教えるポストトレーニング手法である。 DecompTuneは、広範な実験と改善を通じて、属性の品質を大幅に改善し、先行手法より優れ、最先端のフロンティアモデルに適合または超えている。
  論文  参考訳（メタデータ） (2025-10-29T17:58:59Z)
• Selection, Reflection and Self-Refinement: Revisit Reasoning Tasks via a Causal Lens [19.316594303998667]
  推論タスクは、機械学習モデルの能力を評価するための厳格なベンチマークとみなされてきた。 我々は、因果的視点から推論タスクを再考し、潜在空間におけるそれらの振る舞いを理解する。 SR$2$と呼ばれるフレームワークを導入し、推定された潜在変数を選択機構にフィードバックとして組み込む。
  論文  参考訳（メタデータ） (2025-10-09T13:45:31Z)
• Learning to Focus: Causal Attention Distillation via Gradient-Guided Token Pruning [62.23671919314693]
  大規模言語モデル (LLM) は文脈理解において著しく改善されている。 しかし、長いコンテキストの推論と生成の間に真に重要な情報に出席する能力は、まだペースの遅れています。 本稿では,2段階のフレームワークであるLearning to Focus(LeaF)を導入し,コンバウンディング要因を緩和する。
  論文  参考訳（メタデータ） (2025-06-09T15:16:39Z)
• Latent Reasoning via Sentence Embedding Prediction [41.06552269338159]
  本稿では,次の文の連続的な埋め込みを自動回帰予測することにより,事前訓練されたトークンレベルのLMを文空間内での操作に適応させるフレームワークを提案する。 以上の結果から,事前学習したLMは,遅延埋め込み空間内での抽象的構造的推論に効果的に移行できることが示唆された。
  論文  参考訳（メタデータ） (2025-05-28T10:28:35Z)
• Skip-Thinking: Chunk-wise Chain-of-Thought Distillation Enable Smaller Language Models to Reason Better and Faster [51.89995713333108]
  CoT (Chain-of-Thought) 蒸留により、大きな言語モデル (LLM) がタスクを推論するために小さな言語モデル (SLM) を導くことができる。 既存の方法は、SLMに1イテレーションで長い合理性を学ぶように訓練する。 本稿では,論理を内部意味的コヒーレントなチャンクに分割するために探索を用いるチャンクワイズトレーニング(CWT)を提案する。
  論文  参考訳（メタデータ） (2025-05-24T11:04:52Z)
• Token Assorted: Mixing Latent and Text Tokens for Improved Language Model Reasoning [53.57895922042783]
  大規模言語モデル(LLM)は、チェーン・オブ・シークレット(CoT)データに基づいて訓練された場合、推論と計画が優れている。 そこで我々は,遅延離散トークンを用いて推論過程を部分的に抽象化するハイブリッド表現を提案する。
  論文  参考訳（メタデータ） (2025-02-05T15:33:00Z)
• FLARE: Faithful Logic-Aided Reasoning and Exploration [47.46564769245296]
  タスク分解を用いて問題空間をトラバースする新しい手法を提案する。 我々はLarge Language Modelsを使ってソリューションを計画し、クエリを事実に軟式化し、論理プログラミングコードを使って述語する。 提案手法は,生成したコードに対する推論プロセスの忠実度を計算し,外部の解法に頼らずにマルチホップ探索のステップを解析する。
  論文  参考訳（メタデータ） (2024-10-14T19:39:11Z)
• Successive Prompting for Decomposing Complex Questions [50.00659445976735]
  最近の研究は、大規模言語モデル(LM)の機能を活用して、数ショットで複雑な質問応答を行う。 そこでは、複雑なタスクを単純なタスクに繰り返し分解し、それを解決し、最終解を得るまでプロセスを繰り返します。 我々の最良のモデル(逐次プロンプト付き)は、DROPデータセットの数ショットバージョンにおいて、5%の絶対F1の改善を実現します。
  論文  参考訳（メタデータ） (2022-12-08T06:03:38Z)
• Document Modeling with Graph Attention Networks for Multi-grained Machine Reading Comprehension [127.3341842928421]
  Natural Questionsは、新しい挑戦的な機械読解ベンチマークである。 解答は2つあり、長解(典型的には1段落)と短解(長解の内にある1つ以上の実体)である。 既存の方法は、これらの2つのサブタスクをトレーニング中に個別に扱い、依存関係を無視します。 本稿では,文書を階層的にモデル化する多層機械読解フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-05-12T14:20:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。