論文の概要: ForkLeft: Entropy-First Rollouts for Prefix-Aligned Autoregressive-to-Diffusion Distillation

• arxiv url: http://arxiv.org/abs/2609.32448v1
• Date: Sat, 26 Sep 2026 10:29:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-07 09:03:53.993391
• Title: ForkLeft: Entropy-First Rollouts for Prefix-Aligned Autoregressive-to-Diffusion Distillation
• Title（参考訳）: ForkLeft: 自己回帰-拡散蒸留のためのエントロピーファーストロールアウト
• Abstract要約: 拡散言語モデル(DLM)はフレキシブルトークン順序と並列生成を提供する。 直接蒸留は基本的なミスマッチに直面し、自己回帰的な教師は左の接頭辞から予測し、一方DLMは両側のトークンに条件を付ける。 本稿では,教師の指導から学生のロールアウトを分離することで,このミスマッチを解決する蒸留フレームワークであるForkLeftを紹介する。
• 参考スコア（独自算出の注目度）: 12.983899693598396
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Autoregressive Next-Token Prediction (NTP) has enabled strong reasoning capabilities in language models, while Diffusion Language Models (DLMs) offer flexible token orders and parallel generation. We ask whether DLMs can acquire NTP-style reasoning through distillation without giving up their native generation process. Direct distillation, however, faces a fundamental mismatch: an autoregressive teacher predicts from a left prefix, whereas a DLM can condition on tokens on both sides. We introduce ForkLeft, a distillation framework that resolves this mismatch by separating the student's rollout from teacher supervision. During training, the student first performs entropy-first rollouts that commit uncertain positions and expose potential forks. We then fix the resulting student prefix and distill an NTP teacher under the same context, with answer correctness determining the supervision source. At inference, the student returns to its native confidence-first parallel decoding. With Qwen3-30B-A3B-Base, ForkLeft improves Efficient-DLM-4B on all ten benchmarks, raising MATH500 from 72.60% to 79.60% and consistently outperforming three alternative designs. The gains scale with teacher strength and generalize to SDAR-4B with only $500$ updates. At matched scale, the distilled 4B and 8B students exceed the published SDAR-Chat and OPDLM models on seven benchmarks, showing that DLMs can learn NTP-style reasoning without sacrificing native parallel generation. Code and datasets will be released upon acceptance.
• Abstract（参考訳）: 自動回帰Next-Token Prediction(NTP)は言語モデルで強力な推論機能を実現し、Diffusion Language Models(DLM)はフレキシブルトークン順序と並列生成を提供する。 我々は, DLM が自然生成過程を諦めることなく, 蒸留により NTP 式の推論を得られるかどうかを問う。 しかし、直接蒸留は基本的なミスマッチに直面しており、自己回帰的な教師は左の接頭辞から予測し、一方DLMは両側のトークンに条件を付けることができる。 本稿では,教師の指導から学生のロールアウトを分離することで,このミスマッチを解決する蒸留フレームワークであるForkLeftを紹介する。 トレーニング中、学生はまずエントロピーファーストのロールアウトを行い、不確実な位置をコミットし、潜在的なフォークを露出する。 次に、得られた学生接頭辞を修正し、同じ文脈でNTP教師を蒸留し、監督源を決定する答えの正しさを判定する。 推測すると、学生はネイティブな信頼性優先の並列デコードに戻る。 Qwen3-30B-A3B-Baseでは、ForkLeftは10ベンチマークすべてで効率の良いDLM-4Bを改善し、MATH500を72.60%から79.60%に引き上げ、3つの代替設計を一貫して上回った。 SDAR-4Bは500ドル(約5万5000円)のアップデートしかありません。 その結果, 蒸留した4Bと8Bの学生は, SDAR-ChatおよびPDLMモデルより7つのベンチマークで, ネイティブ並列生成を犠牲にすることなくNTPスタイルの推論を学習できることが判明した。 コードとデータセットは受け入れ次第リリースされる。

関連論文リスト

• d-OPD: Future-Aware On-Policy Distillation for Block Diffusion Language Models [12.972376712003287]
  我々は,AR教師の分布を改良し,生徒の目に見える状態に適合する将来的なオンライン蒸留法であるd-OPDを紹介した。 Qwen3の0.6Bから8Bまでのモデル全体で、d-OPDはOPDLMよりも最大4.0ドルポイント向上している。
  論文  参考訳（メタデータ） (2026-09-28T15:08:22Z)
• Hesitation-Aware On-Policy Distillation for Diffusion Language Models [16.690496450987663]
  Hesitation-Aware On-Policy Distillation (HOPD) Hesitation-Aware On-Policy Distillation (HOPD) Hesitation-Aware On-Policy Distillation (HOPD)
  論文  参考訳（メタデータ） (2026-09-27T07:09:59Z)
• What Does Privileged Information Add to On-Policy Self-Distillation? [57.872246350931306]
  オンラインの自己蒸留(On-policy self-distillation)により、言語モデルは、答や解決方法を見る、自分自身の凍結したコピーから学ぶことができる。 AMPLE-Mathは、5,319の数学的問題からなる再利用可能なスイートで、同じ答えを6つの推論ビューで共有する。 直接応答型ロールアウトを監督する思考能力のある教師によって、Qwen3-1.7Bの改良の大部分は参照レス蒸留によるものである。
  論文  参考訳（メタデータ） (2026-09-17T15:57:10Z)
• SelFusion: Self-distillation for Diffusion Language Models [11.370229362941267]
  拡散言語モデル(DLM)は、自己回帰(AR)大規模言語モデル(LLM)の固有の遅延ボトルネックを軽減する。 本稿では, DLM のための新しい自己蒸留フレームワーク, SelFusion を提案する。
  論文  参考訳（メタデータ） (2026-08-24T07:26:35Z)
• Visual Contrastive Self-Distillation [61.298159957622886]
  本稿では,視覚的コントラスト自己蒸留法を提案する。 これと対照的に,本研究では,教師の具体的イメージ分布の明確化を図り,その結果のフルディストリビューション目標を学生に蒸留する。
  論文  参考訳（メタデータ） (2026-07-23T17:37:37Z)
• H$^2$SD: Hybrid Hindsight Self-Distillation [61.71131241473028]
  検証可能な報酬付き強化学習(RLVR)は、言語モデル推論のための信頼性の高い結果監視を提供する。 既存の自己蒸留法は特権教師を追加するが、通常は一定の役割を割り当てる。 本稿では,教師のコンテキストに適応し,トラジェクタの正当性を更新するHybrid Hindsight Self-Distillation(MathrmH2mathrmSD$)を紹介する。
  論文  参考訳（メタデータ） (2026-07-21T10:47:27Z)
• Your Teacher Can't Help You Here: Combating Supervision Fidelity Decay in On-Policy Distillation [81.10000755917712]
  オンライン蒸留は,教師からのトークンレベルのフィードバックを用いて,学生モデルを自作の軌道上で訓練することにより,推論能力を伝達する。 生徒が生成した接頭辞が長くなるにつれて、教師の次点の分布は自信を減らし、差別性が低下する。 SFDを緩和するため, textbfLookahead Group Reward (ours) を導入する。
  論文  参考訳（メタデータ） (2026-05-29T04:39:20Z)
• Roll Out and Roll Back: Diffusion LLMs are Their Own Efficiency Teachers [76.15132587294862]
  Wide-In, Narrow-Out (WINO) は、リボッキング可能な並列生成を可能にするトレーニング不要の復号アルゴリズムである。 WINO+は、WINOが生成した検証された認知軌道をモデルパラメータに注入し、トレーニングを効率的な推論と整合させる。 LLaDAとMMaDAの実験では、WINOは品質と効率の両方を改善し、WINO+はこの進歩をさらに強化している。
  論文  参考訳（メタデータ） (2026-05-16T11:27:40Z)
• TAD: Temporal-Aware Trajectory Self-Distillation for Fast and Accurate Diffusion LLM [18.69783590125584]
  拡散大言語モデル(dLLM)は、並列テキスト生成に有望なパラダイムを提供する。 彼らは精度のパラレルなトレードオフに直面しており、1フォワード当たりのトークンの増加は世代品質を劣化させることが多い。 既存の加速法は精度を犠牲にして速度を上げることが多い。 本稿では, 時間認識型自己蒸留フレームワークTADを提案する。
  論文  参考訳（メタデータ） (2026-05-10T13:38:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。