論文の概要: On Trajectory-Aware Training for Masked Diffusion Language Models

• arxiv url: http://arxiv.org/abs/2609.37974v1
• Date: Tue, 29 Sep 2026 16:40:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.751511
• Title: On Trajectory-Aware Training for Masked Diffusion Language Models
• Title（参考訳）: マスケ拡散言語モデルの軌道認識学習について
• Abstract要約: マスク付き拡散モデル(MDM)は、ステップ毎にいくつかのトークンをアンマキングすることでテキストを生成するが、異なる条件下でトレーニングされ、サンプリングされる。 PUMBA(Pujectory-Aware Training)は,政策によって引き起こされるトラジェクトリの連続的なステップでデノイザーを訓練する,トラジェクトリ・アウェア・トレーニングの統一フレームワークである。
• 参考スコア（独自算出の注目度）: 17.806527533117396
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Masked diffusion models (MDMs) generate text by unmasking several tokens per step, but they are trained and sampled under different conditions. The model is trained on randomly masked sequences, whereas inference follows a trajectory shaped by the model's own predictions. Additionally, each step has no access to what the previous one computed. Recent methods narrow these limitations from separate angles, leaving open how these choices interact. We introduce PUMBA, a unified framework for trajectory-aware training that trains the denoiser on consecutive steps of policy-induced trajectories, passes information between steps, and optimizes them jointly by backpropagation through time. A controlled study of this design space shows that i) exact train--inference alignment fails due to local overfitting, whereas a looser alignment still brings training masks closer to those seen at inference; ii) passing continuous information outperforms discrete gradient estimators through the commitment at each step; and iii) performance improves as backpropagation through time spans more steps, which we support theoretically. Combined, these components match the best checkpoint of a same-size autoregressive model. Building on these findings, we scale PUMBA to supervised fine-tuning of LLaDA-8B, where it improves the trade-off between performance and number of function evaluations (NFEs) in both full-canvas and block diffusion generation. At matched performance, it needs up to 22% fewer NFEs than standard fine-tuning with twice the budget in full-canvas generation, and up to 26% fewer than standard fine-tuning for the same number of steps in block diffusion.
• Abstract（参考訳）: マスク付き拡散モデル(MDM)は、ステップ毎にいくつかのトークンをアンマキングすることでテキストを生成するが、異なる条件下でトレーニングされ、サンプリングされる。 モデルはランダムにマスキングされたシーケンスに基づいて訓練されるが、推論はモデル自身の予測によって形作られた軌跡に従う。 さらに、各ステップは前のステップが計算したものにアクセスできない。 最近の手法ではこれらの制限を別々の角度から狭め、これらの選択がどのように相互作用するかを開いている。 PUMBA(Pujectory-Aware Training)は,政策によって引き起こされるトラジェクトリの連続的なステップでデノイザを訓練し,ステップ間で情報を伝達し,バックプロパゲーションによってそれらを協調的に最適化する,統合されたトラジェクトリ・アウェア・トレーニングのフレームワークである。 この設計空間の制御された研究は、 一 緩やかなアライメントは、推論時に見たものに近いトレーニングマスクをもたらす一方、現地の過度な適合により、正確に列車の干渉アライメントが失敗すること。 二 連続的な情報の伝達は、各ステップにおけるコミットメントを通じて離散勾配推定器を上回ります。 三 時間によるバックプロパゲーションにより、より多くのステップにまたがってパフォーマンスが向上し、理論的に支援します。 組み合わせることで、これらのコンポーネントは、同じサイズの自己回帰モデルの最適なチェックポイントと一致します。 これらの結果に基づいて,PUMBAをLLaDA-8Bの微調整に拡張し,フルキャンバスとブロック拡散生成の両方における性能と機能評価(NFE)のトレードオフを改善する。 一致した性能では、標準的な微細調整よりも最大22%、フルキャンバス生成の2倍の予算が必要であり、ブロック拡散の同じステップの標準微調整よりも最大26%少ない。

関連論文リスト

• UNIFUSION: Adapting Autoregressive Language Models into Discrete Diffusion under a Unified Reverse-Rate Objective [17.48959208263029]
  本稿では,事前学習したGPT2チェックポイントを均一な雑音拡散に適応させるための,簡易な事前学習手法を提案する。 我々の研究は、サンプリング予算の増加に伴い、生成的複雑度(GenPPL)とユニグラムエントロピーのトレードオフを着実に改善する。 両スケールで比較した拡散モデルの中で,WinoGrande,SIQA,BBHの精度が最も高い。
  論文  参考訳（メタデータ） (2026-07-27T14:40:26Z)
• Self-Distilled Trajectory-Aware Boltzmann Modeling: Bridging the Training-Inference Discrepancy in Diffusion Language Models [65.89572755202245]
  拡散言語モデル(DLM)は、より強力なグローバル認識と高い並列生成を提供する。 標準負のエビデンス下界(NELBO)に基づく教師付き微調整後のDLMは非効率である。 そこで本研究では,学習を推論の容易かつハードな構造に整合させる,自己蒸留軌道に基づくポストトレーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-12T09:39:06Z)
• Planner Aware Path Learning in Diffusion Language Models Training [44.82400021679714]
  Planner Aware Path Learning (PAPL)は、標準的なマスク付き離散拡散損失の簡易かつ効果的な修正である。 PAPLは、タンパク質配列モデリングにおける40%の相対的なゲインを含む、ドメイン間で一貫した改善を提供する。
  論文  参考訳（メタデータ） (2025-09-27T16:51:07Z)
• MDPO: Overcoming the Training-Inference Divide of Masked Diffusion Language Models [28.79185891706149]
  拡散言語モデルは、トレーニングと推論の主な相違に悩まされる。 本稿では,マルコフ特性拡散を利用するためのMasked Diffusion Policy Optimization (MDPO)を提案する。 本研究は,MDLMの事前学習と推測の相違を調査するための大きな可能性を見出した。
  論文  参考訳（メタデータ） (2025-08-18T17:58:13Z)
• Diffusion Forcing: Next-token Prediction Meets Full-Sequence Diffusion [61.03681839276652]
  拡散強制(Diffusion Forcing)は、拡散モデルをトレーニングし、トークンの集合に独立した音レベルを付与する、新たなトレーニングパラダイムである。 因果的次トーケン予測モデルを訓練して1つまたは複数の未来のトークンを生成することで、シーケンス生成モデルに拡散強制を適用する。
  論文  参考訳（メタデータ） (2024-07-01T15:43:25Z)
• Adaptive Training Meets Progressive Scaling: Elevating Efficiency in Diffusion Models [52.1809084559048]
  TDCトレーニングと呼ばれる新しい2段階分割型トレーニング戦略を提案する。 タスクの類似性と難易度に基づいてタイムステップをグループ化し、高度にカスタマイズされた復調モデルを各グループに割り当て、拡散モデルの性能を向上させる。 2段階のトレーニングでは、各モデルを個別にトレーニングする必要がなくなるが、総トレーニングコストは、単一の統合されたデノナイジングモデルをトレーニングするよりもさらに低い。
  論文  参考訳（メタデータ） (2023-12-20T03:32:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。