論文の概要: Enhancing Diffusion Language Models with Autoregressive Post-Training Weights

• arxiv url: http://arxiv.org/abs/2610.08108v1
• Date: Tue, 06 Oct 2026 10:31:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.937001
• Title: Enhancing Diffusion Language Models with Autoregressive Post-Training Weights
• Title（参考訳）: 自己回帰的ポストトレーニングウェイトを用いた拡散言語モデルの強化
• Abstract要約: 拡散言語モデル(dLLMs)は自己回帰(AR)言語モデルに代わる有望な代替として登場した。 既存のARポストトレーニングウェイト更新は、拡散モデルを改善するために効果的にリサイクル可能であることを示す。 既存のAR後トレーニングリソースを用いた拡散モデル拡張のためのトレーニングフリーフレームワークであるA2Dを提案する。
• 参考スコア（独自算出の注目度）: 33.36227881707272
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion language models (dLLMs) have emerged as a promising alternative to autoregressive (AR) language models, offering flexible token-update orders and parallel decoding. Recent dLLMs are often initialized from pretrained AR models before diffusion conversion in order to inherit their learned representations. After the conversion, however, they typically ignore the extensive post-training ecosystem of their AR ancestors. In this work, we show that these existing AR post-training weight updates can instead be effectively recycled to enhance diffusion models. Despite the changes by AR-to-diffusion conversion, directly adding an AR post-training weight update to a diffusion base model remains effective, bringing its performance close to that achieved by direct diffusion post-training. Notably, AR and diffusion post-training updates are nearly orthogonal in weight space, yet induce substantially more aligned representation changes in the diffusion model. Their distinct updates are also complementary: composing their weights can retain gains from both regimes and further improve the post-trained diffusion model. Based on these findings, we propose A2D, a simple training-free framework for enhancing diffusion models with existing AR post-training resources. A2D can transfer capabilities from AR post-trained models to diffusion base models, and further improve already post-trained diffusion models by composing AR and diffusion post-training updates. Across various dLLMs, including Dream, DreamReasoner, DiffuCoder, Dream-Coder, Nemotron-Labs-Diffusion, and DiffusionGemma, A2D reliably improves instruction following, mathematical reasoning, and coding with both supervised fine-tuning and reinforcement learning updates, without additional training, or inference-time computation.
• Abstract（参考訳）: 拡散言語モデル(dLLM)は、フレキシブルなトークン更新順序と並列デコードを提供する自動回帰言語モデル(AR)に代わる有望な代替品として登場した。 最近のdLLMは、学習した表現を継承するために、拡散変換の前に事前訓練されたARモデルから初期化されることが多い。 しかし、変換後、彼らは通常、彼らのAR祖先の広範なトレーニング後のエコシステムを無視します。 本研究は,既存のARポストトレーニングウェイト更新を効果的に再利用し,拡散モデルを改善することを目的としたものである。 AR-to-diffusion変換による変更にもかかわらず、拡散ベースモデルにAR後トレーニングの重み付けを直接追加することは有効であり、その性能は直接拡散後トレーニングによって達成されたものに近い。 特に、ARと拡散後更新は重み空間ではほぼ直交するが、拡散モデルにおいてかなり整合性のある表現変化を引き起こす。 両体制からの利得を保ち、訓練後の拡散モデルをさらに改善することができる。 これらの知見に基づいて,既存のAR後トレーニングリソースを用いた拡散モデル拡張のための,簡単なトレーニングフリーフレームワークであるA2Dを提案する。 A2Dは、AR後トレーニングモデルから拡散ベースモデルへ、さらにARと拡散後トレーニング更新を構成することで、すでにトレーニング後の拡散モデルを改善することができる。 Dream、DreamReasoner、DiffuCoder、Dream-Coder、Nemotron-Labs-Diffusion、DiffusionGemmaを含む様々なdLLMにおいて、A2Dは、追加のトレーニングや推論時間計算なしで、教師付き微調整と強化学習のアップデートの両方で、命令の追従、数学的推論、コーディングを確実に改善している。

関連論文リスト

• LLaDA2.0: Scaling Up Diffusion Language Models to 100B [96.84156938318931]
  LLaDA2.0 - 離散拡散大言語モデル(dLLM)を100億の総パラメータにスケールアップする。 LLaDA2.0は知識継承、進歩的適応、効率性に配慮した設計原則を支持している。 LLaDA2.0-mini (16B) と LLaDA2.0-flash (100B) の2つの命令調整型Mixture-of-Experts (MoE) が実用的展開に最適化されている。
  論文  参考訳（メタデータ） (2025-12-10T09:26:18Z)
• SDAR: A Synergistic Diffusion-AutoRegression Paradigm for Scalable Sequence Generation [62.14510717860079]
  本稿では, 自己回帰モデルの学習効率を, 拡散の並列推論能力で統一するSynergistic Diffusion-Autoregressionパラダイムを提案する。 SDARは、十分に訓練された自己回帰モデル(AR)を、簡潔でデータ効率のよい適応を通じてブロックワイズ拡散モデルに変換する、軽量なパラダイム変換を実行する。 この知見に基づいて、SDARは最小コストで効率的なAR-拡散変換を実現し、並列生成を可能にしながら、ARレベルのパフォーマンスを維持する。
  論文  参考訳（メタデータ） (2025-10-07T17:29:28Z)
• Diffusion Beats Autoregressive in Data-Constrained Settings [50.56893491038853]
  自己回帰(AR)モデルは長い間、大きな言語モデルのランドスケープを支配してきた。 近年,ARモデルよりもアドバンテージが低いものの,拡散型言語モデルが将来性のある選択肢として浮上している。 本研究では,限られたデータ上で繰り返し学習を行うデータ制約付き環境で,マスク拡散モデルについて系統的に研究する。 我々の結果は、データが計算ではなくボトルネックである場合、拡散モデルは標準的なARパラダイムに代わる魅力的な代替手段となることを示唆している。
  論文  参考訳（メタデータ） (2025-07-21T17:59:57Z)
• TESS 2: A Large-Scale Generalist Diffusion Language Model [24.91689676432666]
  TESS 2は命令追従拡散言語モデルであり、命令追従拡散モデルより優れている。 適応学習とベースモデルの選択は,優れた指示追従拡散モデルの訓練に不可欠であることがわかった。 モデル出力の調整を基礎となるモデルのトレーニングを必要とせずに行うための,新しい,モジュール型の推論時ガイダンス手法である報奨ガイダンスを提案する。
  論文  参考訳（メタデータ） (2025-02-19T17:50:31Z)
• Scaling Diffusion Language Models via Adaptation from Autoregressive Models [105.70889434492143]
  拡散言語モデル(DLM)は、テキスト生成モデルのための将来性のある新しいパラダイムとして登場した。 170Mから7BまでのARモデルをDiffuGPTとDiffuLLaMAの拡散モデルに変換し、200B未満のトークンでトレーニングできることを示す。 実験の結果,これらのモデルは初期のDLMよりも優れており,ARと競合していることがわかった。
  論文  参考訳（メタデータ） (2024-10-23T14:04:22Z)
• Transfer Learning for Text Diffusion Models [16.97230119564891]
  我々は,大規模言語モデル(LLM)の訓練と展開において,自己回帰(AR)デコーディングを置き換えるためのテキスト拡散の可能性を探る。 我々はAR2Diff'と呼ばれる軽量適応手法を用いて、事前訓練されたARモデルをテキスト拡散モデルに変換する。
  論文  参考訳（メタデータ） (2024-01-30T17:11:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。