論文の概要: Train the Sampler You Run: Few-Step Masked Diffusion Language Models via Mixture-Likelihood Fine-Tuning

• arxiv url: http://arxiv.org/abs/2611.02666v1
• Date: Mon, 02 Nov 2026 07:24:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-04 23:36:30.575385
• Title: Train the Sampler You Run: Few-Step Masked Diffusion Language Models via Mixture-Likelihood Fine-Tuning
• Title（参考訳）: ミューチュアライズド・ファイン・チューニングによる数ステップのマフレーク拡散言語モデル
• Abstract要約: Mix-FTファイントゥイン(Mix-FT fine-tunes)は、自己サンプルの重要重み付き境界上の事前訓練されたモデルである。 LLaDA-8Bでは、事前訓練された計算の0.02%のLoRAファインチューンが、継続するクロスエントロピーやアルファ拡散よりも優れたOpenWebText継続を書き込みます。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When a masked diffusion language model is sampled in a few parallel steps in a random order, the model actually run is a mixture over reveal plans, while cross-entropy training fits token conditionals rather than this mixture. We introduce mixture-likelihood fine-tuning (Mix-FT), which fine-tunes a pretrained model on an importance-weighted bound of its own sampler's likelihood, with no teacher and no change to the architecture or the sampler. On LLaDA-8B, a LoRA fine-tune for 0.002% of the pretraining compute writes better OpenWebText continuations than continued cross-entropy and Alpha diffusion given the same compute, at every tested step count. With half the model evaluations, 16 rather than 32 steps per block, its continuations score better than the original model's in every seed under three judges, with confidence-based decoding as well as random order, and under confidence-based decoding two blinded LLM raters from different model families prefer them in 69 and 71% of pairs. On a public 110M-parameter block diffusion model, Mix-FT takes under four T4-hours and beats continued cross-entropy, Alpha diffusion and SDTT distillation at 4, 8 and 16 steps per block, under two judges in every seed. Exact likelihoods on text8, with a control that weights every plan equally, attribute about three quarters of the likelihood gain over continued cross-entropy to weighting each plan by how well it explains the sequence.
• Abstract（参考訳）: マスク付き拡散言語モデルがランダムな順序で数段階の並列ステップでサンプリングされると、実際に実行されるモデルは明らかに計画よりも混合であり、クロスエントロピートレーニングはこの混合ではなくトークン条件に適合する。 我々は,Mix-FT(mixed-likelihood fine-tuning)を導入し,教師のいない,アーキテクチャやサンプル装置の変更のない,自己サンプル器の重要重み付き境界上で事前訓練されたモデルを微調整する。 LLaDA-8Bでは、事前訓練された計算の0.002%のLoRAファインチューンが、同じ計算で与えられたクロスエントロピーやアルファ拡散よりも優れたOpenWebText継続を、テストされたステップ数で書き込む。 モデル評価の半分はブロック当たり32ステップではなく16ステップであり、3人の審査員による各シードにおける元のモデルよりも、信頼に基づく復号法とランダムな順序で、信頼に基づく復号法では、異なるモデルファミリーの2つの盲目のLCMラガーが69と71%のペアでそれらを好む。 公共の110Mブロック拡散モデルでは、Mix-FTは4時間のT4時間未満で、各シードの2つの審査員の下で、1ブロックあたり4,8,16ステップのクロスエントロピー、アルファ拡散、SDTT蒸留を継続する。 text8では、すべてのプランを均等に重み付けするコントロールにより、継続するクロスエントロピーの確率の約4分の3は、各プランをいかにうまく説明するかによって重み付けする。

関連論文リスト

• RL Post-Training Diffusion Language Models Along Their Own Generation Paths [18.713944836659124]
  拡散言語モデルは自己回帰モデルに代わる有望な選択肢である。 ほとんどのRLポストトレーニング技術はこれらのモデルに容易に適応できない。 PACT(Potential-Anchored Consistency of Transitions)を紹介する。
  論文  参考訳（メタデータ） (2026-10-12T18:22:12Z)
• Rethinking the Roles of Diffusion and Decoding: Predictive-State Flows for Parallel Language Generation [12.46748794254694]
  連続拡散言語モデルでは、拡散先行によって生成される潜水剤はほとんど決定論的にトークンにマッピングされる。 ブロックにシーケンスを分割し、各ブロックを前回のコンテキストからのみ計算された予測状態に関連付ける予測状態フローを導入する。 この設計は、Lトークンレベル状態からKL予測状態への拡散を減少させ、L/Kへのトークンレベルシーケンシャル深さを減少させる。
  論文  参考訳（メタデータ） (2026-10-09T02:43:30Z)
• Alpha Diffusion Language Models: Factorization Alone Is Not the Problem [62.502296537560824]
  離散拡散言語モデルは複数のトークンを並列に生成できるが、デノナイジングステップの数を減らすことは矛盾した予測につながる。 アルファ拡散言語モデル(AlphaDLM)を紹介する。 シーケンスレベルのアルファロスで訓練され、アルファの消滅の限界でクロスエントロピーを回復し、アルファ1で共同モードの最適値を持つ。
  論文  参考訳（メタデータ） (2026-09-29T17:31:02Z)
• On Trajectory-Aware Training for Masked Diffusion Language Models [17.806527533117396]
  マスク付き拡散モデル(MDM)は、ステップ毎にいくつかのトークンをアンマキングすることでテキストを生成するが、異なる条件下でトレーニングされ、サンプリングされる。 PUMBA(Pujectory-Aware Training)は,政策によって引き起こされるトラジェクトリの連続的なステップでデノイザーを訓練する,トラジェクトリ・アウェア・トレーニングの統一フレームワークである。
  論文  参考訳（メタデータ） (2026-09-29T16:40:34Z)
• Improved Distributional Diffusion Models [76.7431857619657]
  分散拡散モデルでは、標準的な平均予測デノイザを、スコアリングルールの目的によって訓練された固有分布デノイザに置き換える。 本稿では, 時間依存型スコアリングルールのスケジュールを, サーモット・ビロリ2024の動的レギュレーションによって通知する。 4段目で4.48 FID、50段目で2.38 FIDをDiT-XL/2で達成した。
  論文  参考訳（メタデータ） (2026-09-29T09:41:56Z)
• Simplex Diffusion Models [70.25963134099172]
  本稿では,拡散過程を確率的単純度に引き上げて,カテゴリに対する信念を表現する枠組みを提案する。 SDMは単純度上のサンプルで動作するため、デノナイジングステップをまたいで不確実性を持ち、情報の崩壊を軽減できる。
  論文  参考訳（メタデータ） (2026-09-28T16:26:29Z)
• Optimizers for Diffusion Models: A Controlled Benchmark [75.49404880689772]
  4つの拡散定式化にまたがる制御されたベンチマークを示す。 全ての勝者は3つの種で全予算で再訓練される。 Muon、MARS-M、SOAPはそれぞれ、少なくとも1つの拡散定式化で調整されたAdamWを破った。
  論文  参考訳（メタデータ） (2026-09-19T14:41:28Z)
• Scheduling Thoughts: Learning the Order of Thought in Diffusion Language Models [51.21958617138889]
  自己認識スケジューリングは、軽量な順序ポリシーを学び、任意の順序と半自己回帰デコーディングの両方にシームレスに適用する。 1B MDMのスドクでは、SASはパズルの精度を82.0%(ベストスケジュール)から91.8%に改善し、第2ステージの微調整で97.5%に達する。 LLaDA-8Bの数学的推論では、ASSはGSM8Kのpass@1を64%から76%に改善し、MBPPは39.5%から41%に改善した。
  論文  参考訳（メタデータ） (2026-06-22T16:32:25Z)
• Self-Rewarding Sequential Monte Carlo for Masked Diffusion Language Models [58.946955321428845]
  本研究は自己回帰型モンテカルロ(SMC)を提示する。 提案アルゴリズムは,既存のMDLMのほとんどが信頼性に基づくサンプリング戦略に依存している点に起因している。 粒子重み付けのための自己回帰信号として軌道レベルの信頼性を導入する。
  論文  参考訳（メタデータ） (2026-02-02T09:21:45Z)
• Enabling Approximate Joint Sampling in Diffusion LMs [16.729589221035074]
  マスケ拡散言語モデルでは、トークンを順に、そして潜在的に並列にアンマキングすることでテキストを生成する。 本稿では,1つのフルモデルフォワードパスにおいて,関節分布からの複数のトークンのサンプルをエミュレートする方法を考案する。
  論文  参考訳（メタデータ） (2025-09-25T21:23:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。