論文の概要: An ODE-based Sampler for Discrete Diffusion Models

• arxiv url: http://arxiv.org/abs/2610.40618v1
• Date: Thu, 29 Oct 2026 17:55:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-31 05:25:12.55669
• Title: An ODE-based Sampler for Discrete Diffusion Models
• Title（参考訳）: 離散拡散モデルのためのODEベースのサンプリング器
• Abstract要約: 離散拡散モデルに対する指数的残留流(ERF)を導入する。 ERFは、断片的に定義されたODEに従って決定的に進化する。 我々は,サンプルの実用的な離散化を導き,マスク付き均一拡散に特化する。
• 参考スコア（独自算出の注目度）: 60.57381388241996
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The marginals of a continuous diffusion model can be reproduced by a deterministic ordinary differential equation (ODE), known as the probability flow ODE, which provides a foundation for accelerated sampling and consistency distillation. In this paper we address the question whether an analogous formulation exists for discrete diffusion models and answer it affirmatively by introducing exponential residual flows (ERFs). Our framework augments the discrete state with a continuous residual variable for each token and position. These residuals evolve deterministically according to piecewise-defined ODEs whose vector fields depend on the current discrete state and the forward and backward rate matrices of the prescribed diffusion model. The discrete state changes whenever a residual reaches zero. We prove that this construction preserves the marginals of the original diffusion. We derive a practical discretization of our sampler and specialize it to masked and uniform diffusion. The deterministic trajectories of ERFs support consistency distillation and yield empirical improvements over previous approaches across a variety of benchmarks including code and text generation tasks.
• Abstract（参考訳）: 連続拡散モデルの限界は、確率フローODE(英語版)として知られる決定論的常微分方程式(ODE)によって再現することができる。 本稿では、離散拡散モデルに類似の定式化が存在するかどうかを問うとともに、指数的残留流(ERF)を導入して肯定的に答える。 我々のフレームワークは、トークンと位置ごとに連続的な残留変数で離散状態を拡張します。 これらの残差は、ベクトル場が現在の離散状態と所定の拡散モデルの前方および後方速度行列に依存する部分的に定義されたODEによって決定的に進化する。 離散状態は残差が 0 に達すると変化する。 この構造が元の拡散の限界を保っていることを証明している。 我々は,サンプルの実用的な離散化を導き,マスク付き均一拡散に特化する。 ERFの決定論的軌道は、一貫性の蒸留をサポートし、コードやテキスト生成タスクを含む様々なベンチマークにおいて、以前のアプローチよりも経験的な改善をもたらす。

関連論文リスト

• Probability flow ODEs in score-based and reflected diffusion models [0.5076419064097732]
  我々は、拡散と反射拡散に基づく生成モデルに対するそのような決定論的サンプルの設計に関する理論的知見を提供する。 正時正則化は、データ終端付近で定数が劣化している間に、早期停止したPF-ODEを正当化することを示す。 これらの理論的な洞察は、安定で、可逆的で、制約を保った拡散サンプリングのための具体的な設計原理に変換される。
  論文  参考訳（メタデータ） (2026-10-02T16:28:32Z)
• Foundations of Diffusion Models in General State Spaces: A Self-Contained Introduction [54.95522167029998]
  この記事は、一般状態空間上の拡散に関する自己完結プライマーである。 我々は、その連続時間限界とともに離散時間ビュー(マルコフカーネルを経由し、逆ダイナミクスを学習する)を開発する。 一般的な変量処理は、標準の訓練損失を支えるELBOをもたらす。
  論文  参考訳（メタデータ） (2025-12-04T18:55:36Z)
• Diffusion Models: A Mathematical Introduction [3.8673630752805437]
  本稿では拡散に基づく生成モデルの自己完結型導出について述べる。 第一原理から拡散確率モデルを構築する。 読者はこの理論に従い、実際に対応するアルゴリズムを実装することができる。
  論文  参考訳（メタデータ） (2025-11-13T16:20:52Z)
• EquiReg: Equivariance Regularized Diffusion for Inverse Problems [67.01847869495558]
  拡散に基づく逆問題解法における後方サンプリングを正規化するためのフレームワークであるEquiReg拡散法を提案する。 様々な解法に適用すると、EquiRegは線形および非線形画像復元タスクにおいて最先端の拡散モデルより優れる。
  論文  参考訳（メタデータ） (2025-05-29T01:25:43Z)
• Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
  連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。 本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。 我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
  論文  参考訳（メタデータ） (2024-10-03T09:07:13Z)
• Convergence Analysis of Discrete Diffusion Model: Exact Implementation through Uniformization [17.535229185525353]
  連続マルコフ連鎖の均一化を利用したアルゴリズムを導入し、ランダムな時間点の遷移を実装した。 我々の結果は、$mathbbRd$における拡散モデルの最先端の成果と一致し、さらに$mathbbRd$設定と比較して離散拡散モデルの利点を浮き彫りにする。
  論文  参考訳（メタデータ） (2024-02-12T22:26:52Z)
• Blackout Diffusion: Generative Diffusion Models in Discrete-State Spaces [0.0]
  前方拡散過程における任意の離散状態マルコフ過程の理論的定式化を開発する。 例えばBlackout Diffusion'は、ノイズからではなく、空のイメージからサンプルを生成することを学習する。
  論文  参考訳（メタデータ） (2023-05-18T16:24:12Z)
• Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
  連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。 条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。 提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
  論文  参考訳（メタデータ） (2022-11-30T05:33:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。