論文の概要: Non-Asymptotic Convergence of Discrete Diffusion Models: Masked and Random Walk dynamics

• arxiv url: http://arxiv.org/abs/2512.00580v1
• Date: Sat, 29 Nov 2025 18:24:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-02 19:46:34.308429
• Title: Non-Asymptotic Convergence of Discrete Diffusion Models: Masked and Random Walk dynamics
• Title（参考訳）: 離散拡散モデルの非漸近収束:マスクおよびランダムウォークダイナミクス
• Authors: Giovanni Conforti, Alain Durmus, Le-Tuyet-Nhi Pham,
• Abstract要約: 我々は、有限空間 $mathbbZd_m=0,...,m-1d$ 上の離散拡散モデルに対する収束保証と、穏やかな仮定の下で可算無限空間 $mathbbNd$ を確立する。 特に、我々のモデルは指数関数的にではなく対数的因子に線形にスケールし、高次元データに効率よくスケーラブルにする。
• 参考スコア（独自算出の注目度）: 14.42315902989467
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We investigate the theoretical underpinnings of Discrete Diffusion Models (DDMs) on discrete state spaces. Unlike in the continuous setting-where diffusion models are well understood both theoretically and empirically-the discrete case poses significant challenges due to its combinatorial structure and the lack of rigorous analysis. In this work, we establish convergence guarantees for DDMs on both the finite space $\mathbb{Z}^d_m=\{0,...,m-1\}^d$ and the countably infinite space $\mathbb{N}^d$ under mild assumptions, focusing on forward masked and random walk dynamics. Similar to the continuous case, the backward process can be characterized by a discrete score function, whose monotonicity plays a central role in deriving the error bounds of the generated data. Notably, the complexity of our model scales linearly up to logarithmic factors, rather than exponentially, with the dimension, making it efficiently scalable to high-dimensional data. To the best of our knowledge, this study provides the first non-asymptotic convergence guarantees that do not rely on the boundedness of the estimated score-covering not only uniform noising processes on $\mathbb{Z}^d_m$ and on $\mathbb{N}^d$, but also masking-based noising dynamics.
• Abstract（参考訳）: 離散状態空間における離散拡散モデル(DDM)の理論的基盤について検討する。 連続的なセッティング場所拡散モデルが理論的にも経験的にもよく理解されているのとは異なり、離散的ケースはその組合せ構造と厳密な解析の欠如のために重大な課題を生じさせる。 本研究では、有限空間 $\mathbb{Z}^d_m=\{0,...,m-1\}^d$ と数え切れないほどの無限空間 $\mathbb{N}^d$ 上の DDM に対する収束保証を確立する。 連続の場合と同様に、逆行過程は離散スコア関数によって特徴づけられ、その単調性は生成されたデータの誤差境界を導出する中心的な役割を果たす。 特に、我々のモデルの複雑さは指数関数的ではなく対数的因子に線形にスケールし、高次元データに効率よくスケーラブルにする。 我々の知る限り、この研究は、推定スコア被覆の有界性に頼らず、$\mathbb{Z}^d_m$および$\mathbb{N}^d$上の一様ノイズ化過程だけでなく、マスキングに基づくノイズ化ダイナミクスにも依存しない最初の漸近収束保証を提供する。

関連論文リスト

• Overcoming Dimensional Factorization Limits in Discrete Diffusion Models through Quantum Joint Distribution Learning [79.65014491424151]
  量子離散化拡散確率モデル(QD3PM)を提案する。 これは、指数関数的に大きなヒルベルト空間における拡散と denoising を通じて合同確率学習を可能にする。 本稿では,共同分布学習における量子的優位性を生かして,生成モデルの新たな理論的パラダイムを確立する。
  論文  参考訳（メタデータ） (2025-05-08T11:48:21Z)
• Interleaved Gibbs Diffusion: Generating Discrete-Continuous Data with Implicit Constraints [30.624303845550575]
  Interleaved Gibbs Diffusion (IGD)は、離散連続データのための新しい生成モデリングフレームワークである。 IGDは離散時間ギブスサンプリング型マルコフ連鎖を離散連続生成の場合に一般化する。 ドメイン固有の帰納バイアスに頼ることなく、最先端の結果を達成する。
  論文  参考訳（メタデータ） (2025-02-19T05:51:24Z)
• Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
  連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。 本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。 我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
  論文  参考訳（メタデータ） (2024-10-03T09:07:13Z)
• Adapting to Unknown Low-Dimensional Structures in Score-Based Diffusion Models [6.76974373198208]
  周囲の次元が$d$である場合、各デノイングステップ内で発生する誤差の依存性は、一般的には避けられない。 これはDDPMサンプリング器がターゲット分布の未知の低次元構造に適応できるという最初の理論実証である。
  論文  参考訳（メタデータ） (2024-05-23T17:59:10Z)
• Convergence Analysis of Discrete Diffusion Model: Exact Implementation through Uniformization [17.535229185525353]
  連続マルコフ連鎖の均一化を利用したアルゴリズムを導入し、ランダムな時間点の遷移を実装した。 我々の結果は、$mathbbRd$における拡散モデルの最先端の成果と一致し、さらに$mathbbRd$設定と比較して離散拡散モデルの利点を浮き彫りにする。
  論文  参考訳（メタデータ） (2024-02-12T22:26:52Z)
• Score-based Diffusion Models in Function Space [137.70916238028306]
  拡散モデルは、最近、生成モデリングの強力なフレームワークとして登場した。 この研究は、関数空間における拡散モデルをトレーニングするためのDDO(Denoising Diffusion Operators)と呼ばれる数学的に厳密なフレームワークを導入する。 データ解像度に依存しない固定コストで、対応する離散化アルゴリズムが正確なサンプルを生成することを示す。
  論文  参考訳（メタデータ） (2023-02-14T23:50:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。