論文の概要: Foundations of Diffusion Models in General State Spaces: A Self-Contained Introduction
- arxiv url: http://arxiv.org/abs/2512.05092v1
- Date: Thu, 04 Dec 2025 18:55:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-05 21:11:46.328092
- Title: Foundations of Diffusion Models in General State Spaces: A Self-Contained Introduction
- Title(参考訳): 一般状態空間における拡散モデルの基礎:自己完結型導入
- Authors: Vincent Pauline, Tobias Höppe, Kirill Neklyudov, Alexander Tong, Stefan Bauer, Andrea Dittadi,
- Abstract要約: この記事は、一般状態空間上の拡散に関する自己完結プライマーである。
我々は、その連続時間限界とともに離散時間ビュー(マルコフカーネルを経由し、逆ダイナミクスを学習する)を開発する。
一般的な変量処理は、標準の訓練損失を支えるELBOをもたらす。
- 参考スコア(独自算出の注目度): 54.95522167029998
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Although diffusion models now occupy a central place in generative modeling, introductory treatments commonly assume Euclidean data and seldom clarify their connection to discrete-state analogues. This article is a self-contained primer on diffusion over general state spaces, unifying continuous domains and discrete/categorical structures under one lens. We develop the discrete-time view (forward noising via Markov kernels and learned reverse dynamics) alongside its continuous-time limits -- stochastic differential equations (SDEs) in $\mathbb{R}^d$ and continuous-time Markov chains (CTMCs) on finite alphabets -- and derive the associated Fokker--Planck and master equations. A common variational treatment yields the ELBO that underpins standard training losses. We make explicit how forward corruption choices -- Gaussian processes in continuous spaces and structured categorical transition kernels (uniform, masking/absorbing and more) in discrete spaces -- shape reverse dynamics and the ELBO. The presentation is layered for three audiences: newcomers seeking a self-contained intuitive introduction; diffusion practitioners wanting a global theoretical synthesis; and continuous-diffusion experts looking for an analogy-first path into discrete diffusion. The result is a unified roadmap to modern diffusion methodology across continuous domains and discrete sequences, highlighting a compact set of reusable proofs, identities, and core theoretical principles.
- Abstract(参考訳): 拡散モデルは現在、生成的モデリングにおいて中心的な位置を占めるが、導入的処理はユークリッドデータを仮定し、それらの離散状態アナログとの関係をほとんど明らかにしない。
この記事では、一般状態空間上の拡散に関する自己完結プライマーであり、連続領域と1つのレンズの下での離散/カテゴリー構造を統一する。
確率微分方程式 (SDEs) in $\mathbb{R}^d$ in $\mathbb{R}^d$ and continuous-time Markov chains (CTMCs) on finite alphabets -- は、関連するフォッカー・プランク方程式とマスター方程式を導出する。
一般的な変量処理は、標準の訓練損失を支えるELBOをもたらす。
連続空間におけるガウス過程と離散空間における構成されたカテゴリー遷移カーネル(ユニフォーム、マスキング/吸収など)が、逆ダイナミクスとELBOを形作る。
自己完結した直感的な導入を求める新参者、グローバルな理論合成を望む拡散実践者、離散拡散へのアナログファーストパスを求める連続拡散の専門家である。
その結果は、連続領域と離散列をまたいだ現代的な拡散方法論の統一的なロードマップであり、再利用可能な証明、アイデンティティ、コア理論原理のコンパクトな集合を強調している。
関連論文リスト
- Non-Asymptotic Convergence of Discrete Diffusion Models: Masked and Random Walk dynamics [13.202844408027412]
我々は3つの一般的な離散拡散モデルに対する新しい鋭い収束保証を開発する。
各手法の計算複雑性は, 対数的因子まで, 次元で線形にスケールすることを示した。
この研究は、これらのノイズ発生過程に対する最初の非漸近収束保証を提供する。
論文 参考訳(メタデータ) (2025-11-29T18:24:43Z) - Diffusion Models: A Mathematical Introduction [3.8673630752805437]
本稿では拡散に基づく生成モデルの自己完結型導出について述べる。
第一原理から拡散確率モデルを構築する。
読者はこの理論に従い、実際に対応するアルゴリズムを実装することができる。
論文 参考訳(メタデータ) (2025-11-13T16:20:52Z) - Coevolutionary Continuous Discrete Diffusion: Make Your Diffusion Language Model a Latent Reasoner [66.86440230599656]
拡散言語モデルは必ずしも離散空間にある必要はないと主張する。
特に、連続拡散モデルが離散拡散やループ変換器よりも強い表現性を持つことを示す。
本稿では,連続表現空間と離散トークン空間の結合に関する共同多モード拡散過程を定義する共進化連続拡散法(CCDD)を提案する。
論文 参考訳(メタデータ) (2025-10-03T17:44:41Z) - G2D2: Gradient-Guided Discrete Diffusion for Inverse Problem Solving [83.56510119503267]
本稿では,従来の離散拡散に基づく生成モデルを活用することによって,線形逆問題に対処する新しい手法を提案する。
我々は、従来の離散拡散モデルの欠点を吸収状態で緩和するために、星型ノイズプロセスを用いる。
論文 参考訳(メタデータ) (2024-10-09T06:18:25Z) - Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。
本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。
我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
論文 参考訳(メタデータ) (2024-10-03T09:07:13Z) - Convergence Analysis of Discrete Diffusion Model: Exact Implementation
through Uniformization [17.535229185525353]
連続マルコフ連鎖の均一化を利用したアルゴリズムを導入し、ランダムな時間点の遷移を実装した。
我々の結果は、$mathbbRd$における拡散モデルの最先端の成果と一致し、さらに$mathbbRd$設定と比較して離散拡散モデルの利点を浮き彫りにする。
論文 参考訳(メタデータ) (2024-02-12T22:26:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。