論文の概要: A Tutorial on Diffusion Theory: From Differential Equations to Diffusion Models
- arxiv url: http://arxiv.org/abs/2605.22586v2
- Date: Sat, 23 May 2026 12:23:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-26 16:32:37.964076
- Title: A Tutorial on Diffusion Theory: From Differential Equations to Diffusion Models
- Title(参考訳): 拡散理論に関するチュートリアル:微分方程式から拡散モデルへ
- Authors: Jiayi Fu, Yuxia Wang,
- Abstract要約: このチュートリアルは微分方程式の観点から拡散モデルを開発する。
条件付き前方過程から始め、この経路が常微分方程式(ODE)表現と辺化微分方程式(SDE)表現の両方を許容することを示す。
次に、対応する逆時間ダイナミクス、すなわち逆SDEと逆確率フローODEを導出する。
- 参考スコア(独自算出の注目度): 15.927114890047035
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This tutorial develops diffusion models from the viewpoint of differential equations. We begin with the conditional Gaussian forward process and show that this path admits both an ordinary differential equation (ODE) representation and a stochastic differential equation (SDE) representation. Averaging the conditional process over the data distribution then yields marginalized forward ODE and SDE formulations that transport the data distribution $p_0=p_{\mathrm{data}}$ to a Gaussian prior $p_1=\mathcal{N}(0,I)$. We next derive the corresponding reverse-time dynamics, namely the reverse SDE and the reverse probability-flow ODE, both of which are governed by the marginal score $\grad\log p_t(x)$. This leads to a training objective for score estimation and shows that the standard noise-prediction objective is equivalent to score matching up to an additive constant independent of the model parameters. We then discuss sampling methods for the learned reverse dynamics, including DPM-Solver, as well as guided sampling through classifier guidance and classifier-free guidance. Finally, we compare DDPM and DDIM with the reverse SDE/ODE framework and show that they share the same training objective, while DDPM sampling corresponds to discrete reverse-SDE sampling and DDIM sampling corresponds to reverse-ODE sampling.
- Abstract(参考訳): このチュートリアルは微分方程式の観点から拡散モデルを開発する。
条件付きガウス前方過程から始め、この経路が常微分方程式(ODE)表現と確率微分方程式(SDE)表現の両方を許容することを示す。
データ分散上で条件過程を平均化すると、データ分散を$p_0=p_{\mathrm{data}}$からガウス前の$p_1=\mathcal{N}(0,I)$に転送する境界化されたフォワードODEとSDEの定式化が得られる。
次に、対応する逆時間ダイナミクス、すなわち逆SDEと逆確率フローODEを導出します。
これにより、スコア推定のトレーニング目標が導かれ、標準ノイズ予測目標がモデルパラメータに依存しない加算定数に一致したスコアと同値であることが示される。
次に、DPM-Solverを含む学習された逆ダイナミクスのサンプリング手法と、分類器ガイダンスと分類器フリーガイダンスによるガイド付きサンプリングについて論じる。
最後に、DDPMとDDIMを逆SDE/ODEフレームワークと比較し、同じトレーニング目標を共有し、DDPMサンプリングは離散逆SDEサンプリングに対応し、DDIMサンプリングは逆SDEサンプリングに対応していることを示す。
関連論文リスト
- Diffusion models for Gaussian distributions: Exact solutions and Wasserstein errors [0.0]
データ分布がガウス的であるとき,拡散モデルの挙動とその数値的実装について検討する。
対象と数値的なサンプル分布間の正確なワッサースタイン誤差を,任意の数値スキームに対して計算する。
論文 参考訳(メタデータ) (2024-05-23T07:28:56Z) - Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。
画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
論文 参考訳(メタデータ) (2023-11-02T02:05:38Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳(メタデータ) (2023-05-31T15:33:16Z) - Reflected Diffusion Models [93.26107023470979]
本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。
提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
論文 参考訳(メタデータ) (2023-04-10T17:54:38Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳(メタデータ) (2022-11-30T05:33:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。