論文の概要: Convergence of the denoising diffusion probabilistic models for general noise schedules
- arxiv url: http://arxiv.org/abs/2406.01320v5
- Date: Mon, 14 Apr 2025 03:36:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-15 16:45:07.889388
- Title: Convergence of the denoising diffusion probabilistic models for general noise schedules
- Title(参考訳): 一般騒音スケジュールに対する騒音拡散確率モデルの収束性
- Authors: Yumiharu Nakano,
- Abstract要約: 本研究は,拡散確率モデル(DDPM)のオリジナルの定式化に関する理論的解析である。
離散時間DDPMサンプリングアルゴリズムの分布と対象データ分布との間の全変動距離に対して、明示的な上限を導出する。
サンプリングシーケンスは、有限時間間隔での逆時間微分方程式(SDE)の指数積分器型近似として現れる。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: This work presents a theoretical analysis of the original formulation of denoising diffusion probabilistic models (DDPMs), introduced by Ho, Jain, and Abbeel in Advances in Neural Information Processing Systems, 33 (2020), pp. 6840-6851. An explicit upper bound is derived for the total variation distance between the distribution of the discrete-time DDPM sampling algorithm and a target data distribution, under general noise schedule parameters. The analysis assumes certain technical conditions on the data distribution and a linear growth condition on the noise estimation function. The sampling sequence emerges as an exponential integrator-type approximation of a reverse-time stochastic differential equation (SDE) over a finite time interval. Schr\"odinger's problem provides a tool for estimating the distributional error in reverse time, which connects the reverse-time error with its forward-time counterpart. The score function in DDPMs appears as an adapted solution of a forward-backward SDE, providing a foundation for analyzing the time-discretization error associated with the reverse-time SDE.
- Abstract(参考訳): 本研究は,Ho, Jain, Abbeel in Advances in Neural Information Processing Systems, 33 (2020), pp. 6840-6851によって導入された拡散確率モデル(DDPM)の定式化に関する理論的解析である。
離散時間DDPMサンプリングアルゴリズムの分布と目標データ分布との間の全変動距離を、一般的なノイズスケジュールパラメータに基づいて、明示的な上界を導出する。
この分析は, 雑音推定関数上のデータ分布と線形成長条件について, 一定の技術的条件を仮定する。
サンプリングシーケンスは、有限時間間隔での逆時間確率微分方程式(SDE)の指数積分器型近似として現れる。
Schr\"odinger の問題は、逆時間における分布誤差を推定するためのツールを提供する。
DDPMのスコア関数は前向きSDEの適応解として現れ、逆時間SDEに付随する時間分散誤差を解析するための基盤を提供する。
関連論文リスト
- Finite-Time Analysis of Discrete-Time Stochastic Interpolants [32.27430900126022]
補間フレームワークの最初の離散時間解析を行い、分布推定誤差の有限時間上限を導出する。
この結果は収束加速のための効率的なスケジュールを設計するための新しい方法を提供する。
論文 参考訳(メタデータ) (2025-02-13T10:07:35Z) - Optimizing Few-Step Sampler for Diffusion Probabilistic Model [0.0]
拡散確率モデル(DPM)は、高品質で多様な画像を生成する優れた能力を示している。
しかし、それらの実践的応用は、推論中の計算コストの集中によって妨げられる。
論文 参考訳(メタデータ) (2024-12-14T10:47:52Z) - Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。
本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。
我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
論文 参考訳(メタデータ) (2024-10-03T09:07:13Z) - Non-asymptotic bounds for forward processes in denoising diffusions: Ornstein-Uhlenbeck is hard to beat [49.1574468325115]
本稿では,全変動(TV)における前方拡散誤差の非漸近的境界について述べる。
我々は、R$からFarthestモードまでの距離でマルチモーダルデータ分布をパラメライズし、加法的および乗法的雑音による前方拡散を考察する。
論文 参考訳(メタデータ) (2024-08-25T10:28:31Z) - Noise-Free Sampling Algorithms via Regularized Wasserstein Proximals [3.4240632942024685]
ポテンシャル関数が支配する分布からサンプリングする問題を考察する。
本研究は, 決定論的な楽譜に基づくMCMC法を提案し, 粒子に対する決定論的進化をもたらす。
論文 参考訳(メタデータ) (2023-08-28T23:51:33Z) - Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。
本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
論文 参考訳(メタデータ) (2023-06-13T01:18:16Z) - A Geometric Perspective on Diffusion Models [57.27857591493788]
本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。
我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
論文 参考訳(メタデータ) (2023-05-31T15:33:16Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳(メタデータ) (2022-11-30T05:33:29Z) - The Connection between Discrete- and Continuous-Time Descriptions of
Gaussian Continuous Processes [60.35125735474386]
我々は、一貫した推定子をもたらす離散化が粗粒化下での不変性を持つことを示す。
この結果は、導関数再構成のための微分スキームと局所時間推論アプローチの組み合わせが、2次または高次微分方程式の時系列解析に役立たない理由を説明する。
論文 参考訳(メタデータ) (2021-01-16T17:11:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。