論文の概要: A Simple Analysis of Discretization Error in Diffusion Models

• arxiv url: http://arxiv.org/abs/2506.08337v1
• Date: Tue, 10 Jun 2025 01:46:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-11 15:11:41.055604
• Title: A Simple Analysis of Discretization Error in Diffusion Models
• Title（参考訳）: 拡散モデルにおける離散化誤差の簡易解析
• Authors: Juhyeok Choi, Chenglin Fan,
• Abstract要約: 拡散モデルは微分方程式(SDE)の離散化として定式化され、最先端の生成性能を達成する。 本稿では、分散保存SDEの保存丸山離散化を簡易に解析するための理論的枠組みを提案する。 我々の研究は拡散に基づく生成モデルにおける理論的厳密さと実用的効率を橋渡しする。
• 参考スコア（独自算出の注目度）: 3.6042771517920724
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion models, formulated as discretizations of stochastic differential equations (SDEs), achieve state-of-the-art generative performance. However, existing analyses of their discretization error often rely on complex probabilistic tools. In this work, we present a simplified theoretical framework for analyzing the Euler--Maruyama discretization of variance-preserving SDEs (VP-SDEs) in Denoising Diffusion Probabilistic Models (DDPMs), where $ T $ denotes the number of denoising steps in the diffusion process. Our approach leverages Gr\"onwall's inequality to derive a convergence rate of $ \mathcal{O}(1/T^{1/2}) $ under Lipschitz assumptions, significantly streamlining prior proofs. Furthermore, we demonstrate that the Gaussian noise in the discretization can be replaced by a discrete random variable (e.g., Rademacher or uniform noise) without sacrificing convergence guarantees-an insight with practical implications for efficient sampling. Experiments validate our theory, showing that (1) the error scales as predicted, (2) discrete noise achieves comparable sample quality to Gaussian noise, and (3) incorrect noise scaling degrades performance. By unifying simplified analysis and discrete noise substitution, our work bridges theoretical rigor with practical efficiency in diffusion-based generative modeling.
• Abstract（参考訳）: 確率微分方程式(SDE)の離散化として定式化された拡散モデルは、最先端の生成性能を達成する。 しかし、それらの離散化誤差に関する既存の分析は、しばしば複雑な確率的ツールに依存している。 本研究では,拡散確率モデル(DDPM)における分散保存SDE(VP-SDE)のEuler-Maruyama離散化を簡易に解析するための理論的枠組みを提案する。 我々のアプローチは、Gr\"onwallの不等式を利用して、リプシッツの仮定の下で$ \mathcal{O}(1/T^{1/2})$の収束率を導出し、先行証明を著しく合理化する。 さらに、離散化におけるガウス雑音は、収束保証を犠牲にすることなく、離散確率変数(例えば、ラデマッハや一様雑音)に置き換えることができることを示す。 実験により,(1)予測した誤差スケール,(2)離散雑音はガウス雑音に匹敵するサンプル品質を達成し,(3)誤ったノイズスケーリングは性能を低下させることを示した。 簡易な解析と離散的なノイズ置換を統一することにより,拡散型生成モデルにおける理論的厳密さと実用的効率を両立させる。

関連論文リスト

• Discrete vs. Continuous Trade-offs for Generative Models [0.0]
  本研究は拡散確率モデル(DDPM)の理論的および実践的基礎を探求する。 プロセスとブラウン運動を利用して複雑なデータ分布をモデル化するDDPMとスコアベース生成モデル。
  論文  参考訳（メタデータ） (2024-12-26T08:14:27Z)
• Broadening Target Distributions for Accelerated Diffusion Models via a Novel Analysis Approach [49.97755400231656]
  本研究では,新しいDDPMサンプリング器が,これまで考慮されていなかった3種類の分散クラスに対して高速化性能を実現することを示す。 この結果から, DDPM型加速サンプリング器におけるデータ次元$d$への依存性が改善された。
  論文  参考訳（メタデータ） (2024-02-21T16:11:47Z)
• Towards Faster Non-Asymptotic Convergence for Diffusion-Based Generative Models [49.81937966106691]
  我々は拡散モデルのデータ生成過程を理解するための非漸近理論のスイートを開発する。 従来の研究とは対照的に,本理論は基本的だが多目的な非漸近的アプローチに基づいて開発されている。
  論文  参考訳（メタデータ） (2023-06-15T16:30:08Z)
• Exploring the Optimal Choice for Generative Processes in Diffusion Models: Ordinary vs Stochastic Differential Equations [6.2284442126065525]
  ゼロ拡散(ODE)の場合と大きな拡散の場合の2つの制限シナリオについて数学的に検討する。 その結果, 生成過程の終端に摂動が発生すると, ODEモデルは大きな拡散係数でSDEモデルより優れることがわかった。
  論文  参考訳（メタデータ） (2023-06-03T09:27:15Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Denoising Diffusion Samplers [41.796349001299156]
  拡散モデルの認知は、多くの領域で最先端の結果を提供する生成モデルの一般的なクラスである。 我々は、非正規化確率密度関数から大まかにサンプリングし、それらの正規化定数を推定する類似のアイデアを探求する。 この文脈ではスコアマッチングは適用できないが、モンテカルロサンプリングのために生成的モデリングで導入された多くのアイデアを利用することができる。
  論文  参考訳（メタデータ） (2023-02-27T14:37:16Z)
• Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
  連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。 条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。 提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
  論文  参考訳（メタデータ） (2022-11-30T05:33:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。