論文の概要: Universal Local Error and Realized Amplification for the First-Order EDM Predictor
- arxiv url: http://arxiv.org/abs/2610.10190v1
- Date: Wed, 07 Oct 2026 14:54:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:22.980321
- Title: Universal Local Error and Realized Amplification for the First-Order EDM Predictor
- Title(参考訳): 1次EDM予測器の局所誤差と増幅
- Abstract要約: 我々は2-ワッサーシュタイン距離において,Karras et al. (2022) の1次決定論的拡散サンプリングを解析した。
有限第二モーメントを持つ任意のデータ分布に対して、一段階の離散化誤差はステップサイズにおいて二次的である。
- 参考スコア(独自算出の注目度): 3.903171992644253
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We analyze the first-order deterministic diffusion sampler of Karras et al. (2022), termed EDM, in 2-Wasserstein distance by separating two sources of error: local discretization error and its amplification by subsequent learned steps. We prove that local error admits a universal bound: for any data distribution with finite second moment, the one-step discretization error is quadratic in the step size, with an explicit constant that does not depend on the data distribution. Error propagation, in contrast, depends on the learned network. At high noise levels, we exploit the network parametrization of EDM to derive an explicit contraction criterion. At low noise levels, we measure propagation through the amplification realized on the distributions transported by the sampler; this realized amplification can be arbitrarily smaller than the worst-case Lipschitz constant. This analysis yields an $O(e^{Λ_K}/K)$ global discretization error for $K$ sampling steps, where $Λ_K$ is the low-noise log-amplification. Experiments on a one-dimensional Gaussian mixture show how measured amplification accounts for slower error decay on finite sampling grids. Diagnostics on a pretrained CIFAR-10 model illustrate related stability mechanisms without certifying the global assumptions.
- Abstract(参考訳): 局所的な離散化誤差とその後の学習ステップによる増幅という2つの誤差源を分離することにより、2-ワッサーシュタイン距離におけるKarras et al (2022) の1次決定論的拡散サンプリングを解析した。
有限第2モーメントを持つ任意のデータ分布に対して、1ステップの離散化誤差はステップサイズで二次的であり、データ分布に依存しない明示的な定数を持つ。
一方、誤りの伝播は学習されたネットワークに依存する。
高雑音レベルにおいて、EDMのネットワークパラメトリゼーションを利用して、明示的な収縮基準を導出する。
低騒音レベルにおいて,サンプルによって輸送される分布で実現された増幅による伝搬を測定し,この増幅は最悪のリプシッツ定数よりも任意に小さい。
この分析は、$O(e^{*_K}/K)$大域的な離散化誤差を$K$サンプリングステップで生成する。
1次元ガウス混合の実験は、有限サンプリンググリッド上での遅延減衰の遅い測定アンプリフィケーションがどのように説明されるかを示す。
事前訓練されたCIFAR-10モデルの診断では、グローバルな仮定を証明せずに、関連する安定性メカニズムが示される。
関連論文リスト
- Two-Sample Testing via Generative Processes [60.42943145582429]
生成輸送は、2つのサンプルが同じ分布から来るかどうかを決定する新しい方法を提供する。
2つのサンプルの間に直接補間体を構築し、対称スケジュールでは、その法則が時間反射の下で不変であることを観察する。
したがって、t と 1-t の辺辺が、Jensen-Shannon の発散を計算することで一致するかどうかをテストする。
論文 参考訳(メタデータ) (2026-10-06T12:48:27Z) - First Learn, Then Memorize: The Spectral Bias of Diffusion Models [5.939780039158003]
有限データセットでトレーニングされた拡散モデルは、まず新しい高品質なサンプルを生成することを学ぶ。
我々は、それを探査する物体のこの分離の背後にあるメカニズムを同定する。
スコア関数のトレーニング力学は、実際に、任意の幅において、ニューラル・タンジェント・カーネル(NTK)のグラム行列によって制御される。
それらの構造が標準のカーネル設定に類似していないことを示す。
論文 参考訳(メタデータ) (2026-09-28T15:13:46Z) - High-accuracy and dimension-free sampling with diffusions [27.7060066305274]
低次近似とコロケーション法との微妙な相互作用を利用した拡散モデルの新しい解法を提案する。
我々は,その複雑性が1/varepsilon$で多元対数的にスケールすることが証明され,拡散型サンプリング器に対する最初の「高精度」保証が得られる。
論文 参考訳(メタデータ) (2026-01-15T18:58:50Z) - Dimension-free error estimate for diffusion model and optimal scheduling [22.20348860913421]
拡散生成モデルは、経験的に観察された分布から合成データを生成するための強力なツールとして登場した。
従来の分析では、生成したデータと真のデータ分布の誤差を、ワッサーシュタイン距離やクルバック・リーバーの偏差の観点から定量化していた。
本研究では, 生成したデータ分布と真のデータ分布との相違点に有意な次元自由境界を導出する。
論文 参考訳(メタデータ) (2025-12-01T15:58:20Z) - From Score Matching to Diffusion: A Fine-Grained Error Analysis in the Gaussian Setting [25.21429354164613]
We show that the Wasserstein sample error can be expressed as a kernel-type norm of the data power spectrum。
We show that the Wasserstein sample error can be expressed as a kernel-type norm of the data power spectrum。
論文 参考訳(メタデータ) (2025-03-14T17:35:00Z) - On the Wasserstein Convergence and Straightness of Rectified Flow [54.580605276017096]
Rectified Flow (RF) は、ノイズからデータへの直流軌跡の学習を目的とした生成モデルである。
RFのサンプリング分布とターゲット分布とのワッサーシュタイン距離に関する理論的解析を行った。
本稿では,従来の経験的知見と一致した1-RFの特異性と直線性を保証する一般的な条件について述べる。
論文 参考訳(メタデータ) (2024-10-19T02:36:11Z) - Non-asymptotic bounds for forward processes in denoising diffusions: Ornstein-Uhlenbeck is hard to beat [49.1574468325115]
本稿では,全変動(TV)における前方拡散誤差の非漸近的境界について述べる。
我々は、R$からFarthestモードまでの距離でマルチモーダルデータ分布をパラメライズし、加法的および乗法的雑音による前方拡散を考察する。
論文 参考訳(メタデータ) (2024-08-25T10:28:31Z) - Restoration-Degradation Beyond Linear Diffusions: A Non-Asymptotic
Analysis For DDIM-Type Samplers [90.45898746733397]
本研究では拡散生成モデルに用いる決定論的サンプリング器の非漸近解析のためのフレームワークを開発する。
確率フローODEに沿った1ステップは,1) 条件付き対数線上を無限に先行して上昇する回復ステップ,2) 雑音を現在の勾配に向けて前向きに進行する劣化ステップの2段階で表すことができる。
論文 参考訳(メタデータ) (2023-03-06T18:59:19Z) - On the Double Descent of Random Features Models Trained with SGD [78.0918823643911]
勾配降下(SGD)により最適化された高次元におけるランダム特徴(RF)回帰特性について検討する。
本研究では, RF回帰の高精度な非漸近誤差境界を, 定常および適応的なステップサイズSGD設定の下で導出する。
理論的にも経験的にも二重降下現象を観察する。
論文 参考訳(メタデータ) (2021-10-13T17:47:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。