論文の概要: Finite-Time Online Sample Complexity for Conditional Diffusion Models
- arxiv url: http://arxiv.org/abs/2611.01562v1
- Date: Sun, 01 Nov 2026 04:35:04 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:19:41.932304
- Title: Finite-Time Online Sample Complexity for Conditional Diffusion Models
- Title(参考訳): 条件付き拡散モデルのための有限時間オンラインサンプル複雑度
- Abstract要約: オンライン段階の復調スコアマッチングにより学習した条件拡散モデルの有限時間学習とサンプリング誤差について検討した。
我々の分析では,ネットワーク近似の複雑さをオンライントレーニングサンプル予算から切り離し,逆拡散過程を通じて両誤差を伝搬する。
- 参考スコア(独自算出の注目度): 47.96419637803502
- License:
- Abstract: We study the finite-time training and sampling error of conditional diffusion models trained by online stochastic-gradient denoising score matching. Rather than assuming access to an exact empirical or population risk minimizer, we analyze the score network produced after a finite number of stochastic-gradient updates under an explicit localized Polyak--Łojasiewicz (PL) condition, stochastic-gradient regularity, and a trajectory-containment assumption. Our analysis separates the network approximation complexity from the online training-sample budget and propagates both errors through the reverse diffusion process. Under anisotropic smoothness, a joint intrinsic-dimensional structure for the data and conditioning variables, sub-exponential tails, and explicit approximation-class compatibility, we obtain a conditional score approximation error of order \[ \widetilde{\mathcal O}\!\left(M^{-η_{\mathrm{app}}}\right), \qquad η_{\mathrm{app}} = \frac{2α_x} {2α_x+d_x'+(α_x/α_y)d_y'}, \] where \(M\) denotes the approximation complexity, \(d_x'\) and \(d_y'\) are the intrinsic response and conditioning dimensions, and \(α_x,α_y\) are their corresponding smoothness exponents. For \(N=RB\) online denoising samples used by SGD, the finite-time optimization error is controlled explicitly in terms of the PL, smoothness, gradient-noise, and initialization constants. Combining these ingredients with reverse-process stability yields a total-variation bound that decomposes into terminal-initialization, time-discretization, approximation/localization, and finite-time optimization errors.
- Abstract(参考訳): オンライン確率階調復調スコアマッチングにより学習した条件拡散モデルの有限時間トレーニングとサンプリング誤差について検討した。
正確な経験的あるいは集団的リスク最小化器へのアクセスを仮定する代わりに、明示的な局所化Polyak--ojasiewicz(PL)条件、確率的・段階的正規性、および軌道的・包含仮定の下で、有限数の確率的・段階的更新後に生じるスコアネットワークを解析する。
我々の分析では,ネットワーク近似の複雑さをオンライントレーニングサンプル予算から切り離し,逆拡散過程を通じて両誤差を伝搬する。
異方的滑らかさ, データおよび条件変数, 部分指数尾部, 明示的近似クラス整合に対する結合固有次元構造の下で, 次数 \[\widetilde{\mathcal O}\!
\left(M^{-η_{\mathrm{app}}}\right), \qquad η_{\mathrm{app}} = \frac{2α_x} {2α_x+d_x'+(α_x/α_y)d_y'}, \] ここで \(M\) は近似複雑性を表す。
SGD が使用した \(N=RB\) オンライン denoising サンプルに対して、有限時間最適化誤差はPL、滑らか性、勾配ノイズ、初期化定数で明示的に制御される。
これらの成分と逆プロセス安定性を組み合わせることで、終端初期化、時間分散化、近似/局在化、有限時間最適化誤差に分解される全変分境界が得られる。
関連論文リスト
- Generative Modeling with Continuous Flows: Sample Complexity of Flow Matching [60.37045080890305]
フローマッチングは拡散に基づく生成モデルに代わる有望な選択肢である。
いくつかの理論的解析は、速度場が正確な経験的リスク最小化によって得られると仮定して学習手順を理想化する。
我々は,有限サンプル統計誤差と有限時間経験的最適化誤差の両方を明示的に考慮した,フローマッチングのための経験的リスク最小化手法を考案した。
論文 参考訳(メタデータ) (2026-11-01T04:31:34Z) - Schedule optimization for tau-leaping in masked discrete diffusion [1.4466802614938334]
マスク付き離散拡散モデルは、いわゆるタウリーピング離散化法を用いて、一般的に加速される。
N$座標の標準サンプルを$K$サンプリングステップで解析し、ランダムなブロックサイズは遅延スケジュールに依存する。
このプロファイルに対する推定器を開発し、推定誤差がスケジュール選択にどう影響するかを定量化する。
論文 参考訳(メタデータ) (2026-09-18T16:18:26Z) - Provably adaptive sampling with uniform and remasking discrete diffusion models [9.180350432640912]
本研究では,一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一様・一
我々の主な成果は、適応的なサンプリング保証を確立することである。
構造化された合成分布に関する数値実験は、予測された次元適応挙動を示す。
論文 参考訳(メタデータ) (2026-08-24T17:54:51Z) - Efficient Sampling with Discrete Diffusion Models: Sharp and Adaptive Guarantees [9.180350432640912]
連続時間マルコフ連鎖(CTMC)の定式化によるスコアベース離散拡散モデルのサンプリング効率について検討した。
一様離散拡散に対して、$$-leapingアルゴリズムは位数$tilde O(d/varepsilon)$の複雑さを達成することを示す。
離散拡散をマスキングするために,本質的な情報理論量によって収束率を制御した$$-leapingサンプルラを導入する。
論文 参考訳(メタデータ) (2026-02-16T18:48:17Z) - Dimension-free error estimate for diffusion model and optimal scheduling [22.20348860913421]
拡散生成モデルは、経験的に観察された分布から合成データを生成するための強力なツールとして登場した。
従来の分析では、生成したデータと真のデータ分布の誤差を、ワッサーシュタイン距離やクルバック・リーバーの偏差の観点から定量化していた。
本研究では, 生成したデータ分布と真のデータ分布との相違点に有意な次元自由境界を導出する。
論文 参考訳(メタデータ) (2025-12-01T15:58:20Z) - Generative Modeling with Continuous Flows: Sample Complexity of Flow Matching [60.37045080890305]
本稿では,フローマッチングに基づく生成モデルにおいて,サンプルの複雑さを初めて解析する。
速度場推定誤差をニューラルネットワーク近似誤差、有限標本サイズによる統計的誤差、速度場推定のための有限個の最適化ステップによる最適化誤差に分解する。
論文 参考訳(メタデータ) (2025-12-01T05:14:25Z) - Closing the Approximation Gap of Partial AUC Optimization: A Tale of Two Formulations [121.39938773554523]
ROC曲線の下の領域(AUC)は、クラス不均衡と決定制約の両方を持つ実世界のシナリオにおける重要な評価指標である。
PAUC最適化の近似ギャップを埋めるために,2つの簡単なインスタンス単位のミニマックス修正を提案する。
得られたアルゴリズムは、サンプルサイズと典型的な一方方向と双方向のPAUCに対して$O(-2/3)$の収束率の線形パーイテレーション計算複雑性を享受する。
論文 参考訳(メタデータ) (2025-12-01T02:52:33Z) - Fast Convergence for High-Order ODE Solvers in Diffusion Probabilistic Models [5.939858158928473]
拡散確率モデルは、データをノイズに変換するノイズ注入プロセスの逆転を学ぶことでサンプルを生成する。
重要な展開は、決定論的確率フロー常微分方程式(ODE)としての逆サンプリング過程の再構成である。
本稿では、任意の分散スケジュールを持つ一般的な前処理のためのODEから導出される決定論的サンプルの厳密な収束解析について述べる。
論文 参考訳(メタデータ) (2025-06-16T03:09:25Z) - Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum [78.27945336558987]
分散サーバ(DFL)はクライアント・クライアント・アーキテクチャへの依存をなくす。
非滑らかな正規化はしばしば機械学習タスクに組み込まれる。
本稿では,これらの問題を解決する新しいDNCFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-04-17T08:32:25Z) - Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。
条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。
提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
論文 参考訳(メタデータ) (2022-11-30T05:33:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。