論文の概要: Wasserstein Bounds for generative diffusion models with Gaussian tail targets

• arxiv url: http://arxiv.org/abs/2412.11251v1
• Date: Sun, 15 Dec 2024 17:20:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-17 13:54:10.438426
• Title: Wasserstein Bounds for generative diffusion models with Gaussian tail targets
• Title（参考訳）: ガウス的尾ターゲットを持つ生成拡散モデルに対するワッサーシュタイン境界
• Authors: Xixian Wang, Zhongjian Wang,
• Abstract要約: 本稿では,データ分布とスコアベース生成モデルの生成の間のワッサースタイン距離を推定する。 次元で有界な複雑性は、対数定数を持つ$O(sqrtd)$である。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: We present an estimate of the Wasserstein distance between the data distribution and the generation of score-based generative models, assuming an $\epsilon$-accurate approximation of the score and a Gaussian-type tail behavior of the data distribution. The complexity bound in dimension is $O(\sqrt{d})$, with a logarithmic constant. Such Gaussian tail assumption applies to the distribution of a compact support target with early stopping technique and the Bayesian posterior with a bounded observation operator. Corresponding convergence and complexity bounds are derived. The crux of the analysis lies in the Lipchitz bound of the score, which is related to the Hessian estimate of a viscous Hamilton-Jacobi equation (vHJ). This latter is demonstrated by employing a dimension independent kernel estimate. Consequently, our complexity bound scales linearly (up to a logarithmic constant) with the square root of the trace of the covariance operator, which relates to the invariant distribution of forward process. Our analysis also extends to the probabilistic flow ODE, as the sampling process.
• Abstract（参考訳）: 本稿では、データ分布とスコアベース生成モデルの生成の間のワッサーシュタイン距離を推定し、スコアの$\epsilon$-accurate近似とデータ分布のガウス型テール挙動を仮定する。 次元における複雑性は、対数定数を持つ$O(\sqrt{d})$である。 そのようなガウス尾仮定は、早期停止技術を持つコンパクトな支持対象の分布と、有界観測作用素を持つベイズ後部の分布に適用できる。 収束と複雑性の境界が導出される。 解析の要点はスコアのリプチッツ境界にあるが、これは粘性ハミルトン・ヤコビ方程式(vHJ)のヘッセン予想と関係している。 後者は次元独立カーネル推定を用いて示される。 その結果、我々の複雑性境界は、前処理の不変分布に関連する共分散作用素のトレースの平方根と線形に(対数定数まで)スケールする。 また,本解析はサンプリングプロセスとして,確率フローODEにも拡張する。

関連論文リスト

• Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
  連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。 本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。 我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
  論文  参考訳（メタデータ） (2024-10-03T09:07:13Z)
• Sampling and estimation on manifolds using the Langevin diffusion [45.57801520690309]
  離散化マルコフ過程に基づく$mu_phi $の線形汎函数の2つの推定器を検討する。 誤差境界は、本質的に定義されたランゲヴィン拡散の離散化を用いてサンプリングと推定のために導出される。
  論文  参考訳（メタデータ） (2023-12-22T18:01:11Z)
• On diffusion-based generative models and their error bounds: The log-concave case with full convergence estimates [5.13323375365494]
  我々は,強い対数対数データの下での拡散に基づく生成モデルの収束挙動を理論的に保証する。 スコア推定に使用される関数のクラスは、スコア関数上のリプシッツネスの仮定を避けるために、リプシッツ連続関数からなる。 この手法はサンプリングアルゴリズムにおいて最もよく知られた収束率をもたらす。
  論文  参考訳（メタデータ） (2023-11-22T18:40:45Z)
• Conformal inference for regression on Riemannian Manifolds [49.7719149179179]
  回帰シナリオの予測セットは、応答変数が$Y$で、多様体に存在し、Xで表される共変数がユークリッド空間にあるときに検討する。 我々は、多様体上のこれらの領域の経験的バージョンが、その集団に対するほぼ確実に収束していることを証明する。
  論文  参考訳（メタデータ） (2023-10-12T10:56:25Z)
• Noise-Free Sampling Algorithms via Regularized Wasserstein Proximals [3.4240632942024685]
  ポテンシャル関数が支配する分布からサンプリングする問題を考察する。 本研究は, 決定論的な楽譜に基づくMCMC法を提案し, 粒子に対する決定論的進化をもたらす。
  論文  参考訳（メタデータ） (2023-08-28T23:51:33Z)
• Score-based Diffusion Models in Function Space [140.792362459734]
  拡散モデルは、最近、生成モデリングの強力なフレームワークとして登場した。 本稿では,関数空間における拡散モデルをトレーニングするためのDDO(Denoising Diffusion Operators)という,数学的に厳密なフレームワークを提案する。 データ解像度に依存しない固定コストで、対応する離散化アルゴリズムが正確なサンプルを生成することを示す。
  論文  参考訳（メタデータ） (2023-02-14T23:50:53Z)
• Robust Estimation for Nonparametric Families via Generative Adversarial Networks [92.64483100338724]
  我々は,高次元ロバストな統計問題を解くためにGAN(Generative Adversarial Networks)を設計するためのフレームワークを提供する。 我々の研究は、これらをロバスト平均推定、第二モーメント推定、ロバスト線形回帰に拡張する。 技術面では、提案したGAN損失は、スムーズで一般化されたコルモゴロフ-スミルノフ距離と見なすことができる。
  論文  参考訳（メタデータ） (2022-02-02T20:11:33Z)
• Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector Problems [98.34292831923335]
  オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。 我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
  論文  参考訳（メタデータ） (2021-12-29T18:46:52Z)
• Finite sample approximations of exact and entropic Wasserstein distances between covariance operators and Gaussian processes [0.0]
  2つの中心ガウス過程間のシンクホーンの発散を一貫して効率的に推定できることを示す。 固定正規化パラメータでは、収束率は次元非依存であり、ヒルベルト-シュミット距離のそれと同じ順序である。 rkhs の少なくとも一方が有限次元であれば、ガウス過程の間の正確なワッサーシュタイン距離の it 次元依存サンプル複雑性が得られる。
  論文  参考訳（メタデータ） (2021-04-26T06:57:14Z)
• Faster Wasserstein Distance Estimation with the Sinkhorn Divergence [0.0]
  正方形ワッサーシュタイン距離(英: squared Wasserstein distance)は、非パラメトリックな設定における確率分布を比較する量である。 そこで本研究では,シンクホーンの発散量を用いて推定する手法を提案する。 滑らかな密度に対して、この推定器はサンプルの複雑さに匹敵するが、より高い正規化レベルが可能であることを示す。
  論文  参考訳（メタデータ） (2020-06-15T06:58:16Z)
• Nonparametric Score Estimators [49.42469547970041]
  未知分布によって生成されたサンプルの集合からスコアを推定することは確率モデルの推論と学習における基本的なタスクである。 正規化非パラメトリック回帰の枠組みの下で、これらの推定器の統一的なビューを提供する。 カールフリーカーネルと高速収束による計算効果を享受する反復正規化に基づくスコア推定器を提案する。
  論文  参考訳（メタデータ） (2020-05-20T15:01:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。