論文の概要: Exponential ergodicity of mirror-Langevin diffusions
- arxiv url: http://arxiv.org/abs/2005.09669v2
- Date: Tue, 2 Jun 2020 22:39:02 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-01 15:02:30.767690
- Title: Exponential ergodicity of mirror-Langevin diffusions
- Title(参考訳): ミラー・ランジュバン拡散の指数エルゴード性
- Authors: Sinho Chewi, Thibaut Le Gouic, Chen Lu, Tyler Maunu, Philippe
Rigollet, Austin J. Stromme
- Abstract要約: 我々はNewton-Langevin拡散と呼ばれる拡散のクラスを提案し、それらが指数関数的に定常性に収束することを証明した。
本研究では, 内部点法に着想を得た戦略を用いて, 凸体上の均一分布からのサンプリング問題に適用する。
- 参考スコア(独自算出の注目度): 16.012656579770827
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Motivated by the problem of sampling from ill-conditioned log-concave
distributions, we give a clean non-asymptotic convergence analysis of
mirror-Langevin diffusions as introduced in Zhang et al. (2020). As a special
case of this framework, we propose a class of diffusions called Newton-Langevin
diffusions and prove that they converge to stationarity exponentially fast with
a rate which not only is dimension-free, but also has no dependence on the
target distribution. We give an application of this result to the problem of
sampling from the uniform distribution on a convex body using a strategy
inspired by interior-point methods. Our general approach follows the recent
trend of linking sampling and optimization and highlights the role of the
chi-squared divergence. In particular, it yields new results on the convergence
of the vanilla Langevin diffusion in Wasserstein distance.
- Abstract(参考訳): Zhang et al. (2020) で導入されたミラー-ランジュバン拡散の非漸近的収束解析を、不条件の対数凹分布からサンプリングする問題によって動機付けられた。
このフレームワークの特別な場合として、Newton-Langevin拡散と呼ばれる拡散のクラスを提案し、それらは次元自由であるだけでなく、対象分布にも依存しない速度で指数関数的に定常性に収束することを証明する。
本研究では, 内部点法に着想を得た戦略を用いて, 凸体上の均一分布からのサンプリング問題に適用する。
私たちの一般的なアプローチはサンプリングと最適化をリンクする最近のトレンドに従い、chi-squared divergenceの役割を強調する。
特に、ワッサーシュタイン距離におけるバニラ・ランゲヴィン拡散の収束に関する新しい結果が得られる。
関連論文リスト
- An Improved Analysis of Langevin Algorithms with Prior Diffusion for
Non-Log-Concave Sampling [27.882407333690267]
本研究では, 先行拡散を用いた改良型ランゲヴィンアルゴリズムが, 強対数対数対象分布に対して独立に次元を収束させることができることを示す。
また、修正したランゲヴィンアルゴリズムは、異なるステップサイズスケジュールを持つKL発散の次元非依存収束も得ることを証明した。
論文 参考訳(メタデータ) (2024-03-10T11:50:34Z) - Theoretical Insights for Diffusion Guidance: A Case Study for Gaussian
Mixture Models [59.331993845831946]
拡散モデルは、所望の特性に向けてサンプル生成を操るために、スコア関数にタスク固有の情報を注入することの恩恵を受ける。
本稿では,ガウス混合モデルの文脈における拡散モデルに対する誘導の影響を理解するための最初の理論的研究を提供する。
論文 参考訳(メタデータ) (2024-03-03T23:15:48Z) - Non-asymptotic Convergence of Discrete-time Diffusion Models: New
Approach and Improved Rate [54.596887384531236]
我々は離散時間拡散モデルの下で、分布のかなり大きなクラスに対する収束保証を確立する。
パラメータ依存を明示した分布の興味深いクラスに対して,結果の専門化を行う。
本稿では,新しい加速サンプリング器を提案し,対応する正則サンプリング器の収束率を桁違いに向上することを示す。
論文 参考訳(メタデータ) (2024-02-21T16:11:47Z) - Symmetric Mean-field Langevin Dynamics for Distributional Minimax
Problems [78.96969465641024]
平均場ランゲヴィンのダイナミクスを、対称で証明可能な収束した更新で、初めて確率分布に対する最小の最適化に拡張する。
また,時間と粒子の離散化機構について検討し,カオス結果の新たな均一時間伝播を証明した。
論文 参考訳(メタデータ) (2023-12-02T13:01:29Z) - Independent projections of diffusions: Gradient flows for variational
inference and optimal mean field approximations [0.0]
本稿では,2つの自然条件に対して最適である,独立射影(emphindependent projection)という構成を提案する。
まず、元の拡散が不変測度$rho_*$で可逆であるとき、独立射影は積測度空間に制約された相対エントロピー$H(cdot,|,rho_*)$に対するワッサーシュタイン勾配フローとして機能する。
第2に、独立な座標を持つ全てのプロセスの中で、独立射影は、元の拡散に対する経路空間エントロピーの最も遅い成長速度を示す。
論文 参考訳(メタデータ) (2023-09-23T10:33:59Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Diffusion Models are Minimax Optimal Distribution Estimators [49.47503258639454]
拡散モデリングの近似と一般化能力について、初めて厳密な分析を行った。
実密度関数がベソフ空間に属し、経験値整合損失が適切に最小化されている場合、生成したデータ分布は、ほぼ最小の最適推定値が得られることを示す。
論文 参考訳(メタデータ) (2023-03-03T11:31:55Z) - Convergence of denoising diffusion models under the manifold hypothesis [3.096615629099617]
デノイング拡散モデル(Denoising diffusion model)は、画像および音声合成における最先端性能を示す最近の生成モデルのクラスである。
本稿では、拡散モデルに対するより一般的な設定での最初の収束結果を提供する。
論文 参考訳(メタデータ) (2022-08-10T12:50:47Z) - Robust Estimation for Nonparametric Families via Generative Adversarial
Networks [92.64483100338724]
我々は,高次元ロバストな統計問題を解くためにGAN(Generative Adversarial Networks)を設計するためのフレームワークを提供する。
我々の研究は、これらをロバスト平均推定、第二モーメント推定、ロバスト線形回帰に拡張する。
技術面では、提案したGAN損失は、スムーズで一般化されたコルモゴロフ-スミルノフ距離と見なすことができる。
論文 参考訳(メタデータ) (2022-02-02T20:11:33Z) - Efficient constrained sampling via the mirror-Langevin algorithm [9.061408029414455]
本稿では,ミラー・ランジュバン拡散の新しい離散化を提案し,その収束のクリップな証明を与える。
コンパクトな集合に支持された対数凹分布からサンプリングする作業において,我々の理論的結果は既存の保証よりもはるかに優れている。
論文 参考訳(メタデータ) (2020-10-30T11:54:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。