論文の概要: Wasserstein Control of Mirror Langevin Monte Carlo
- arxiv url: http://arxiv.org/abs/2002.04363v1
- Date: Tue, 11 Feb 2020 13:16:31 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-02 02:56:14.661276
- Title: Wasserstein Control of Mirror Langevin Monte Carlo
- Title(参考訳): モンテカルロ鏡のワッサーシュタイン制御
- Authors: Kelvin Shuangjian Zhang, Gabriel Peyr\'e, Jalal Fadili, Marcelo
Pereyra
- Abstract要約: 離散化ランゲヴィン拡散は高次元ターゲット密度からサンプリングする効率的なモンテカルロ法である。
ヘッセン型多様体上のランゲヴィン拡散を考察し、ミラー・ドネサンススキームと密接な関係を持つ離散化を研究する。
- 参考スコア(独自算出の注目度): 2.7145834528620236
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Discretized Langevin diffusions are efficient Monte Carlo methods for
sampling from high dimensional target densities that are log-Lipschitz-smooth
and (strongly) log-concave. In particular, the Euclidean Langevin Monte Carlo
sampling algorithm has received much attention lately, leading to a detailed
understanding of its non-asymptotic convergence properties and of the role that
smoothness and log-concavity play in the convergence rate. Distributions that
do not possess these regularity properties can be addressed by considering a
Riemannian Langevin diffusion with a metric capturing the local geometry of the
log-density. However, the Monte Carlo algorithms derived from discretizations
of such Riemannian Langevin diffusions are notoriously difficult to analyze. In
this paper, we consider Langevin diffusions on a Hessian-type manifold and
study a discretization that is closely related to the mirror-descent scheme. We
establish for the first time a non-asymptotic upper-bound on the sampling error
of the resulting Hessian Riemannian Langevin Monte Carlo algorithm. This bound
is measured according to a Wasserstein distance induced by a Riemannian metric
ground cost capturing the Hessian structure and closely related to a
self-concordance-like condition. The upper-bound implies, for instance, that
the iterates contract toward a Wasserstein ball around the target density whose
radius is made explicit. Our theory recovers existing Euclidean results and can
cope with a wide variety of Hessian metrics related to highly non-flat
geometries.
- Abstract(参考訳): 離散ランジュバン拡散は、log-lipschitz-smoothおよび(強)log-concaveである高次元ターゲット密度からサンプリングするための効率的なモンテカルロ法である。
特に、ユークリッドのランゲヴィン・モンテカルロサンプリングアルゴリズムは近年多くの注目を集めており、その非漸近収束特性と滑らかさと対数凹凸が収束速度で果たす役割を詳細に理解している。
これらの正則性を持たない分布は、ログ密度の局所幾何をキャプチャする計量を持つリーマン的ランジュバン拡散を考えることで対処できる。
しかし、そのようなリーマンランジュバン拡散の離散化から導かれるモンテカルロアルゴリズムは解析が難しいことで悪名高い。
本稿では,ヘッセン多様体上のランジュバン拡散を考察し,ミラー・ディセントスキームと密接な関係を持つ離散化について検討する。
結果として生じるヘッセンリーマン・ランジュバン・モンテカルロアルゴリズムのサンプリング誤差について,非漸近上界を初めて確立した。
この境界は、ヘッセン構造をキャプチャするリーマン計量接地コストによって引き起こされるワッサーシュタイン距離に従って測定され、自己一致様条件と密接に関連している。
アッパーバウンドは、例えば、イテレートが半径を明示した目標密度の周りのワッサースタイン球に向かって収縮することを意味する。
我々の理論は既存のユークリッドの結果を復元し、高度に非平坦な幾何学に関連する幅広いヘッセン測度に対処することができる。
関連論文リスト
- An Improved Analysis of Langevin Algorithms with Prior Diffusion for
Non-Log-Concave Sampling [27.882407333690267]
本研究では, 先行拡散を用いた改良型ランゲヴィンアルゴリズムが, 強対数対数対象分布に対して独立に次元を収束させることができることを示す。
また、修正したランゲヴィンアルゴリズムは、異なるステップサイズスケジュールを持つKL発散の次元非依存収束も得ることを証明した。
論文 参考訳(メタデータ) (2024-03-10T11:50:34Z) - Sampling and estimation on manifolds using the Langevin diffusion [45.57801520690309]
離散化マルコフ過程に基づく$mu_phi $の線形汎函数の2つの推定器を検討する。
誤差境界は、本質的に定義されたランゲヴィン拡散の離散化を用いてサンプリングと推定のために導出される。
論文 参考訳(メタデータ) (2023-12-22T18:01:11Z) - Symmetric Mean-field Langevin Dynamics for Distributional Minimax
Problems [78.96969465641024]
平均場ランゲヴィンのダイナミクスを、対称で証明可能な収束した更新で、初めて確率分布に対する最小の最適化に拡張する。
また,時間と粒子の離散化機構について検討し,カオス結果の新たな均一時間伝播を証明した。
論文 参考訳(メタデータ) (2023-12-02T13:01:29Z) - Accelerated Bayesian imaging by relaxed proximal-point Langevin sampling [4.848683707039751]
本稿では, 画像逆問題におけるベイズ推定を行うために, マルコフ近位連鎖モンテカルロ法を提案する。
モロー・ヨシダの滑らか化によって滑らかにあるいは正規化されるモデルに対しては、中間点は過度に損傷されたランゲヴィン拡散の暗黙の離散化と等価である。
kappa$-strongly log-concaveのターゲットに対しては、提供された非漸近収束解析も最適な時間ステップを特定する。
論文 参考訳(メタデータ) (2023-08-18T10:55:49Z) - Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Langevin Monte Carlo for strongly log-concave distributions: Randomized
midpoint revisited [4.551456632596834]
我々は,バニラ・ランゲヴィン過程の中間点の離散化を解析する。
この分析は根底にある原則を明確にし、貴重な洞察を提供するのに役立つ。
我々は、オイラー離散化を伴うランゲヴィン過程の新たな保証を確立する。
論文 参考訳(メタデータ) (2023-06-14T13:18:09Z) - Convergence of the Riemannian Langevin Algorithm [10.279748604797911]
計量$g$の多様体上の自然測度に関して、密度$nu$の分布からサンプリングする問題を研究する。
対数障壁によって定義されるポリトープに制限された等尺的密度をサンプリングする手法が,本手法の特例である。
論文 参考訳(メタデータ) (2022-04-22T16:56:00Z) - Time-inhomogeneous diffusion geometry and topology [69.55228523791897]
拡散凝縮(英: Diffusion condensation)は、各ステップが最初に計算し、そのデータに拡散演算子を適用する時間不均質な過程である。
我々はこの過程の収束と進化を幾何学的、スペクトル的、位相的観点から理論的に分析する。
我々の研究は拡散凝縮の収束に関する理論的洞察を与え、トポロジカルデータ解析と幾何学的データ解析のリンクを提供することを示している。
論文 参考訳(メタデータ) (2022-03-28T16:06:17Z) - Mean-Square Analysis with An Application to Optimal Dimension Dependence
of Langevin Monte Carlo [60.785586069299356]
この研究は、2-ワッサーシュタイン距離におけるサンプリング誤差の非同相解析のための一般的な枠組みを提供する。
我々の理論解析は数値実験によってさらに検証される。
論文 参考訳(メタデータ) (2021-09-08T18:00:05Z) - A Unifying and Canonical Description of Measure-Preserving Diffusions [60.59592461429012]
ユークリッド空間における測度保存拡散の完全なレシピは、最近、いくつかのMCMCアルゴリズムを単一のフレームワークに統合した。
我々は、この構成を任意の多様体に改善し一般化する幾何学理論を開発する。
論文 参考訳(メタデータ) (2021-05-06T17:36:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。