論文の概要: Langevin Monte Carlo for strongly log-concave distributions: Randomized
midpoint revisited
- arxiv url: http://arxiv.org/abs/2306.08494v2
- Date: Fri, 16 Jun 2023 11:32:49 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-19 10:49:44.701592
- Title: Langevin Monte Carlo for strongly log-concave distributions: Randomized
midpoint revisited
- Title(参考訳): 強対数凹分布に対するランゲヴィン・モンテカルロ:ランダム化された中間点の再検討
- Authors: Lu Yu, Avetik Karagulyan, Arnak Dalalyan
- Abstract要約: 我々は,バニラ・ランゲヴィン過程の中間点の離散化を解析する。
この分析は根底にある原則を明確にし、貴重な洞察を提供するのに役立つ。
我々は、オイラー離散化を伴うランゲヴィン過程の新たな保証を確立する。
- 参考スコア(独自算出の注目度): 4.551456632596834
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We revisit the problem of sampling from a target distribution that has a
smooth strongly log-concave density everywhere in $\mathbb R^p$. In this
context, if no additional density information is available, the randomized
midpoint discretization for the kinetic Langevin diffusion is known to be the
most scalable method in high dimensions with large condition numbers. Our main
result is a nonasymptotic and easy to compute upper bound on the Wasserstein-2
error of this method. To provide a more thorough explanation of our method for
establishing the computable upper bound, we conduct an analysis of the midpoint
discretization for the vanilla Langevin process. This analysis helps to clarify
the underlying principles and provides valuable insights that we use to
establish an improved upper bound for the kinetic Langevin process with the
midpoint discretization. Furthermore, by applying these techniques we establish
new guarantees for the kinetic Langevin process with Euler discretization,
which have a better dependence on the condition number than existing upper
bounds.
- Abstract(参考訳): 我々は,$\mathbb r^p$ の至る所で滑らかな対数対数密度を持つ対象分布からサンプリングする問題を再検討する。
この文脈では、付加的な密度情報がない場合、動力学的ランジュバン拡散のランダム化中間点離散化は、大きな条件数を持つ高次元において最もスケーラブルな方法であることが知られている。
我々の主な結果は、この手法のワッサーシュタイン-2誤差の上限を非漸近的に計算し易いことである。
計算可能な上界を確立する方法のより詳細な説明として,バニラ・ランゲヴィン過程の中間点の離散化を解析する。
この分析は根底にある原理を明らかにするのに役立ち、中間点の離散化を伴う速度論的ランゲヴィン過程の上限を改良するために私たちが使う貴重な洞察を提供する。
さらに、これらの手法を適用することで、既存の上界よりも条件数に依存したオイラー離散化によるランゲヴィン過程の新しい保証を確立する。
関連論文リスト
- An Improved Analysis of Langevin Algorithms with Prior Diffusion for
Non-Log-Concave Sampling [27.882407333690267]
本研究では, 先行拡散を用いた改良型ランゲヴィンアルゴリズムが, 強対数対数対象分布に対して独立に次元を収束させることができることを示す。
また、修正したランゲヴィンアルゴリズムは、異なるステップサイズスケジュールを持つKL発散の次元非依存収束も得ることを証明した。
論文 参考訳(メタデータ) (2024-03-10T11:50:34Z) - Parallelized Midpoint Randomization for Langevin Monte Carlo [6.555157647688725]
対象分布は滑らかで対数対数密度が強いことが特徴である。
並列化されたランダム化中間点法を再検討し、最近開発された純粋にシーケンシャルなバージョンを解析するための証明手法を用いる。
サンプリングとターゲット密度の間のワッサーシュタイン距離の上限を導出する。
論文 参考訳(メタデータ) (2024-02-22T10:26:46Z) - Symmetric Mean-field Langevin Dynamics for Distributional Minimax
Problems [78.96969465641024]
平均場ランゲヴィンのダイナミクスを、対称で証明可能な収束した更新で、初めて確率分布に対する最小の最適化に拡張する。
また,時間と粒子の離散化機構について検討し,カオス結果の新たな均一時間伝播を証明した。
論文 参考訳(メタデータ) (2023-12-02T13:01:29Z) - Accelerated Bayesian imaging by relaxed proximal-point Langevin sampling [4.848683707039751]
本稿では, 画像逆問題におけるベイズ推定を行うために, マルコフ近位連鎖モンテカルロ法を提案する。
モロー・ヨシダの滑らか化によって滑らかにあるいは正規化されるモデルに対しては、中間点は過度に損傷されたランゲヴィン拡散の暗黙の離散化と等価である。
kappa$-strongly log-concaveのターゲットに対しては、提供された非漸近収束解析も最適な時間ステップを特定する。
論文 参考訳(メタデータ) (2023-08-18T10:55:49Z) - Sobolev Space Regularised Pre Density Models [51.558848491038916]
本研究では,ソボレフ法則の正則化に基づく非パラメトリック密度推定法を提案する。
この方法は統計的に一貫したものであり、帰納的検証モデルを明確かつ一貫したものにしている。
論文 参考訳(メタデータ) (2023-07-25T18:47:53Z) - Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Resolving the Mixing Time of the Langevin Algorithm to its Stationary
Distribution for Log-Concave Sampling [34.66940399825547]
本稿では,Langevinアルゴリズムの定常分布に対する混合時間の特徴について述べる。
本稿では,差分プライバシー文献からサンプリング文献へのアプローチを紹介する。
論文 参考訳(メタデータ) (2022-10-16T05:11:16Z) - Convex Analysis of the Mean Field Langevin Dynamics [49.66486092259375]
平均場ランゲヴィン力学の収束速度解析について述べる。
ダイナミックスに付随する$p_q$により、凸最適化において古典的な結果と平行な収束理論を開発できる。
論文 参考訳(メタデータ) (2022-01-25T17:13:56Z) - Mean-Square Analysis with An Application to Optimal Dimension Dependence
of Langevin Monte Carlo [60.785586069299356]
この研究は、2-ワッサーシュタイン距離におけるサンプリング誤差の非同相解析のための一般的な枠組みを提供する。
我々の理論解析は数値実験によってさらに検証される。
論文 参考訳(メタデータ) (2021-09-08T18:00:05Z) - Faster Convergence of Stochastic Gradient Langevin Dynamics for
Non-Log-Concave Sampling [110.88857917726276]
我々は,非log-concaveとなる分布のクラスからサンプリングするために,勾配ランゲヴィンダイナミクス(SGLD)の新たな収束解析を行う。
我々のアプローチの核心は、補助的時間反転型マルコフ連鎖を用いたSGLDのコンダクタンス解析である。
論文 参考訳(メタデータ) (2020-10-19T15:23:18Z) - Wasserstein Control of Mirror Langevin Monte Carlo [2.7145834528620236]
離散化ランゲヴィン拡散は高次元ターゲット密度からサンプリングする効率的なモンテカルロ法である。
ヘッセン型多様体上のランゲヴィン拡散を考察し、ミラー・ドネサンススキームと密接な関係を持つ離散化を研究する。
論文 参考訳(メタデータ) (2020-02-11T13:16:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。