論文の概要: Geometric Ergodicity in Modified Variations of Riemannian Manifold and
Lagrangian Monte Carlo
- arxiv url: http://arxiv.org/abs/2301.01409v1
- Date: Wed, 4 Jan 2023 02:44:33 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-05 16:07:49.269913
- Title: Geometric Ergodicity in Modified Variations of Riemannian Manifold and
Lagrangian Monte Carlo
- Title(参考訳): リーマン多様体とラグランジアンモンテカルロの修正変分における幾何学的エルゴード性
- Authors: James A. Brofos and Vivekananda Roy and Roy R. Lederman
- Abstract要約: ハミルトン・モンテカルロ(EHMC)とメトロポリス調整ランゲヴィン・アルゴリズム(MALA)の幾何学的エルゴディディティは広く研究されていない。
本研究は, LMC と RMHMC 遷移核と MMALA の混合について検討し, この手法を「継承された」幾何学的エルゴディディティ理論と組み合わせた。
その後、いくつかのベンチマークベイズ推論タスクにおいて、オリジナルおよび修正された遷移カーネルを評価する。
- 参考スコア(独自算出の注目度): 8.094046717899866
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Riemannian manifold Hamiltonian (RMHMC) and Lagrangian Monte Carlo (LMC) have
emerged as powerful methods of Bayesian inference. Unlike Euclidean Hamiltonian
Monte Carlo (EHMC) and the Metropolis-adjusted Langevin algorithm (MALA), the
geometric ergodicity of these Riemannian algorithms has not been extensively
studied. On the other hand, the manifold Metropolis-adjusted Langevin algorithm
(MMALA) has recently been shown to exhibit geometric ergodicity under certain
conditions. This work investigates the mixture of the LMC and RMHMC transition
kernels with MMALA in order to equip the resulting method with an "inherited"
geometric ergodicity theory. We motivate this mixture kernel based on an
analogy between single-step HMC and MALA. We then proceed to evaluate the
original and modified transition kernels on several benchmark Bayesian
inference tasks.
- Abstract(参考訳): リーマン多様体ハミルトニアン (RMHMC) とラグランジアンモンテカルロ (LMC) はベイズ推論の強力な方法として登場した。
euclidean hamiltonian monte carlo (ehmc)やmetropolis-adjusted langevin algorithm (mala)とは異なり、これらのリーマンアルゴリズムの幾何学的エルゴード性は広く研究されていない。
一方、多様体メトロポリス調整ランゲヴィンアルゴリズム(MMALA)は、ある条件下で幾何学的エルゴード性を示すことが最近示されている。
本研究は, LMC と RMHMC 遷移核と MMALA の混合について検討し, この手法を「継承された」幾何学的エルゴディディティ理論と組み合わせた。
我々はこの混合カーネルを単一ステップHMCとMALAの類似性に基づいて動機付けする。
その後、いくつかのベンチマークベイズ推論タスクにおいて、オリジナルおよび修正された遷移カーネルを評価する。
関連論文リスト
- AdamMCMC: Combining Metropolis Adjusted Langevin with Momentum-based Optimization [0.0]
科学と工学におけるディープニューラルネットワーク手法の適用を考える場合、不確実性推定は重要な問題である。
本稿では,モンテカルロ法を用いて後部分布から不確かさを定量化するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-12-21T16:58:49Z) - Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Non-Log-Concave and Nonsmooth Sampling via Langevin Monte Carlo Algorithms [15.718514510878896]
マルチモーダル性により低次元でもしばしば困難となるガウス混合などの非対数圏分布からの近似サンプリング問題について検討する。
我々はマルコフ連鎖モンテカルロ法(MCMC)を用いてこの課題を実行することに集中する。
論文 参考訳(メタデータ) (2023-05-25T12:28:26Z) - Unbiased constrained sampling with Self-Concordant Barrier Hamiltonian
Monte Carlo [18.14591309607824]
Barrier Hamiltonian Monte Carlo (BHMC) は、多様体 $mathrmM$ 上の Gibbs 分布 $pi$ からサンプリングすることを目的とした HMC アルゴリズムのバージョンである。
本稿では,この問題に対処するため,新たなフィルタステップである"進化チェックステップ"を提案する。
我々の主な結果は、これらの2つの新しいアルゴリズムが$pi$に対して可逆的なマルコフ連鎖を生成し、以前の実装と比較してバイアスに悩まされないことを証明している。
論文 参考訳(メタデータ) (2022-10-21T12:56:07Z) - The Dynamics of Riemannian Robbins-Monro Algorithms [101.29301565229265]
本稿では,Robins と Monro のセミナル近似フレームワークを一般化し拡張するリーマンアルゴリズムの族を提案する。
ユークリッドのそれと比較すると、リーマンのアルゴリズムは多様体上の大域線型構造が欠如しているため、はるかに理解されていない。
ユークリッド・ロビンス=モンロスキームの既存の理論を反映し拡張するほぼ確実な収束結果の一般的なテンプレートを提供する。
論文 参考訳(メタデータ) (2022-06-14T12:30:11Z) - First-Order Algorithms for Min-Max Optimization in Geodesic Metric
Spaces [93.35384756718868]
min-maxアルゴリズムはユークリッド設定で解析されている。
指数関数法 (RCEG) が線形速度で最終収束を補正したことを証明した。
論文 参考訳(メタデータ) (2022-06-04T18:53:44Z) - Lagrangian Manifold Monte Carlo on Monge Patches [5.586191108738564]
この計量でラグランジアンモンテカルロがターゲット分布を効率的に探索する方法を示す。
我々の計量は1次情報しか必要とせず、高速な逆行列式と行列式を持つ。
論文 参考訳(メタデータ) (2022-02-01T21:01:22Z) - A singular Riemannian geometry approach to Deep Neural Networks I.
Theoretical foundations [77.86290991564829]
ディープニューラルネットワークは、音声認識、機械翻訳、画像解析など、いくつかの科学領域で複雑な問題を解決するために広く使われている。
我々は、リーマン計量を備えた列の最後の多様体で、多様体間の写像の特定の列を研究する。
このようなシーケンスのマップの理論的性質について検討し、最終的に実践的な関心を持つニューラルネットワークの実装間のマップのケースに焦点を当てる。
論文 参考訳(メタデータ) (2021-12-17T11:43:30Z) - What Are Bayesian Neural Network Posteriors Really Like? [63.950151520585024]
ハミルトニアンモンテカルロは、標準およびディープアンサンブルよりも大きな性能向上を達成できることを示す。
また,深部分布は標準SGLDとHMCに類似しており,標準変動推論に近いことが示された。
論文 参考訳(メタデータ) (2021-04-29T15:38:46Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z) - Demystifying Orthogonal Monte Carlo and Beyond [20.745014324028386]
オルソゴン・モンテカルロ(オルソゴン・モンテカルロ、Orthogonal Monte Carlo、OMC)は、構造的幾何学的条件(オルソゴン性)をサンプルに課す非常に効果的なサンプリングアルゴリズムである。
我々は、OMCの背後にある理論原理に新たな光を当て、いくつかの新しい濃度結果を得るために負依存確率変数の理論を適用した。
我々は,Near-Orthogonal Monte Carlo (NOMC)と呼ばれる数論手法と粒子アルゴリズムを利用した新しい拡張法を提案する。
論文 参考訳(メタデータ) (2020-05-27T18:44:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。