論文の概要: Asymptotic bias of inexact Markov Chain Monte Carlo methods in high
dimension
- arxiv url: http://arxiv.org/abs/2108.00682v2
- Date: Wed, 12 Apr 2023 09:25:54 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-13 19:42:02.357502
- Title: Asymptotic bias of inexact Markov Chain Monte Carlo methods in high
dimension
- Title(参考訳): 高次元におけるマルコフ連鎖モンテカルロ法の漸近バイアス
- Authors: Alain Oliviero Durmus and Andreas Eberle
- Abstract要約: 例えば、未調整ランゲヴィン (ULA) や非調整ハミルトンモンテカルロ (uHMC) がある。
ULA と uHMC の双方に対して、このバイアスは、目標分布またはスキームの定常確率測定に関連する鍵量に依存することを示す。
- 参考スコア(独自算出の注目度): 0.7614628596146599
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Inexact Markov Chain Monte Carlo methods rely on Markov chains that do not
exactly preserve the target distribution. Examples include the unadjusted
Langevin algorithm (ULA) and unadjusted Hamiltonian Monte Carlo (uHMC). This
paper establishes bounds on Wasserstein distances between the invariant
probability measures of inexact MCMC methods and their target distributions
with a focus on understanding the precise dependence of this asymptotic bias on
both dimension and discretization step size. Assuming Wasserstein bounds on the
convergence to equilibrium of either the exact or the approximate dynamics, we
show that for both ULA and uHMC, the asymptotic bias depends on key quantities
related to the target distribution or the stationary probability measure of the
scheme. As a corollary, we conclude that for models with a limited amount of
interactions such as mean-field models, finite range graphical models, and
perturbations thereof, the asymptotic bias has a similar dependence on the step
size and the dimension as for product measures.
- Abstract(参考訳): 不正確なマルコフ連鎖モンテカルロ法は、ターゲット分布を正確に保存しないマルコフ連鎖に依存する。
例えば、未調整のランゲヴィンアルゴリズム (ULA) や非調整のハミルトンモンテカルロ (uHMC) がある。
本稿では,この漸近バイアスの次元と離散化ステップサイズに対する正確な依存性を理解することを目的として,mmc法の不変確率測度と対象分布との間のワッサースタイン距離の境界を定式化する。
Wasserstein が正確なあるいは近似力学の平衡への収束に依存すると仮定すると、ULA と uHMC の両方において、漸近バイアスがスキームの目標分布または定常確率測度に関連する鍵量に依存することを示す。
その結果、平均場モデル、有限範囲のグラフィカルモデル、およびそれらの摂動といった限られた相互作用を持つモデルに対して、漸近バイアスは、積測度と同様にステップサイズと次元に類似していることがわかった。
関連論文リスト
- Randomized Physics-Informed Machine Learning for Uncertainty
Quantification in High-Dimensional Inverse Problems [49.1574468325115]
本研究では,高次元逆問題における不確実性定量化のための物理インフォームド機械学習手法を提案する。
我々は解析的に、そして、ハミルトン・モンテカルロとの比較を通して、rPICKLE はベイズ則によって与えられる真の後続に収束することを示す。
論文 参考訳(メタデータ) (2023-12-11T07:33:16Z) - Unbiased Kinetic Langevin Monte Carlo with Inexact Gradients [0.8749675983608172]
動力学的ランゲヴィンダイナミクスに基づく後進手段の非バイアス化手法を提案する。
提案した推定器は偏りがなく、有限分散となり、中心極限定理を満たす。
以上の結果から、大規模アプリケーションでは、非バイアスアルゴリズムは「ゴールドスタンダード」なハミルトニアン・モンテカルロよりも2~3桁効率が良いことが示された。
論文 参考訳(メタデータ) (2023-11-08T21:19:52Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Bounding Wasserstein distance with couplings [26.17941985324059]
本稿ではマルコフ連鎖のカップリングに基づく推定器を提案し,そのような偏りのあるサンプリング手法の品質を評価する。
我々は,上界の理論的保証を確立し,高次元における推定値の有効性を示す。
論文 参考訳(メタデータ) (2021-12-06T16:38:21Z) - Mean-Square Analysis with An Application to Optimal Dimension Dependence
of Langevin Monte Carlo [60.785586069299356]
この研究は、2-ワッサーシュタイン距離におけるサンプリング誤差の非同相解析のための一般的な枠組みを提供する。
我々の理論解析は数値実験によってさらに検証される。
論文 参考訳(メタデータ) (2021-09-08T18:00:05Z) - Machine Learning and Variational Algorithms for Lattice Field Theory [1.198562319289569]
格子量子場論の研究において、格子理論を定義するパラメータは連続体物理学にアクセスする臨界性に向けて調整されなければならない。
経路積分の領域に適用される輪郭変形に基づいてモンテカルロ推定器を「変形」する手法を提案する。
我々は,フローベースMCMCが臨界減速を緩和し,オブザーシフォールドが原理的応用のばらつきを指数関数的に低減できることを実証した。
論文 参考訳(メタデータ) (2021-06-03T16:37:05Z) - Spectral clustering under degree heterogeneity: a case for the random
walk Laplacian [83.79286663107845]
本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。
次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
論文 参考訳(メタデータ) (2021-05-03T16:36:27Z) - Signatures of Chaos in Non-integrable Models of Quantum Field Theory [0.0]
1+1)D量子場理論(QFT)モデルにおける量子カオスのシグネチャについて検討する。
我々は、二重正弦ガードンに焦点をあて、巨大な正弦ガードンと$phi4$モデルの研究も行っている。
論文 参考訳(メタデータ) (2020-12-15T18:56:20Z) - On Linear Stochastic Approximation: Fine-grained Polyak-Ruppert and
Non-Asymptotic Concentration [115.1954841020189]
The inequality and non-asymptotic properties of approximation procedure with Polyak-Ruppert averaging。
一定のステップサイズと無限大となる反復数を持つ平均的反復数に対する中心極限定理(CLT)を証明する。
論文 参考訳(メタデータ) (2020-04-09T17:54:18Z) - Explicit Mean-Square Error Bounds for Monte-Carlo and Linear Stochastic
Approximation [4.817429789586127]
基礎となるマルコフ連鎖が可逆で幾何学的にエルゴードである場合でも、誤差列に有界なホーフディングを得ることはできない。
平均二乗誤差は、ステップサイズシーケンスの条件の下で、$O(1/n)$の最適率を達成する。
論文 参考訳(メタデータ) (2020-02-07T01:52:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。