論文の概要: Central Limit Theorem for ergodic averages of Markov chains \& the comparison of sampling algorithms for heavy-tailed distributions
- arxiv url: http://arxiv.org/abs/2512.18255v1
- Date: Sat, 20 Dec 2025 07:37:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-23 18:54:32.257584
- Title: Central Limit Theorem for ergodic averages of Markov chains \& the comparison of sampling algorithms for heavy-tailed distributions
- Title(参考訳): マルコフ連鎖のエルゴード平均に対する中心極限定理と重み付き分布に対するサンプリングアルゴリズムの比較
- Authors: Miha Brešar, Aleksandar Mijatović, Gareth Roberts,
- Abstract要約: 一般状態空間上のマルコフ連鎖のエルゴード平均の CLT に対する検証可能な必要条件を提供する。
我々の理論はドリフト条件に基づいており、これはまた様々な指標においてステーションへの収束率の低い境界をもたらす。
- 参考スコア(独自算出の注目度): 42.17343824099138
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Establishing central limit theorems (CLTs) for ergodic averages of Markov chains is a fundamental problem in probability and its applications. Since the seminal work~\cite{MR834478}, a vast literature has emerged on the sufficient conditions for such CLTs. To counterbalance this, the present paper provides verifiable necessary conditions for CLTs of ergodic averages of Markov chains on general state spaces. Our theory is based on drift conditions, which also yield lower bounds on the rates of convergence to stationarity in various metrics. The validity of the ergodic CLT is of particular importance for sampling algorithms, where it underpins the error analysis of estimators in Bayesian statistics and machine learning. Although heavy-tailed sampling is of central importance in applications, the characterisation of the CLT and the convergence rates are theoretically poorly understood for almost all practically-used Markov chain Monte Carlo (MCMC) algorithms. In this setting our results provide sharp conditions on the validity of the ergodic CLT and establish convergence rates for large families of MCMC sampling algorithms for heavy-tailed targets. Our study includes a rather complete analyses for random walk Metropolis samplers (with finite- and infinite-variance proposals), Metropolis-adjusted and unadjusted Langevin algorithms and the stereographic projection sampler (as well as the independence sampler). By providing these sharp results via our practical drift conditions, our theory offers significant insights into the problems of algorithm selection and comparison for sampling heavy-tailed distributions (see short YouTube presentations~\cite{YouTube_talk} describing our \href{https://youtu.be/m2y7U4cEqy4}{\underline{theory}} and \href{https://youtu.be/w8I_oOweuko}{\underline{applications}}).
- Abstract(参考訳): マルコフ連鎖のエルゴード平均に対する中心極限定理(CLT)を確立することは、確率とその応用における根本的な問題である。
The seminal work~\cite{MR834478}, has been seen on the enough conditions for such CLTs。
これに対抗するために,本論文では,一般状態空間上のマルコフ鎖のエルゴード平均のCLTについて検証可能な条件を提案する。
我々の理論はドリフト条件に基づいており、様々な測定値の収束率と定常性に低い境界をもたらす。
エルゴード CLT の有効性はサンプリングアルゴリズムにおいて特に重要であり、ベイズ統計学や機械学習における推定器の誤差解析の基盤となっている。
重尾サンプリングは応用において重要であるが、CLTの特徴付けと収束速度は理論上ほとんどすべてのマルコフ連鎖モンテカルロ (MCMC) アルゴリズムでは理解されていない。
この設定では, エルゴディックCLTの有効性の急激な条件が示され, 重み付け対象に対するMCMCサンプリングアルゴリズムの大群に対する収束率が確立された。
本研究は, ランダムウォーク・サンプルラー(有限および無限分散提案), メトロポリス調整・非調整ランゲヴィンアルゴリズム, 立体投影サンプリング・サンプルラー(および独立サンプリング)について, 比較的完全な解析を行った。
実際のドリフト条件を通じてこれらのシャープな結果を提供することで、アルゴリズムの選択と重み付き分布のサンプリングに関する比較に関する問題に対する重要な洞察を提供する(短いYouTubeプレゼンテーション~\cite{YouTube_talk}で、我々の \href{https://youtu.be/m2y7U4cEqy4}{\underline{theory}} と \href{https://youtu.be/w8I_oOweuko}{\underline{applications}} を記述)。
関連論文リスト
- Uncertainty quantification for Markov chain induced martingales with application to temporal difference learning [55.197497603087065]
線形関数近似を用いた時間差分学習アルゴリズムの性能解析を行った。
マルコフ連鎖によって誘導されるベクトル値マルティンタに対する新規で一般的な高次元濃度不等式とベリー-エッセイン境界を確立する。
論文 参考訳(メタデータ) (2025-02-19T15:33:55Z) - Constrained Sampling with Primal-Dual Langevin Monte Carlo [15.634831573546041]
この研究は、正規化定数まで既知の確率分布からサンプリングする問題を考察する。
一般非線形関数の期待値によって定義された統計的制約の集合を満たす。
我々は,目標分布とサンプルを同時に制約する離散時間原始二元Langevin Monte Carloアルゴリズム(PD-LMC)を提唱した。
論文 参考訳(メタデータ) (2024-11-01T13:26:13Z) - Robust Barycenter Estimation using Semi-Unbalanced Neural Optimal Transport [84.51977664336056]
本研究では、ロバストな連続バリセンタを推定するための新しいスケーラブルなアプローチを提案する。
提案手法は min-max 最適化問題であり,一般的なコスト関数に適用可能である。
論文 参考訳(メタデータ) (2024-10-04T23:27:33Z) - Dimension-free Relaxation Times of Informed MCMC Samplers on Discrete Spaces [5.075066314996696]
離散空間上でのメトロポリス・ハスティングスアルゴリズムに対する一般混合時間境界を開発する。
我々は,情報化メトロポリス・ハスティングスアルゴリズムのクラスに対して,問題次元に依存しない緩和時間を達成するための十分な条件を確立する。
論文 参考訳(メタデータ) (2024-04-05T02:40:45Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Importance is Important: Generalized Markov Chain Importance Sampling Methods [4.611170084430822]
我々は,任意のマルチトライトリメトロポリスアルゴリズムにおいて,提案を常に受け入れ,余分な計算コストを伴わずにバイアスを補正するために必要な重み付けを評価することができることを示した。
本稿では、メトロポリス・ハスティングスフレームワークの外部にある離散空間上の別のMCMCサンプリング器を提案する。
論文 参考訳(メタデータ) (2023-04-13T04:04:09Z) - Comparison of Markov chains via weak Poincar\'e inequalities with
application to pseudo-marginal MCMC [0.0]
マルコフ連鎖の平衡への有界収束に対する弱ポアンカーの不等式として知られるある種の機能的不等式の使用について検討する。
本研究では, 独立メトロポリス・ハスティングス・サンプリング法や, 難易度を求める疑似マルジナル手法などの手法に対して, サブ幾何学的収束境界の導出を可能にすることを示す。
論文 参考訳(メタデータ) (2021-12-10T15:36:30Z) - Amortized Conditional Normalized Maximum Likelihood: Reliable Out of
Distribution Uncertainty Estimation [99.92568326314667]
本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。
提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。
我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
論文 参考訳(メタデータ) (2020-11-05T08:04:34Z) - Computationally efficient sparse clustering [67.95910835079825]
我々はPCAに基づく新しいクラスタリングアルゴリズムの有限サンプル解析を行う。
ここでは,ミニマックス最適誤クラスタ化率を,体制$|theta infty$で達成することを示す。
論文 参考訳(メタデータ) (2020-05-21T17:51:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。