論文の概要: Unbiased constrained sampling with Self-Concordant Barrier Hamiltonian
Monte Carlo
- arxiv url: http://arxiv.org/abs/2210.11925v2
- Date: Fri, 2 Jun 2023 09:33:39 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-05 20:46:52.198485
- Title: Unbiased constrained sampling with Self-Concordant Barrier Hamiltonian
Monte Carlo
- Title（参考訳）: 自己調和型バリアハミルトニアンモンテカルロによる非バイアス制約サンプリング
- Authors: Maxence Noble, Valentin De Bortoli, Alain Durmus
- Abstract要約: Barrier Hamiltonian Monte Carlo (BHMC) は、多様体 $mathrmM$ 上の Gibbs 分布 $pi$ からサンプリングすることを目的とした HMC アルゴリズムのバージョンである。
本稿では,この問題に対処するため,新たなフィルタステップである"進化チェックステップ"を提案する。
我々の主な結果は、これらの2つの新しいアルゴリズムが$pi$に対して可逆的なマルコフ連鎖を生成し、以前の実装と比較してバイアスに悩まされないことを証明している。
- 参考スコア（独自算出の注目度）: 14.499542196528006
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we propose Barrier Hamiltonian Monte Carlo (BHMC), a version
of the HMC algorithm which aims at sampling from a Gibbs distribution $\pi$ on
a manifold $\mathrm{M}$, endowed with a Hessian metric $\mathfrak{g}$ derived
from a self-concordant barrier. Our method relies on Hamiltonian dynamics which
comprises $\mathfrak{g}$. Therefore, it incorporates the constraints defining
$\mathrm{M}$ and is able to exploit its underlying geometry. However, the
corresponding Hamiltonian dynamics is defined via non separable Ordinary
Differential Equations (ODEs) in contrast to the Euclidean case. It implies
unavoidable bias in existing generalization of HMC to Riemannian manifolds. In
this paper, we propose a new filter step, called "involution checking step", to
address this problem. This step is implemented in two versions of BHMC, coined
continuous BHMC (c-BHMC) and numerical BHMC (n-BHMC) respectively. Our main
results establish that these two new algorithms generate reversible Markov
chains with respect to $\pi$ and do not suffer from any bias in comparison to
previous implementations. Our conclusions are supported by numerical
experiments where we consider target distributions defined on polytopes.
- Abstract（参考訳）: 本稿では, hmcアルゴリズムのバージョンであるバリア・ハミルトン・モンテカルロ(bhmc)を提案する。これは,多様体上のギブス分布から$\pi$をサンプリングすることを目的としたもので, 自己一致障壁から導出されるヘッセン計量 $\mathfrak{g}$ を付与するものである。
我々の方法は、$\mathfrak{g}$からなるハミルトン力学に依存する。
したがって、$\mathrm{M}$を定義する制約を取り入れ、その基礎となる幾何学を活用できる。
しかし、対応するハミルトン力学はユークリッドの場合とは対照的に非分離正規微分方程式(ODE)によって定義される。
これは、HMC のリーマン多様体への既存の一般化における避けられないバイアスを意味する。
本稿では,この問題に対処するため,新しいフィルタステップである「進化チェックステップ」を提案する。
このステップは、連続BHMC(c-BHMC)と数値BHMC(n-BHMC)の2つのバージョンで実装されている。
我々の主な結果は、これらの2つの新しいアルゴリズムが$\pi$に関して可逆マルコフ連鎖を生成し、以前の実装と比較してバイアスを負わないことを示しています。
この結論は,ポリトープ上で定義される対象分布を考える数値実験によって裏付けられている。
関連論文リスト
- Provable Benefit of Annealed Langevin Monte Carlo for Non-log-concave Sampling [28.931489333515618]
簡単なアニール型Langevin Monte Carloアルゴリズムに対して$widetildeOleft(fracdbeta2cal A2varepsilon6right)のオラクル複雑性を確立する。
例えば、$cal A$ は対象分布 $pi$ と容易にサンプリング可能な分布を補間する確率測度の曲線の作用を表す。
論文 参考訳（メタデータ） (2024-07-24T02:15:48Z) - A Symplectic Analysis of Alternating Mirror Descent [11.117320730408272]
シンプレクティック・オイラー法による連続時間ハミルトン流の離散化について検討する。
段数の順序で切り詰められたとき、修正されたハミルトン多様体上の新しい誤差境界を導出する。
もし本当なら、AMDの完全後悔は$mathcalOleft(K-1+varepsilonright)$、平均反復の双対性ギャップは$mathcalOleft(K-1+varepsilonright)$、任意の$varepsilon>0$であることを意味する。
論文 参考訳（メタデータ） (2024-05-06T13:47:09Z) - Efficient Sampling on Riemannian Manifolds via Langevin MCMC [51.825900634131486]
本稿では,Gibs 分布 $d pi* = eh d vol_g$ over aian manifold $M$ via (geometric) Langevin MCMC。
この結果は、$pi*$ が非指数的であり、$Mh$ が負のリッチ曲率を持つような一般的な設定に適用できる。
論文 参考訳（メタデータ） (2024-02-15T22:59:14Z) - When does Metropolized Hamiltonian Monte Carlo provably outperform
Metropolis-adjusted Langevin algorithm? [4.657614491309671]
本研究では, 磁化ハミルトン・モンテカルロ (HMC) と跳躍フロッグ積分器の混合時間について解析した。
連続HMC力学の離散化における位置と速度変数の結合分布は, ほぼ不変であることを示す。
論文 参考訳（メタデータ） (2023-04-10T17:35:57Z) - Sampling with Barriers: Faster Mixing via Lewis Weights [8.701566919381223]
凸障壁関数のヘシアンによって定義される計量により、$Rn$の$m$不等式で定義されるポリトープを解析する。
RHMCのボールウォーク、ヒット・アンド・ラン、ダイキンウォークといったユークリッド法に対する利点は、より長いステップを踏む能力にある。
論文 参考訳（メタデータ） (2023-03-01T13:09:47Z) - Statistical Learning under Heterogeneous Distribution Shift [71.8393170225794]
ground-truth predictor is additive $mathbbE[mathbfz mid mathbfx,mathbfy] = f_star(mathbfx) +g_star(mathbfy)$.
論文 参考訳（メタデータ） (2023-02-27T16:34:21Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳（メタデータ） (2021-09-24T14:48:20Z) - An Introduction to Hamiltonian Monte Carlo Method for Sampling [26.555110725656963]
Hamiltonian Monte Carlo (HMC) は、Gibs密度$pi(x)propto e-f(x)$からサンプリングするハミルトン力学に着想を得たアルゴリズムである。
理想化された HMC は$pi$ を保持し、$f$ が強く凸かつ滑らかなときにその収束を確立する。
論文 参考訳（メタデータ） (2021-08-27T03:28:20Z) - Orbital MCMC [82.54438698903775]
任意の微分同相写像から周期軌道を構築するための2つの実用的なアルゴリズムを提案する。
また,両カーネルの実用的メリットを実証した実証的研究を行った。
論文 参考訳（メタデータ） (2020-10-15T22:25:52Z) - Sample Complexity of Asynchronous Q-Learning: Sharper Analysis and
Variance Reduction [63.41789556777387]
非同期Q-ラーニングはマルコフ決定過程(MDP)の最適行動値関数(またはQ-関数)を学習することを目的としている。
Q-関数の入出力$varepsilon$-正確な推定に必要なサンプルの数は、少なくとも$frac1mu_min (1-gamma)5varepsilon2+ fract_mixmu_min (1-gamma)$の順である。
論文 参考訳（メタデータ） (2020-06-04T17:51:00Z) - A diffusion approach to Stein's method on Riemannian manifolds [65.36007959755302]
我々は、ターゲット不変測度を持つ$mathbf M$上の拡散の生成元と、その特徴付けStein演算子との関係を利用する。
我々は、スタイン方程式とその微分に解を束縛するスタイン因子を導出する。
我々は、$mathbf M$ が平坦多様体であるとき、$mathbb Rm$ の有界が有効であることを暗示する。
論文 参考訳（メタデータ） (2020-03-25T17:03:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。