論文の概要: Sampling the Funnel: A Comprehensive Survey of Hamiltonian Monte Carlo for Hierarchical Bayesian Inference
- arxiv url: http://arxiv.org/abs/2611.15634v1
- Date: Wed, 11 Nov 2026 15:47:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.185818
- Title: Sampling the Funnel: A Comprehensive Survey of Hamiltonian Monte Carlo for Hierarchical Bayesian Inference
- Title(参考訳): ファンネルのサンプリング:階層ベイズ推論のためのハミルトン・モンテカルロの包括的調査
- Abstract要約: 本調査では、汎用HMCを組織化フレームワークとして、HMCの多くの変種を記述する。
我々はこれらの変種をチューニングおよび診断に使用する手順とともにレビューし、特に有効なサンプルサイズに注目した。
我々はこれらの手法が階層モデルに対して直面するオープンな問題に近づき、連立長手および時間対イベントモデルをモチベーションの例として取り上げる。
- 参考スコア(独自算出の注目度): 0.4970364068620607
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Hierarchical models are central to applied Bayesian statistics, yet the variance structures they depend on can produce posterior geometries that remain difficult to explore even with Hamiltonian Monte Carlo (HMC), a designation now covering a large and increasingly heterogeneous family of algorithms. This survey uses Generalized HMC as an organizing framework to describe the many variants of HMC, their methodological and computational properties, and their empirical consequences. Varying the trajectory length, the degree of momentum refreshment, and the presence of a Metropolis correction recovers several familiar Hamiltonian and Langevin samplers as special cases. Three further, largely independent directions account for much of the remaining literature: modifying the metric, as in Riemannian HMC; modifying the Hamiltonian used by the acceptance test, as in modified or shadow HMC; and modifying the numerical integrator, as in multi-stage splitting schemes. We review these variants alongside the procedures used to tune and diagnose them, with particular attention to the effective sample size, whose standard estimators assume a reversibility that generalized and modified samplers lack, and ignore the importance weights that modified Hamiltonians introduce. We close with the open problems these methods face for hierarchical models, taking joint longitudinal and time-to-event models as the motivating example.
- Abstract(参考訳): 階層モデルはベイズ統計の適用の中心であるが、それらに依存する分散構造は、ハミルトン・モンテ・カルロ (HMC) でさえ探索が難しい後続の測地線を生成することができる。
この調査では、一般化されたHMCを組織化フレームワークとして、HMCの多くの変種、その方法論的および計算的性質、そしてそれらの経験的結果を記述する。
軌跡の長さ、運動量リフレッシュの度合い、メトロポリス補正の存在は、特別な場合として、いくつかのよく知られたハミルトンとランゲヴィンのサンプルを回収する。
さらに3つの独立した方向は、リーマン HMC のようにメートル法を変更すること、修正された HMC やシャドウ HMC のように受け入れテストで使われるハミルトニアンを変更すること、多段分割方式のように数値積分器を変更することなど、残りの文献の多くを主に独立している。
我々はこれらの変種をチューニングおよび診断に使用する手順とともにレビューし、特に有効なサンプルサイズに注目し、標準推定器は一般化および修正標本作成者が欠如する可逆性を仮定し、修正ハミルトンアンが導入する重みを無視する。
我々はこれらの手法が階層モデルに対して直面するオープンな問題に近づき、連立長手および時間対イベントモデルをモチベーションの例として取り上げる。
関連論文リスト
- Repelling-Attracting Hamiltonian Monte Carlo [0.8158530638728501]
我々は、ハミルトニアンモンテカルロの変種(Repelling-Attracting Hamiltonian Monte Carlo (RAHMC))を提案する。
RAHMCには2つのステージがある: サンプルが高確率密度の領域から遠ざかるように促すモード推進段階と、サンプルが代替モードに近づいたり落ち着いたりするためのモード抽出段階である。
論文 参考訳(メタデータ) (2024-03-07T15:54:55Z) - Unbiasing time-dependent Variational Monte Carlo by projected quantum
evolution [44.99833362998488]
量子系を古典的にシミュレートするためのモンテカルロ変分法(英語版)の精度とサンプルの複雑さを解析する。
時間依存変分モンテカルロ(tVMC)が最もよく用いられるスキームは、体系的な統計的バイアスによって影響を受けることを証明している。
本稿では,各段階における最適化問題の解法に基づく異なるスキームが,そのような問題から解放されていることを示す。
論文 参考訳(メタデータ) (2023-05-23T17:38:10Z) - Eryn : A multi-purpose sampler for Bayesian inference [0.0]
tt Erynはベイズ推論のためのユーザフレンドリーで多目的なツールボックスである。
本稿では, このサンプルパッケージについて述べるとともに, 様々なユースケースにおけるその機能について述べる。
論文 参考訳(メタデータ) (2023-03-03T12:45:03Z) - Reconstructing the Universe with Variational self-Boosted Sampling [7.922637707393503]
ハミルトニアン・モンテカルロ (HMC) のような伝統的なアルゴリズムは、相関サンプルを生成するために計算的に非効率である。
本稿では,両アルゴリズムの欠点を軽減するために,変分自己ブーストサンプリング(VBS)と呼ばれるハイブリッド方式を開発する。
VBSは、単純なVIアプローチよりも優れた品質のサンプルを生成し、HMCのみを用いてサンプリングフェーズの相関長を10~50倍に削減する。
論文 参考訳(メタデータ) (2022-06-28T21:30:32Z) - Learning Hidden Markov Models When the Locations of Missing Observations
are Unknown [54.40592050737724]
本研究では、未知の観測位置を持つデータからHMMを学習する際の一般的な問題について考察する。
我々は、下層の鎖の構造に関する仮定を一切必要としない再構成アルゴリズムを提供する。
適切な仕様の下では、プロセスのダイナミクスを再構築でき、また、見当たらない観測位置が分かっていたとしても、その有効性を示す。
論文 参考訳(メタデータ) (2022-03-12T22:40:43Z) - Riemannian Score-Based Generative Modeling [56.20669989459281]
経験的性能を示すスコアベース生成モデル(SGM)を紹介する。
現在のSGMは、そのデータが平坦な幾何学を持つユークリッド多様体上で支えられているという前提を定めている。
これにより、ロボット工学、地球科学、タンパク質モデリングの応用にこれらのモデルを使用することができない。
論文 参考訳(メタデータ) (2022-02-06T11:57:39Z) - Post-mortem on a deep learning contest: a Simpson's paradox and the
complementary roles of scale metrics versus shape metrics [61.49826776409194]
我々は、ニューラルネットワーク(NN)モデルの一般化精度を予測するために、コンテストで公に利用可能にされたモデルのコーパスを分析する。
メトリクスが全体としてよく機能するが、データのサブパーティションではあまり機能しない。
本稿では,データに依存しない2つの新しい形状指標と,一連のNNのテスト精度の傾向を予測できるデータ依存指標を提案する。
論文 参考訳(メタデータ) (2021-06-01T19:19:49Z) - What Are Bayesian Neural Network Posteriors Really Like? [63.950151520585024]
ハミルトニアンモンテカルロは、標準およびディープアンサンブルよりも大きな性能向上を達成できることを示す。
また,深部分布は標準SGLDとHMCに類似しており,標準変動推論に近いことが示された。
論文 参考訳(メタデータ) (2021-04-29T15:38:46Z) - On MCMC for variationally sparse Gaussian processes: A pseudo-marginal
approach [0.76146285961466]
ガウス過程(GP)は、機械学習や統計学において強力なモデルを構築するために頻繁に用いられる。
本稿では,2重推定器による確率と大規模データセットの正確な推測と計算的ゲインを提供する擬似マージナル(PM)方式を提案する。
論文 参考訳(メタデータ) (2021-03-04T20:48:29Z) - A Class of Conjugate Priors for Multinomial Probit Models which Includes
the Multivariate Normal One [0.3553493344868413]
統一スキュー正規分布(SUN)のクラス全体は、複数の多重項プロビットモデルに共役していることを示す。
後部推論と分類のための最先端の解法を改善する。
論文 参考訳(メタデータ) (2020-07-14T10:08:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。