論文の概要: Stacking Variational Bayesian Monte Carlo
- arxiv url: http://arxiv.org/abs/2504.05004v3
- Date: Mon, 10 Nov 2025 11:18:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-11 14:55:59.90402
- Title: Stacking Variational Bayesian Monte Carlo
- Title(参考訳): スタッキング変分ベイジアンモンテカルロ
- Authors: Francesco Silvestrin, Chengkun Li, Luigi Acerbi,
- Abstract要約: Stacking Variational Bayesian Monte Carlo (S-VBMC)は、複数の独立ランからの頑健で大域的な後部近似である。
S-VBMCは追加の可能性評価を必要とせず、自然に並列化可能であり、既存の推論にシームレスに適合する。
VBMCの探索に挑戦するために設計された2つの合成問題と、計算神経科学による実世界の2つの応用について、その効果を実証する。
- 参考スコア(独自算出の注目度): 8.142475906260785
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Approximate Bayesian inference for models with computationally expensive, black-box likelihoods poses a significant challenge, especially when the posterior distribution is complex. Many inference methods struggle to explore the parameter space efficiently under a limited budget of likelihood evaluations. Variational Bayesian Monte Carlo (VBMC) is a sample-efficient method that addresses this by building a local surrogate model of the log-posterior. However, its conservative exploration strategy, while promoting stability, can cause it to miss important regions of the posterior, such as distinct modes or long tails. In this work, we introduce Stacking Variational Bayesian Monte Carlo (S-VBMC), a method that overcomes this limitation by constructing a robust, global posterior approximation from multiple independent VBMC runs. Our approach merges these local approximations through a principled and inexpensive post-processing step that leverages VBMC's mixture posterior representation and per-component evidence estimates. Crucially, S-VBMC requires no additional likelihood evaluations and is naturally parallelisable, fitting seamlessly into existing inference workflows. We demonstrate its effectiveness on two synthetic problems designed to challenge VBMC's exploration and two real-world applications from computational neuroscience, showing substantial improvements in posterior approximation quality across all cases. Our code is available as a Python package at https://github.com/acerbilab/svbmc.
- Abstract(参考訳): 計算に高価でブラックボックスの確率を持つモデルに対する近似ベイズ推定は、特に後部分布が複雑である場合、大きな課題となる。
多くの推論手法は、可能性評価の限られた予算の下でパラメータ空間を効率的に探索するのに苦労する。
変分ベイジアンモンテカルロ (VBMC) は、対数ポストの局所的な代理モデルを構築することでこの問題に対処するサンプル効率のよい手法である。
しかし、その保守的な探査戦略は、安定性を促進する一方で、異なるモードや長い尾のような後方の重要な領域を見逃す可能性がある。
本稿では,複数の独立なVBMCランから,ロバストで大域的な後続近似を構築することにより,この制限を克服する手法であるStacking Variational Bayesian Monte Carlo(S-VBMC)を紹介する。
提案手法は,VBMCの後続表現と成分当たりのエビデンス推定を併用した,原理的かつ安価な後処理ステップを通じて,これらの局所近似をマージする。
重要なことは、S-VBMCは追加の可能性評価を必要とせず、自然に並列化可能であり、既存の推論ワークフローにシームレスに適合する。
VBMCの探索に挑戦するために設計された2つの合成問題と、計算神経科学による実世界の2つの応用に有効であることを示す。
私たちのコードは、https://github.com/acerbilab/svbmc.comでPythonパッケージとして利用可能です。
関連論文リスト
- Combinatorial Multivariant Multi-Armed Bandits with Applications to Episodic Reinforcement Learning and Beyond [58.39457881271146]
CMAB(Multi-armed bandits)の多変量および確率的トリガーアーム(CMAB-MT)を用いた新しい枠組みを導入する。
CMAB-MTは既存のCMABと比べ、モデリング能力を高めるだけでなく、多変量確率変数の異なる統計特性を活用することで結果を改善することができる。
本フレームワークは, エピソード強化学習(RL)や商品分布の確率的最大カバレッジなど, 応用として多くの重要な問題を含むことができる。
論文 参考訳(メタデータ) (2024-06-03T14:48:53Z) - Accelerating Look-ahead in Bayesian Optimization: Multilevel Monte Carlo is All you Need [5.283807323380133]
マルチレベルモンテカルロ(MLCBOC)は標準MC収束率を達成することができる。
理論的研究は、2段階および3段階のルックアヘッド獲得関数の近似改善に焦点を当てている。
本研究は数値的に検証し,いくつかのベンチマーク例でBOに対するCBOCの利点を示す。
論文 参考訳(メタデータ) (2024-02-03T10:24:30Z) - Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳(メタデータ) (2023-12-19T21:45:38Z) - Fast post-process Bayesian inference with Variational Sparse Bayesian Quadrature [13.36200518068162]
本稿では,既存の目標密度評価から高速な後続近似を得る手段として,プロセス後ベイズ推定の枠組みを提案する。
この枠組みでは,ブラックボックスと潜在的ノイズの可能性のあるモデルに対して,プロセス後近似推定法である変分スパースベイズ近似(VSBQ)を導入する。
本手法は,計算神経科学による難解な合成シナリオと実世界の応用について検証する。
論文 参考訳(メタデータ) (2023-03-09T13:58:35Z) - GEC: A Unified Framework for Interactive Decision Making in MDP, POMDP,
and Beyond [101.5329678997916]
対話型意思決定の一般的な枠組みの下で, サンプル高能率強化学習(RL)について検討した。
本稿では,探索とエクスプロイトの基本的なトレードオフを特徴付ける,新しい複雑性尺度である一般化エルダー係数(GEC)を提案する。
低 GEC の RL 問題は非常にリッチなクラスであり、これは低ベルマン楕円体次元問題、双線型クラス、低証人ランク問題、PO-双線型クラス、一般化正規PSR を仮定する。
論文 参考訳(メタデータ) (2022-11-03T16:42:40Z) - Cyclical Variational Bayes Monte Carlo for Efficient Multi-Modal
Posterior Distributions Evaluation [0.0]
変分推論は、後方近似を推定するためのサンプリング方法の代替手法である。
変分ベイジアンモンテカルロ法 (VBMC) は, 統計モデル更新問題に対処する目的で検討されている。
論文 参考訳(メタデータ) (2022-02-23T17:31:42Z) - Parallel MCMC Without Embarrassing Failures [19.429985676081618]
MCMCはデータパーティションで定義された(サブ)後続体上で並列に実行される。
効率的ではあるが、このフレームワークは後部サンプリングの品質に非常に敏感である。
我々はこの問題を緩和するための新しい組み合わせ戦略を提案する。
論文 参考訳(メタデータ) (2022-02-22T20:17:46Z) - Harnessing Heterogeneity: Learning from Decomposed Feedback in Bayesian
Modeling [68.69431580852535]
サブグループフィードバックを取り入れた新しいGPレグレッションを導入する。
我々の修正された回帰は、以前のアプローチと比べて、明らかにばらつきを減らし、したがってより正確な後続を減らした。
我々は2つの異なる社会問題に対してアルゴリズムを実行する。
論文 参考訳(メタデータ) (2021-07-07T03:57:22Z) - Scalable Bayesian Inverse Reinforcement Learning [93.27920030279586]
我々はAVRIL(Adroximate Variational Reward Imitation Learning)を紹介する。
本手法は,逆強化学習問題の誤った性質に対処する。
本手法を従来の制御シミュレーションと並行して実際の医療データに適用し,現在の手法の範囲を超えた環境におけるベイズ報酬推論を実証する。
論文 参考訳(メタデータ) (2021-02-12T12:32:02Z) - Stein Variational Model Predictive Control [130.60527864489168]
不確実性の下での意思決定は、現実の自律システムにとって極めて重要である。
モデル予測制御 (MPC) 法は, 複雑な分布を扱う場合, 適用範囲が限られている。
この枠組みが、挑戦的で非最適な制御問題における計画の成功に繋がることを示す。
論文 参考訳(メタデータ) (2020-11-15T22:36:59Z) - Fast Bayesian Estimation of Spatial Count Data Models [0.0]
シミュレーション問題ではなく最適化問題として変分ベイズ(VB)を導入する。
VB法は、観測されていないパラメータと空間依存性を持つ負二項モデルにおける後部推論のために導出される。
VBアプローチは、シミュレーションと経験的研究において、通常の8コアプロセッサ上でのMCMCの約45倍から50倍高速である。
論文 参考訳(メタデータ) (2020-07-07T10:24:45Z) - Variational Bayesian Monte Carlo with Noisy Likelihoods [11.4219428942199]
我々は、期待情報ゲイン(EIG)や変動間距離(VIQR)など、新たなグローバルな'取得機能を導入する。
VBMC+VIQRは、接地トラス後部とモデル証拠の回収における最先端の性能を達成する。
論文 参考訳(メタデータ) (2020-06-15T18:06:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。