論文の概要: PyVBMC: Efficient Bayesian inference in Python
- arxiv url: http://arxiv.org/abs/2303.09519v2
- Date: Tue, 27 Jun 2023 20:14:04 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-29 18:01:35.731980
- Title: PyVBMC: Efficient Bayesian inference in Python
- Title(参考訳): PyVBMC:Pythonにおける効率的なベイズ推論
- Authors: Bobby Huggins, Chengkun Li, Marlon Tobaben, Mikko J. Aarnos, Luigi
Acerbi
- Abstract要約: PyVBMCは、後方およびモデル推論のための変分ベイズモンテカルロ (VBMC) アルゴリズムのPython実装である。
VBMCは、モデル評価が軽度から極端に高価である場合に、効率的なパラメータ推定とモデル評価のために設計されている。
- 参考スコア(独自算出の注目度): 8.924669503280333
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: PyVBMC is a Python implementation of the Variational Bayesian Monte Carlo
(VBMC) algorithm for posterior and model inference for black-box computational
models (Acerbi, 2018, 2020). VBMC is an approximate inference method designed
for efficient parameter estimation and model assessment when model evaluations
are mildly-to-very expensive (e.g., a second or more) and/or noisy.
Specifically, VBMC computes:
- a flexible (non-Gaussian) approximate posterior distribution of the model
parameters, from which statistics and posterior samples can be easily
extracted;
- an approximation of the model evidence or marginal likelihood, a metric
used for Bayesian model selection.
PyVBMC can be applied to any computational or statistical model with up to
roughly 10-15 continuous parameters, with the only requirement that the user
can provide a Python function that computes the target log likelihood of the
model, or an approximation thereof (e.g., an estimate of the likelihood
obtained via simulation or Monte Carlo methods). PyVBMC is particularly
effective when the model takes more than about a second per evaluation, with
dramatic speed-ups of 1-2 orders of magnitude when compared to traditional
approximate inference methods.
Extensive benchmarks on both artificial test problems and a large number of
real models from the computational sciences, particularly computational and
cognitive neuroscience, show that VBMC generally - and often vastly -
outperforms alternative methods for sample-efficient Bayesian inference, and is
applicable to both exact and simulator-based models (Acerbi, 2018, 2019, 2020).
PyVBMC brings this state-of-the-art inference algorithm to Python, along with
an easy-to-use Pythonic interface for running the algorithm and manipulating
and visualizing its results.
- Abstract(参考訳): PyVBMCは変分ベイズ的モンテカルロ(VBMC)アルゴリズムのPythonによるブラックボックス計算モデルの後方およびモデル推論の実装である(Acerbi, 2018, 2020)。
vbmcは、モデル評価が比較的高価(例えば、1秒以上)かつ/または騒がしい場合に、効率的なパラメータ推定とモデル評価のために設計された近似推論手法である。
具体的には、vbmcが計算する: - モデルパラメータの柔軟な(非ガウス的)後方分布で、統計と後方サンプルを容易に抽出できる。
pyvbmcは、およそ10~15の連続パラメータを持つ任意の計算モデルや統計モデルに適用することができ、モデルのターゲットログの確率を計算するpython関数や、その近似(シミュレーションやモンテカルロ法によって得られる可能性の推定など)を提供する唯一の要件である。
pyvbmcは、モデルが1評価に約1秒以上かかる場合に特に効果的であり、従来の近似推定法と比較して、劇的なスピードアップは1-2桁である。
人工的なテスト問題と、計算科学、特に計算と認知の神経科学からの多数の実モデルに関する広範囲なベンチマークは、VBMCが一般的に、サンプル効率のよいベイズ推論の代替手法よりも優れており、正確なモデルとシミュレータベースのモデル(Acerbi, 2018, 2019, 2020)にも適用可能であることを示している。
PyVBMCは、この最先端推論アルゴリズムをPythonに導入し、アルゴリズムを実行し、結果を操作し、視覚化するための、使い易いPythonicインターフェースを提供する。
関連論文リスト
- Computation-Aware Gaussian Processes: Model Selection And Linear-Time Inference [55.150117654242706]
我々は、1.8万のデータポイントでトレーニングされた計算対応GPのモデル選択が、1つのGPU上で数時間以内に可能であることを示す。
この研究の結果、ガウス過程は、不確実性を定量化する能力を著しく妥協することなく、大規模なデータセットで訓練することができる。
論文 参考訳(メタデータ) (2024-11-01T21:11:48Z) - Scalable Inference for Bayesian Multinomial Logistic-Normal Dynamic Linear Models [0.5735035463793009]
この記事では、$textitFenrir$と呼ばれる、後続状態推定に対する効率的で正確なアプローチを開発します。
我々の実験から、フェンリルはスタンよりも3桁効率が良いことが示唆された。
当社のメソッドは,C++で記述されたユーザフレンドリなソフトウェアライブラリとして,Rインターフェースを備えたコミュニティで利用可能です。
論文 参考訳(メタデータ) (2024-10-07T23:20:14Z) - Simulation-based inference with the Python Package sbijax [0.7499722271664147]
sbijaxは、ニューラルネットワークベースの推論に様々な最先端のメソッドを実装するPythonパッケージである。
このパッケージはベイズ近似計算の機能を提供し、モデル診断を計算し、自動的に要約統計を推定する。
論文 参考訳(メタデータ) (2024-09-28T18:47:13Z) - Poisson Process for Bayesian Optimization [126.51200593377739]
本稿では、Poissonプロセスに基づくランキングベースの代理モデルを提案し、Poisson Process Bayesian Optimization(PoPBO)と呼ばれる効率的なBOフレームワークを提案する。
従来のGP-BO法と比較すると,PoPBOはコストが低く,騒音に対する堅牢性も良好であり,十分な実験により検証できる。
論文 参考訳(メタデータ) (2024-02-05T02:54:50Z) - Sparse high-dimensional linear regression with a partitioned empirical
Bayes ECM algorithm [62.997667081978825]
疎高次元線形回帰に対する計算効率が高く強力なベイズ的手法を提案する。
パラメータに関する最小の事前仮定は、プラグイン経験的ベイズ推定(英語版)を用いて用いられる。
提案手法はRパッケージプローブに実装されている。
論文 参考訳(メタデータ) (2022-09-16T19:15:50Z) - Model Comparison in Approximate Bayesian Computation [0.456877715768796]
自然科学における一般的な問題は、観測されたデータに照らして競合するモデルの比較である。
この枠組みは、実際に使用されるほとんどのモデルにとって難解な確率関数の計算に依存している。
ABCにおけるベイズモデルの比較を行うための新しい効率的な手法を提案する。
論文 参考訳(メタデータ) (2022-03-15T10:24:16Z) - MoEfication: Conditional Computation of Transformer Models for Efficient
Inference [66.56994436947441]
トランスフォーマーベースの事前学習言語モデルは、パラメータ容量が大きいため、ほとんどのNLPタスクにおいて優れた性能を実現することができるが、計算コストも大きい。
スパースアクティベーション現象に基づく条件計算により,大規模モデル推論を高速化する。
そこで本研究では,モデルサイズが等しいMoE(Mix-of-experts)バージョン,すなわちMoEficationに変換することを提案する。
論文 参考訳(メタデータ) (2021-10-05T02:14:38Z) - Evaluating State-of-the-Art Classification Models Against Bayes
Optimality [106.50867011164584]
正規化フローを用いて学習した生成モデルのベイズ誤差を正確に計算できることを示す。
われわれの手法を用いて、最先端の分類モデルについて徹底的な調査を行う。
論文 参考訳(メタデータ) (2021-06-07T06:21:20Z) - Fast Bayesian Estimation of Spatial Count Data Models [0.0]
シミュレーション問題ではなく最適化問題として変分ベイズ(VB)を導入する。
VB法は、観測されていないパラメータと空間依存性を持つ負二項モデルにおける後部推論のために導出される。
VBアプローチは、シミュレーションと経験的研究において、通常の8コアプロセッサ上でのMCMCの約45倍から50倍高速である。
論文 参考訳(メタデータ) (2020-07-07T10:24:45Z) - Variational Bayesian Monte Carlo with Noisy Likelihoods [11.4219428942199]
我々は、期待情報ゲイン(EIG)や変動間距離(VIQR)など、新たなグローバルな'取得機能を導入する。
VBMC+VIQRは、接地トラス後部とモデル証拠の回収における最先端の性能を達成する。
論文 参考訳(メタデータ) (2020-06-15T18:06:18Z) - Nonparametric Estimation in the Dynamic Bradley-Terry Model [69.70604365861121]
カーネルのスムース化に依存する新しい推定器を開発し、時間とともにペア比較を前処理する。
モデルに依存しない設定における推定誤差と余剰リスクの両方について時間変化のオラクル境界を導出する。
論文 参考訳(メタデータ) (2020-02-28T21:52:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。