論文の概要: Approximate Bayesian inference from noisy likelihoods with Gaussian
process emulated MCMC
- arxiv url: http://arxiv.org/abs/2104.03942v2
- Date: Thu, 31 Aug 2023 15:46:04 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-01 21:37:43.295984
- Title: Approximate Bayesian inference from noisy likelihoods with Gaussian
process emulated MCMC
- Title(参考訳): MCMCを模擬したガウス過程による雑音可能性からの近似ベイズ推定
- Authors: Marko J\"arvenp\"a\"a, Jukka Corander
- Abstract要約: ガウス過程(GP)を用いた対数様関数をモデル化する。
主な方法論的革新は、正確なメトロポリス・ハスティングス(MH)サンプリングが行う進歩をエミュレートするためにこのモデルを適用することである。
得られた近似サンプリング器は概念的には単純で、試料効率が高い。
- 参考スコア(独自算出の注目度): 0.24275655667345403
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present a framework for approximate Bayesian inference when only a limited
number of noisy log-likelihood evaluations can be obtained due to computational
constraints, which is becoming increasingly common for applications of complex
models. We model the log-likelihood function using a Gaussian process (GP) and
the main methodological innovation is to apply this model to emulate the
progression that an exact Metropolis-Hastings (MH) sampler would take if it was
applicable. Informative log-likelihood evaluation locations are selected using
a sequential experimental design strategy until the MH accept/reject decision
is done accurately enough according to the GP model. The resulting approximate
sampler is conceptually simple and sample-efficient. It is also more robust to
violations of GP modelling assumptions compared with earlier, related "Bayesian
optimisation-like" methods tailored for Bayesian inference. We discuss some
theoretical aspects and various interpretations of the resulting approximate MH
sampler, and demonstrate its benefits in the context of Bayesian and
generalised Bayesian likelihood-free inference for simulator-based statistical
models.
- Abstract(参考訳): 複素モデルの応用においてますます一般的になりつつある計算制約により,限られた数のノイズのある対数的評価しか得られないようなベイズ近似の枠組みを提案する。
我々はgaussian process (gp) を用いてlog-likelihood関数をモデル化し,metropolis-hastings (mh) サンプリング器が適用可能であれば,その進展をエミュレートするためにこのモデルを適用した。
GPモデルに従ってMHの受け入れ/拒絶判定が十分正確に完了するまで、逐次的な実験設計戦略を用いて、インフォーマティブなログ様評価位置を選択する。
その結果得られる近似サンプラーは概念上シンプルでサンプル効率が良い。
また、以前のベイズ推論用に調整された関連する「ベイズ最適化様」手法と比較して、gpモデリング仮定の違反に対してより頑健である。
近似mhサンプラーの理論的側面と様々な解釈を考察し,シミュレータに基づく統計モデルのベイジアンおよび一般化ベイジアン確率自由推論の文脈でその利点を実証する。
関連論文リスト
- Conformal Approach To Gaussian Process Surrogate Evaluation With
Coverage Guarantees [47.22930583160043]
適応型クロスコンフォーマル予測区間を構築する手法を提案する。
結果として生じる共形予測区間は、ベイズ的信頼性集合に類似した適応性のレベルを示す。
原子炉の蒸気発生器における閉鎖現象の高コスト・評価シミュレータのサロゲートモデリングの文脈において, 本手法の適用可能性を示す。
論文 参考訳(メタデータ) (2024-01-15T14:45:18Z) - Diffusion models for probabilistic programming [56.47577824219207]
拡散モデル変分推論(DMVI)は確率型プログラミング言語(PPL)における自動近似推論手法である
DMVIは実装が容易で、例えば正規化フローを用いた変分推論の欠点を伴わずに、PPLでヘイズルフリー推論が可能であり、基礎となるニューラルネットワークモデルに制約を課さない。
論文 参考訳(メタデータ) (2023-11-01T12:17:05Z) - Calibrating Neural Simulation-Based Inference with Differentiable
Coverage Probability [50.44439018155837]
ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。
古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。
既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
論文 参考訳(メタデータ) (2023-10-20T10:20:45Z) - Fast post-process Bayesian inference with Variational Sparse Bayesian Quadrature [13.36200518068162]
本稿では,既存の目標密度評価から高速な後続近似を得る手段として,プロセス後ベイズ推定の枠組みを提案する。
この枠組みでは,ブラックボックスと潜在的ノイズの可能性のあるモデルに対して,プロセス後近似推定法である変分スパースベイズ近似(VSBQ)を導入する。
本手法は,計算神経科学による難解な合成シナリオと実世界の応用について検証する。
論文 参考訳(メタデータ) (2023-03-09T13:58:35Z) - Towards Practical Preferential Bayesian Optimization with Skew Gaussian
Processes [8.198195852439946]
本稿では,信頼度が2対比較に限定される優先ベイズ最適化(BO)について検討する。
優越性BOの重要な課題は、優越性ガウス過程(GP)モデルを用いてフレキシブルな選好構造を表現することである。
本研究では,高い計算効率と低いサンプル複雑性を両立させる新しい手法を開発し,その効果を広範囲な数値実験により実証する。
論文 参考訳(メタデータ) (2023-02-03T03:02:38Z) - Low-variance estimation in the Plackett-Luce model via quasi-Monte Carlo
sampling [58.14878401145309]
PLモデルにおいて,より標本効率の高い予測値を生成するための新しい手法を開発した。
Amazon MusicのリアルなレコメンデーションデータとYahooの学習からランクへの挑戦を理論的にも実証的にも使用しています。
論文 参考訳(メタデータ) (2022-05-12T11:15:47Z) - Robust Bayesian Inference for Simulator-based Models via the MMD
Posterior Bootstrap [13.448658162594604]
後部ブートストラップと最大平均誤差推定器に基づく新しいアルゴリズムを提案する。
これにより、強い性質を持つ高パラレライズ可能なベイズ推論アルゴリズムが導かれる。
このアプローチは、g-and-k分布やトグル・スウィッチモデルなど、さまざまな例に基づいて評価される。
論文 参考訳(メタデータ) (2022-02-09T22:12:19Z) - Sampling from Arbitrary Functions via PSD Models [55.41644538483948]
まず確率分布をモデル化し,そのモデルからサンプリングする。
これらのモデルでは, 少数の評価値を用いて, 高精度に多数の密度を近似することが可能であることが示され, それらのモデルから効果的にサンプルする簡単なアルゴリズムが提示される。
論文 参考訳(メタデータ) (2021-10-20T12:25:22Z) - Likelihood-Free Inference with Deep Gaussian Processes [70.74203794847344]
サーロゲートモデルは、シミュレータ評価の回数を減らすために、可能性のない推論に成功している。
本稿では,より不規則な対象分布を扱えるディープガウス過程(DGP)サロゲートモデルを提案する。
本実験は,DGPがマルチモーダル分布を持つ目的関数上でGPよりも優れ,単調な場合と同等の性能を維持できることを示す。
論文 参考訳(メタデータ) (2020-06-18T14:24:05Z) - Robust Gaussian Process Regression with a Bias Model [0.6850683267295248]
既存のほとんどのアプローチは、重い尾の分布から誘導される非ガウス的確率に、外れやすいガウス的確率を置き換えるものである。
提案手法は、未知の回帰関数の雑音および偏りの観測として、外れ値をモデル化する。
バイアス推定に基づいて、ロバストなGP回帰を標準のGP回帰問題に還元することができる。
論文 参考訳(メタデータ) (2020-01-14T06:21:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。