論文の概要: Approximate Bayesian inference from noisy likelihoods with Gaussian process emulated MCMC

• arxiv url: http://arxiv.org/abs/2104.03942v1
• Date: Thu, 8 Apr 2021 17:38:02 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-09 12:52:20.761288
• Title: Approximate Bayesian inference from noisy likelihoods with Gaussian process emulated MCMC
• Title（参考訳）: MCMCを模擬したガウス過程による雑音可能性からの近似ベイズ推定
• Authors: Marko J\"arvenp\"a\"a, Jukka Corander
• Abstract要約: 提案手法は, 限定的な確率評価しか得られない場合, 近似ベイズ推定を行うための効率的な手法である。 我々は,gaussian process (gp) を用いてlog-likelihood関数を局所的にモデル化し,metropolis-hastings (mh) アルゴリズムが適用可能であれば,その進展をエミュレートするためにこのモデルを適用した。
• 参考スコア（独自算出の注目度）: 2.6233054799603197
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We present an efficient approach for doing approximate Bayesian inference when only a limited number of noisy likelihood evaluations can be obtained due to computational constraints, which is becoming increasingly common for applications of complex models. Our main methodological innovation is to model the log-likelihood function using a Gaussian process (GP) in a local fashion and apply this model to emulate the progression that an exact Metropolis-Hastings (MH) algorithm would take if it was applicable. New log-likelihood evaluation locations are selected using sequential experimental design strategies such that each MH accept/reject decision is done within a pre-specified error tolerance. The resulting approach is conceptually simple and sample-efficient as it takes full advantage of the GP model. It is also more robust to violations of GP modelling assumptions and better suited for the typical situation where the posterior is substantially more concentrated than the prior, compared with various existing inference methods based on global GP surrogate modelling. We discuss the probabilistic interpretations and central theoretical aspects of our approach, and we then demonstrate the benefits of the resulting algorithm in the context of likelihood-free inference for simulator-based statistical models.
• Abstract（参考訳）: 複素モデルの応用においてますます一般的になりつつある計算制約により、限られたノイズ可能性評価しか得られない場合に、近似ベイズ推定を効率的に行う方法を提案する。 提案手法は,gaussian process (gp) を用いたlog-likelihood関数を局所的にモデル化し,metropolis-hastings (mh) アルゴリズムが適用可能であれば,その進展をエミュレートする手法である。 予め特定されたエラー許容範囲内で、各MHの受け入れ/拒絶判定を行うような逐次的な設計戦略を用いて、新しいログ状評価位置を選択する。 その結果得られたアプローチは、gpモデルを完全に活用するため、概念的にはシンプルでサンプル効率がよい。 また、GPモデリングの仮定違反に対してより堅牢であり、グローバルGPサロゲートモデリングに基づく様々な既存の推論手法と比較して、後方が前よりもかなり集中している典型的な状況に適している。 提案手法の確率論的解釈と中央理論的な側面を考察し,シミュレータに基づく統計モデルにおける確率的推論の文脈における結果アルゴリズムの利点を実証する。

関連論文リスト

• Conformal Approach To Gaussian Process Surrogate Evaluation With Coverage Guarantees [47.22930583160043]
  適応型クロスコンフォーマル予測区間を構築する手法を提案する。 結果として生じる共形予測区間は、ベイズ的信頼性集合に類似した適応性のレベルを示す。 原子炉の蒸気発生器における閉鎖現象の高コスト・評価シミュレータのサロゲートモデリングの文脈において, 本手法の適用可能性を示す。
  論文  参考訳（メタデータ） (2024-01-15T14:45:18Z)
• Diffusion models for probabilistic programming [56.47577824219207]
  拡散モデル変分推論(DMVI)は確率型プログラミング言語(PPL)における自動近似推論手法である DMVIは実装が容易で、例えば正規化フローを用いた変分推論の欠点を伴わずに、PPLでヘイズルフリー推論が可能であり、基礎となるニューラルネットワークモデルに制約を課さない。
  論文  参考訳（メタデータ） (2023-11-01T12:17:05Z)
• Calibrating Neural Simulation-Based Inference with Differentiable Coverage Probability [50.44439018155837]
  ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。 古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。 既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
  論文  参考訳（メタデータ） (2023-10-20T10:20:45Z)
• Fast post-process Bayesian inference with Variational Sparse Bayesian Quadrature [13.36200518068162]
  本稿では,既存の目標密度評価から高速な後続近似を得る手段として,プロセス後ベイズ推定の枠組みを提案する。 この枠組みでは,ブラックボックスと潜在的ノイズの可能性のあるモデルに対して,プロセス後近似推定法である変分スパースベイズ近似(VSBQ)を導入する。 本手法は,計算神経科学による難解な合成シナリオと実世界の応用について検証する。
  論文  参考訳（メタデータ） (2023-03-09T13:58:35Z)
• Towards Practical Preferential Bayesian Optimization with Skew Gaussian Processes [8.198195852439946]
  本稿では,信頼度が2対比較に限定される優先ベイズ最適化(BO)について検討する。 優越性BOの重要な課題は、優越性ガウス過程(GP)モデルを用いてフレキシブルな選好構造を表現することである。 本研究では,高い計算効率と低いサンプル複雑性を両立させる新しい手法を開発し,その効果を広範囲な数値実験により実証する。
  論文  参考訳（メタデータ） (2023-02-03T03:02:38Z)
• Low-variance estimation in the Plackett-Luce model via quasi-Monte Carlo sampling [58.14878401145309]
  PLモデルにおいて,より標本効率の高い予測値を生成するための新しい手法を開発した。 Amazon MusicのリアルなレコメンデーションデータとYahooの学習からランクへの挑戦を理論的にも実証的にも使用しています。
  論文  参考訳（メタデータ） (2022-05-12T11:15:47Z)
• Robust Bayesian Inference for Simulator-based Models via the MMD Posterior Bootstrap [13.448658162594604]
  後部ブートストラップと最大平均誤差推定器に基づく新しいアルゴリズムを提案する。 これにより、強い性質を持つ高パラレライズ可能なベイズ推論アルゴリズムが導かれる。 このアプローチは、g-and-k分布やトグル・スウィッチモデルなど、さまざまな例に基づいて評価される。
  論文  参考訳（メタデータ） (2022-02-09T22:12:19Z)
• Sampling from Arbitrary Functions via PSD Models [55.41644538483948]
  まず確率分布をモデル化し,そのモデルからサンプリングする。 これらのモデルでは, 少数の評価値を用いて, 高精度に多数の密度を近似することが可能であることが示され, それらのモデルから効果的にサンプルする簡単なアルゴリズムが提示される。
  論文  参考訳（メタデータ） (2021-10-20T12:25:22Z)
• Likelihood-Free Inference with Deep Gaussian Processes [70.74203794847344]
  サーロゲートモデルは、シミュレータ評価の回数を減らすために、可能性のない推論に成功している。 本稿では,より不規則な対象分布を扱えるディープガウス過程(DGP)サロゲートモデルを提案する。 本実験は,DGPがマルチモーダル分布を持つ目的関数上でGPよりも優れ,単調な場合と同等の性能を維持できることを示す。
  論文  参考訳（メタデータ） (2020-06-18T14:24:05Z)
• Robust Gaussian Process Regression with a Bias Model [0.6850683267295248]
  既存のほとんどのアプローチは、重い尾の分布から誘導される非ガウス的確率に、外れやすいガウス的確率を置き換えるものである。 提案手法は、未知の回帰関数の雑音および偏りの観測として、外れ値をモデル化する。 バイアス推定に基づいて、ロバストなGP回帰を標準のGP回帰問題に還元することができる。
  論文  参考訳（メタデータ） (2020-01-14T06:21:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。