論文の概要: Likelihood-Free Inference with Deep Gaussian Processes
- arxiv url: http://arxiv.org/abs/2006.10571v2
- Date: Tue, 5 Oct 2021 11:20:24 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-19 12:48:11.684219
- Title: Likelihood-Free Inference with Deep Gaussian Processes
- Title(参考訳): 深いガウス過程を持つ確率自由推論
- Authors: Alexander Aushev, Henri Pesonen, Markus Heinonen, Jukka Corander,
Samuel Kaski
- Abstract要約: サーロゲートモデルは、シミュレータ評価の回数を減らすために、可能性のない推論に成功している。
本稿では,より不規則な対象分布を扱えるディープガウス過程(DGP)サロゲートモデルを提案する。
本実験は,DGPがマルチモーダル分布を持つ目的関数上でGPよりも優れ,単調な場合と同等の性能を維持できることを示す。
- 参考スコア(独自算出の注目度): 70.74203794847344
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In recent years, surrogate models have been successfully used in
likelihood-free inference to decrease the number of simulator evaluations. The
current state-of-the-art performance for this task has been achieved by
Bayesian Optimization with Gaussian Processes (GPs). While this combination
works well for unimodal target distributions, it is restricting the flexibility
and applicability of Bayesian Optimization for accelerating likelihood-free
inference more generally. We address this problem by proposing a Deep Gaussian
Process (DGP) surrogate model that can handle more irregularly behaved target
distributions. Our experiments show how DGPs can outperform GPs on objective
functions with multimodal distributions and maintain a comparable performance
in unimodal cases. This confirms that DGPs as surrogate models can extend the
applicability of Bayesian Optimization for likelihood-free inference (BOLFI),
while adding computational overhead that remains negligible for computationally
intensive simulators.
- Abstract(参考訳): 近年、シミュレータ評価の回数を減らすために、確率自由推論にサロゲートモデルがうまく使われている。
このタスクの現在の最先端性能は、Gaussian Processs (GP)によるベイズ最適化によって達成されている。
この組み合わせはユニモーダルな目標分布でうまく機能するが、より一般の確率自由推論を加速するためにベイズ最適化の柔軟性と適用性を制限する。
我々は、より不規則に振る舞いのある対象分布を処理できるディープガウス過程(DGP)サロゲートモデルを提案することでこの問題に対処する。
本実験は,DGPがマルチモーダル分布を持つ目的関数上でGPよりも優れ,単調な場合と同等の性能を維持できることを示す。
このことは、DGPを代理モデルとして、確率自由推論(BOLFI)に対するベイズ最適化の適用性を拡張しつつ、計算集約型シミュレータでは無視できない計算オーバーヘッドを追加することを確認している。
関連論文リスト
- Sample-efficient Bayesian Optimisation Using Known Invariances [56.34916328814857]
バニラと制約付きBOアルゴリズムは、不変目的を最適化する際の非効率性を示す。
我々はこれらの不変カーネルの最大情報ゲインを導出する。
核融合炉用電流駆動システムの設計に本手法を用い, 高性能溶液の探索を行った。
論文 参考訳(メタデータ) (2024-10-22T12:51:46Z) - Neural Operator Variational Inference based on Regularized Stein
Discrepancy for Deep Gaussian Processes [23.87733307119697]
本稿では,深いガウス過程に対するニューラル演算子変分推論(NOVI)を提案する。
NOVIは、ニューラルジェネレータを使用してサンプリング装置を取得し、生成された分布と真の後部の間のL2空間における正規化スタインの離散性を最小化する。
提案手法が提案するバイアスは定数で発散を乗算することで制御可能であることを示す。
論文 参考訳(メタデータ) (2023-09-22T06:56:35Z) - Fantasizing with Dual GPs in Bayesian Optimization and Active Learning [14.050425158209826]
我々は,新たなファンタサイズデータに対処する能力を必要とするバッチ取得機能に焦点をあてる。
スパースデュアルGPパラメタライゼーションを用いることで、バッチサイズでの線形スケーリングと、非ガウス確率のワンステップ更新が得られる。
論文 参考訳(メタデータ) (2022-11-02T11:37:06Z) - Surrogate modeling for Bayesian optimization beyond a single Gaussian
process [62.294228304646516]
本稿では,探索空間の活用と探索のバランスをとるための新しいベイズ代理モデルを提案する。
拡張性のある関数サンプリングを実現するため、GPモデル毎にランダムな特徴ベースのカーネル近似を利用する。
提案した EGP-TS を大域的最適に収束させるため,ベイズ的後悔の概念に基づいて解析を行う。
論文 参考訳(メタデータ) (2022-05-27T16:43:10Z) - Non-Gaussian Gaussian Processes for Few-Shot Regression [71.33730039795921]
乱変数ベクトルの各成分上で動作し,パラメータを全て共有する可逆なODEベースのマッピングを提案する。
NGGPは、様々なベンチマークとアプリケーションに対する競合する最先端のアプローチよりも優れています。
論文 参考訳(メタデータ) (2021-10-26T10:45:25Z) - Gaussian Processes to speed up MCMC with automatic
exploratory-exploitation effect [1.0742675209112622]
確率モデルをサンプリングするための2段階のメトロポリス・ハスティングスアルゴリズムを提案する。
このアプローチの主な特徴は、サンプリング中にターゲットの分布をスクラッチから学習する能力である。
論文 参考訳(メタデータ) (2021-09-28T17:43:25Z) - Randomised Gaussian Process Upper Confidence Bound for Bayesian
Optimisation [60.93091603232817]
改良されたガウス過程上信頼境界(GP-UCB)取得関数を開発した。
これは、分布から探索・探索トレードオフパラメータをサンプリングすることによって行われる。
これにより、期待されるトレードオフパラメータが、関数のベイズ的後悔に縛られることなく、問題によりよく適合するように変更できることが証明される。
論文 参考訳(メタデータ) (2020-06-08T00:28:41Z) - Global Optimization of Gaussian processes [52.77024349608834]
少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。
このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。
提案手法の順序の順序による時間収束を,総じて低減する。
論文 参考訳(メタデータ) (2020-05-21T20:59:11Z) - Sparse Gaussian Processes Revisited: Bayesian Approaches to
Inducing-Variable Approximations [27.43948386608]
変数の誘導に基づく変分推論手法はガウス過程(GP)モデルにおけるスケーラブルな推定のためのエレガントなフレームワークを提供する。
この研究において、変分フレームワークにおけるインプットの最大化は最適な性能をもたらすという共通の知恵に挑戦する。
論文 参考訳(メタデータ) (2020-03-06T08:53:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。