論文の概要: Fast and robust Bayesian Inference using Gaussian Processes with GPry

• arxiv url: http://arxiv.org/abs/2211.02045v1
• Date: Thu, 3 Nov 2022 17:57:45 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-04 14:10:37.460548
• Title: Fast and robust Bayesian Inference using Gaussian Processes with GPry
• Title（参考訳）: GPryを用いたガウス過程を用いた高速で堅牢なベイズ推論
• Authors: Jonas El Gammal, Nils Sch\"oneberg, Jes\'us Torrado, Christian Fidler
• Abstract要約: 一般(非ガウス)後方の素早いベイズ推定のためのGPryアルゴリズムを適度なパラメータ数で提案する。 GPryはGPUのようなトレーニング済みの特別なハードウェアを一切必要とせず、ベイジアン推論のためのモンテカルロ法をドロップインで置き換えることを意図している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We present the GPry algorithm for fast Bayesian inference of general (non-Gaussian) posteriors with a moderate number of parameters. GPry does not need any pre-training, special hardware such as GPUs, and is intended as a drop-in replacement for traditional Monte Carlo methods for Bayesian inference. Our algorithm is based on generating a Gaussian Process surrogate model of the log-posterior, aided by a Support Vector Machine classifier that excludes extreme or non-finite values. An active learning scheme allows us to reduce the number of required posterior evaluations by two orders of magnitude compared to traditional Monte Carlo inference. Our algorithm allows for parallel evaluations of the posterior at optimal locations, further reducing wall-clock times. We significantly improve performance using properties of the posterior in our active learning scheme and for the definition of the GP prior. In particular we account for the expected dynamical range of the posterior in different dimensionalities. We test our model against a number of synthetic and cosmological examples. GPry outperforms traditional Monte Carlo methods when the evaluation time of the likelihood (or the calculation of theoretical observables) is of the order of seconds; for evaluation times of over a minute it can perform inference in days that would take months using traditional methods. GPry is distributed as an open source Python package (pip install gpry) and can also be found at https://github.com/jonaselgammal/GPry.
• Abstract（参考訳）: 一般(非ガウス)後方の素早いベイズ推定のためのGPryアルゴリズムを適度なパラメータ数で提案する。 gpryはgpuのようなトレーニング済みの特別なハードウェアは必要とせず、従来のモンテカルロ法をベイズ推論に置き換えることを目的としている。 本アルゴリズムは,ログポストのガウス過程サロゲートモデルを生成し,極値や非有限値を排除したサポートベクトルマシン分類器によって支援する。 アクティブな学習手法により,従来のモンテカルロ推定と比較して,必要な後続評価を桁違いに削減することができる。 提案アルゴリズムは, 最適位置における後頭部の並列評価を可能にし, 壁面時間をさらに短縮する。 アクティブラーニング方式とgpプリエントの定義において,後肢の特性を用いることにより性能が著しく向上した。 特に,異なる次元における後肢の期待動力学的範囲について考察した。 我々は、多くの合成および宇宙論の例に対してモデルをテストする。 gpryは、確率(あるいは理論観測可能性の計算)の評価時間が数秒のオーダーである場合、従来のモンテカルロ法よりも優れており、1分を超える評価時間は、従来の方法を使って数ヶ月かかる日数で推論することができる。 GPryはオープンソースのPythonパッケージ(pip install gpry)として配布されており、https://github.com/jonaselgammal/GPryで見ることができる。

関連論文リスト

• Parallelized Acquisition for Active Learning using Monte Carlo Sampling [0.0]
  近年,ガウス過程(GP)回帰に基づく後部エミュレータの使用が注目されている。 ほぼ恥ずかしい並列シーケンシャルサンプリング器を用いて, 後頭部のモンテカルロサンプルを生成する方法を示す。 得られたほぼ分類されたモンテカルロサンプルは、逐次条件付き取得関数値に従ってランク付けされた候補のバッチを生成するために使用される。
  論文  参考訳（メタデータ） (2023-05-30T17:57:34Z)
• Provable and Practical: Efficient Exploration in Reinforcement Learning via Langevin Monte Carlo [104.9535542833054]
  我々は、強化学習のためのトンプソンサンプリングに基づくスケーラブルで効果的な探索戦略を提案する。 代わりに、Langevin Monte Carlo を用いて、Q 関数をその後部分布から直接サンプリングする。 提案手法は,Atari57スイートからのいくつかの挑戦的な探索課題において,最先端の深部RLアルゴリズムと比較して,より優れた,あるいは類似した結果が得られる。
  論文  参考訳（メタデータ） (2023-05-29T17:11:28Z)
• Langevin Monte Carlo for Contextual Bandits [72.00524614312002]
  Langevin Monte Carlo Thompson Sampling (LMC-TS) が提案されている。 提案アルゴリズムは,文脈的帯域幅の特別な場合において,最高のトンプソンサンプリングアルゴリズムと同じサブ線形残差を達成できることを示す。
  論文  参考訳（メタデータ） (2022-06-22T17:58:23Z)
• Shallow and Deep Nonparametric Convolutions for Gaussian Processes [0.0]
  GPの非パラメトリックプロセス畳み込み定式化を導入し,機能サンプリング手法を用いて弱点を緩和する。 古典的ディープGPモデルの代替となるこれらの非パラメトリック畳み込みの合成を提案する。
  論文  参考訳（メタデータ） (2022-06-17T19:03:04Z)
• Fast Gaussian Process Posterior Mean Prediction via Local Cross Validation and Precomputation [0.0]
  我々はFastMuyGPと呼ばれる高速後部平均予測アルゴリズムを提案する。 MuyGPs のハイパーパラメータ推定アルゴリズムに基づいており、残余のクロスバリデーション、近隣のスパーシフィケーション、プリ計算の組み合わせを利用している。 ディープニューラルネットワークと最先端のGPアルゴリズムの両方に対して、精度と競合性、あるいは優れたランタイムを実現する。
  論文  参考訳（メタデータ） (2022-05-22T17:38:36Z)
• Scaling Gaussian Process Optimization by Evaluating a Few Unique Candidates Multiple Times [119.41129787351092]
  GPに基づく逐次ブラックボックス最適化は,複数の評価ステップの候補解に固執することで効率よく行うことができることを示す。 GP-UCB と GP-EI の2つのよく確立されたGP-Opt アルゴリズムを改良し,バッチ化された GP-Opt の規則を適応させる。
  論文  参考訳（メタデータ） (2022-01-30T20:42:14Z)
• Robust and Adaptive Temporal-Difference Learning Using An Ensemble of Gaussian Processes [70.80716221080118]
  本稿では、時間差学習(TD)による政策評価の世代的視点について考察する。 OS-GPTDアプローチは、状態-逆ペアのシーケンスを観測することにより、与えられたポリシーの値関数を推定するために開発された。 1つの固定カーネルに関連する限られた表現性を緩和するために、GP前の重み付けアンサンブル(E)を用いて代替のスキームを生成する。
  論文  参考訳（メタデータ） (2021-12-01T23:15:09Z)
• Non-Gaussian Gaussian Processes for Few-Shot Regression [71.33730039795921]
  乱変数ベクトルの各成分上で動作し,パラメータを全て共有する可逆なODEベースのマッピングを提案する。 NGGPは、様々なベンチマークとアプリケーションに対する競合する最先端のアプローチよりも優れています。
  論文  参考訳（メタデータ） (2021-10-26T10:45:25Z)
• Near-linear Time Gaussian Process Optimization with Adaptive Batching and Resparsification [119.41129787351092]
  BBKBは非回帰GP最適化アルゴリズムで、ほぼ直線的に実行し、バッチで候補を選択する。 また,同じバウンダリを用いて,スパルスGP近似の更新コストを適応的に遅延させることで,ステップ毎の償却コストをほぼ一定に抑えることができることを示した。
  論文  参考訳（メタデータ） (2020-02-23T17:43:29Z)
• Bayesian optimization for backpropagation in Monte-Carlo tree search [1.52292571922932]
  バックプロパゲーション戦略を改善するための従来の試みを一般化した,Softmax MCTS と Monotone MCTS の2つの手法を提案する。 提案手法が従来の手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-01-25T14:33:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。