論文の概要: Conditioning Sparse Variational Gaussian Processes for Online Decision-making

• arxiv url: http://arxiv.org/abs/2110.15172v1
• Date: Thu, 28 Oct 2021 14:49:34 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-29 14:57:21.816258
• Title: Conditioning Sparse Variational Gaussian Processes for Online Decision-making
• Title（参考訳）: オンライン意思決定のための条件付きばらつき変動ガウス過程
• Authors: Wesley J. Maddox, Samuel Stanton, Andrew Gordon Wilson
• Abstract要約: オンライン変分条件付け(オンライン変分条件付け、英語: Online variational conditioning、OVC)は、オンライン環境でSVGPを効率的に条件付けするための手順である。 OVCは、マラリアの発生を活発に学習するなど、さまざまなアプリケーションで魅力的なパフォーマンスを提供する。
• 参考スコア（独自算出の注目度）: 40.13509498161087
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: With a principled representation of uncertainty and closed form posterior updates, Gaussian processes (GPs) are a natural choice for online decision making. However, Gaussian processes typically require at least $\mathcal{O}(n^2)$ computations for $n$ training points, limiting their general applicability. Stochastic variational Gaussian processes (SVGPs) can provide scalable inference for a dataset of fixed size, but are difficult to efficiently condition on new data. We propose online variational conditioning (OVC), a procedure for efficiently conditioning SVGPs in an online setting that does not require re-training through the evidence lower bound with the addition of new data. OVC enables the pairing of SVGPs with advanced look-ahead acquisition functions for black-box optimization, even with non-Gaussian likelihoods. We show OVC provides compelling performance in a range of applications including active learning of malaria incidence, and reinforcement learning on MuJoCo simulated robotic control tasks.
• Abstract（参考訳）: 不確実性と閉形式の後続更新の原則的表現により、ガウス過程(GP)はオンライン意思決定にとって自然な選択である。 しかし、ガウス過程は通常、n$のトレーニングポイントに対して少なくとも$\mathcal{o}(n^2)$の計算を必要とする。 確率的変分ガウス過程(svgps)は、固定サイズのデータセットに対するスケーラブルな推論を提供するが、新しいデータの効率的な条件付けは困難である。 提案手法は,新たなデータの追加に伴うエビデンスを再現する必要のないオンライン環境において,SVGPを効率的に条件付けするためのオンライン変分条件付け(OVC)を提案する。 ovcは、svgpsと、ブラックボックス最適化のための高度なルックアヘッド取得関数のペアリングを可能にする。 OVCは、マラリア発生の能動的学習や、MuJoCoシミュレーションロボット制御タスクにおける強化学習など、様々なアプリケーションにおいて魅力的なパフォーマンスを提供する。

関連論文リスト

• Computation-Aware Gaussian Processes: Model Selection And Linear-Time Inference [55.150117654242706]
  我々は、1.8万のデータポイントでトレーニングされた計算対応GPのモデル選択が、1つのGPU上で数時間以内に可能であることを示す。 この研究の結果、ガウス過程は、不確実性を定量化する能力を著しく妥協することなく、大規模なデータセットで訓練することができる。
  論文  参考訳（メタデータ） (2024-11-01T21:11:48Z)
• Approximation-Aware Bayesian Optimization [34.56666383247348]
  高次元ベイズ最適化(BO)タスクは、意味のある結果を得る前に10,000の関数評価を必要とすることが多い。 本稿では,小変動ガウス過程 (SVGP) をBOの目標とよく一致させるために修正する。 ユーティリティ校正変分推論の枠組みを用いて,GP近似とデータ取得を共同最適化問題に統一する。
  論文  参考訳（メタデータ） (2024-06-06T17:55:02Z)
• Closed-form Filtering for Non-linear Systems [83.91296397912218]
  我々は密度近似と計算効率の面でいくつかの利点を提供するガウスPSDモデルに基づく新しいフィルタのクラスを提案する。 本研究では,遷移や観測がガウスPSDモデルである場合,フィルタリングを効率的にクローズド形式で行うことができることを示す。 提案する推定器は, 近似の精度に依存し, 遷移確率の正則性に適応する推定誤差を伴って, 高い理論的保証を享受する。
  論文  参考訳（メタデータ） (2024-02-15T08:51:49Z)
• Revisiting Active Sets for Gaussian Process Decoders [0.0]
  我々は最近発見されたクロスバリデーションのリンクに基づいて,ログマージ可能性の新たな推定法を開発した。 結果の能動集合 (SAS) 近似がGPデコーダトレーニングの堅牢性を大幅に向上することを示す。
  論文  参考訳（メタデータ） (2022-09-10T10:49:31Z)
• A piece-wise constant approximation for non-conjugate Gaussian Process models [0.0]
  本稿では,非ガウス確率を扱う際に必要となる逆リンク関数を近似することを提案する。 これにより対応する SVGP の下界に対する閉形式解が得られることが示される。 さらに、ピースワイド定数関数自体を最適化して、手元にあるデータから学習可能な逆リンク関数を実現できることを示す。
  論文  参考訳（メタデータ） (2022-04-22T08:53:54Z)
• An Experimental Design Perspective on Model-Based Reinforcement Learning [73.37942845983417]
  環境からの状態遷移を観察するのは費用がかかる。 標準RLアルゴリズムは通常、学習するために多くの観測を必要とする。 本稿では,マルコフ決定過程について,状態-作用対がどの程度の情報を提供するかを定量化する獲得関数を提案する。
  論文  参考訳（メタデータ） (2021-12-09T23:13:57Z)
• Kernel Stein Generative Modeling [68.03537693810972]
  グラディエント・ランゲヴィン・ダイナミクス(SGLD)は高次元および複雑なデータ分布に関するエネルギーモデルによる印象的な結果を示す。 Stein Variational Gradient Descent (SVGD) は、与えられた分布を近似するために一組の粒子を反復的に輸送する決定論的サンプリングアルゴリズムである。 雑音条件付きカーネルSVGD(NCK-SVGD)を提案する。
  論文  参考訳（メタデータ） (2020-07-06T21:26:04Z)
• Global Optimization of Gaussian processes [52.77024349608834]
  少数のデータポイントで学習したガウス過程を訓練した空間定式化を提案する。 このアプローチはまた、より小さく、計算的にもより安価なサブソルバを低いバウンディングに導く。 提案手法の順序の順序による時間収束を,総じて低減する。
  論文  参考訳（メタデータ） (2020-05-21T20:59:11Z)
• $\pi$VAE: a stochastic process prior for Bayesian deep learning with MCMC [2.4792948967354236]
  先行符号化オートエンコーダ(pi$VAE)と呼ばれる新しい変分オートエンコーダを提案する。 本稿では,ガウス過程などの表現型関数クラスを正確に学習できるだけでなく,統計的推論を可能にする関数の性質も示す。 おそらく最も有用なのは、低次元分散潜在空間表現学習が、Stanのようなプログラミング言語内でプロセスの推論を行うエレガントでスケーラブルな手段を提供することを示すことである。
  論文  参考訳（メタデータ） (2020-02-17T10:23:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。