論文の概要: Kernel Interpolation for Scalable Online Gaussian Processes

• arxiv url: http://arxiv.org/abs/2103.01454v1
• Date: Tue, 2 Mar 2021 03:41:30 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-03 17:16:27.099955
• Title: Kernel Interpolation for Scalable Online Gaussian Processes
• Title（参考訳）: スケーラブルなオンラインガウスプロセスのためのカーネル補間
• Authors: Samuel Stanton, Wesley J. Maddox, Ian Delbridge, Andrew Gordon Wilson
• Abstract要約: 我々は、構造化カーネルを用いて、一定時間$O(1)$オンライン更新の計算を効率的にリサイクルする方法を示す。 我々は,オンライン回帰・分類設定,ベイズ最適化,能動的サンプリングによるマラリア予測における誤差の低減というアプローチの可能性を実証する。
• 参考スコア（独自算出の注目度）: 35.71056379994141
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Gaussian processes (GPs) provide a gold standard for performance in online settings, such as sample-efficient control and black box optimization, where we need to update a posterior distribution as we acquire data in a sequential fashion. However, updating a GP posterior to accommodate even a single new observation after having observed $n$ points incurs at least $O(n)$ computations in the exact setting. We show how to use structured kernel interpolation to efficiently recycle computations for constant-time $O(1)$ online updates with respect to the number of points $n$, while retaining exact inference. We demonstrate the promise of our approach in a range of online regression and classification settings, Bayesian optimization, and active sampling to reduce error in malaria incidence forecasting. Code is available at https://github.com/wjmaddox/online_gp.
• Abstract（参考訳）: gaussian process(gps)は、サンプル効率のよいコントロールやブラックボックス最適化など、オンライン設定におけるパフォーマンスのゴールドスタンダードを提供します。 しかし、$n$ポイントを観測した後に単一の新しい観測を収容するためにGP後部を更新すると、正確な設定で少なくとも$O(n)$計算が発生します。 本稿では,一定時間$O(1)$のオンライン更新に対して,正確な推論を維持しつつ,構造化カーネル補間を用いて効率よく計算をリサイクルする方法を示す。 我々は,マラリア発生率予測の誤差を低減するために,オンライン回帰と分類,ベイズ最適化,アクティブサンプリングの多岐にわたる手法の可能性を実証する。 コードはhttps://github.com/wjmaddox/online_gpで入手できる。

関連論文リスト

• Bayesian Online Natural Gradient (BONG) [9.800443064368467]
  変分ベイズ(VB)に基づく逐次ベイズ推論への新しいアプローチを提案する。 重要な洞察は、オンライン環境では、前もって正規化するためにKLという用語を追加する必要はありません。 提案手法は,非共役条件下での他のオンラインVB手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-05-30T04:27:36Z)
• Efficient Dataset Distillation Using Random Feature Approximation [109.07737733329019]
  本稿では,ニューラルネットワークガウス過程(NNGP)カーネルのランダム特徴近似(RFA)を用いた新しいアルゴリズムを提案する。 我々のアルゴリズムは、KIP上で少なくとも100倍のスピードアップを提供し、1つのGPUで実行できる。 RFA蒸留 (RFAD) と呼ばれる本手法は, 大規模データセットの精度において, KIP や他のデータセット凝縮アルゴリズムと競合して動作する。
  論文  参考訳（メタデータ） (2022-10-21T15:56:13Z)
• Streaming PAC-Bayes Gaussian process regression with a performance guarantee for online decision making [41.84834895660245]
  本稿では,オンライン大まかに正しい(PAC)ベイズ理論に基づく,オンラインGPアルゴリズムの新たな理論的枠組みを提案する。 このフレームワークは、一般的なパフォーマンスと精度の保証を提供する。 他のオンラインGPアルゴリズムと比較すると、一般化保証と非常に競争的な精度が得られる。
  論文  参考訳（メタデータ） (2022-10-16T08:39:20Z)
• Maximum-Likelihood Inverse Reinforcement Learning with Finite-Time Guarantees [56.848265937921354]
  逆強化学習(IRL)は報酬関数と関連する最適ポリシーを回復することを目的としている。 IRLの多くのアルゴリズムは本質的にネスト構造を持つ。 我々は、報酬推定精度を損なわないIRLのための新しいシングルループアルゴリズムを開発した。
  論文  参考訳（メタデータ） (2022-10-04T17:13:45Z)
• Minimax Optimal Online Imitation Learning via Replay Estimation [47.83919594113314]
  本稿では,この経験的分散を低減するために,リプレイ推定手法を提案する。 提案手法では, min(H3/2 / N, H / sqrtN$)$ 依存度を最適に$widetildeO に設定する。
  論文  参考訳（メタデータ） (2022-05-30T19:29:56Z)
• Robust and Adaptive Temporal-Difference Learning Using An Ensemble of Gaussian Processes [70.80716221080118]
  本稿では、時間差学習(TD)による政策評価の世代的視点について考察する。 OS-GPTDアプローチは、状態-逆ペアのシーケンスを観測することにより、与えられたポリシーの値関数を推定するために開発された。 1つの固定カーネルに関連する限られた表現性を緩和するために、GP前の重み付けアンサンブル(E)を用いて代替のスキームを生成する。
  論文  参考訳（メタデータ） (2021-12-01T23:15:09Z)
• Gaussian Process Bandit Optimization with Few Batches [49.896920704012395]
  有限腕バンディットアルゴリズムにインスパイアされたバッチアルゴリズムを導入する。 O(log T)$ batches in time horizon $T$.sqrtTgamma_T)$ using $O(log T)$ batches in time horizon。 さらに,アルゴリズムの修正版を提案し,バッチ数によって後悔がどう影響するかを特徴付ける。
  論文  参考訳（メタデータ） (2021-10-15T00:54:04Z)
• Incremental Ensemble Gaussian Processes [53.3291389385672]
  本稿では,EGPメタラーナーがGP学習者のインクリメンタルアンサンブル(IE-) GPフレームワークを提案し,それぞれが所定のカーネル辞書に属するユニークなカーネルを持つ。 各GP専門家は、ランダムな特徴ベースの近似を利用してオンライン予測とモデル更新を行い、そのスケーラビリティを生かし、EGPメタラーナーはデータ適応重みを生かし、熟練者ごとの予測を合成する。 新たなIE-GPは、EGPメタラーナーおよび各GP学習者内における構造化力学をモデル化することにより、時間変化関数に対応するように一般化される。
  論文  参考訳（メタデータ） (2021-10-13T15:11:25Z)
• Adaptive Inducing Points Selection For Gaussian Processes [4.066211670342284]
  citebui 2017streamingは、スペーサリティ技術を用いてオンラインGPをトレーニングするための効率的な変分手法を開発した。 観測全体の集合は、小さなインジェクションポイント(textbfIPs)によって近似され、新しいデータで動き回る。 位置の最適化に加えて,GPの特性とデータ構造に基づいて,新たな点を適応的に追加することを提案する。
  論文  参考訳（メタデータ） (2021-07-21T13:22:46Z)
• SigGPDE: Scaling Sparse Gaussian Processes on Sequential Data [16.463077353773603]
  SigGPDEは,ガウス過程(GP)を逐次データに基づいて拡張可能な分散変動推論フレームワークである。 GPシグネチャカーネルの勾配は双曲偏微分方程式(PDE)の解であることを示す。 この理論的な洞察により、ELBOを最適化する効率的なバックプロパゲーションアルゴリズムを構築することができる。
  論文  参考訳（メタデータ） (2021-05-10T09:10:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。