論文の概要: Sequential Gaussian Processes for Online Learning of Nonstationary Functions

• arxiv url: http://arxiv.org/abs/1905.10003v5
• Date: Sat, 6 May 2023 11:30:13 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-10 02:27:36.445385
• Title: Sequential Gaussian Processes for Online Learning of Nonstationary Functions
• Title（参考訳）: 非定常関数のオンライン学習のための連続ガウス過程
• Authors: Michael Minyi Zhang, Bianca Dumitrascu, Sinead A. Williamson, Barbara E. Engelhardt
• Abstract要約: 連続モンテカルロアルゴリズムは,オンラインの分散推論を可能としながら,非定常挙動を捉えたGPの無限混合に適合する。 提案手法は,時系列データにおける非定常性の存在下でのオンラインGP推定における最先端手法の性能を実証的に改善する。
• 参考スコア（独自算出の注目度）: 9.997259201098602
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Many machine learning problems can be framed in the context of estimating functions, and often these are time-dependent functions that are estimated in real-time as observations arrive. Gaussian processes (GPs) are an attractive choice for modeling real-valued nonlinear functions due to their flexibility and uncertainty quantification. However, the typical GP regression model suffers from several drawbacks: 1) Conventional GP inference scales $O(N^{3})$ with respect to the number of observations; 2) Updating a GP model sequentially is not trivial; and 3) Covariance kernels typically enforce stationarity constraints on the function, while GPs with non-stationary covariance kernels are often intractable to use in practice. To overcome these issues, we propose a sequential Monte Carlo algorithm to fit infinite mixtures of GPs that capture non-stationary behavior while allowing for online, distributed inference. Our approach empirically improves performance over state-of-the-art methods for online GP estimation in the presence of non-stationarity in time-series data. To demonstrate the utility of our proposed online Gaussian process mixture-of-experts approach in applied settings, we show that we can sucessfully implement an optimization algorithm using online Gaussian process bandits.
• Abstract（参考訳）: 多くの機械学習問題は、推定関数の文脈でフレーム化することができ、観測が到着するとリアルタイムで推定される時間依存関数であることが多い。 ガウス過程(GP)は、その柔軟性と不確かさの定量化のため、実数値非線形関数をモデル化するための魅力的な選択である。 しかし、典型的なgp回帰モデルにはいくつかの欠点がある。 1) 従来のGP推論は,観測数に関して$O(N^{3})$をスケールする。 2)GPモデルを逐次更新することは自明ではない。 3) 共分散核は通常、機能に定常性制約を課すが、非定常共分散核を持つgpsは実際には使用できないことが多い。 これらの問題を克服するために、オンラインの分散推論を可能としながら、非定常挙動を捉えるGPの無限混合に適合するシーケンシャルモンテカルロアルゴリズムを提案する。 本手法は,時系列データに非定常性が存在する場合,オンラインgp推定における最先端手法の性能を実証的に改善する。 提案手法を応用したオンラインガウシアンプロセスミックス・オブ・エキスパート・アプローチの有用性を実証するために,オンラインガウシアンプロセスバンドレットを用いた最適化アルゴリズムを必要十分実装できることを示す。

関連論文リスト

• A Unifying Perspective on Non-Stationary Kernels for Deeper Gaussian Processes [0.9558392439655016]
  代表データセットを用いて動作中のさまざまなカーネルを示し、その特性を慎重に研究し、性能を比較する。 そこで本研究では,既存のカーネルの利点を活かしたカーネルを提案する。
  論文  参考訳（メタデータ） (2023-09-18T18:34:51Z)
• Markovian Gaussian Process Variational Autoencoders [19.686719654642392]
  我々はマルコフ型GPの等価離散状態空間表現を活用し、カルマンフィルタと平滑化による線形時間 GPVAE トレーニングを可能にする。 我々のモデルであるMGPVAE(Markovian GPVAE)では,従来の手法と比較して,多種多様な高次元時間的課題を示す。
  論文  参考訳（メタデータ） (2022-07-12T14:10:01Z)
• Robust and Adaptive Temporal-Difference Learning Using An Ensemble of Gaussian Processes [70.80716221080118]
  本稿では、時間差学習(TD)による政策評価の世代的視点について考察する。 OS-GPTDアプローチは、状態-逆ペアのシーケンスを観測することにより、与えられたポリシーの値関数を推定するために開発された。 1つの固定カーネルに関連する限られた表現性を緩和するために、GP前の重み付けアンサンブル(E)を用いて代替のスキームを生成する。
  論文  参考訳（メタデータ） (2021-12-01T23:15:09Z)
• Non-Gaussian Gaussian Processes for Few-Shot Regression [71.33730039795921]
  乱変数ベクトルの各成分上で動作し,パラメータを全て共有する可逆なODEベースのマッピングを提案する。 NGGPは、様々なベンチマークとアプリケーションに対する競合する最先端のアプローチよりも優れています。
  論文  参考訳（メタデータ） (2021-10-26T10:45:25Z)
• Incremental Ensemble Gaussian Processes [53.3291389385672]
  本稿では,EGPメタラーナーがGP学習者のインクリメンタルアンサンブル(IE-) GPフレームワークを提案し,それぞれが所定のカーネル辞書に属するユニークなカーネルを持つ。 各GP専門家は、ランダムな特徴ベースの近似を利用してオンライン予測とモデル更新を行い、そのスケーラビリティを生かし、EGPメタラーナーはデータ適応重みを生かし、熟練者ごとの予測を合成する。 新たなIE-GPは、EGPメタラーナーおよび各GP学習者内における構造化力学をモデル化することにより、時間変化関数に対応するように一般化される。
  論文  参考訳（メタデータ） (2021-10-13T15:11:25Z)
• On MCMC for variationally sparse Gaussian processes: A pseudo-marginal approach [0.76146285961466]
  ガウス過程(GP)は、機械学習や統計学において強力なモデルを構築するために頻繁に用いられる。 本稿では,2重推定器による確率と大規模データセットの正確な推測と計算的ゲインを提供する擬似マージナル(PM)方式を提案する。
  論文  参考訳（メタデータ） (2021-03-04T20:48:29Z)
• Gaussian Process-based Min-norm Stabilizing Controller for Control-Affine Systems with Uncertain Input Effects and Dynamics [90.81186513537777]
  本稿では,この問題の制御・アフィン特性を捉えた新しい化合物カーネルを提案する。 この結果の最適化問題は凸であることを示し、ガウス過程に基づく制御リャプノフ関数第二次コーンプログラム(GP-CLF-SOCP)と呼ぶ。
  論文  参考訳（メタデータ） (2020-11-14T01:27:32Z)
• Likelihood-Free Inference with Deep Gaussian Processes [70.74203794847344]
  サーロゲートモデルは、シミュレータ評価の回数を減らすために、可能性のない推論に成功している。 本稿では,より不規則な対象分布を扱えるディープガウス過程(DGP)サロゲートモデルを提案する。 本実験は,DGPがマルチモーダル分布を持つ目的関数上でGPよりも優れ,単調な場合と同等の性能を維持できることを示す。
  論文  参考訳（メタデータ） (2020-06-18T14:24:05Z)
• SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for Gaussian Process Regression with Derivatives [86.01677297601624]
  本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。 我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
  論文  参考訳（メタデータ） (2020-03-05T14:33:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。