論文の概要: Robust and Conjugate Gaussian Process Regression
- arxiv url: http://arxiv.org/abs/2311.00463v1
- Date: Wed, 1 Nov 2023 11:57:43 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-02 13:58:08.081951
- Title: Robust and Conjugate Gaussian Process Regression
- Title(参考訳): ロバストおよび共役ガウス過程回帰
- Authors: Matias Altamirano, Fran\c{c}ois-Xavier Briol, Jeremias Knoblauch
- Abstract要約: 一般化されたベイズ推定を用いて,ガウス過程 (RCGP) の回帰をほぼ何のコストもかからず,頑健かつ共役的に行う方法を示す。
RCGPは、標準GPがそれを認めるすべての設定において、正確な共役クローズドフォーム更新を可能にするため、特に汎用性がある。
- 参考スコア(独自算出の注目度): 3.383942690870476
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: To enable closed form conditioning, a common assumption in Gaussian process
(GP) regression is independent and identically distributed Gaussian observation
noise. This strong and simplistic assumption is often violated in practice,
which leads to unreliable inferences and uncertainty quantification.
Unfortunately, existing methods for robustifying GPs break closed-form
conditioning, which makes them less attractive to practitioners and
significantly more computationally expensive. In this paper, we demonstrate how
to perform provably robust and conjugate Gaussian process (RCGP) regression at
virtually no additional cost using generalised Bayesian inference. RCGP is
particularly versatile as it enables exact conjugate closed form updates in all
settings where standard GPs admit them. To demonstrate its strong empirical
performance, we deploy RCGP for problems ranging from Bayesian optimisation to
sparse variational Gaussian processes.
- Abstract(参考訳): 閉形式条件付けを可能にするため、ガウス過程(GP)回帰の共通仮定は独立であり、同一分布ガウス観測ノイズである。
この強固で単純化された仮定は、多くの場合、信頼できない推論と不確実性定量化につながる。
残念ながら、既存のGPの堅牢化手法はクローズドフォーム条件付けを破り、実践者にとってより魅力的になり、計算コストも大幅に高くなる。
本稿では,一般化ベイズ推定法を用いて,事実上追加コストを伴わないロバストかつ共役ガウス過程 (rcgp) の回帰を行う方法を示す。
RCGPは、標準GPがそれを認めるすべての設定で正確な共役クローズドフォーム更新を可能にするため、特に汎用性がある。
その強力な経験的性能を示すために,ベイズ最適化からスパース変分ガウス過程まで,RCGPをデプロイする。
関連論文リスト
- Non-Gaussian Process Regression [0.0]
我々はGPフレームワークを時間変化したGPの新たなクラスに拡張し、重い尾の非ガウス的振る舞いの簡単なモデリングを可能にする。
このモデルに対するマルコフ連鎖モンテカルロ推論手順を示し、潜在的な利点を実証する。
論文 参考訳(メタデータ) (2022-09-07T13:08:22Z) - Non-Gaussian Gaussian Processes for Few-Shot Regression [71.33730039795921]
乱変数ベクトルの各成分上で動作し,パラメータを全て共有する可逆なODEベースのマッピングを提案する。
NGGPは、様々なベンチマークとアプリケーションに対する競合する最先端のアプローチよりも優れています。
論文 参考訳(メタデータ) (2021-10-26T10:45:25Z) - Stochastic Training is Not Necessary for Generalization [57.04880404584737]
勾配降下の暗黙的な正則化(SGD)は、ニューラルネットワークで観測される印象的な一般化の振る舞いに基礎的であると広く信じられている。
本研究では,SGDと同等のCIFAR-10において,非確率的フルバッチトレーニングが強力な性能を発揮することを示す。
論文 参考訳(メタデータ) (2021-09-29T00:50:00Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - On MCMC for variationally sparse Gaussian processes: A pseudo-marginal
approach [0.76146285961466]
ガウス過程(GP)は、機械学習や統計学において強力なモデルを構築するために頻繁に用いられる。
本稿では,2重推定器による確率と大規模データセットの正確な推測と計算的ゲインを提供する擬似マージナル(PM)方式を提案する。
論文 参考訳(メタデータ) (2021-03-04T20:48:29Z) - Gaussian Process-based Min-norm Stabilizing Controller for
Control-Affine Systems with Uncertain Input Effects and Dynamics [90.81186513537777]
本稿では,この問題の制御・アフィン特性を捉えた新しい化合物カーネルを提案する。
この結果の最適化問題は凸であることを示し、ガウス過程に基づく制御リャプノフ関数第二次コーンプログラム(GP-CLF-SOCP)と呼ぶ。
論文 参考訳(メタデータ) (2020-11-14T01:27:32Z) - Likelihood-Free Inference with Deep Gaussian Processes [70.74203794847344]
サーロゲートモデルは、シミュレータ評価の回数を減らすために、可能性のない推論に成功している。
本稿では,より不規則な対象分布を扱えるディープガウス過程(DGP)サロゲートモデルを提案する。
本実験は,DGPがマルチモーダル分布を持つ目的関数上でGPよりも優れ,単調な場合と同等の性能を維持できることを示す。
論文 参考訳(メタデータ) (2020-06-18T14:24:05Z) - SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for
Gaussian Process Regression with Derivatives [86.01677297601624]
本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。
我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
論文 参考訳(メタデータ) (2020-03-05T14:33:20Z) - Transport Gaussian Processes for Regression [0.22843885788439797]
本稿では,GP,ワープGP,学生プロセスなどを含むプロセス構築手法を提案する。
私たちのアプローチはレイヤベースのモデルにインスパイアされ、各レイヤが生成されたプロセス上で特定のプロパティを変更する。
実世界のデータを用いた実験により,提案モデルの有効性を検証した。
論文 参考訳(メタデータ) (2020-01-30T17:44:21Z) - Sequential Gaussian Processes for Online Learning of Nonstationary
Functions [9.997259201098602]
連続モンテカルロアルゴリズムは,オンラインの分散推論を可能としながら,非定常挙動を捉えたGPの無限混合に適合する。
提案手法は,時系列データにおける非定常性の存在下でのオンラインGP推定における最先端手法の性能を実証的に改善する。
論文 参考訳(メタデータ) (2019-05-24T02:29:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。