論文の概要: Hierarchical Inducing Point Gaussian Process for Inter-domain
Observations
- arxiv url: http://arxiv.org/abs/2103.00393v1
- Date: Sun, 28 Feb 2021 04:20:58 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-03 17:18:57.993754
- Title: Hierarchical Inducing Point Gaussian Process for Inter-domain
Observations
- Title(参考訳): 階層的誘導点ガウス過程による領域間観測
- Authors: Luhuan Wu, Andrew Miller, Lauren Anderson, Geoff Pleiss, David Blei,
John Cunningham
- Abstract要約: hierarchical Induction point GP (HIP-GP) はスケーラブルなドメイン間GP推論手法である。
HIP-GPは低次元問題に適している。
- 参考スコア(独自算出の注目度): 9.880362989790923
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We examine the general problem of inter-domain Gaussian Processes (GPs):
problems where the GP realization and the noisy observations of that
realization lie on different domains. When the mapping between those domains is
linear, such as integration or differentiation, inference is still closed form.
However, many of the scaling and approximation techniques that our community
has developed do not apply to this setting. In this work, we introduce the
hierarchical inducing point GP (HIP-GP), a scalable inter-domain GP inference
method that enables us to improve the approximation accuracy by increasing the
number of inducing points to the millions. HIP-GP, which relies on inducing
points with grid structure and a stationary kernel assumption, is suitable for
low-dimensional problems. In developing HIP-GP, we introduce (1) a fast
whitening strategy, and (2) a novel preconditioner for conjugate gradients
which can be helpful in general GP settings.
- Abstract(参考訳): 我々は、領域間ガウス過程(GPs)の一般的な問題を検討する:GP実現とその実現の騒々しい観察が異なる領域にある問題。
これらのドメイン間のマッピングが積分や微分のような線形であるとき、推論は依然として閉じた形式である。
しかし、我々のコミュニティが開発したスケーリングと近似のテクニックの多くは、この設定には当てはまらない。
本研究では,階層型誘導点GP(HIP-GP)を提案する。これは拡張性のあるドメイン間GP推論手法で,数百万への誘導点数を増やすことで近似精度を向上させることができる。
格子構造と定常核仮定を持つ誘導点に依存するHIP-GPは、低次元問題に適しています。
HIP-GPの開発において、(1)高速な白化戦略、(2)一般的なGP設定に役立つ共役勾配のための新しいプレコンディショナーを導入する。
関連論文リスト
- Deep Transformed Gaussian Processes [0.0]
変換ガウス過程(英: Transformed Gaussian Processs、TGP)は、可逆変換を用いて、前者のプロセス(典型的にはGP)からサンプルを共分散から変換することによって定義される過程である。
本稿では,プロセスの階層化の傾向に従い,DTGP(Deep Transformed Gaussian Processs)と呼ばれるTGPの一般化を提案する。
実験では、提案したDTGPを複数の回帰データセットで評価し、優れたスケーラビリティと性能を実現した。
論文 参考訳(メタデータ) (2023-10-27T16:09:39Z) - Spherical Inducing Features for Orthogonally-Decoupled Gaussian
Processes [7.4468224549568705]
ガウス過程(GP)は、表現を学習する能力の欠如により、ディープニューラルネットワーク(NN)と比較されることがしばしばある。
GPとディープNNのギャップを埋める最近の試みは、新しいタイプのドメイン間変分GPを生み出し、誘導変数はフィードフォワードNNの隠れ単位に対応する。
論文 参考訳(メタデータ) (2023-04-27T09:00:02Z) - Interactive Segmentation as Gaussian Process Classification [58.44673380545409]
クリックベースのインタラクティブセグメンテーション(IS)は、ユーザインタラクション下で対象オブジェクトを抽出することを目的としている。
現在のディープラーニング(DL)ベースの手法のほとんどは、主にセマンティックセグメンテーションの一般的なパイプラインに従っている。
本稿では,各画像上でガウス過程(GP)に基づく画素単位のバイナリ分類モデルとしてISタスクを定式化することを提案する。
論文 参考訳(メタデータ) (2023-02-28T14:01:01Z) - A mixed-categorical correlation kernel for Gaussian process [0.0]
本稿では, 連続指数関数型カーネルを拡張し, 混合カテゴリー変数の処理を行うカーネルベースアプローチを提案する。
提案したカーネルは、連続緩和とゴーワー距離に基づくGPモデルの両方を一般化する新しいGPサロゲートを導く。
論文 参考訳(メタデータ) (2022-11-15T16:13:04Z) - Scaling Gaussian Process Optimization by Evaluating a Few Unique
Candidates Multiple Times [119.41129787351092]
GPに基づく逐次ブラックボックス最適化は,複数の評価ステップの候補解に固執することで効率よく行うことができることを示す。
GP-UCB と GP-EI の2つのよく確立されたGP-Opt アルゴリズムを改良し,バッチ化された GP-Opt の規則を適応させる。
論文 参考訳(メタデータ) (2022-01-30T20:42:14Z) - Non-Gaussian Gaussian Processes for Few-Shot Regression [71.33730039795921]
乱変数ベクトルの各成分上で動作し,パラメータを全て共有する可逆なODEベースのマッピングを提案する。
NGGPは、様々なベンチマークとアプリケーションに対する競合する最先端のアプローチよりも優れています。
論文 参考訳(メタデータ) (2021-10-26T10:45:25Z) - Incremental Ensemble Gaussian Processes [53.3291389385672]
本稿では,EGPメタラーナーがGP学習者のインクリメンタルアンサンブル(IE-) GPフレームワークを提案し,それぞれが所定のカーネル辞書に属するユニークなカーネルを持つ。
各GP専門家は、ランダムな特徴ベースの近似を利用してオンライン予測とモデル更新を行い、そのスケーラビリティを生かし、EGPメタラーナーはデータ適応重みを生かし、熟練者ごとの予測を合成する。
新たなIE-GPは、EGPメタラーナーおよび各GP学習者内における構造化力学をモデル化することにより、時間変化関数に対応するように一般化される。
論文 参考訳(メタデータ) (2021-10-13T15:11:25Z) - Learning Structures in Earth Observation Data with Gaussian Processes [67.27044745471207]
本稿では,この分野の主要な理論gp開発について概説する。
信号特性と雑音特性を尊重し、特徴ランキングを自動的に提供し、関連する不確かさ区間を適用可能にする新しいアルゴリズムについて論じる。
論文 参考訳(メタデータ) (2020-12-22T10:46:37Z) - Inter-domain Deep Gaussian Processes [45.28237107466283]
ドメイン間および深いガウス過程(DGP)の利点を組み合わせたドメイン間浅層GPの拡張を提案する。
提案手法は,DGPのドメイン間特徴量を用いて,既存の近似推論手法を用いて,シンプルでスケーラブルな近似推論を実現する方法を示す。
論文 参考訳(メタデータ) (2020-11-01T04:03:35Z) - Graph Based Gaussian Processes on Restricted Domains [13.416168979487118]
非パラメトリック回帰では、入力はユークリッド空間の制限された部分集合に落ちるのが一般的である。
入力領域の幾何学を尊重する共分散を学習するグラフラプラシアン型GP(GL-GP)の新たなクラスを提案する。
本稿では,GL-GP手法の理論的サポートを提供し,各種アプリケーションの性能向上を示す。
論文 参考訳(メタデータ) (2020-10-14T17:01:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。