論文の概要: Automated Augmented Conjugate Inference for Non-conjugate Gaussian
Process Models
- arxiv url: http://arxiv.org/abs/2002.11451v1
- Date: Wed, 26 Feb 2020 13:10:00 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-28 14:15:30.269772
- Title: Automated Augmented Conjugate Inference for Non-conjugate Gaussian
Process Models
- Title(参考訳): 非共役ガウス過程モデルに対する自動拡張共役推論
- Authors: Th\'eo Galy-Fajou, Florian Wenzel, Manfred Opper
- Abstract要約: 非共役プロセス(GP)モデルのための新しい推論手法である自動共役推論を提案する。
本手法は,GPモデルを条件付き共役する補助変数拡張を自動生成する。
- 参考スコア(独自算出の注目度): 6.011991689754301
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose automated augmented conjugate inference, a new inference method
for non-conjugate Gaussian processes (GP) models. Our method automatically
constructs an auxiliary variable augmentation that renders the GP model
conditionally conjugate. Building on the conjugate structure of the augmented
model, we develop two inference methods. First, a fast and scalable stochastic
variational inference method that uses efficient block coordinate ascent
updates, which are computed in closed form. Second, an asymptotically correct
Gibbs sampler that is useful for small datasets. Our experiments show that our
method are up two orders of magnitude faster and more robust than existing
state-of-the-art black-box methods.
- Abstract(参考訳): 非共役ガウス過程(GP)モデルに対する新しい推論手法である自動共役推論を提案する。
本手法は,GPモデルを条件付き共役する補助変数拡張を自動生成する。
拡張モデルの共役構造に基づいて, 2つの推論法を開発した。
まず, 高速でスケーラブルな確率的変分推定法で, クローズドフォームで計算した効率的なブロック座標昇降更新を用いる。
第二に、漸近的に正しいGibbsサンプルラで、小さなデータセットに役立ちます。
実験の結果,既存の最先端のブラックボックス法よりも2桁高速で頑健であることがわかった。
関連論文リスト
- Multi-Response Heteroscedastic Gaussian Process Models and Their
Inference [1.52292571922932]
本稿ではヘテロセダスティック共分散関数のモデリングのための新しいフレームワークを提案する。
後部モデルに近似し, 後部予測モデルを容易にするために, 変分推論を用いる。
提案するフレームワークは,幅広いアプリケーションに対して,堅牢で汎用的なツールを提供する。
論文 参考訳(メタデータ) (2023-08-29T15:06:47Z) - Heterogeneous Multi-Task Gaussian Cox Processes [61.67344039414193]
異種相関タスクを共同でモデル化するためのマルチタスクガウスコックスプロセスの新たな拡張を提案する。
MOGPは、分類、回帰、ポイントプロセスタスクの専用可能性のパラメータに先行して、異種タスク間の情報の共有を容易にする。
モデルパラメータを推定するための閉形式反復更新を実現する平均場近似を導出する。
論文 参考訳(メタデータ) (2023-08-29T15:01:01Z) - Additive Gaussian Processes Revisited [13.158344774468413]
加法構造を持つフレキシブルな非パラメトリックGPモデルを提案する。
我々は,OAKモデルがブラックボックスモデルと同じような,あるいはより良い予測性能を実現することを示す。
少数の加法的低次元項だけで、OAKモデルがブラックボックスモデルと比較して類似またはより良い予測性能を達成することを実証する。
論文 参考訳(メタデータ) (2022-06-20T15:52:59Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - Laplace Matching for fast Approximate Inference in Generalized Linear
Models [27.70274403550477]
本論文では,高い近似品質を実現しつつ,計算的に安価に設計した近似推論フレームワークを提案する。
我々が emphLaplace Matching と呼ぶこの概念は、指数群のパラメータ空間間の閉形式、近似、双方向変換を含む。
これにより、GLMにおける推論を(小さな近似誤差で)共役推論に変換する。
論文 参考訳(メタデータ) (2021-05-07T08:25:17Z) - Random extrapolation for primal-dual coordinate descent [61.55967255151027]
本稿では,データ行列の疎度と目的関数の好適な構造に適応する,ランダムに外挿した原始-双対座標降下法を提案する。
一般凸凹の場合, 主対差と目的値に対するシーケンスのほぼ確実に収束と最適サブ線形収束率を示す。
論文 参考訳(メタデータ) (2020-07-13T17:39:35Z) - Automated and Formal Synthesis of Neural Barrier Certificates for
Dynamical Models [70.70479436076238]
バリア証明書(BC)の自動的,形式的,反例に基づく合成手法を提案する。
このアプローチは、ニューラルネットワークとして構造化されたBCの候補を操作する誘導的フレームワークと、その候補の有効性を認証するか、反例を生成する音検証器によって支えられている。
その結果,音のBCsを最大2桁の速度で合成できることがわかった。
論文 参考訳(メタデータ) (2020-07-07T07:39:42Z) - Sparse Gaussian Processes with Spherical Harmonic Features [14.72311048788194]
領域間変分ガウス過程(GP)の新たなクラスを導入する。
我々の推論スキームは変分フーリエの特徴に匹敵するが、次元の呪いに苦しむことはない。
実験の結果,本モデルでは,600万項目のデータセットに対して,2桁の精度で回帰モデルを適合させることができることがわかった。
論文 参考訳(メタデータ) (2020-06-30T10:19:32Z) - Interpolation Technique to Speed Up Gradients Propagation in Neural ODEs [71.26657499537366]
本稿では,ニューラルネットワークモデルにおける勾配の効率的な近似法を提案する。
我々は、分類、密度推定、推論近似タスクにおいて、ニューラルODEをトレーニングするリバースダイナミック手法と比較する。
論文 参考訳(メタデータ) (2020-03-11T13:15:57Z) - SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for
Gaussian Process Regression with Derivatives [86.01677297601624]
本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。
我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
論文 参考訳(メタデータ) (2020-03-05T14:33:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。