論文の概要: Automated Augmented Conjugate Inference for Non-conjugate Gaussian
Process Models
- arxiv url: http://arxiv.org/abs/2002.11451v1
- Date: Wed, 26 Feb 2020 13:10:00 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-28 14:15:30.269772
- Title: Automated Augmented Conjugate Inference for Non-conjugate Gaussian
Process Models
- Title(参考訳): 非共役ガウス過程モデルに対する自動拡張共役推論
- Authors: Th\'eo Galy-Fajou, Florian Wenzel, Manfred Opper
- Abstract要約: 非共役プロセス(GP)モデルのための新しい推論手法である自動共役推論を提案する。
本手法は,GPモデルを条件付き共役する補助変数拡張を自動生成する。
- 参考スコア(独自算出の注目度): 6.011991689754301
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose automated augmented conjugate inference, a new inference method
for non-conjugate Gaussian processes (GP) models. Our method automatically
constructs an auxiliary variable augmentation that renders the GP model
conditionally conjugate. Building on the conjugate structure of the augmented
model, we develop two inference methods. First, a fast and scalable stochastic
variational inference method that uses efficient block coordinate ascent
updates, which are computed in closed form. Second, an asymptotically correct
Gibbs sampler that is useful for small datasets. Our experiments show that our
method are up two orders of magnitude faster and more robust than existing
state-of-the-art black-box methods.
- Abstract(参考訳): 非共役ガウス過程(GP)モデルに対する新しい推論手法である自動共役推論を提案する。
本手法は,GPモデルを条件付き共役する補助変数拡張を自動生成する。
拡張モデルの共役構造に基づいて, 2つの推論法を開発した。
まず, 高速でスケーラブルな確率的変分推定法で, クローズドフォームで計算した効率的なブロック座標昇降更新を用いる。
第二に、漸近的に正しいGibbsサンプルラで、小さなデータセットに役立ちます。
実験の結果,既存の最先端のブラックボックス法よりも2桁高速で頑健であることがわかった。
関連論文リスト
- von Mises Quasi-Processes for Bayesian Circular Regression [57.88921637944379]
円値ランダム関数上の表現的および解釈可能な分布の族を探索する。
結果の確率モデルは、統計物理学における連続スピンモデルと関係を持つ。
後続推論のために、高速マルコフ連鎖モンテカルロサンプリングに寄与するストラトノビッチのような拡張を導入する。
論文 参考訳(メタデータ) (2024-06-19T01:57:21Z) - Conditionally-Conjugate Gaussian Process Factor Analysis for Spike Count Data via Data Augmentation [8.114880112033644]
近年、GPFAはスパイクカウントデータをモデル化するために拡張されている。
本稿では,解析的および計算的抽出可能な推論が可能な条件共役型ガウス過程因子解析(ccGPFA)を提案する。
論文 参考訳(メタデータ) (2024-05-19T21:53:36Z) - Heterogeneous Multi-Task Gaussian Cox Processes [61.67344039414193]
異種相関タスクを共同でモデル化するためのマルチタスクガウスコックスプロセスの新たな拡張を提案する。
MOGPは、分類、回帰、ポイントプロセスタスクの専用可能性のパラメータに先行して、異種タスク間の情報の共有を容易にする。
モデルパラメータを推定するための閉形式反復更新を実現する平均場近似を導出する。
論文 参考訳(メタデータ) (2023-08-29T15:01:01Z) - Additive Gaussian Processes Revisited [13.158344774468413]
加法構造を持つフレキシブルな非パラメトリックGPモデルを提案する。
我々は,OAKモデルがブラックボックスモデルと同じような,あるいはより良い予測性能を実現することを示す。
少数の加法的低次元項だけで、OAKモデルがブラックボックスモデルと比較して類似またはより良い予測性能を達成することを実証する。
論文 参考訳(メタデータ) (2022-06-20T15:52:59Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - Laplace Matching for fast Approximate Inference in Generalized Linear
Models [27.70274403550477]
本論文では,高い近似品質を実現しつつ,計算的に安価に設計した近似推論フレームワークを提案する。
我々が emphLaplace Matching と呼ぶこの概念は、指数群のパラメータ空間間の閉形式、近似、双方向変換を含む。
これにより、GLMにおける推論を(小さな近似誤差で)共役推論に変換する。
論文 参考訳(メタデータ) (2021-05-07T08:25:17Z) - Random extrapolation for primal-dual coordinate descent [61.55967255151027]
本稿では,データ行列の疎度と目的関数の好適な構造に適応する,ランダムに外挿した原始-双対座標降下法を提案する。
一般凸凹の場合, 主対差と目的値に対するシーケンスのほぼ確実に収束と最適サブ線形収束率を示す。
論文 参考訳(メタデータ) (2020-07-13T17:39:35Z) - Sparse Gaussian Processes with Spherical Harmonic Features [14.72311048788194]
領域間変分ガウス過程(GP)の新たなクラスを導入する。
我々の推論スキームは変分フーリエの特徴に匹敵するが、次元の呪いに苦しむことはない。
実験の結果,本モデルでは,600万項目のデータセットに対して,2桁の精度で回帰モデルを適合させることができることがわかった。
論文 参考訳(メタデータ) (2020-06-30T10:19:32Z) - Interpolation Technique to Speed Up Gradients Propagation in Neural ODEs [71.26657499537366]
本稿では,ニューラルネットワークモデルにおける勾配の効率的な近似法を提案する。
我々は、分類、密度推定、推論近似タスクにおいて、ニューラルODEをトレーニングするリバースダイナミック手法と比較する。
論文 参考訳(メタデータ) (2020-03-11T13:15:57Z) - SLEIPNIR: Deterministic and Provably Accurate Feature Expansion for
Gaussian Process Regression with Derivatives [86.01677297601624]
本稿では,2次フーリエ特徴に基づく導関数によるGP回帰のスケーリング手法を提案する。
我々は、近似されたカーネルと近似された後部の両方に適用される決定論的、非漸近的、指数関数的に高速な崩壊誤差境界を証明した。
論文 参考訳(メタデータ) (2020-03-05T14:33:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。