論文の概要: Doubly Sparse Variational Gaussian Processes
- arxiv url: http://arxiv.org/abs/2001.05363v1
- Date: Wed, 15 Jan 2020 15:07:08 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-11 05:46:20.275709
- Title: Doubly Sparse Variational Gaussian Processes
- Title(参考訳): 二重スパース変分ガウス過程
- Authors: Vincent Adam and Stefanos Eleftheriadis and Nicolas Durrande and Artem
Artemev and James Hensman
- Abstract要約: 我々は、状態空間モデルにはまだインジェクションポイントフレームワークが有効であり、さらなる計算とメモリの節約をもたらすことを示している。
この研究により、実験の1つで示されるように、深いガウス過程モデル内で状態空間の定式化が利用できるようになる。
- 参考スコア(独自算出の注目度): 14.209730729425502
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The use of Gaussian process models is typically limited to datasets with a
few tens of thousands of observations due to their complexity and memory
footprint. The two most commonly used methods to overcome this limitation are
1) the variational sparse approximation which relies on inducing points and 2)
the state-space equivalent formulation of Gaussian processes which can be seen
as exploiting some sparsity in the precision matrix. We propose to take the
best of both worlds: we show that the inducing point framework is still valid
for state space models and that it can bring further computational and memory
savings. Furthermore, we provide the natural gradient formulation for the
proposed variational parameterisation. Finally, this work makes it possible to
use the state-space formulation inside deep Gaussian process models as
illustrated in one of the experiments.
- Abstract(参考訳): ガウスのプロセスモデルの使用は通常、複雑さとメモリフットプリントのために数万の観測結果を持つデータセットに限られる。
この制限を克服する最も一般的な2つの方法は
1)誘導点とそれに依存する変分スパース近似
2) ガウス過程の状態空間同値な定式化は、精度行列の空間性を利用すると見なすことができる。
我々は,状態空間モデルにはまだ誘導点フレームワークが有効であること,さらに計算とメモリの節約が可能であること,両世界を最大限に活用することを提案する。
さらに,提案する変分パラメータ化のための自然勾配定式化も提供する。
最後に、この研究により、実験の1つで示されているように、深いガウス過程モデル内で状態空間の定式化を使うことができる。
関連論文リスト
- Implicit Manifold Gaussian Process Regression [49.0787777751317]
ガウス過程の回帰は、よく校正された不確実性推定を提供するために広く用いられている。
これは、データが実際に存在する暗黙の低次元多様体のため、高次元データに苦しむ。
本稿では,データ(ラベル付きおよびラベルなし)から直接暗黙構造を完全に微分可能な方法で推定できる手法を提案する。
論文 参考訳(メタデータ) (2023-10-30T09:52:48Z) - Neural Operator Variational Inference based on Regularized Stein
Discrepancy for Deep Gaussian Processes [23.87733307119697]
本稿では,深いガウス過程に対するニューラル演算子変分推論(NOVI)を提案する。
NOVIは、ニューラルジェネレータを使用してサンプリング装置を取得し、生成された分布と真の後部の間のL2空間における正規化スタインの離散性を最小化する。
提案手法が提案するバイアスは定数で発散を乗算することで制御可能であることを示す。
論文 参考訳(メタデータ) (2023-09-22T06:56:35Z) - Posterior Contraction Rates for Mat\'ern Gaussian Processes on
Riemannian Manifolds [51.68005047958965]
我々は,本質的なガウス過程が実際により優れた性能を発揮することを示す。
我々の研究は、データ効率の異なるレベルを区別するために、よりきめ細かい分析が必要であることを示している。
論文 参考訳(メタデータ) (2023-09-19T20:30:58Z) - Stochastic Marginal Likelihood Gradients using Neural Tangent Kernels [78.6096486885658]
線形化されたラプラス近似に下界を導入する。
これらの境界は漸進的な最適化が可能であり、推定精度と計算複雑性とのトレードオフを可能にする。
論文 参考訳(メタデータ) (2023-06-06T19:02:57Z) - Gaussian Processes and Statistical Decision-making in Non-Euclidean
Spaces [96.53463532832939]
我々はガウス過程の適用性を高める技術を開発した。
この観点から構築した効率的な近似を幅広く導入する。
非ユークリッド空間上のガウス過程モデルの集合を開発する。
論文 参考訳(メタデータ) (2022-02-22T01:42:57Z) - Sparse Algorithms for Markovian Gaussian Processes [18.999495374836584]
スパースマルコフ過程は、誘導変数の使用と効率的なカルマンフィルタライク再帰を結合する。
我々は,局所ガウス項を用いて非ガウス的確率を近似する一般的なサイトベースアプローチであるsitesを導出する。
提案手法は,変動推論,期待伝播,古典非線形カルマンスムーサなど,機械学習と信号処理の両方から得られるアルゴリズムの新たなスパース拡張の一群を導出する。
派生した方法は、モデルが時間と空間の両方で別々の誘導点を持つ文学時間データに適しています。
論文 参考訳(メタデータ) (2021-03-19T09:50:53Z) - Bandgap optimization in combinatorial graphs with tailored ground
states: Application in Quantum annealing [0.0]
Pottsモデルのパラメータ推定にはMILP(mixed-integer linear programming)の定式化を提案する。
2つのアルゴリズムが開発され、第1の手法は、基底状態の集合がユーザの指定したデータセットを複製するパラメータを推定する。
論文 参考訳(メタデータ) (2021-01-31T22:11:12Z) - Pathwise Conditioning of Gaussian Processes [72.61885354624604]
ガウス過程後部をシミュレーションするための従来のアプローチでは、有限個の入力位置のプロセス値の限界分布からサンプルを抽出する。
この分布中心の特徴づけは、所望のランダムベクトルのサイズで3次スケールする生成戦略をもたらす。
条件付けのこのパスワイズ解釈が、ガウス過程の後部を効率的にサンプリングするのに役立てる近似の一般族をいかに生み出すかを示す。
論文 参考訳(メタデータ) (2020-11-08T17:09:37Z) - Local optimization on pure Gaussian state manifolds [63.76263875368856]
ボソニックおよびフェルミオンガウス状態の幾何学に関する洞察を利用して、効率的な局所最適化アルゴリズムを開発する。
この手法は局所幾何学に適応した降下勾配の概念に基づいている。
提案手法を用いて、任意の混合ガウス状態の精製の絡み合いを計算するのにガウス浄化が十分であるという予想の数値的および解析的証拠を収集する。
論文 参考訳(メタデータ) (2020-09-24T18:00:36Z) - Sparse Orthogonal Variational Inference for Gaussian Processes [34.476453597078894]
誘導点を用いたガウス過程に対するスパース変分近似の新しい解釈を導入する。
この定式化は既存の近似を復元し、同時に限界確率と新しい変分推論アルゴリズムのより厳密な下界を得ることができることを示す。
論文 参考訳(メタデータ) (2019-10-23T15:01:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。