論文の概要: Factorized Gaussian Process Variational Autoencoders
- arxiv url: http://arxiv.org/abs/2011.07255v1
- Date: Sat, 14 Nov 2020 10:24:10 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-25 13:10:24.527514
- Title: Factorized Gaussian Process Variational Autoencoders
- Title(参考訳): 係数化ガウス過程変分オートエンコーダ
- Authors: Metod Jazbec, Michael Pearce, Vincent Fortuin
- Abstract要約: 変分オートエンコーダは、しばしば等方的ガウス先行と平均体後部を仮定するので、潜在変数間の類似性や一貫性を期待するシナリオでは構造を利用できない。
多くのデータセットに存在する補助的特徴の独立性を活用することにより、これらのモデルのよりスケーラブルな拡張を提案する。
- 参考スコア(独自算出の注目度): 6.866104126509981
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Variational autoencoders often assume isotropic Gaussian priors and
mean-field posteriors, hence do not exploit structure in scenarios where we may
expect similarity or consistency across latent variables. Gaussian process
variational autoencoders alleviate this problem through the use of a latent
Gaussian process, but lead to a cubic inference time complexity. We propose a
more scalable extension of these models by leveraging the independence of the
auxiliary features, which is present in many datasets. Our model factorizes the
latent kernel across these features in different dimensions, leading to a
significant speed-up (in theory and practice), while empirically performing
comparably to existing non-scalable approaches. Moreover, our approach allows
for additional modeling of global latent information and for more general
extrapolation to unseen input combinations.
- Abstract(参考訳): 変分オートエンコーダは、しばしば等方ガウス先行と平均体後部を仮定するので、潜在変数間の類似性や一貫性を期待するシナリオでは構造を利用できない。
ガウス過程変分オートエンコーダは、潜在ガウス過程を用いてこの問題を緩和するが、立方体の推論時間複雑性をもたらす。
多くのデータセットに存在する補助的特徴の独立性を利用して、これらのモデルのよりスケーラブルな拡張を提案する。
我々のモデルは、これらの特徴にまたがる潜在カーネルを異なる次元で分解し、重要なスピードアップ(理論と実践)を導き、既存の非スケーラブルアプローチと実証的に比較可能にします。
さらに,本手法では,グローバル潜在情報のさらなるモデリングや,より汎用的な入力組合せの補間が可能となる。
関連論文リスト
- Fully Bayesian Differential Gaussian Processes through Stochastic Differential Equations [7.439555720106548]
本稿では、カーネルハイパーパラメータを確率変数として扱い、結合微分方程式(SDE)を構築して、その後部分布と誘導点を学習する完全ベイズ的手法を提案する。
提案手法は,SDE法による結合変数による時間変化,包括的,現実的な後部近似を提供する。
我々の研究はベイズ的推論を推し進めるためのエキサイティングな研究の道を開き、継続的なガウス的プロセスのための強力なモデリングツールを提供する。
論文 参考訳(メタデータ) (2024-08-12T11:41:07Z) - Combining additivity and active subspaces for high-dimensional Gaussian
process modeling [2.7140711924836816]
本稿では,高次元ガウス過程モデリングと多面性戦略を組み合わせる方法について述べる。
高次元ガウス過程モデリングへの我々の貢献は、これらを多面的戦略と組み合わせ、合成関数やデータセットの実験を通じて利点を示すことである。
論文 参考訳(メタデータ) (2024-02-06T08:49:27Z) - Heterogeneous Multi-Task Gaussian Cox Processes [61.67344039414193]
異種相関タスクを共同でモデル化するためのマルチタスクガウスコックスプロセスの新たな拡張を提案する。
MOGPは、分類、回帰、ポイントプロセスタスクの専用可能性のパラメータに先行して、異種タスク間の情報の共有を容易にする。
モデルパラメータを推定するための閉形式反復更新を実現する平均場近似を導出する。
論文 参考訳(メタデータ) (2023-08-29T15:01:01Z) - VTAE: Variational Transformer Autoencoder with Manifolds Learning [144.0546653941249]
深層生成モデルは、多くの潜伏変数を通して非線形データ分布の学習に成功している。
ジェネレータの非線形性は、潜在空間がデータ空間の不満足な射影を示し、表現学習が不十分になることを意味する。
本研究では、測地学と正確な計算により、深部生成モデルの性能を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2023-04-03T13:13:19Z) - Linear Self-Attention Approximation via Trainable Feedforward Kernel [77.34726150561087]
高速な計算を追求する中で、効率的なトランスフォーマーは印象的な様々なアプローチを実証している。
我々は,トランスフォーマーアーキテクチャの自己保持機構を近似するために,トレーニング可能なカーネルメソッドのアイデアを拡張することを目指している。
論文 参考訳(メタデータ) (2022-11-08T08:14:11Z) - A Variational Inference Approach to Inverse Problems with Gamma
Hyperpriors [60.489902135153415]
本稿では,ガンマハイパープライヤを用いた階層的逆問題に対する変分反復交替方式を提案する。
提案した変分推論手法は正確な再構成を行い、意味のある不確実な定量化を提供し、実装が容易である。
論文 参考訳(メタデータ) (2021-11-26T06:33:29Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - Recyclable Gaussian Processes [0.0]
ガウス過程に対する独立な変分近似をリサイクルするための新しい枠組みを提案する。
主な貢献は、ガウス過程の辞書が与えられた変分アンサンブルの構築である。
私たちのフレームワークは回帰、分類、異種タスクを可能にします。
論文 参考訳(メタデータ) (2020-10-06T09:01:55Z) - Scalable Variational Gaussian Process Regression Networks [19.699020509495437]
GPRNのためのスケーラブルな変分推論アルゴリズムを提案する。
出力空間をテンソル化し、テンソル/マトリクス正規変分後部を導入し、後部相関を捉える。
実世界のいくつかの応用において,本手法の利点を実証する。
論文 参考訳(メタデータ) (2020-03-25T16:39:47Z) - Variational Hyper RNN for Sequence Modeling [69.0659591456772]
本稿では,時系列データにおける高変数の取得に優れる新しい確率的シーケンスモデルを提案する。
提案手法では,時間潜時変数を用いて基礎となるデータパターンに関する情報をキャプチャする。
提案手法の有効性を,合成および実世界のシーケンシャルデータに示す。
論文 参考訳(メタデータ) (2020-02-24T19:30:32Z) - Randomly Projected Additive Gaussian Processes for Regression [37.367935314532154]
GPレグレッションにはカーネルの加算和を使用し、各カーネルはその入力の異なるランダムなプロジェクションで動作する。
この収束とその速度を証明し、純粋にランダムな射影よりも早く収束する決定論的アプローチを提案する。
論文 参考訳(メタデータ) (2019-12-30T07:26:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。