論文の概要: Markovian Gaussian Process Variational Autoencoders
- arxiv url: http://arxiv.org/abs/2207.05543v3
- Date: Wed, 16 Aug 2023 22:53:02 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-21 20:13:29.246717
- Title: Markovian Gaussian Process Variational Autoencoders
- Title(参考訳): マルコフガウス過程変分オートエンコーダ
- Authors: Harrison Zhu, Carles Balsells Rodas, Yingzhen Li
- Abstract要約: 我々はマルコフ型GPの等価離散状態空間表現を活用し、カルマンフィルタと平滑化による線形時間 GPVAE トレーニングを可能にする。
我々のモデルであるMGPVAE(Markovian GPVAE)では,従来の手法と比較して,多種多様な高次元時間的課題を示す。
- 参考スコア(独自算出の注目度): 19.686719654642392
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Sequential VAEs have been successfully considered for many high-dimensional
time series modelling problems, with many variant models relying on
discrete-time mechanisms such as recurrent neural networks (RNNs). On the other
hand, continuous-time methods have recently gained attraction, especially in
the context of irregularly-sampled time series, where they can better handle
the data than discrete-time methods. One such class are Gaussian process
variational autoencoders (GPVAEs), where the VAE prior is set as a Gaussian
process (GP). However, a major limitation of GPVAEs is that it inherits the
cubic computational cost as GPs, making it unattractive to practioners. In this
work, we leverage the equivalent discrete state space representation of
Markovian GPs to enable linear time GPVAE training via Kalman filtering and
smoothing. For our model, Markovian GPVAE (MGPVAE), we show on a variety of
high-dimensional temporal and spatiotemporal tasks that our method performs
favourably compared to existing approaches whilst being computationally highly
scalable.
- Abstract(参考訳): 逐次VAEは高次元の時系列モデリング問題に対して、リカレントニューラルネットワーク(RNN)のような離散時間機構に依存する多くの変種モデルにより、うまく検討されてきた。
一方、連続時間法は、特に離散時間法よりもデータを扱うことができる不規則なサンプル時系列の文脈において、近年注目を集めている。
そのようなクラスの一つがガウス過程変分オートエンコーダ (GPVAE) であり、VAE はガウス過程 (GP) として設定される。
しかし、GPVAEsの大きな制限は、立方体計算コストをGPとして継承し、実践者にとって魅力がないことである。
本研究では,マルコフ型GPの等価離散状態空間表現を活用し,カルマンフィルタと平滑化による線形時間 GPVAE トレーニングを実現する。
我々のモデルであるMGPVAE(Markovian GPVAE)では,計算に高いスケーラビリティを保ちながら,従来の手法に比べ,多種多様な高次元時間的・時空間的タスクを示す。
関連論文リスト
- Computation-Aware Gaussian Processes: Model Selection And Linear-Time Inference [55.150117654242706]
我々は、1.8万のデータポイントでトレーニングされた計算対応GPのモデル選択が、1つのGPU上で数時間以内に可能であることを示す。
この研究の結果、ガウス過程は、不確実性を定量化する能力を著しく妥協することなく、大規模なデータセットで訓練することができる。
論文 参考訳(メタデータ) (2024-11-01T21:11:48Z) - Markovian Gaussian Process: A Universal State-Space Representation for Stationary Temporal Gaussian Process [2.600709013150986]
LDSが定常時間GPをミラーできる普遍的手法を提案する。
この状態空間表現はマルコフ・ガウス過程 (Markovian Gaussian Process, Markovian GP) と呼ばれ、効率的な線形計算を維持しながらカーネル関数の柔軟性を利用する。
論文 参考訳(メタデータ) (2024-06-29T10:50:23Z) - Closed-form Filtering for Non-linear Systems [83.91296397912218]
我々は密度近似と計算効率の面でいくつかの利点を提供するガウスPSDモデルに基づく新しいフィルタのクラスを提案する。
本研究では,遷移や観測がガウスPSDモデルである場合,フィルタリングを効率的にクローズド形式で行うことができることを示す。
提案する推定器は, 近似の精度に依存し, 遷移確率の正則性に適応する推定誤差を伴って, 高い理論的保証を享受する。
論文 参考訳(メタデータ) (2024-02-15T08:51:49Z) - Graph Spatiotemporal Process for Multivariate Time Series Anomaly
Detection with Missing Values [67.76168547245237]
本稿では,グラフ時間過程と異常スコアラを用いて異常を検出するGST-Proという新しいフレームワークを提案する。
実験結果から,GST-Pro法は時系列データ中の異常を効果的に検出し,最先端の手法より優れていることがわかった。
論文 参考訳(メタデータ) (2024-01-11T10:10:16Z) - Generative Modeling of Regular and Irregular Time Series Data via Koopman VAEs [50.25683648762602]
モデルの新しい設計に基づく新しい生成フレームワークであるKoopman VAEを紹介する。
クープマン理論に触発され、線形写像を用いて潜在条件事前力学を表現する。
KoVAEは、いくつかの挑戦的な合成および実世界の時系列生成ベンチマークにおいて、最先端のGANおよびVAEメソッドより優れている。
論文 参考訳(メタデータ) (2023-10-04T07:14:43Z) - Revisiting Active Sets for Gaussian Process Decoders [0.0]
我々は最近発見されたクロスバリデーションのリンクに基づいて,ログマージ可能性の新たな推定法を開発した。
結果の能動集合 (SAS) 近似がGPデコーダトレーニングの堅牢性を大幅に向上することを示す。
論文 参考訳(メタデータ) (2022-09-10T10:49:31Z) - Shallow and Deep Nonparametric Convolutions for Gaussian Processes [0.0]
GPの非パラメトリックプロセス畳み込み定式化を導入し,機能サンプリング手法を用いて弱点を緩和する。
古典的ディープGPモデルの代替となるこれらの非パラメトリック畳み込みの合成を提案する。
論文 参考訳(メタデータ) (2022-06-17T19:03:04Z) - Non-Gaussian Gaussian Processes for Few-Shot Regression [71.33730039795921]
乱変数ベクトルの各成分上で動作し,パラメータを全て共有する可逆なODEベースのマッピングを提案する。
NGGPは、様々なベンチマークとアプリケーションに対する競合する最先端のアプローチよりも優れています。
論文 参考訳(メタデータ) (2021-10-26T10:45:25Z) - Encoding spatiotemporal priors with VAEs for small-area estimation [2.4783465852664324]
本稿では,新しい時間的設定に対処する深層生成モデリング手法を提案する。
可変オートエンコーダ(VAE)の事前装着による事前サンプリングのクラスを近似する。
VAEは独立に分散された潜在ガウス空間表現のため、推論を驚くほど効率的にすることができる。
ベイズ型小面積推定タスクにおけるVAE2段階アプローチの有用性を実証する。
論文 参考訳(メタデータ) (2021-10-20T08:14:15Z) - Learning Gaussian Graphical Models via Multiplicative Weights [54.252053139374205]
乗算重み更新法に基づいて,Klivans と Meka のアルゴリズムを適用した。
アルゴリズムは、文献の他のものと質的に類似したサンプル複雑性境界を楽しみます。
ランタイムが低い$O(mp2)$で、$m$サンプルと$p$ノードの場合には、簡単にオンライン形式で実装できる。
論文 参考訳(メタデータ) (2020-02-20T10:50:58Z) - Sequential Gaussian Processes for Online Learning of Nonstationary
Functions [9.997259201098602]
連続モンテカルロアルゴリズムは,オンラインの分散推論を可能としながら,非定常挙動を捉えたGPの無限混合に適合する。
提案手法は,時系列データにおける非定常性の存在下でのオンラインGP推定における最先端手法の性能を実証的に改善する。
論文 参考訳(メタデータ) (2019-05-24T02:29:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。