論文の概要: Temporal Conditional VAE for Distributional Drift Adaptation in
Multivariate Time Series
- arxiv url: http://arxiv.org/abs/2209.00654v1
- Date: Thu, 1 Sep 2022 10:06:22 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-05 12:38:59.831252
- Title: Temporal Conditional VAE for Distributional Drift Adaptation in
Multivariate Time Series
- Title(参考訳): 多変量時系列における分布ドリフト適応のための時間条件vae
- Authors: Hui He, Qi Zhang, Kun Yi, Kaize Shi, Simeng Bai, Zhendong Niu and
Longbin Cao
- Abstract要約: 既存のMSS予測モデルのほとんどは、分布のドリフトに悩まされ、時間とともに予測性能が低下する。
本稿では,時間経過に伴う動的分布依存をモデル化するための時間的条件変動自動符号化(TCVAE)を提案する。
TCVAEは、依存関係を時間的条件分布として推論し、潜伏変数を活用する。
- 参考スコア(独自算出の注目度): 17.64812266995387
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Due to the nonstationary nature, the distribution of real-world multivariate
time series (MTS) changes over time, which is known as distribution drift. Most
existing MTS forecasting models greatly suffer from the distribution drift and
degrade the forecasting performance over time. Existing methods address
distribution drift via adapting to the latest arrived data or self-correcting
per the meta knowledge derived from future data. Despite their great success in
MTS forecasting, these methods hardly capture the intrinsic distribution
changes especially from a distributional perspective. Accordingly, we propose a
novel framework temporal conditional variational autoencoder (TCVAE) to model
the dynamic distributional dependencies over time between historical
observations and future data in MTS and infer the dependencies as a temporal
conditional distribution to leverage latent variables. Specifically, a novel
temporal Hawkes attention mechanism represents temporal factors subsequently
fed into feed-forward networks to estimate the prior Gaussian distribution of
latent variables. The representation of temporal factors further dynamically
adjusts the structures of Transformer-based encoder and decoder to distribution
changes by leveraging a gated attention mechanism. Moreover, we introduce
conditional continuous normalization flow to transform the prior Gaussian to a
complex and form-free distribution to facilitate flexible inference of the
temporal conditional distribution. Extensive experiments conducted on six
real-world MTS datasets demonstrate the TCVAE's superior robustness and
effectiveness over the state-of-the-art MTS forecasting baselines. We further
illustrate the TCVAE applicability through multifaceted case studies and
visualization in real-world scenarios.
- Abstract(参考訳): 非定常性のため、実世界の多変量時系列(mts)の分布は、分布ドリフトとして知られる時間とともに変化する。
既存のmts予測モデルのほとんどは,分布ドリフトと時間経過に伴う予測性能の低下に非常に苦しむ。
既存の方法では、最新の到着データへの適応や、将来のデータから派生したメタ知識の自己修正による分散ドリフトに対処する。
MTS予測において大きな成功を収めたにもかかわらず、本質的な分布変化を特に分布の観点から捉えることはほとんどない。
そこで本研究では,過去の観測データとMSSの将来のデータとの時間的依存性をモデル化し,その依存性を時間的条件分布として推定し,潜時変数を活用するための新しいフレームワークTCVAEを提案する。
具体的には、新しい時間的ホークス注意機構は、その後フィードフォワードネットワークに供給され、潜在変数の以前のガウス分布を推定する時間的要因を表す。
時間的因子の表現は、ゲートアテンション機構を利用してトランスフォーマーベースのエンコーダとデコーダの構造を分散変化に動的に調整する。
さらに, 条件付き連続正規化フローを導入し, 事前ガウス分布を複雑で非形式な分布に変換し, 時間条件分布のフレキシブルな推論を容易にする。
6つの実世界のmtsデータセットで実施された広範な実験は、ttvaeが最先端のmts予測ベースラインよりも優れた堅牢性と有効性を示している。
さらに、実世界のシナリオにおける多面的ケーススタディと可視化によるTCVAEの適用性について説明する。
関連論文リスト
- Towards Long-Term Time-Series Forecasting: Feature, Pattern, and
Distribution [57.71199089609161]
長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。
トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。
LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
論文 参考訳(メタデータ) (2023-01-05T13:59:29Z) - Time Series Prediction under Distribution Shift using Differentiable
Forgetting [0.0]
我々は,重み付き経験的リスク最小化問題として,分布シフトの下での時系列予測について検討した。
経験的リスクにおける過去の観測の重み付けは、忘れる機構によって決定される。
そこで本研究では,忘れる機構のパラメータに対する勾配に基づく学習手法を提案する。
論文 参考訳(メタデータ) (2022-07-23T10:32:37Z) - DRAformer: Differentially Reconstructed Attention Transformer for
Time-Series Forecasting [7.805077630467324]
時系列予測は、機器ライフサイクル予測、天気予報、交通フロー予測など、多くの現実シナリオにおいて重要な役割を果たす。
最近の研究から、様々なトランスフォーマーモデルが時系列予測において顕著な結果を示したことが観察できる。
しかし、時系列予測タスクにおけるトランスフォーマーモデルの性能を制限する問題がまだ残っている。
論文 参考訳(メタデータ) (2022-06-11T10:34:29Z) - AdaRNN: Adaptive Learning and Forecasting of Time Series [39.63457842611036]
時系列は現実世界で広く応用されており、予測が難しいことが知られている。
本稿では,適応型RNN(AdaRNN)を提案する。
ヒトの行動認識、空気質予測、財務分析の実験は、AdaRNNが最新の手法を2.6%の分類精度で上回り、RMSEを9.0%減少させることを示している。
論文 参考訳(メタデータ) (2021-08-10T04:32:04Z) - Predicting with Confidence on Unseen Distributions [90.68414180153897]
ドメイン適応と予測不確実性文学を結びつけて、挑戦的な未知分布のモデル精度を予測する。
分類器の予測における信頼度(DoC)の差は,様々な変化に対して,分類器の性能変化を推定することに成功した。
具体的には, 合成分布と自然分布の区別について検討し, その単純さにもかかわらず, DoCは分布差の定量化に優れることを示した。
論文 参考訳(メタデータ) (2021-07-07T15:50:18Z) - Causally Invariant Predictor with Shift-Robustness [72.1844679700197]
本稿では,領域間の分散シフトに頑健な因果予測器を提案する。
経験的学習のために,データ再生に基づく直感的で柔軟な推定法を提案する。
合成データと実データの両方の実験結果から,予測器の有効性が示された。
論文 参考訳(メタデータ) (2021-07-05T09:07:29Z) - Learning Interpretable Deep State Space Model for Probabilistic Time
Series Forecasting [98.57851612518758]
確率的時系列予測は、その歴史に基づいて将来の分布を推定する。
本稿では,非線形エミッションモデルと遷移モデルとをネットワークによってパラメータ化した,確率的時系列予測のための深部状態空間モデルを提案する。
実験では,我々のモデルが正確かつ鋭い確率予測を生成することを示す。
論文 参考訳(メタデータ) (2021-01-31T06:49:33Z) - Stochastically forced ensemble dynamic mode decomposition for
forecasting and analysis of near-periodic systems [65.44033635330604]
本稿では,観測力学を強制線形系としてモデル化した新しい負荷予測手法を提案する。
固有線型力学の利用は、解釈可能性やパーシモニーの観点から、多くの望ましい性質を提供することを示す。
電力グリッドからの負荷データを用いたテストケースの結果が提示される。
論文 参考訳(メタデータ) (2020-10-08T20:25:52Z) - Transformer Hawkes Process [79.16290557505211]
本稿では,長期的依存関係を捕捉する自己認識機構を利用したTransformer Hawkes Process (THP) モデルを提案する。
THPは、有意なマージンによる可能性と事象予測の精度の両方の観点から、既存のモデルより優れている。
本稿では、THPが関係情報を組み込む際に、複数の点過程を学習する際の予測性能の改善を実現する具体例を示す。
論文 参考訳(メタデータ) (2020-02-21T13:48:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。