論文の概要: Considering Nonstationary within Multivariate Time Series with
Variational Hierarchical Transformer for Forecasting
- arxiv url: http://arxiv.org/abs/2403.05406v1
- Date: Fri, 8 Mar 2024 16:04:36 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-11 13:03:32.040927
- Title: Considering Nonstationary within Multivariate Time Series with
Variational Hierarchical Transformer for Forecasting
- Title(参考訳): 予測用変分階層変換器を用いた多変量時系列内の非定常性の検討
- Authors: Muyao Wang, Wenchao Chen, Bo Chen
- Abstract要約: MTS内の非定常性と固有特性を考慮した強力な階層的確率的生成モジュールを開発した。
次に、階層時間系列変分変換器(HTV-Trans)という、明確に定義された変動生成動的モデルに対する変換器と組み合わせる。
HTV-Transは強力な確率モデルであり、MTSの表現表現を学習し、予測タスクに適用する。
- 参考スコア(独自算出の注目度): 12.793705636683402
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The forecasting of Multivariate Time Series (MTS) has long been an important
but challenging task. Due to the non-stationary problem across long-distance
time steps, previous studies primarily adopt stationarization method to
attenuate the non-stationary problem of the original series for better
predictability. However, existing methods always adopt the stationarized
series, which ignores the inherent non-stationarity, and has difficulty in
modeling MTS with complex distributions due to the lack of stochasticity. To
tackle these problems, we first develop a powerful hierarchical probabilistic
generative module to consider the non-stationarity and stochastic
characteristics within MTS, and then combine it with transformer for a
well-defined variational generative dynamic model named Hierarchical Time
series Variational Transformer (HTV-Trans), which recovers the intrinsic
non-stationary information into temporal dependencies. Being a powerful
probabilistic model, HTV-Trans is utilized to learn expressive representations
of MTS and applied to forecasting tasks. Extensive experiments on diverse
datasets show the efficiency of HTV-Trans on MTS forecasting tasks
- Abstract(参考訳): 多変量時系列(MTS)の予測は、長い間重要で困難な課題であった。
長距離時間ステップにまたがる非定常問題により、従来の研究では、予測可能性を改善するために、元のシリーズの非定常問題を減衰させる固定化法を主に採用していた。
しかし、既存の手法は常に定常化級数を採用しており、非定常性を無視し、確率性の欠如により複雑な分布を持つMSSをモデル化することは困難である。
これらの問題に対処するために、我々はまず、MTS内の非定常性および確率特性を考慮した強力な階層的確率的生成モジュールを開発し、それを階層時間系列変分変換器(HTV-Trans)と組み合わせ、固有非定常情報を時間依存性に復元する。
HTV-Transは強力な確率モデルであり、MTSの表現表現を学習し、予測タスクに適用する。
MTS予測タスクにおけるHTV-Transの効率性を示す多種多様なデータセットに関する大規模な実験
関連論文リスト
- LSEAttention is All You Need for Time Series Forecasting [0.0]
トランスフォーマーベースのアーキテクチャは自然言語処理とコンピュータビジョンにおいて顕著な成功を収めた。
変圧器モデルでよく見られるエントロピー崩壊とトレーニング不安定性に対処するアプローチである textbfLSEAttention を導入する。
論文 参考訳(メタデータ) (2024-10-31T09:09:39Z) - Timer-XL: Long-Context Transformers for Unified Time Series Forecasting [67.83502953961505]
我々は時系列の統一予測のための生成変換器Timer-XLを提案する。
Timer-XLは、統一されたアプローチにより、挑戦的な予測ベンチマークで最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2024-10-07T07:27:39Z) - Robust Multivariate Time Series Forecasting against Intra- and Inter-Series Transitional Shift [40.734564394464556]
本稿では,時系列内/時系列間の相関関係を統合的に把握し,時変遷移分布をモデル化するための統一確率グラフモデルを提案する。
6つの高定常MTSデータセットに対する広範囲な実験により、JointPGMの有効性と効率を検証した。
論文 参考訳(メタデータ) (2024-07-18T06:16:03Z) - UniTST: Effectively Modeling Inter-Series and Intra-Series Dependencies for Multivariate Time Series Forecasting [98.12558945781693]
フラット化されたパッチトークンに統一された注意機構を含む変圧器ベースモデルUniTSTを提案する。
提案モデルでは単純なアーキテクチャを採用しているが,時系列予測のためのいくつかのデータセットの実験で示されたような,魅力的な性能を提供する。
論文 参考訳(メタデータ) (2024-06-07T14:39:28Z) - A Poisson-Gamma Dynamic Factor Model with Time-Varying Transition Dynamics [51.147876395589925]
非定常PGDSは、基礎となる遷移行列が時間とともに進化できるように提案されている。
後続シミュレーションを行うために, 完全共役かつ効率的なギブスサンプリング装置を開発した。
実験により,提案した非定常PGDSは,関連するモデルと比較して予測性能が向上することを示した。
論文 参考訳(メタデータ) (2024-02-26T04:39:01Z) - Multi-scale Transformer Pyramid Networks for Multivariate Time Series
Forecasting [8.739572744117634]
短時間の時間依存性をキャプチャする次元不変な埋め込み手法を導入する。
本稿では,マルチスケールトランスフォーマーピラミッドネットワーク(MTPNet)を提案する。
論文 参考訳(メタデータ) (2023-08-23T06:40:05Z) - FormerTime: Hierarchical Multi-Scale Representations for Multivariate
Time Series Classification [53.55504611255664]
formerTimeは、多変量時系列分類タスクの分類能力を改善する階層的表現モデルである。
1)時系列データから階層的なマルチスケール表現を学習し、(2)トランスフォーマーと畳み込みネットワークの強さを継承し、(3)自己維持メカニズムによって引き起こされる効率の課題に取り組む。
論文 参考訳(メタデータ) (2023-02-20T07:46:14Z) - Towards Long-Term Time-Series Forecasting: Feature, Pattern, and
Distribution [57.71199089609161]
長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。
トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。
LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
論文 参考訳(メタデータ) (2023-01-05T13:59:29Z) - Distributional Drift Adaptation with Temporal Conditional Variational Autoencoder for Multivariate Time Series Forecasting [41.206310481507565]
本稿では,時間経過に伴う動的分布依存をモデル化するための時間的条件変動自動符号化(TCVAE)を提案する。
TCVAEは、依存関係を時間的条件分布として推論し、潜伏変数を活用する。
現状のMTS予測ベースラインに対して,TCVAEの強靭性と有効性を示す。
論文 参考訳(メタデータ) (2022-09-01T10:06:22Z) - Non-stationary Transformers: Exploring the Stationarity in Time Series
Forecasting [86.33543833145457]
本稿では,2つの相互依存モジュールを持つ汎用フレームワークとして,非定常変圧器を提案する。
我々のフレームワークは、メインストリームのトランスフォーマーを、大きなマージンで継続的に増加させ、トランスフォーマーで49.43%、インフォーマーで47.34%、改革派で46.89%削減します。
論文 参考訳(メタデータ) (2022-05-28T12:27:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。