論文の概要: DisenTS: Disentangled Channel Evolving Pattern Modeling for Multivariate Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2410.22981v1
- Date: Wed, 30 Oct 2024 12:46:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-31 14:27:02.307167
- Title: DisenTS: Disentangled Channel Evolving Pattern Modeling for Multivariate Time Series Forecasting
- Title(参考訳): DisenTS: 多変量時系列予測のための異方性チャネル進化パターンモデリング
- Authors: Zhiding Liu, Jiqian Yang, Qingyang Mao, Yuze Zhao, Mingyue Cheng, Zhi Li, Qi Liu, Enhong Chen,
- Abstract要約: DisenTSは、一般的な時系列予測において、不整合チャネル進化パターンをモデル化するための調整されたフレームワークである。
本稿では,予測器の状態と入力系列の特性の両方に応じて適応的にルーティング信号を生成する,新しいフォアキャスタ・アウェアゲート(FAG)モジュールを提案する。
- 参考スコア(独自算出の注目度): 43.071713191702486
- License:
- Abstract: Multivariate time series forecasting plays a crucial role in various real-world applications. Significant efforts have been made to integrate advanced network architectures and training strategies that enhance the capture of temporal dependencies, thereby improving forecasting accuracy. On the other hand, mainstream approaches typically utilize a single unified model with simplistic channel-mixing embedding or cross-channel attention operations to account for the critical intricate inter-channel dependencies. Moreover, some methods even trade capacity for robust prediction based on the channel-independent assumption. Nonetheless, as time series data may display distinct evolving patterns due to the unique characteristics of each channel (including multiple strong seasonalities and trend changes), the unified modeling methods could yield suboptimal results. To this end, we propose DisenTS, a tailored framework for modeling disentangled channel evolving patterns in general multivariate time series forecasting. The central idea of DisenTS is to model the potential diverse patterns within the multivariate time series data in a decoupled manner. Technically, the framework employs multiple distinct forecasting models, each tasked with uncovering a unique evolving pattern. To guide the learning process without supervision of pattern partition, we introduce a novel Forecaster Aware Gate (FAG) module that generates the routing signals adaptively according to both the forecasters' states and input series' characteristics. The forecasters' states are derived from the Linear Weight Approximation (LWA) strategy, which quantizes the complex deep neural networks into compact matrices. Additionally, the Similarity Constraint (SC) is further proposed to guide each model to specialize in an underlying pattern by minimizing the mutual information between the representations.
- Abstract(参考訳): 多変量時系列予測は、様々な現実世界の応用において重要な役割を果たす。
高度なネットワークアーキテクチャとトレーニング戦略を統合して、時間的依存の捕捉を強化し、予測精度を向上させるための重要な取り組みがなされている。
一方、主流のアプローチは一般的に、単純化されたチャネル混在の埋め込みやチャネル間アテンション操作による単一統一モデルを用いて、重要な複雑なチャネル間の依存関係を考慮に入れている。
さらに、チャネルに依存しない仮定に基づいて、ロバストな予測のための取引能力を持つ方法もある。
それにもかかわらず、時系列データには、各チャネルの独特の特徴(複数の強い季節性や傾向変化を含む)により、異なる進化パターンが現れる可能性があるため、統一されたモデリング手法は、最適な結果をもたらす可能性がある。
そこで本研究では,多変量時系列予測において,不整合チャネル進化パターンをモデル化するフレームワークであるDisenTSを提案する。
DisenTSの中心的な考え方は、多変量時系列データ内の潜在的多様なパターンを疎結合でモデル化することである。
技術的には、このフレームワークは複数の異なる予測モデルを採用しており、それぞれがユニークな進化パターンを明らかにすることを任務としている。
パターン分割を監督せずに学習プロセスを導出するために,予測器の状態と入力系列の特性の両方に適応的にルーティング信号を生成する新しいフォアキャスタ・アウェアゲート(FAG)モジュールを導入する。
予測者の状態は、複雑なディープニューラルネットワークをコンパクトな行列に定量化する線形重み近似(LWA)戦略から導かれる。
さらに、類似性制約(SC)も提案され、各モデルが表現間の相互情報を最小化し、基礎となるパターンを専門化する。
関連論文リスト
- UniTST: Effectively Modeling Inter-Series and Intra-Series Dependencies for Multivariate Time Series Forecasting [98.12558945781693]
フラット化されたパッチトークンに統一された注意機構を含む変圧器ベースモデルUniTSTを提案する。
提案モデルでは単純なアーキテクチャを採用しているが,時系列予測のためのいくつかのデータセットの実験で示されたような,魅力的な性能を提供する。
論文 参考訳(メタデータ) (2024-06-07T14:39:28Z) - ForecastGrapher: Redefining Multivariate Time Series Forecasting with Graph Neural Networks [9.006068771300377]
本稿では、複雑な時間的ダイナミクスと系列間相関をキャプチャするフレームワークであるForecastGrapherを紹介する。
提案手法は,各系列の時間的変動を反映するカスタムノード埋め込みの生成,系列間の相関関係を符号化する適応的隣接行列の構築,および第3に,ノード特徴分布の多様化によるGNNの表現力の増大という,3つの重要なステップによって支えられている。
論文 参考訳(メタデータ) (2024-05-28T10:40:20Z) - Revitalizing Multivariate Time Series Forecasting: Learnable Decomposition with Inter-Series Dependencies and Intra-Series Variations Modeling [14.170879566023098]
動的傾向情報をより合理的に捉えるための学習可能な分解戦略を導入する。
また、シリーズ間の依存関係とシリーズ間のバリエーションを同時にキャプチャする2つのアテンションモジュールを提案する。
論文 参考訳(メタデータ) (2024-02-20T03:45:59Z) - TACTiS-2: Better, Faster, Simpler Attentional Copulas for Multivariate Time Series [57.4208255711412]
パウラ理論に基づいて,最近導入されたトランスフォーマーに基づく注目パウラ(TACTiS)の簡易な目的を提案する。
結果から,実世界の予測タスクにまたがって,このモデルのトレーニング性能が大幅に向上し,最先端のパフォーマンスが達成できることが示唆された。
論文 参考訳(メタデータ) (2023-10-02T16:45:19Z) - MPPN: Multi-Resolution Periodic Pattern Network For Long-Term Time
Series Forecasting [19.573651104129443]
長期の時系列予測は、様々な現実のシナリオにおいて重要な役割を果たす。
近年の時系列予測の深層学習手法は,分解法やサンプリング法により時系列の複雑なパターンを捉える傾向にある。
本稿では,MPPN(Multi- resolution Periodic Pattern Network)という,長期連続予測のための新しいディープラーニングネットワークアーキテクチャを提案する。
論文 参考訳(メタデータ) (2023-06-12T07:00:37Z) - The Capacity and Robustness Trade-off: Revisiting the Channel
Independent Strategy for Multivariate Time Series Forecasting [50.48888534815361]
本稿では、Channel Dependent(CD)戦略でトレーニングされたモデルが、Channel Dependent(CD)戦略でトレーニングされたモデルよりも優れていることを示す。
以上の結果から,CD手法は高いキャパシティを持つが,分散ドリフト時系列を正確に予測する堅牢性に欠けることがわかった。
本稿では,CI戦略を超越した正規化(PRReg)による予測残差法(Predict Residuals with Regularization, PRReg)を提案する。
論文 参考訳(メタデータ) (2023-04-11T13:15:33Z) - A Pattern Discovery Approach to Multivariate Time Series Forecasting [27.130141538089152]
モデル複雑性は時系列の長さとともに指数関数的に増加するので、最先端のディープラーニング手法はフルタイムのモデルの構築に失敗する。
本稿では,多種多様な時系列パターンを自動的にキャプチャできる新しいパターン探索手法を提案する。
また,学習可能な相関行列を提案し,複数の時系列間の相関関係をモデル化する。
論文 参考訳(メタデータ) (2022-12-20T14:54:04Z) - Multi-scale Attention Flow for Probabilistic Time Series Forecasting [68.20798558048678]
マルチスケールアテンション正規化フロー(MANF)と呼ばれる非自己回帰型ディープラーニングモデルを提案する。
我々のモデルは累積誤差の影響を回避し、時間の複雑さを増大させない。
本モデルは,多くの多変量データセット上での最先端性能を実現する。
論文 参考訳(メタデータ) (2022-05-16T07:53:42Z) - Improving the Reconstruction of Disentangled Representation Learners via Multi-Stage Modeling [54.94763543386523]
現在の自己エンコーダに基づく非絡み合い表現学習法は、(集合体)後部をペナルティ化し、潜伏因子の統計的独立を促進することで、非絡み合いを実現する。
本稿では,不整合因子をペナルティに基づく不整合表現学習法を用いて学習する,新しい多段階モデリング手法を提案する。
次に、低品質な再構成を、欠落した関連潜伏変数をモデル化するために訓練された別の深層生成モデルで改善する。
論文 参考訳(メタデータ) (2020-10-25T18:51:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。