論文の概要: Enhancing Multivariate Time Series Forecasting with Mutual
Information-driven Cross-Variable and Temporal Modeling
- arxiv url: http://arxiv.org/abs/2403.00869v1
- Date: Fri, 1 Mar 2024 04:42:47 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-05 16:18:06.628166
- Title: Enhancing Multivariate Time Series Forecasting with Mutual
Information-driven Cross-Variable and Temporal Modeling
- Title(参考訳): 相互情報駆動型クロス変数と時間モデルによる多変量時系列予測の強化
- Authors: Shiyi Qi, Liangjian Wen, Yiduo Li, Yuanhang Yang, Zhe Li, Zhongwen
Rao, Lujia Pan, Zenglin Xu
- Abstract要約: チャネル混合手法のためのCDAM(Cross-var-Decorrelation Aware Feature Modeling)を提案する。
また,従来の一段階予測手法を超越した時間的相関を利用するための時間的相関認識モデリング(TAM)も導入した。
我々の新しいフレームワークは、包括的テストにおいて、これまで最先端と見なされていたものを含め、既存のモデルを大幅に上回っている。
- 参考スコア(独自算出の注目度): 24.041263835195423
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent advancements have underscored the impact of deep learning techniques
on multivariate time series forecasting (MTSF). Generally, these techniques are
bifurcated into two categories: Channel-independence and Channel-mixing
approaches. Although Channel-independence methods typically yield better
results, Channel-mixing could theoretically offer improvements by leveraging
inter-variable correlations. Nonetheless, we argue that the integration of
uncorrelated information in channel-mixing methods could curtail the potential
enhancement in MTSF model performance. To substantiate this claim, we introduce
the Cross-variable Decorrelation Aware feature Modeling (CDAM) for
Channel-mixing approaches, aiming to refine Channel-mixing by minimizing
redundant information between channels while enhancing relevant mutual
information. Furthermore, we introduce the Temporal correlation Aware Modeling
(TAM) to exploit temporal correlations, a step beyond conventional single-step
forecasting methods. This strategy maximizes the mutual information between
adjacent sub-sequences of both the forecasted and target series. Combining CDAM
and TAM, our novel framework significantly surpasses existing models, including
those previously considered state-of-the-art, in comprehensive tests.
- Abstract(参考訳): 近年の進歩は,多変量時系列予測(MTSF)における深層学習の影響を裏付けている。
一般に、これらの技術はチャネル独立性とチャネル混合アプローチの2つのカテゴリに分けられる。
Channel-independence法は一般的により良い結果をもたらすが、Channel-mixingは、変数間の相関を利用して理論的に改善を提供する。
しかし,チャネル混合手法における非相関情報の統合は,MTSFモデルの性能向上を阻害する可能性がある。
この主張を裏付けるために、チャンネル間の冗長な情報を最小化し、関連する相互情報を高めながらチャネル混在を改善すべく、チャネル混在アプローチのためのCDAM(Cross-variable Decorrelation Aware Feature Modeling)を導入する。
さらに,従来の単段予測法を超越した時間相関を活用すべく,時間相関認識モデル(tam)を提案する。
この戦略は、予測されたシリーズと目標シリーズの両方の隣接サブシーケンス間の相互情報を最大化する。
CDAMとTAMを組み合わせることで、従来最先端と考えられていたような包括的テストを含む既存のモデルを大幅に上回っている。
関連論文リスト
- Merging Models on the Fly Without Retraining: A Sequential Approach to Scalable Continual Model Merging [75.93960998357812]
ディープモデルマージ(Deep Modelmerging)は、複数の微調整モデルを組み合わせて、さまざまなタスクやドメインにまたがる能力を活用する、新たな研究方向を示すものだ。
現在のモデルマージ技術は、全ての利用可能なモデルを同時にマージすることに集中しており、重量行列に基づく手法が主要なアプローチである。
本稿では,モデルを逐次処理するトレーニングフリーなプロジェクションベース連続マージ手法を提案する。
論文 参考訳(メタデータ) (2025-01-16T13:17:24Z) - DUET: Dual Clustering Enhanced Multivariate Time Series Forecasting [13.05900224897486]
実世界の時系列は、時間とともに分布の変化によって引き起こされる異質な時間パターンを示すことが多い。
チャネル間の相関は複雑で絡み合っており、チャネル間の相互作用を正確にかつ柔軟にモデル化することは困難である。
本稿では,時空間とチャネル次元に2つのクラスタリングを導入するDUETというフレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-14T15:15:17Z) - DisenTS: Disentangled Channel Evolving Pattern Modeling for Multivariate Time Series Forecasting [43.071713191702486]
DisenTSは、一般的な時系列予測において、不整合チャネル進化パターンをモデル化するための調整されたフレームワークである。
本稿では,予測器の状態と入力系列の特性の両方に応じて適応的にルーティング信号を生成する,新しいフォアキャスタ・アウェアゲート(FAG)モジュールを提案する。
論文 参考訳(メタデータ) (2024-10-30T12:46:14Z) - SOFTS: Efficient Multivariate Time Series Forecasting with Series-Core Fusion [59.96233305733875]
時系列予測は、金融、交通管理、エネルギー、医療など様々な分野で重要な役割を果たしている。
いくつかの方法は、注意やミキサーのようなメカニズムを利用して、チャネル相関をキャプチャすることでこの問題に対処する。
本稿では,効率的なモデルであるSOFTS(Series-cOre Fused Time Series forecaster)を提案する。
論文 参考訳(メタデータ) (2024-04-22T14:06:35Z) - From Similarity to Superiority: Channel Clustering for Time Series Forecasting [61.96777031937871]
CCM(Channel Clustering Module)を開発した。
CCMは、固有の類似性を特徴とするチャネルを動的にグループ化し、個々のチャネルのアイデンティティの代わりにクラスタ情報を活用する。
CCMは、CIモデルとCDモデルのパフォーマンスを、それぞれ長期および短期の予測において平均利率2.4%と7.2%で向上させることができる。
論文 参考訳(メタデータ) (2024-03-31T02:46:27Z) - MCformer: Multivariate Time Series Forecasting with Mixed-Channels Transformer [8.329947472853029]
Channel Independence(CI)戦略は、すべてのチャネルを単一のチャネルとして扱い、データセットを拡張する。
Mixed Channels戦略は、CI戦略のデータ拡張アドバンテージと、チャネル間の相関を忘れないように対処する機能を組み合わせたものだ。
モデルは特定の数のチャネルをブレンドし、チャネル間の相関情報を効果的に取得するための注意機構を活用する。
論文 参考訳(メタデータ) (2024-03-14T09:43:07Z) - The Capacity and Robustness Trade-off: Revisiting the Channel
Independent Strategy for Multivariate Time Series Forecasting [50.48888534815361]
本稿では、Channel Dependent(CD)戦略でトレーニングされたモデルが、Channel Dependent(CD)戦略でトレーニングされたモデルよりも優れていることを示す。
以上の結果から,CD手法は高いキャパシティを持つが,分散ドリフト時系列を正確に予測する堅牢性に欠けることがわかった。
本稿では,CI戦略を超越した正規化(PRReg)による予測残差法(Predict Residuals with Regularization, PRReg)を提案する。
論文 参考訳(メタデータ) (2023-04-11T13:15:33Z) - Multi-scale Attention Flow for Probabilistic Time Series Forecasting [68.20798558048678]
マルチスケールアテンション正規化フロー(MANF)と呼ばれる非自己回帰型ディープラーニングモデルを提案する。
我々のモデルは累積誤差の影響を回避し、時間の複雑さを増大させない。
本モデルは,多くの多変量データセット上での最先端性能を実現する。
論文 参考訳(メタデータ) (2022-05-16T07:53:42Z) - Learning to Perform Downlink Channel Estimation in Massive MIMO Systems [72.76968022465469]
大規模マルチインプット・マルチアウトプット(MIMO)システムにおけるダウンリンク(DL)チャネル推定について検討する。
一般的なアプローチは、チャネル硬化によって動機付けられた推定値として平均値を使用することである。
本稿では2つの新しい推定法を提案する。
論文 参考訳(メタデータ) (2021-09-06T13:42:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。