論文の概要: MCformer: Multivariate Time Series Forecasting with Mixed-Channels Transformer

• arxiv url: http://arxiv.org/abs/2403.09223v1
• Date: Thu, 14 Mar 2024 09:43:07 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-15 21:07:03.497069
• Title: MCformer: Multivariate Time Series Forecasting with Mixed-Channels Transformer
• Title（参考訳）: MCformer:Mixed-Channels Transformerを用いた多変量時系列予測
• Authors: Wenyong Han, Tao Zhu Member, Liming Chen, Huansheng Ning, Yang Luo, Yaping Wan,
• Abstract要約: Channel Independence(CI)戦略は、すべてのチャネルを単一のチャネルとして扱い、データセットを拡張する。 Mixed Channels戦略は、CI戦略のデータ拡張アドバンテージと、チャネル間の相関を忘れないように対処する機能を組み合わせたものだ。 モデルは特定の数のチャネルをブレンドし、チャネル間の相関情報を効果的に取得するための注意機構を活用する。
• 参考スコア（独自算出の注目度）: 8.329947472853029
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The massive generation of time-series data by largescale Internet of Things (IoT) devices necessitates the exploration of more effective models for multivariate time-series forecasting. In previous models, there was a predominant use of the Channel Dependence (CD) strategy (where each channel represents a univariate sequence). Current state-of-the-art (SOTA) models primarily rely on the Channel Independence (CI) strategy. The CI strategy treats all channels as a single channel, expanding the dataset to improve generalization performance and avoiding inter-channel correlation that disrupts long-term features. However, the CI strategy faces the challenge of interchannel correlation forgetting. To address this issue, we propose an innovative Mixed Channels strategy, combining the data expansion advantages of the CI strategy with the ability to counteract inter-channel correlation forgetting. Based on this strategy, we introduce MCformer, a multivariate time-series forecasting model with mixed channel features. The model blends a specific number of channels, leveraging an attention mechanism to effectively capture inter-channel correlation information when modeling long-term features. Experimental results demonstrate that the Mixed Channels strategy outperforms pure CI strategy in multivariate time-series forecasting tasks.
• Abstract（参考訳）: 大規模モノのインターネット(IoT)デバイスによる膨大な時系列データの生成は、多変量時系列予測のためのより効率的なモデル探索を必要とする。 以前のモデルでは、Channel Dependence(CD)戦略(各チャネルは単変量列を表す)が主流であった。 現在のSOTAモデルは、主にチャンネルインデペンデンス(CI)戦略に依存している。 CI戦略は、すべてのチャネルを単一のチャネルとして扱い、データセットを拡張して一般化性能を改善し、長期的な特徴を損なうチャネル間の相関を回避する。 しかし、CI戦略はチャネル間の相関を忘れることの難しさに直面している。 この問題に対処するため、我々はCI戦略のデータ拡張の利点とチャネル間の相関を忘れないように対処する能力を組み合わせたMixed Channels戦略を提案する。 この戦略に基づいて,混合チャネル特徴を持つ多変量時系列予測モデルであるMCformerを導入する。 このモデルは特定の数のチャネルをブレンドし、長期的特徴をモデル化する際にチャネル間の相関情報を効果的にキャプチャするアテンション機構を活用する。 実験の結果,Mixed Channels戦略は多変量時系列予測タスクにおいて純粋なCI戦略よりも優れていた。

関連論文リスト

• Channel-Aware Low-Rank Adaptation in Time Series Forecasting [43.684035409535696]
  2つの代表的なチャネル戦略は、モデル表現性とロバスト性に密接に関連している。 本稿では,チャネル対応の低ランク適応手法を,アイデンティティ対応の個別コンポーネント上での条件付きCDモデルに適用する。
  論文  参考訳（メタデータ） (2024-07-24T13:05:17Z)
• SOFTS: Efficient Multivariate Time Series Forecasting with Series-Core Fusion [59.96233305733875]
  時系列予測は、金融、交通管理、エネルギー、医療など様々な分野で重要な役割を果たしている。 いくつかの方法は、注意やミキサーのようなメカニズムを利用して、チャネル相関をキャプチャすることでこの問題に対処する。 本稿では,効率的なモデルであるSOFTS(Series-cOre Fused Time Series forecaster)を提案する。
  論文  参考訳（メタデータ） (2024-04-22T14:06:35Z)
• From Similarity to Superiority: Channel Clustering for Time Series Forecasting [61.96777031937871]
  CCM(Channel Clustering Module)を開発した。 CCMは、固有の類似性を特徴とするチャネルを動的にグループ化し、個々のチャネルのアイデンティティの代わりにクラスタ情報を活用する。 CCMは、CIモデルとCDモデルのパフォーマンスを、それぞれ長期および短期の予測において平均利率2.4%と7.2%で向上させることができる。
  論文  参考訳（メタデータ） (2024-03-31T02:46:27Z)
• Enhancing Multivariate Time Series Forecasting with Mutual Information-driven Cross-Variable and Temporal Modeling [24.041263835195423]
  チャネル混合手法のためのCDAM(Cross-var-Decorrelation Aware Feature Modeling)を提案する。 また,従来の一段階予測手法を超越した時間的相関を利用するための時間的相関認識モデリング(TAM)も導入した。 我々の新しいフレームワークは、包括的テストにおいて、これまで最先端と見なされていたものを含め、既存のモデルを大幅に上回っている。
  論文  参考訳（メタデータ） (2024-03-01T04:42:47Z)
• CARD: Channel Aligned Robust Blend Transformer for Time Series Forecasting [50.23240107430597]
  本稿では,CARD(Channel Aligned Robust Blend Transformer)という特殊なトランスを設計する。 まず、CARDはチャネルに沿ったアテンション構造を導入し、信号間の時間的相関をキャプチャする。 第二に、マルチスケール知識を効率的に活用するために、異なる解像度のトークンを生成するトークンブレンドモジュールを設計する。 第3に,潜在的な過度な問題を軽減するため,時系列予測のためのロバストな損失関数を導入する。
  論文  参考訳（メタデータ） (2023-05-20T05:16:31Z)
• The Capacity and Robustness Trade-off: Revisiting the Channel Independent Strategy for Multivariate Time Series Forecasting [50.48888534815361]
  本稿では、Channel Dependent(CD)戦略でトレーニングされたモデルが、Channel Dependent(CD)戦略でトレーニングされたモデルよりも優れていることを示す。 以上の結果から,CD手法は高いキャパシティを持つが,分散ドリフト時系列を正確に予測する堅牢性に欠けることがわかった。 本稿では,CI戦略を超越した正規化(PRReg)による予測残差法(Predict Residuals with Regularization, PRReg)を提案する。
  論文  参考訳（メタデータ） (2023-04-11T13:15:33Z)
• Multi-scale Attention Flow for Probabilistic Time Series Forecasting [68.20798558048678]
  マルチスケールアテンション正規化フロー(MANF)と呼ばれる非自己回帰型ディープラーニングモデルを提案する。 我々のモデルは累積誤差の影響を回避し、時間の複雑さを増大させない。 本モデルは,多くの多変量データセット上での最先端性能を実現する。
  論文  参考訳（メタデータ） (2022-05-16T07:53:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。