論文の概要: Dance of Channel and Sequence: An Efficient Attention-Based Approach for
Multivariate Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2312.06220v1
- Date: Mon, 11 Dec 2023 09:10:38 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-12 16:32:24.457162
- Title: Dance of Channel and Sequence: An Efficient Attention-Based Approach for
Multivariate Time Series Forecasting
- Title(参考訳): チャンネルとシーケンスの踊り:多変量時系列予測のための効率よい注意に基づくアプローチ
- Authors: Haoxin Wang, Yipeng Mo, Nan Yin, Honghe Dai, Bixiong Li, Songhai Fan,
Site Mo
- Abstract要約: CSformerは、2段階の自己保持機構を巧みに設計した革新的なフレームワークである。
シーケンスアダプタとチャネルアダプタを導入し、モデルが様々な次元にわたって有能な特徴を識別できるようにする。
- 参考スコア(独自算出の注目度): 3.372816393214188
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In recent developments, predictive models for multivariate time series
analysis have exhibited commendable performance through the adoption of the
prevalent principle of channel independence. Nevertheless, it is imperative to
acknowledge the intricate interplay among channels, which fundamentally
influences the outcomes of multivariate predictions. Consequently, the notion
of channel independence, while offering utility to a certain extent, becomes
increasingly impractical, leading to information degradation. In response to
this pressing concern, we present CSformer, an innovative framework
characterized by a meticulously engineered two-stage self-attention mechanism.
This mechanism is purposefully designed to enable the segregated extraction of
sequence-specific and channel-specific information, while sharing parameters to
promote synergy and mutual reinforcement between sequences and channels.
Simultaneously, we introduce sequence adapters and channel adapters, ensuring
the model's ability to discern salient features across various dimensions.
Rigorous experimentation, spanning multiple real-world datasets, underscores
the robustness of our approach, consistently establishing its position at the
forefront of predictive performance across all datasets. This augmentation
substantially enhances the capacity for feature extraction inherent to
multivariate time series data, facilitating a more comprehensive exploitation
of the available information.
- Abstract(参考訳): 近年,多変量時系列解析の予測モデルは,チャネル独立の原理を取り入れて,賞賛できる性能を示した。
それにもかかわらず、多変量予測の結果に根本的な影響を及ぼすチャネル間の複雑な相互作用を認識することが不可欠である。
その結果、チャネル独立の概念は、有効性をある程度提供しながら、ますます非現実的になり、情報劣化につながる。
そこで,本研究では,2段階の自己着脱機構を細心の注意で設計した,革新的な枠組みであるcsformerを提案する。
このメカニズムは、シーケンス固有の情報とチャネル固有の情報を分離して抽出し、パラメータを共有して、シーケンスとチャネル間の相乗効果と相互強化を促進するように設計されている。
同時に、シーケンスアダプタとチャネルアダプタを導入し、モデルが様々な次元にまたがるサルエント特徴を識別する能力を保証する。
複数の実世界のデータセットにまたがる厳密な実験は、我々のアプローチの堅牢性を強調し、すべてのデータセットで予測パフォーマンスの最前線に一貫して位置を確立します。
この拡張により、多変量時系列データ固有の特徴抽出能力が大幅に向上し、利用可能な情報のより包括的な活用が容易になる。
関連論文リスト
- DUET: Dual Clustering Enhanced Multivariate Time Series Forecasting [13.05900224897486]
実世界の時系列は、時間とともに分布の変化によって引き起こされる異質な時間パターンを示すことが多い。
チャネル間の相関は複雑で絡み合っており、チャネル間の相互作用を正確にかつ柔軟にモデル化することは困難である。
本稿では,時空間とチャネル次元に2つのクラスタリングを導入するDUETというフレームワークを提案する。
論文 参考訳(メタデータ) (2024-12-14T15:15:17Z) - RelUNet: Relative Channel Fusion U-Net for Multichannel Speech Enhancement [25.878204820665516]
マルチチャネル音声強調モデル、特にU-Netアーキテクチャに基づくものは、有望な性能と一般化の可能性を示す。
本稿では,各チャネルが参照チャネルと協調して,スタックリングによって処理される,アウトセットからの相対情報を組み込むことにより,これらのモデルに新たな変更を加えることを提案する。
この入力戦略は、比較差を利用してチャネル間の情報を適応的に融合し、重要な空間情報を捕捉し、全体的な性能を向上させる。
論文 参考訳(メタデータ) (2024-10-07T13:19:10Z) - DeepInteraction++: Multi-Modality Interaction for Autonomous Driving [80.8837864849534]
我々は,モダリティごとの個別表現を学習し,維持することのできる,新しいモダリティインタラクション戦略を導入する。
DeepInteraction++はマルチモーダルなインタラクション・フレームワークであり、マルチモーダルな表現型インタラクション・エンコーダとマルチモーダルな予測型インタラクション・デコーダを特徴とする。
実験では,3次元物体検出とエンドツーエンドの自律走行の両方において,提案手法の優れた性能を示す。
論文 参考訳(メタデータ) (2024-08-09T14:04:21Z) - Channel-Aware Low-Rank Adaptation in Time Series Forecasting [43.684035409535696]
2つの代表的なチャネル戦略は、モデル表現性とロバスト性に密接に関連している。
本稿では,チャネル対応の低ランク適応手法を,アイデンティティ対応の個別コンポーネント上での条件付きCDモデルに適用する。
論文 参考訳(メタデータ) (2024-07-24T13:05:17Z) - SOFTS: Efficient Multivariate Time Series Forecasting with Series-Core Fusion [59.96233305733875]
時系列予測は、金融、交通管理、エネルギー、医療など様々な分野で重要な役割を果たしている。
いくつかの方法は、注意やミキサーのようなメカニズムを利用して、チャネル相関をキャプチャすることでこの問題に対処する。
本稿では,効率的なモデルであるSOFTS(Series-cOre Fused Time Series forecaster)を提案する。
論文 参考訳(メタデータ) (2024-04-22T14:06:35Z) - From Similarity to Superiority: Channel Clustering for Time Series Forecasting [61.96777031937871]
CCM(Channel Clustering Module)を開発した。
CCMは、固有の類似性を特徴とするチャネルを動的にグループ化し、個々のチャネルのアイデンティティの代わりにクラスタ情報を活用する。
CCMは、CIモデルとCDモデルのパフォーマンスを、それぞれ長期および短期の予測において平均利率2.4%と7.2%で向上させることができる。
論文 参考訳(メタデータ) (2024-03-31T02:46:27Z) - MCformer: Multivariate Time Series Forecasting with Mixed-Channels Transformer [8.329947472853029]
Channel Independence(CI)戦略は、すべてのチャネルを単一のチャネルとして扱い、データセットを拡張する。
Mixed Channels戦略は、CI戦略のデータ拡張アドバンテージと、チャネル間の相関を忘れないように対処する機能を組み合わせたものだ。
モデルは特定の数のチャネルをブレンドし、チャネル間の相関情報を効果的に取得するための注意機構を活用する。
論文 参考訳(メタデータ) (2024-03-14T09:43:07Z) - Unified Multi-modal Unsupervised Representation Learning for
Skeleton-based Action Understanding [62.70450216120704]
教師なしの事前訓練は骨格に基づく行動理解において大きな成功を収めた。
我々はUmURLと呼ばれる統一マルチモーダル非教師なし表現学習フレームワークを提案する。
UmURLは効率的な早期融合戦略を利用して、マルチモーダル機能を単一ストリームで共同でエンコードする。
論文 参考訳(メタデータ) (2023-11-06T13:56:57Z) - The Capacity and Robustness Trade-off: Revisiting the Channel
Independent Strategy for Multivariate Time Series Forecasting [50.48888534815361]
本稿では、Channel Dependent(CD)戦略でトレーニングされたモデルが、Channel Dependent(CD)戦略でトレーニングされたモデルよりも優れていることを示す。
以上の結果から,CD手法は高いキャパシティを持つが,分散ドリフト時系列を正確に予測する堅牢性に欠けることがわかった。
本稿では,CI戦略を超越した正規化(PRReg)による予測残差法(Predict Residuals with Regularization, PRReg)を提案する。
論文 参考訳(メタデータ) (2023-04-11T13:15:33Z) - Bi-Bimodal Modality Fusion for Correlation-Controlled Multimodal
Sentiment Analysis [96.46952672172021]
Bi-Bimodal Fusion Network (BBFN) は、2対のモダリティ表現で融合を行う新しいエンドツーエンドネットワークである。
モデルは、モダリティ間の既知の情報不均衡により、2つのバイモーダルペアを入力として取る。
論文 参考訳(メタデータ) (2021-07-28T23:33:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。