論文の概要: XCTFormer: Leveraging Cross-Channel and Cross-Time Dependencies for Enhanced Time-Series Analysis
- arxiv url: http://arxiv.org/abs/2605.18534v1
- Date: Mon, 18 May 2026 15:18:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-19 17:57:49.900229
- Title: XCTFormer: Leveraging Cross-Channel and Cross-Time Dependencies for Enhanced Time-Series Analysis
- Title(参考訳): XCTFormer: 拡張時系列解析のためのクロスチャネルとクロスタイム依存の活用
- Authors: Israel Zexer, Omri Azencot,
- Abstract要約: XCTFormerはトランスフォーマーをベースとしたチャネル依存型(CD)モデルである。
XCTFormerは広く認知されているベースラインと比較して強い結果を得る。
MSEでは平均20.8%、MAEでは15.3%である。
- 参考スコア(独自算出の注目度): 10.642410240494238
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multivariate time-series analysis involves extracting informative representations from sequences of multiple interdependent variables, supporting tasks such as forecasting, imputation, and anomaly detection. In real-world scenarios, these variables are typically collected from a shared context or underlying phenomenon, suggesting the presence of latent dependencies across time and channels that can be leveraged to improve performance. However, recent findings show that channel-independent (CI) models, which assume no inter-variable dependencies, often outperform channel-dependent (CD) models that explicitly model such relationships. This surprising result indicates that current CD models may not fully exploit their potential due to limitations in how dependencies are captured. Recent studies have revisited channel dependence modeling with various approaches; however, these methods often employ indirect modeling strategies, which can lead to meaningful dependencies being overlooked. To address this issue, we introduce XCTFormer, a transformer-based channel-dependent (CD) model that explicitly captures cross-temporal and cross-channel dependencies via an enhanced attention mechanism. The model operates in a token-to-token fashion, modeling pairwise dependencies between every pair of tokens across time and channels. The architecture comprises (i) a data processing module, (ii) a novel Cross-Relational Attention Block (CRAB) that increases capacity and expressiveness, and (iii) an optional Dependency Compression Plugin (DeCoP) that improves scalability. Through extensive experiments on three time-series benchmarks, we show that XCTFormer achieves strong results compared to widely recognized baselines; in particular, it attains state-of-the-art performance on the imputation task, outperforming the second-best method by an average of 20.8% in MSE and 15.3% in MAE.
- Abstract(参考訳): 多変量時系列解析では、複数の相互依存変数のシーケンスから情報表現を抽出し、予測、計算、異常検出などのタスクをサポートする。
実世界のシナリオでは、これらの変数は通常、共有コンテキストや基礎となる現象から収集される。
しかし、近年の研究では、チャンネル非依存(CI)モデルは、変数間の依存関係を前提とせず、そのような関係を明示的にモデル化するチャンネル依存(CD)モデルよりも優れていることが示されている。
この驚くべき結果から、現在のCDモデルは依存関係の取得方法に制限があるため、その潜在能力を十分に活用していない可能性がある。
近年、チャネル依存モデリングを様々なアプローチで再検討しているが、これらの手法はしばしば間接的モデリング戦略を採用しており、意味のある依存関係が見落とされてしまう可能性がある。
この問題に対処するため,XCTFormerというトランスフォーマーベースのチャネル依存型(CD)モデルを導入する。
このモデルはトークン・ツー・トークン方式で動作し、時間とチャネルをまたいだトークンのペア間の相互依存関係をモデル化する。
建築
i) データ処理モジュール
(二)キャパシティと表現力を高める新しいクロスリレーショナルアテンションブロック(CRAB)
(iii)拡張性を改善するオプションのDependency Compression Plugin(DeCoP)。
3つの時系列ベンチマークにおいて、XCTFormerは、広く認識されているベースラインと比較して強い結果が得られることを示し、特に、計算タスクにおける最先端のパフォーマンスを達成し、MSEでは平均20.8%、MAEでは15.3%、第2のベストメソッドよりも優れていた。
関連論文リスト
- Time-Correlated Video Bridge Matching [49.94768097995648]
Time-Correlated Video Bridge Matching (TCVBM) は、Bridge Matching (BM) をビデオ領域の時間関連データシーケンスに拡張するフレームワークである。
TCVBMは、複数の量的指標にまたがって優れた性能を達成し、生成品質の向上と再構成の忠実性を示す。
論文 参考訳(メタデータ) (2025-10-14T12:35:30Z) - Enhancing Channel-Independent Time Series Forecasting via Cross-Variate Patch Embedding [1.1607669836339873]
チャネル非依存(CI)モデルにクロスバリアントコンテキストを注入する軽量CDモジュールとして,CVPE(Cross-Variate Patch Embeddings)を提案する。
CVPEをマルチモーダルCI予測モデルであるTime-LLMに統合し,その有効性を示す。
論文 参考訳(メタデータ) (2025-05-19T06:41:14Z) - CMamba: Channel Correlation Enhanced State Space Models for Multivariate Time Series Forecasting [18.50360049235537]
ステートスペースモデルであるMambaは、堅牢なシーケンスと機能ミキシング機能を備えている。
チャネル間の依存関係のキャプチャは、時系列予測のパフォーマンス向上に不可欠である。
時系列予測に適した改良されたマンバ変種を導入する。
論文 参考訳(メタデータ) (2024-06-08T01:32:44Z) - SOFTS: Efficient Multivariate Time Series Forecasting with Series-Core Fusion [59.96233305733875]
時系列予測は、金融、交通管理、エネルギー、医療など様々な分野で重要な役割を果たしている。
いくつかの方法は、注意やミキサーのようなメカニズムを利用して、チャネル相関をキャプチャすることでこの問題に対処する。
本稿では,効率的なモデルであるSOFTS(Series-cOre Fused Time Series forecaster)を提案する。
論文 参考訳(メタデータ) (2024-04-22T14:06:35Z) - The Capacity and Robustness Trade-off: Revisiting the Channel
Independent Strategy for Multivariate Time Series Forecasting [50.48888534815361]
本稿では、Channel Dependent(CD)戦略でトレーニングされたモデルが、Channel Dependent(CD)戦略でトレーニングされたモデルよりも優れていることを示す。
以上の結果から,CD手法は高いキャパシティを持つが,分散ドリフト時系列を正確に予測する堅牢性に欠けることがわかった。
本稿では,CI戦略を超越した正規化(PRReg)による予測残差法(Predict Residuals with Regularization, PRReg)を提案する。
論文 参考訳(メタデータ) (2023-04-11T13:15:33Z) - Deep Explicit Duration Switching Models for Time Series [84.33678003781908]
状態依存型と時間依存型の両方のスイッチングダイナミクスを識別できるフレキシブルモデルを提案する。
状態依存スイッチングは、リカレントな状態-スイッチ接続によって実現される。
時間依存スイッチング動作を改善するために、明示的な期間カウント変数が使用される。
論文 参考訳(メタデータ) (2021-10-26T17:35:21Z) - Closed-form Continuous-Depth Models [99.40335716948101]
連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。
我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
論文 参考訳(メタデータ) (2021-06-25T22:08:51Z) - Transformer Hawkes Process [79.16290557505211]
本稿では,長期的依存関係を捕捉する自己認識機構を利用したTransformer Hawkes Process (THP) モデルを提案する。
THPは、有意なマージンによる可能性と事象予測の精度の両方の観点から、既存のモデルより優れている。
本稿では、THPが関係情報を組み込む際に、複数の点過程を学習する際の予測性能の改善を実現する具体例を示す。
論文 参考訳(メタデータ) (2020-02-21T13:48:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。