論文の概要: FAiT: Frequency-Aware Inverted Transformer for Multivariate Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2606.01306v1
- Date: Sun, 31 May 2026 15:51:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:29.568188
- Title: FAiT: Frequency-Aware Inverted Transformer for Multivariate Time Series Forecasting
- Title(参考訳): FAiT:多変量時系列予測のための周波数対応逆変換器
- Authors: Peng He, Yao Liu, Yanglei Gan, Run Lin, Yuxiang Cai, Qiao Liu,
- Abstract要約: FAiTは周波数対応逆変換器で、反転注意を通して内部的にスペクトルバイアスを補正する。
DTFMは、スペクトルサブバンドのエネルギーを適応的に再校正するために、インスタンス条件の重みを合成する。
広く使用されているベンチマークの実験では、FAiTは最先端のTransformerベースと周波数強調ベースラインを一貫して上回っている。
- 参考スコア(独自算出の注目度): 17.617858319449443
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While Transformer-based architectures have established themselves as a dominant paradigm in Multivariate Time Series Forecasting (MTSF), their core self-attention mechanism inherently functions as a low-pass filter, systematically smoothing out high-frequency signals vital for sharp local changes. Recent advancements have increasingly incorporated frequency-domain operations to address this bias, however, most existing designs rely on fixed spectral bases and apply sequence-wise (uniform) modulation, implicitly assuming a time-invariant frequency response. This overlooks a key property of real-world series that their spectral characteristics often evolve over time, making uniform modulation insufficient for capturing fine-grained temporal dynamics. To tackle these limitations, we propose FAiT, a Frequency-Aware inverted Transformer. Specifically, FAiT rectifies the spectral bias internally through Inverted Attention, which interprets the attention map as a learnable low-pass operator and constructs a dedicated complementary high-pass branch by inverting the attention matrix to recover attenuated transient signals. Furthermore, FAiT introduces Dynamic Temporal-Frequency Modulation (DTFM), which synthesizes instance-conditioned weights to adaptively re-calibrate the energy of spectral sub-bands, enabling fine-grained control over evolving multi-scale patterns. Extensive experiments on widely used benchmarks demonstrate that FAiT consistently outperforms state-of-the-art Transformer-based and frequency-enhanced baselines, while maintaining computational efficiency.
- Abstract(参考訳): Transformerベースのアーキテクチャは、MTSF(Multirate Time Series Forecasting)において、自らを支配的なパラダイムとして確立しているが、その中核となる自己保持機構は本質的にローパスフィルタとして機能し、急激な局所変化に不可欠な高周波信号を体系的に平滑化している。
近年、このバイアスに対処するために周波数領域操作が組み込まれてきているが、既存のほとんどの設計は固定スペクトルベースに依存し、時間不変の周波数応答を暗黙的に仮定して、シーケンスワイド(一様)変調を適用している。
これは、それらのスペクトル特性が時間とともに進化し、微粒な時間的ダイナミクスを捉えるのに一様変調が不十分である、実世界の系列の重要な性質を見落としている。
これらの制約に対処するため、周波数対応逆変換器であるFAiTを提案する。
具体的には、FAiTは、アテンションマップを学習可能なローパス演算子として解釈し、アテンション行列を反転させて専用補完ハイパス分岐を構築し、減衰した過渡信号を復元するインバーテッドアテンションにより、内部的にスペクトルバイアスを補正する。
さらに、FAiTは動的時間周波数変調(DTFM)を導入し、インスタンス条件付き重みを合成してスペクトルサブバンドのエネルギーを適応的に補正し、マルチスケールパターンの微粒化制御を可能にする。
広く使われているベンチマーク実験により、FAiTは計算効率を保ちながら、最先端のトランスフォーマーベースと周波数強調ベースラインを一貫して上回っていることが示された。
関連論文リスト
- FADTI: Fourier and Attention Driven Diffusion for Multivariate Time Series Imputation [26.523421387059035]
本稿では,FBP(Fourier Bias Projection)モジュールを介して周波数インフォームド特徴変調を注入する拡散型フレームワークであるFADTIを提案する。
新たに導入された生物学的時系列データセットを含む複数のベンチマークの実験は、FADTIが一貫して最先端の手法より優れていることを示している。
論文 参考訳(メタデータ) (2025-12-17T06:16:31Z) - A Unified Frequency Domain Decomposition Framework for Interpretable and Robust Time Series Forecasting [81.73338008264115]
時系列予測の現在のアプローチは、時間領域であれ周波数領域であれ、主に線形層やトランスフォーマーに基づいたディープラーニングモデルを使用する。
本稿では,多種多様な時系列を数学的に抽象化する統合周波数領域分解フレームワークFIREを提案する。
火は長期予測ベンチマークで最先端のモデルを一貫して上回る。
論文 参考訳(メタデータ) (2025-10-11T09:59:25Z) - Frequency-Constrained Learning for Long-Term Forecasting [15.31488551912888]
実世界の時系列は、物理法則、人間のルーチン、季節周期から生じる強い周期構造を示す。
現代の深層予測モデルは、スペクトルバイアスと周波数認識による誘導前兆の欠如により、繰り返し発生するパターンを捉えることができないことが多い。
本稿では,周期性を明示的にモデル化し,長期予測を効果的に行う手法を提案する。
論文 参考訳(メタデータ) (2025-08-02T22:12:15Z) - Multi-Order Wavelet Derivative Transform for Deep Time Series Forecasting [40.57415617022347]
我々はWDT(Walterlet Derivative Transform)を導入し、全体的な傾向と微妙な変動にまたがる時間認識パターンの抽出を可能にする。
実際に、WDTをWaveTSという名前のマルチブランチフレームワークに組み込み、入力系列をマルチスケールの時間周波数係数に分解し、線形層を介してそれらを洗練し、逆WDTを介して時間領域に再構成する。
10のベンチマークデータセットの実験では、WaveTSは高い計算効率を維持しながら最先端の予測精度を達成している。
論文 参考訳(メタデータ) (2025-05-17T01:24:09Z) - FAD: Frequency Adaptation and Diversion for Cross-domain Few-shot Learning [35.40065954148091]
ドメイン間数ショット学習では、大きな分散シフトの下で限定ラベル付きサンプルからモデルを一般化する必要がある。
本稿では、スペクトル成分を明示的にモデル化・変調する周波数対応フレームワークである周波数適応・変換(FAD)を紹介する。
FADは、目に見えないドメインと見えないドメインの両方において、最先端のメソッドを一貫して上回っている。
論文 参考訳(メタデータ) (2025-05-13T08:48:06Z) - MFRS: A Multi-Frequency Reference Series Approach to Scalable and Accurate Time-Series Forecasting [51.94256702463408]
時系列予測は、周波数の異なる周期特性から導かれる。
マルチ周波数参照系列相関解析に基づく新しい時系列予測手法を提案する。
主要なオープンデータセットと合成データセットの実験は、最先端のパフォーマンスを示している。
論文 参考訳(メタデータ) (2025-03-11T11:40:14Z) - FreEformer: Frequency Enhanced Transformer for Multivariate Time Series Forecasting [17.738942892605234]
本稿は,textbfFrequency textbfEnhanced Transtextbfformerを利用した,シンプルで効果的なモデルである textbfFreEformerを提案する。
実験により、FreEformerは18の現実世界のベンチマークで最先端のモデルより一貫して優れていることが示された。
論文 参考訳(メタデータ) (2025-01-23T08:53:45Z) - Tuning Frequency Bias of State Space Models [48.60241978021799]
状態空間モデル(SSM)は、線形時間不変(LTI)システムを利用して、長距離依存のシーケンスを学習する。
その結果,SSMは低周波成分を高周波成分よりも効果的に捕捉する傾向を示した。
論文 参考訳(メタデータ) (2024-10-02T21:04:22Z) - PRformer: Pyramidal Recurrent Transformer for Multivariate Time Series Forecasting [82.03373838627606]
Transformerアーキテクチャにおける自己保持機構は、時系列予測において時間順序を符号化するために位置埋め込みを必要とする。
この位置埋め込みへの依存は、トランスフォーマーの時間的シーケンスを効果的に表現する能力を制限している、と我々は主張する。
本稿では,Prepreを標準的なTransformerエンコーダと統合し,様々な実世界のデータセット上での最先端性能を示す。
論文 参考訳(メタデータ) (2024-08-20T01:56:07Z) - WFTNet: Exploiting Global and Local Periodicity in Long-term Time Series
Forecasting [61.64303388738395]
本稿では,長期連続予測のためのWavelet-Fourier Transform Network (WFTNet)を提案する。
さまざまな時系列データセットのテストでは、WFTNetは他の最先端のベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2023-09-20T13:44:18Z) - Transform Once: Efficient Operator Learning in Frequency Domain [69.74509540521397]
本研究では、周波数領域の構造を利用して、空間や時間における長距離相関を効率的に学習するために設計されたディープニューラルネットワークについて検討する。
この研究は、単一変換による周波数領域学習のための青写真を導入している。
論文 参考訳(メタデータ) (2022-11-26T01:56:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。