論文の概要: Extreme Adaptive Transformer for Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2607.02437v1
- Date: Thu, 02 Jul 2026 17:09:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-03 19:45:08.938921
- Title: Extreme Adaptive Transformer for Time Series Forecasting
- Title(参考訳): 時系列予測のための極適応変換器
- Abstract要約: 通常のイベントと極端なイベントの両方を含む時間的依存関係を明示的にモデル化するフレームワークを提案する。
実世界の4つの水文流のデータセットの実験により、Exformerは3日間の予測性能が優れていることが示された。
- 参考スコア(独自算出の注目度): 11.172242800843863
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Time series forecasting remains challenging when the underlying data contain rare but critical extreme events. This issue is particularly important in hydrologic forecasting, where streamflow distributions are often highly skewed and extreme peaks can have substantial impacts on flood monitoring, water resource management, and early warning systems. Although Transformer-based forecasting models have achieved strong performance by modeling long-range temporal dependencies, they typically treat all time points uniformly and may therefore underrepresent rare extreme patterns. In this paper, we propose the Extreme-Adaptive Transformer (Exformer), a forecasting framework designed to explicitly model temporal dependencies involving both normal and extreme events. Exformer introduces an extreme-adaptive attention mechanism composed of three sparse components: Local, Stride, and Extreme. The Local and Stride components capture short-term and periodic temporal dependencies, respectively, while the Extreme component selectively models event-aware dependencies between normal and extreme streamflow patterns. Experiments on four real-world hydrologic streamflow datasets show that Exformer achieves superior 3-day forecasting performance compared with state-of-the-art baselines. Our findings demonstrate that explicitly incorporating extreme-aware attention improves the forecasting capacity of Transformer models on imbalanced time series with rare but consequential events.
- Abstract(参考訳): 時系列の予測は、基礎となるデータが稀だが重要な極端な事象を含む場合、依然として困難である。
この問題は水文学的な予測において特に重要であり、河川流の分布は高度に歪んでおり、極端ピークは洪水モニタリング、水資源管理、早期警戒システムに重大な影響を及ぼす可能性がある。
トランスフォーマーベースの予測モデルは、長期の時間的依存をモデル化することで、高いパフォーマンスを達成しているが、通常は全ての時間ポイントを均一に扱い、したがって稀な極端なパターンを表現できない可能性がある。
本稿では,通常イベントと極端なイベントの両方を含む時間依存性を明示的にモデル化する予測フレームワークであるExtreme-Adaptive Transformer(Exformer)を提案する。
Exformerは、Local、Stride、Extremeという3つのスパースコンポーネントからなる極端適応型アテンションメカニズムを導入している。
LocalコンポーネントとStrideコンポーネントはそれぞれ、短期的および定期的な時間的依存関係をキャプチャし、Extremeコンポーネントは、通常のストリームフローパターンと極端なストリームフローパターンの間のイベント認識依存関係を選択的にモデル化する。
実世界の4つの水文フローデータセットの実験により、Exformerは最先端のベースラインと比較して3日間の予測性能が優れていることが示された。
その結果,過度に認識された注意を明示的に組み込むことで,不均衡な時系列上でのトランスフォーマーモデルの予測能力が向上することが示唆された。
関連論文リスト
- TimeAPN: Adaptive Amplitude-Phase Non-Stationarity Normalization for Time Series Forecasting [67.91113180885601]
TimeAPNは時間領域と周波数領域の両方から非定常因子を明示的にモデル化し、予測する。
TimeAPNは、複数の予測水平線にわたる長期的な予測精度を一貫して改善する。
これは最先端の可逆正規化法より優れている。
論文 参考訳(メタデータ) (2026-03-18T07:21:24Z) - Time-Aware Prior Fitted Networks for Zero-Shot Forecasting with Exogenous Variables [59.37476887007663]
我々は、(PFNとは違って)時間認識の事前データ適合型ネットワーク(PFN)であるApolloPFNを開発した。
i) PFNが時系列に適用されたときに発生する障害モードを解決するために調整された合成データ生成手順,(ii)時系列コンテキストを利用するのに必要な帰納的バイアスを埋め込んだ時間アウェアなアーキテクチャ修正。
論文 参考訳(メタデータ) (2026-03-16T18:33:23Z) - EVEREST: An Evidential, Tail-Aware Transformer for Rare-Event Time-Series Forecasting [4.551615447454767]
EVERESTは確率的レアイベント予測のためのトランスフォーマーベースのアーキテクチャである。
キャリブレーションされた予測とテールアウェアのリスク推定を提供する。
産業監視、天気予報、衛星診断などの高度な分野に適用できる。
論文 参考訳(メタデータ) (2026-01-26T23:15:20Z) - M$^2$FMoE: Multi-Resolution Multi-View Frequency Mixture-of-Experts for Extreme-Adaptive Time Series Forecasting [6.89383702832204]
M$2$FMoEは、マルチレゾリューションとマルチビューの周波数モデリングにより、正規パターンと極端なパターンの両方を学ぶ。
極端なパターンを持つ実世界の水文科学データセットの実験は、M$2$FMoEが最先端のベースラインを上回っていることを示している。
論文 参考訳(メタデータ) (2026-01-13T15:05:49Z) - xTime: Extreme Event Prediction with Hierarchical Knowledge Distillation and Expert Fusion [65.63135031712153]
時系列における極端なイベント予測のための新しいフレームワークであるxTimeを提案する。
xTimeは知識蒸留を利用して、低レベルなイベントでトレーニングされたモデルから情報を転送する。
我々は、異なる希少度で専門家モデルから出力を動的に選択し、融合する専門家(MoE)機構の混合を導入する。
論文 参考訳(メタデータ) (2025-10-23T15:24:45Z) - A Unified Frequency Domain Decomposition Framework for Interpretable and Robust Time Series Forecasting [81.73338008264115]
時系列予測の現在のアプローチは、時間領域であれ周波数領域であれ、主に線形層やトランスフォーマーに基づいたディープラーニングモデルを使用する。
本稿では,多種多様な時系列を数学的に抽象化する統合周波数領域分解フレームワークFIREを提案する。
火は長期予測ベンチマークで最先端のモデルを一貫して上回る。
論文 参考訳(メタデータ) (2025-10-11T09:59:25Z) - Powerformer: A Transformer with Weighted Causal Attention for Time-series Forecasting [50.298817606660826]
我々は,非因果重みをスムーズな重み付き崩壊に応じて再加重する因果重みに置き換える新しいトランスフォーマーであるPowerformerを紹介する。
我々の実証実験の結果,Powerformer は公開時系列ベンチマークで最先端の精度を達成できた。
分析の結果、トレーニング中にモデルの局所性バイアスが増幅され、時系列データとパワールールに基づく注意の相互作用が示されることがわかった。
論文 参考訳(メタデータ) (2025-02-10T04:42:11Z) - Timer-XL: Long-Context Transformers for Unified Time Series Forecasting [67.83502953961505]
我々は時系列の統一予測のための因果変換器Timer-XLを提案する。
大規模な事前トレーニングに基づいて、Timer-XLは最先端のゼロショット性能を達成する。
論文 参考訳(メタデータ) (2024-10-07T07:27:39Z) - FAITH: Frequency-domain Attention In Two Horizons for Time Series Forecasting [13.253624747448935]
時系列予測は、産業機器の保守、気象学、エネルギー消費、交通流、金融投資など、様々な分野で重要な役割を果たしている。
現在のディープラーニングベースの予測モデルは、予測結果と基礎的真実の間に大きな違いを示すことが多い。
本稿では、時系列をトレンドと季節成分に分解する2つのホライズンズにおける周波数領域注意モデルを提案する。
論文 参考訳(メタデータ) (2024-05-22T02:37:02Z) - Learning from Polar Representation: An Extreme-Adaptive Model for
Long-Term Time Series Forecasting [10.892801642895904]
本稿では,距離重み付き自己正規化ニューラルネットワーク(DAN)を提案する。これは極性表現学習によって強化されたストラムフローの長距離予測のための新しい極性適応モデルである。
実生活における4つの水文流れデータセットにおいて、DANは、最先端の水文時系列予測法と長期時系列予測のための一般的な方法の両方を著しく上回っていることを実証した。
論文 参考訳(メタデータ) (2023-12-14T09:16:01Z) - Generalized Mixture Model for Extreme Events Forecasting in Time Series
Data [10.542258423966492]
時系列予測(TSF)は、天気予報、交通制御、株価予測など幅広い分野で広く研究されているトピックである。
時系列における極端な値は、しばしば人間と自然のシステムに大きな影響を及ぼすが、それらの稀な発生のために予測することは困難である。
本稿では,極端事象に着目した新たなフレームワークを提案する。具体的には,時系列予測のためのDeep Extreme Mixture Model with Autoencoder (DEMMA)を提案する。
論文 参考訳(メタデータ) (2023-10-11T12:36:42Z) - Autoformer: Decomposition Transformers with Auto-Correlation for
Long-Term Series Forecasting [68.86835407617778]
Autoformerは、Auto-Correlation機構を備えた、新しい分解アーキテクチャである。
長期的な予測では、Autoformerは6つのベンチマークで相対的に改善され、最先端の精度が得られる。
論文 参考訳(メタデータ) (2021-06-24T13:43:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。