論文の概要: SEER: Transformer-based Robust Time Series Forecasting via Automated Patch Enhancement and Replacement
- arxiv url: http://arxiv.org/abs/2602.00589v1
- Date: Sat, 31 Jan 2026 08:12:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-03 19:28:33.27392
- Title: SEER: Transformer-based Robust Time Series Forecasting via Automated Patch Enhancement and Replacement
- Title(参考訳): SEER: 自動パッチ強化と置換によるトランスフォーマーベースのロバスト時系列予測
- Authors: Xiangfei Qiu, Xvyuan Liu, Tianen Shen, Xingjian Wu, Hanyin Cheng, Bin Yang, Jilin Hu,
- Abstract要約: 本研究では,SEERと呼ばれる時系列予測フレームワークを提案する。
実世界の時系列では、値の欠如、分散シフト、異常、ホワイトノイズなど、データ収集中にしばしば低品質の問題が発生する。
本稿では,2段階のプロセスを通じて,ロバスト性やモデルの精度を予測できるLearningable Patch Replacement Moduleを提案する。
- 参考スコア(独自算出の注目度): 9.482558107303646
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Time series forecasting is important in many fields that require accurate predictions for decision-making. Patching techniques, commonly used and effective in time series modeling, help capture temporal dependencies by dividing the data into patches. However, existing patch-based methods fail to dynamically select patches and typically use all patches during the prediction process. In real-world time series, there are often low-quality issues during data collection, such as missing values, distribution shifts, anomalies and white noise, which may cause some patches to contain low-quality information, negatively impacting the prediction results. To address this issue, this study proposes a robust time series forecasting framework called SEER. Firstly, we propose an Augmented Embedding Module, which improves patch-wise representations using a Mixture-of-Experts (MoE) architecture and obtains series-wise token representations through a channel-adaptive perception mechanism. Secondly, we introduce a Learnable Patch Replacement Module, which enhances forecasting robustness and model accuracy through a two-stage process: 1) a dynamic filtering mechanism eliminates negative patch-wise tokens; 2) a replaced attention module substitutes the identified low-quality patches with global series-wise token, further refining their representations through a causal attention mechanism. Comprehensive experimental results demonstrate the SOTA performance of SEER.
- Abstract(参考訳): 時系列予測は意思決定に正確な予測を必要とする多くの分野において重要である。
一般的に使われ、時系列モデリングで有効であるパッチ技術は、データをパッチに分割することで、一時的な依存関係をキャプチャするのに役立つ。
しかし、既存のパッチベースのメソッドはパッチを動的に選択できず、予測プロセスで通常すべてのパッチを使用する。
実世界の時系列では、データ収集中に、値の欠落、分散シフト、異常、ホワイトノイズなどの低品質の問題がしばしば発生し、いくつかのパッチが低品質情報を含んでいて、予測結果に悪影響を及ぼす可能性がある。
この問題に対処するために,SEERと呼ばれる堅牢な時系列予測フレームワークを提案する。
まず,Mixture-of-Experts (MoE)アーキテクチャを用いてパッチワイド表現を改善し,チャネル適応型認識機構を用いて一連のトークン表現を得るAugmented Embedding Moduleを提案する。
第2に,2段階のプロセスを通じてロバスト性およびモデル精度の予測を強化する,学習可能なパッチ置換モジュールを導入する。
1) 動的フィルタリング機構は、負のパッチ単位のトークンを除去する。
2) 修正されたアテンションモジュールは、特定された低品質パッチをグローバルなシリーズワイドトークンに置き換え、因果アテンション機構を通じてそれらの表現をさらに洗練する。
総合的な実験結果からSEERのSOTA性能が示された。
関連論文リスト
- EntroPE: Entropy-Guided Dynamic Patch Encoder for Time Series Forecasting [50.794700596484894]
IntroPE(Entropy-Guided Dynamic Patch)は,条件付きエントロピーによる遷移点を動的に検出する新しい時間情報フレームワークである。
これは、パッチの計算上の利点を維持しながら、時間構造を保存する。
長期予測ベンチマークによる実験では、EntroPEは精度と効率の両方を改善している。
論文 参考訳(メタデータ) (2025-09-30T12:09:56Z) - Revisiting Multivariate Time Series Forecasting with Missing Values [65.30332997607141]
現実の時系列では欠落値が一般的である。
現在のアプローチでは、計算モジュールを使用して、不足した値を補う、計算済みの予測フレームワークが開発されている。
このフレームワークは、致命的な問題を見落としている: 欠落した値に対して基礎的な真理は存在せず、予測精度を劣化させる可能性のあるエラーの影響を受けやすいようにしている。
本稿では,Information Bottleneck原則に基づく新しいフレームワークであるConsistency-Regularized Information Bottleneck(CRIB)を紹介する。
論文 参考訳(メタデータ) (2025-09-27T20:57:48Z) - Rethinking Irregular Time Series Forecasting: A Simple yet Effective Baseline [12.66709671516384]
本稿では,汎用的で効率的な予測フレームワークであるAPNを紹介する。
APNの中核には、新しい Time-Aware Patch Aggregation (ATAPA) モジュールがある。
パッチ表現をタイムアウェアな重み付けで計算し、すべての生の観察を集約する。
このアプローチは、人工的なデータポイントの導入を回避し、設計による完全な情報カバレッジを確保することによって、データの忠実性を維持する。
論文 参考訳(メタデータ) (2025-05-16T13:42:00Z) - Enhancing Masked Time-Series Modeling via Dropping Patches [10.715930488118582]
本稿では,時系列のサブシーケンスレベルパッチをランダムにドロップすることで,既存のマスク付き時系列モデリングの強化方法について検討する。
DropPatchと呼ばれる手法が提案され、二乗レベルの利点によって事前学習効率が向上する。
ドメイン内、クロスドメイン、少数ショット学習、コールドスタートといったシナリオでのモデリングには、さらにメリットがある。
論文 参考訳(メタデータ) (2024-12-19T17:21:34Z) - Learning Pattern-Specific Experts for Time Series Forecasting Under Patch-level Distribution Shift [51.01356105618118]
時系列はしばしば、季節、動作条件、意味的な意味など、セグメントごとに異なるパターンを持つ複雑な非一様分布を示す。
既存のアプローチでは、通常、これらのさまざまなパターンをキャプチャするために単一のモデルをトレーニングするが、しばしばパッチ間のパターンのドリフトに苦労する。
より正確で適応可能な時系列予測にパターン特化の専門家を活用する新しいアーキテクチャであるTFPSを提案する。
論文 参考訳(メタデータ) (2024-10-13T13:35:29Z) - Temporal Feature Matters: A Framework for Diffusion Model Quantization [105.3033493564844]
拡散モデルはマルチラウンド・デノナイジングの時間ステップに依存している。
3つの戦略を含む新しい量子化フレームワークを導入する。
このフレームワークは時間情報のほとんどを保存し、高品質なエンドツーエンド生成を保証する。
論文 参考訳(メタデータ) (2024-07-28T17:46:15Z) - Learning to Embed Time Series Patches Independently [5.752266579415516]
近年,時系列モデリングは時系列の自己教師型表現学習戦略として注目されている。
このようなパッチをキャプチャすることは、時系列表現学習の最適戦略ではないかもしれない、と我々は主張する。
本論文では,1)他のパッチを見ることなく各パッチを自動エンコードするシンプルなパッチ再構築タスク,2)個別に各パッチを埋め込むシンプルなパッチワイド再構築タスクを提案する。
論文 参考訳(メタデータ) (2023-12-27T06:23:29Z) - Evaluating Prediction-Time Batch Normalization for Robustness under
Covariate Shift [81.74795324629712]
我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。
予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。
この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
論文 参考訳(メタデータ) (2020-06-19T05:08:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。