論文の概要: Frequency Adaptive Normalization For Non-stationary Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2409.20371v1
- Date: Mon, 30 Sep 2024 15:07:16 GMT
- ステータス: 処理完了
- システム内更新日: 2024-10-02 07:46:26.885710
- Title: Frequency Adaptive Normalization For Non-stationary Time Series Forecasting
- Title(参考訳): 非定常時系列予測のための周波数適応正規化
- Authors: Weiwei Ye, Songgaojun Deng, Qiaosha Zou, Ning Gui,
- Abstract要約: 時系列予測は、トレンドと季節パターンを進化させる非定常データに対処する必要がある。
非定常性に対処するために、ある統計測度でこの傾向からの影響を軽減するために、最近インスタンス正規化が提案されている。
本稿では、周波数適応正規化(FAN)と呼ばれる新しいインスタンス正規化ソリューションを提案する。
- 参考スコア(独自算出の注目度): 7.881136718623066
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Time series forecasting typically needs to address non-stationary data with evolving trend and seasonal patterns. To address the non-stationarity, reversible instance normalization has been recently proposed to alleviate impacts from the trend with certain statistical measures, e.g., mean and variance. Although they demonstrate improved predictive accuracy, they are limited to expressing basic trends and are incapable of handling seasonal patterns. To address this limitation, this paper proposes a new instance normalization solution, called frequency adaptive normalization (FAN), which extends instance normalization in handling both dynamic trend and seasonal patterns. Specifically, we employ the Fourier transform to identify instance-wise predominant frequent components that cover most non-stationary factors. Furthermore, the discrepancy of those frequency components between inputs and outputs is explicitly modeled as a prediction task with a simple MLP model. FAN is a model-agnostic method that can be applied to arbitrary predictive backbones. We instantiate FAN on four widely used forecasting models as the backbone and evaluate their prediction performance improvements on eight benchmark datasets. FAN demonstrates significant performance advancement, achieving 7.76% ~ 37.90% average improvements in MSE.
- Abstract(参考訳): 時系列予測は通常、トレンドと季節パターンを進化させる非定常データに対処する必要がある。
非定常性に対処するために、可逆的なインスタンス正規化が最近提案され、ある統計測度、例えば平均と分散による影響を緩和している。
予測精度は向上したものの、基本的な傾向を表現することに限定されており、季節パターンを扱えない。
この制限に対処するために,周波数適応正規化(FAN)と呼ばれる,動的傾向と季節パターンの両方を扱うインスタンス正規化を拡張した新しいインスタンス正規化ソリューションを提案する。
具体的には、Fourier変換を用いて、ほとんどの非定常因子をカバーするインスタンス単位の頻繁な成分を同定する。
さらに、入力と出力間の周波数成分の相違を、単純なMLPモデルによる予測タスクとして明示的にモデル化する。
FANは任意の予測バックボーンに適用できるモデルに依存しない手法である。
我々は、広く使われている4つの予測モデルのFANをバックボーンとしてインスタンス化し、8つのベンチマークデータセットにおける予測性能の改善を評価する。
FANは、MSEの7.76%から37.90%の平均的な改善を達成している。
関連論文リスト
- DAM: Towards A Foundation Model for Time Series Forecasting [0.8231118867997028]
本稿では,ランダムにサンプリングされた履歴を抽出し,時間連続関数として調整可能な基底組成を出力するニューラルモデルを提案する。
1)長い尾の分布からランダムにサンプリングされたヒストリーを使用する柔軟なアプローチ、(2)これらの活発にサンプリングされたヒストリーに基づいてトレーニングされたトランスフォーマーバックボーンを表現的出力として、(3)時間の連続関数の基底係数を含む。
論文 参考訳(メタデータ) (2024-07-25T08:48:07Z) - Test-Time Model Adaptation with Only Forward Passes [68.11784295706995]
テストタイム適応は、トレーニング済みのモデルを、潜在的に分布シフトのある未確認テストサンプルに適応させるのに有効であることが証明されている。
テスト時間フォワード最適化適応法(FOA)を提案する。
FOAは量子化された8ビットのViTで動作し、32ビットのViTで勾配ベースのTENTより優れ、ImageNet-Cで最大24倍のメモリ削減を実現する。
論文 参考訳(メタデータ) (2024-04-02T05:34:33Z) - FreDF: Learning to Forecast in Frequency Domain [56.24773675942897]
時系列モデリングは、歴史的シーケンスとラベルシーケンスの両方に自己相関が存在するという点で、独特な課題である。
本稿では、周波数領域の予測を学習することでラベル自己相関の複雑さを回避できる周波数強調直接予測(FreDF)を導入する。
論文 参考訳(メタデータ) (2024-02-04T08:23:41Z) - Addressing Distribution Shift in Time Series Forecasting with Instance
Normalization Flows [36.956983415564274]
時系列予測のための一般化された定式化を提案する。
このような定式化を二段階最適化問題に定式化する。
提案手法は, 合成データと実世界のデータの両方において, 最先端のベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2024-01-30T06:35:52Z) - Data Attribution for Diffusion Models: Timestep-induced Bias in Influence Estimation [53.27596811146316]
拡散モデルは、以前の文脈における瞬間的な入出力関係ではなく、一連のタイムステップで操作する。
本稿では、この時間的ダイナミクスを取り入れた拡散トラクInについて、サンプルの損失勾配ノルムが時間ステップに大きく依存していることを確認する。
そこで我々はDiffusion-ReTracを再正規化適応として導入し、興味のあるサンプルを対象にしたトレーニングサンプルの検索を可能にする。
論文 参考訳(メタデータ) (2024-01-17T07:58:18Z) - Time Series Continuous Modeling for Imputation and Forecasting with Implicit Neural Representations [15.797295258800638]
本稿では,実世界のデータでしばしば発生する課題に対処するために,時系列計算と予測のための新しいモデリング手法を提案する。
本手法はシリーズの進化力学の連続時間依存モデルに依存する。
メタラーニングアルゴリズムによって駆動される変調機構は、観測されたタイムウインドウを超えて、見えないサンプルや外挿への適応を可能にする。
論文 参考訳(メタデータ) (2023-06-09T13:20:04Z) - Imputation-Free Learning from Incomplete Observations [73.15386629370111]
本稿では,不備な値を含む入力からの推論をインプットなしでトレーニングするIGSGD法の重要性について紹介する。
バックプロパゲーションによるモデルのトレーニングに使用する勾配の調整には強化学習(RL)を用いる。
我々の計算自由予測は、最先端の計算手法を用いて従来の2段階の計算自由予測よりも優れている。
論文 参考訳(メタデータ) (2021-07-05T12:44:39Z) - Causally-motivated Shortcut Removal Using Auxiliary Labels [63.686580185674195]
このようなリスク不変予測器の学習に重要な課題はショートカット学習である。
この課題に対処するために、フレキシブルで因果的なアプローチを提案する。
この因果的動機付けされた正規化スキームが堅牢な予測子を生み出すことを理論的および実証的に示す。
論文 参考訳(メタデータ) (2021-05-13T16:58:45Z) - Evaluating Prediction-Time Batch Normalization for Robustness under
Covariate Shift [81.74795324629712]
我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。
予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。
この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
論文 参考訳(メタデータ) (2020-06-19T05:08:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。