論文の概要: FredNormer: Frequency Domain Normalization for Non-stationary Time Series Forecasting
- arxiv url: http://arxiv.org/abs/2410.01860v3
- Date: Wed, 16 Oct 2024 04:19:09 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-04 10:14:15.527207
- Title: FredNormer: Frequency Domain Normalization for Non-stationary Time Series Forecasting
- Title（参考訳）: FredNormer:非定常時系列予測のための周波数領域正規化
- Authors: Xihao Piao, Zheng Chen, Yushun Dong, Yasuko Matsubara, Yasushi Sakurai,
- Abstract要約: 我々はFredNormerを提案し、周波数の観点からデータセットを観察し、鍵周波数成分を適応的にアップウェイトする。
FredNormer はプラグイン・アンド・プレイモジュールであり、既存の正規化手法と比べて効率を損なわない。
- 参考スコア（独自算出の注目度）: 18.54376910126127
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent normalization-based methods have shown great success in tackling the distribution shift issue, facilitating non-stationary time series forecasting. Since these methods operate in the time domain, they may fail to fully capture the dynamic patterns that are more apparent in the frequency domain, leading to suboptimal results. This paper first theoretically analyzes how normalization methods affect frequency components. We prove that the current normalization methods that operate in the time domain uniformly scale non-zero frequencies, and thus, they struggle to determine components that contribute to more robust forecasting. Therefore, we propose FredNormer, which observes datasets from a frequency perspective and adaptively up-weights the key frequency components. To this end, FredNormer consists of two components: a statistical metric that normalizes the input samples based on their frequency stability and a learnable weighting layer that adjusts stability and introduces sample-specific variations. Notably, FredNormer is a plug-and-play module, which does not compromise the efficiency compared to existing normalization methods. Extensive experiments show that FredNormer improves the averaged MSE of backbone forecasting models by 33.3% and 55.3% on the ETTm2 dataset. Compared to the baseline normalization methods, FredNormer achieves 18 top-1 results and 6 top-2 results out of 28 settings.
- Abstract（参考訳）: 最近の正規化に基づく手法は、分布シフト問題に対処し、非定常時系列予測を容易にすることに成功している。
これらの手法は時間領域で動作するため、周波数領域でより明らかな動的なパターンをフルに捕捉することができず、最適以下の結果をもたらす可能性がある。
本稿ではまず,正規化法が周波数成分に与える影響を理論的に分析する。
我々は、時間領域で動作している現在の正規化法が非ゼロ周波数を均一にスケールしていることを証明し、より堅牢な予測に寄与する成分を決定するのに苦労する。
そこで、FredNormerを提案する。これは、周波数の観点からデータセットを観察し、鍵周波数成分を適応的にアップウェイトする。
この目的のためにFredNormerは、周波数安定性に基づいて入力サンプルを正規化する統計計量と、安定性を調整しサンプル固有のバリエーションを導入する学習可能な重み付け層という2つの要素から構成される。
特にFredNormerはプラグイン・アンド・プレイモジュールであり、既存の正規化手法と比較して効率を損なわない。
大規模な実験により、FredNormerはETTm2データセットでバックボーン予測モデルの平均MSEを33.3%、55.3%改善した。
ベースラインの正規化手法と比較して、FredNormerは28設定のうち18の上位1結果と6の上位2結果を達成する。
関連論文リスト
- Moirai-MoE: Empowering Time Series Foundation Models with Sparse Mixture of Experts [103.725112190618]
本稿では,単一入出力プロジェクション層を用いたMoirai-MoEを紹介するとともに,多種多様な時系列パターンのモデリングを専門家の疎結合に委ねる。
39のデータセットに対する大規模な実験は、既存の基盤モデルよりも、分配シナリオとゼロショットシナリオの両方において、Moirai-MoEの優位性を実証している。
論文 参考訳（メタデータ） (2024-10-14T13:01:11Z) - Tuning Frequency Bias of State Space Models [48.60241978021799]
状態空間モデル(SSM)は、線形時間不変(LTI)システムを利用して、長距離依存のシーケンスを学習する。
その結果,SSMは低周波成分を高周波成分よりも効果的に捕捉する傾向を示した。
論文 参考訳（メタデータ） (2024-10-02T21:04:22Z) - Frequency Adaptive Normalization For Non-stationary Time Series Forecasting [7.881136718623066]
時系列予測は、トレンドと季節パターンを進化させる非定常データに対処する必要がある。
非定常性に対処するために、ある統計測度でこの傾向からの影響を軽減するために、最近インスタンス正規化が提案されている。
本稿では、周波数適応正規化(FAN)と呼ばれる新しいインスタンス正規化ソリューションを提案する。
論文 参考訳（メタデータ） (2024-09-30T15:07:16Z) - Not All Frequencies Are Created Equal:Towards a Dynamic Fusion of Frequencies in Time-Series Forecasting [9.615808695919647]
時系列予測手法は、異なるシナリオに適用する場合、柔軟であるべきです。
本稿では、各フーリエ成分を個別に予測し、異なる周波数の出力を動的に融合する周波数動的融合(FreDF)を提案する。
論文 参考訳（メタデータ） (2024-07-17T08:54:41Z) - Fredformer: Frequency Debiased Transformer for Time Series Forecasting [8.356290446630373]
Transformerモデルは時系列予測において主要なパフォーマンスを示している。
データの中で低周波の特徴を学習し、高周波の特徴を見落とし、周波数バイアスを示す傾向がある。
そこで我々はFredformerを提案する。Fredformerは、異なる周波数帯域にまたがる特徴を均等に学習することで、周波数バイアスを軽減するために設計されたフレームワークである。
論文 参考訳（メタデータ） (2024-06-13T11:29:21Z) - Boosting Diffusion Models with Moving Average Sampling in Frequency Domain [101.43824674873508]
拡散モデルは、現在のサンプルに頼って次のサンプルをノイズ化し、おそらく不安定化を引き起こす。
本稿では,反復的復調過程をモデル最適化として再解釈し,移動平均機構を利用して全ての先行サンプルをアンサンブルする。
周波数領域における平均サンプリング(MASF)の動作」という完全なアプローチを命名する。
論文 参考訳（メタデータ） (2024-03-26T16:57:55Z) - FreDF: Learning to Forecast in Frequency Domain [56.24773675942897]
時系列モデリングは、歴史的シーケンスとラベルシーケンスの両方に自己相関が存在するという点で、独特な課題である。
本稿では、周波数領域の予測を学習することでラベル自己相関の複雑さを回避できる周波数強調直接予測(FreDF)を導入する。
論文 参考訳（メタデータ） (2024-02-04T08:23:41Z) - Supervised low-rank semi-nonnegative matrix factorization with frequency regularization for forecasting spatio-temporal data [6.725792598352138]
周波数正規化を伴う半負行列分解(SMF)を用いた時間データの予測手法を提案する。
提案手法による結果は,地球物理学の分野におけるこれまでの研究に匹敵するが,より明瞭な解釈性を提供する。
論文 参考訳（メタデータ） (2023-11-15T01:23:13Z) - Transform Once: Efficient Operator Learning in Frequency Domain [69.74509540521397]
本研究では、周波数領域の構造を利用して、空間や時間における長距離相関を効率的に学習するために設計されたディープニューラルネットワークについて検討する。
この研究は、単一変換による周波数領域学習のための青写真を導入している。
論文 参考訳（メタデータ） (2022-11-26T01:56:05Z) - FAMLP: A Frequency-Aware MLP-Like Architecture For Domain Generalization [73.41395947275473]
本稿では、変換周波数領域において、ドメイン固有の特徴をフィルタリングする新しい周波数認識アーキテクチャを提案する。
3つのベンチマークの実験では、最先端の手法をそれぞれ3%、4%、9%のマージンで上回った。
論文 参考訳（メタデータ） (2022-03-24T07:26:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。