論文の概要: FreIE: Low-Frequency Spectral Bias in Neural Networks for Time-Series Tasks

• arxiv url: http://arxiv.org/abs/2510.25800v1
• Date: Wed, 29 Oct 2025 03:22:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-31 16:05:09.49501
• Title: FreIE: Low-Frequency Spectral Bias in Neural Networks for Time-Series Tasks
• Title（参考訳）: FreIE: 時系列タスクのためのニューラルネットワークにおける低周波スペクトルバイアス
• Authors: Jialong Sun, Xinpeng Ling, Jiaxuan Zou, Jiawen Kang, Kejia Zhang,
• Abstract要約: モデルは高周波信号の前に低周波信号に適合する傾向があることを示す。 本稿では、暗黙の周波数正規化と暗黙の周波数正規化の両方を通してモデル一般化を強化するFreLEアルゴリズムを提案する。
• 参考スコア（独自算出の注目度）: 5.215187965365735
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The inherent autocorrelation of time series data presents an ongoing challenge to multivariate time series prediction. Recently, a widely adopted approach has been the incorporation of frequency domain information to assist in long-term prediction tasks. Many researchers have independently observed the spectral bias phenomenon in neural networks, where models tend to fit low-frequency signals before high-frequency ones. However, these observations have often been attributed to the specific architectures designed by the researchers, rather than recognizing the phenomenon as a universal characteristic across models. To unify the understanding of the spectral bias phenomenon in long-term time series prediction, we conducted extensive empirical experiments to measure spectral bias in existing mainstream models. Our findings reveal that virtually all models exhibit this phenomenon. To mitigate the impact of spectral bias, we propose the FreLE (Frequency Loss Enhancement) algorithm, which enhances model generalization through both explicit and implicit frequency regularization. This is a plug-and-play model loss function unit. A large number of experiments have proven the superior performance of FreLE. Code is available at https://github.com/Chenxing-Xuan/FreLE.
• Abstract（参考訳）: 時系列データの固有自己相関は、多変量時系列予測に対する継続的な課題を示す。 近年,長期予測タスクを支援するために周波数領域情報を組み込んだ手法が広く採用されている。 多くの研究者は、ニューラルネットワークにおいてスペクトルバイアス現象を独立に観察しており、モデルが高周波信号の前に低周波信号に適合する傾向がある。 しかしながら、これらの観測は、モデル全体の普遍的な特性として認識するよりも、研究者によって設計された特定のアーキテクチャに起因していることが多い。 長期連続予測におけるスペクトルバイアス現象の理解を統一するために,既存の主流モデルにおけるスペクトルバイアスを測定するための広範な実験を行った。 以上の結果から,ほぼすべてのモデルがこの現象を示すことが明らかとなった。 スペクトルバイアスの影響を軽減するために、暗黙の周波数正規化と暗黙の周波数正規化の両方によってモデル一般化を促進するFleleアルゴリズムを提案する。 これはプラグアンドプレイモデル損失関数ユニットである。 多くの実験により、Freleの優れた性能が証明された。 コードはhttps://github.com/Chenxing-Xuan/FreLEで入手できる。

関連論文リスト

• A Unified Frequency Domain Decomposition Framework for Interpretable and Robust Time Series Forecasting [81.73338008264115]
  時系列予測の現在のアプローチは、時間領域であれ周波数領域であれ、主に線形層やトランスフォーマーに基づいたディープラーニングモデルを使用する。 本稿では,多種多様な時系列を数学的に抽象化する統合周波数領域分解フレームワークFIREを提案する。 火は長期予測ベンチマークで最先端のモデルを一貫して上回る。
  論文  参考訳（メタデータ） (2025-10-11T09:59:25Z)
• Frequency-Constrained Learning for Long-Term Forecasting [15.31488551912888]
  実世界の時系列は、物理法則、人間のルーチン、季節周期から生じる強い周期構造を示す。 現代の深層予測モデルは、スペクトルバイアスと周波数認識による誘導前兆の欠如により、繰り返し発生するパターンを捉えることができないことが多い。 本稿では,周期性を明示的にモデル化し,長期予測を効果的に行う手法を提案する。
  論文  参考訳（メタデータ） (2025-08-02T22:12:15Z)
• LOGLO-FNO: Efficient Learning of Local and Global Features in Fourier Neural Operators [20.77877474840923]
  高周波情報は機械学習における重要な課題である。 ディープニューラルネットワークは、低周波成分の学習に対するいわゆるスペクトルバイアスを示す。 放射結合スペクトル誤差に基づく新しい周波数感受性損失項を提案する。
  論文  参考訳（メタデータ） (2025-04-05T19:35:04Z)
• General Time-series Model for Universal Knowledge Representation of Multivariate Time-Series data [61.163542597764796]
  周波数領域で異なる時間粒度(または対応する周波数分解能)の時系列が異なる結合分布を示すことを示す。 時間領域と周波数領域の両方からタイムアウェア表現を学習するために,新しいFourierナレッジアテンション機構を提案する。 自己回帰的空白埋め込み事前学習フレームワークを時系列解析に初めて組み込み、生成タスクに依存しない事前学習戦略を実現する。
  論文  参考訳（メタデータ） (2025-02-05T15:20:04Z)
• Moirai-MoE: Empowering Time Series Foundation Models with Sparse Mixture of Experts [103.725112190618]
  本稿では,単一入出力プロジェクション層を用いたMoirai-MoEを紹介するとともに,多種多様な時系列パターンのモデリングを専門家の疎結合に委ねる。 39のデータセットに対する大規模な実験は、既存の基盤モデルよりも、分配シナリオとゼロショットシナリオの両方において、Moirai-MoEの優位性を実証している。
  論文  参考訳（メタデータ） (2024-10-14T13:01:11Z)
• Fredformer: Frequency Debiased Transformer for Time Series Forecasting [8.356290446630373]
  Transformerモデルは時系列予測において主要なパフォーマンスを示している。 データの中で低周波の特徴を学習し、高周波の特徴を見落とし、周波数バイアスを示す傾向がある。 そこで我々はFredformerを提案する。Fredformerは、異なる周波数帯域にまたがる特徴を均等に学習することで、周波数バイアスを軽減するために設計されたフレームワークである。
  論文  参考訳（メタデータ） (2024-06-13T11:29:21Z)
• Time Series Diffusion in the Frequency Domain [54.60573052311487]
  周波数領域における時系列表現がスコアベース拡散モデルに有用な帰納バイアスであるか否かを解析する。 重要なニュアンスを持つ周波数領域において、二重拡散過程が生じることを示す。 周波数領域に拡散モデルを実装するために,デノナイジングスコアマッチング手法を適用する方法を示す。
  論文  参考訳（メタデータ） (2024-02-08T18:59:05Z)
• Momentum Diminishes the Effect of Spectral Bias in Physics-Informed Neural Networks [72.09574528342732]
  物理インフォームドニューラルネットワーク(PINN)アルゴリズムは、偏微分方程式(PDE)を含む幅広い問題を解く上で有望な結果を示している。 彼らはしばしば、スペクトルバイアスと呼ばれる現象のために、ターゲット関数が高周波の特徴を含むとき、望ましい解に収束しない。 本研究は, 運動量による勾配降下下で進化するPINNのトレーニングダイナミクスを, NTK(Neural Tangent kernel)を用いて研究するものである。
  論文  参考訳（メタデータ） (2022-06-29T19:03:10Z)
• Spectral Bias in Practice: The Role of Function Frequency in Generalization [10.7218588164913]
  現代の画像分類網におけるスペクトルバイアスを測定する手法を提案する。 一般化するネットワークは、データの適合に十分な複雑さを持つと同時に、過度な適合を避けるのに十分な単純さとバランスをとっています。 我々の研究は、画像分類に使用されるニューラルネットワークのスペクトル挙動の測定と制御を可能にする。
  論文  参考訳（メタデータ） (2021-10-06T00:16:10Z)
• Deep Autoregressive Models with Spectral Attention [74.08846528440024]
  本稿では,深部自己回帰モデルとスペクトル注意(SA)モジュールを組み合わせた予測アーキテクチャを提案する。 時系列の埋め込みをランダムなプロセスの発生としてスペクトル領域に特徴付けることにより,グローバルな傾向と季節パターンを同定することができる。 時系列に対するグローバルとローカルの2つのスペクトルアテンションモデルは、この情報を予測の中に統合し、スペクトルフィルタリングを行い、時系列のノイズを除去する。
  論文  参考訳（メタデータ） (2021-07-13T11:08:47Z)
• Bayesian Reconstruction of Fourier Pairs [21.104218472462907]
  一般的な文献は、観測結果の欠如や、ノイズの破損したデータには耐えられない。 我々の目的は、時間領域と周波数領域において、不特定に取得されたデータの原則的処理の欠如に対処することである。 提案モデルでは,実環境におけるオーディオ,医療,天文学的信号の共用時間と周波数再構成が可能であることを示す。
  論文  参考訳（メタデータ） (2020-11-09T17:30:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。