論文の概要: Binned Spectral Power Loss for Improved Prediction of Chaotic Systems
- arxiv url: http://arxiv.org/abs/2502.00472v1
- Date: Sat, 01 Feb 2025 15:58:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-05 14:52:28.818839
- Title: Binned Spectral Power Loss for Improved Prediction of Chaotic Systems
- Title（参考訳）: カオスシステムの予測精度向上のための結合スペクトルパワー損失
- Authors: Dibyajyoti Chakraborty, Arvind T. Mohan, Romit Maulik,
- Abstract要約: 本稿では,BSP(Binned Spectral Power)ロス(BSP)と呼ばれるスペクトルバイアスを緩和する新しい手法を提案する。
ポイントワイドなミスフィットに焦点を当てた従来の損失とは異なり、BSPの損失は、異なるスケールにわたるエネルギー分布の偏差を明示的に罰する。
以上の結果から,BSP損失は神経予測モデルの安定性とスペクトル精度を著しく向上させることが示された。
- 参考スコア（独自算出の注目度）: 0.0
- License:
- Abstract: Forecasting multiscale chaotic dynamical systems with deep learning remains a formidable challenge due to the spectral bias of neural networks, which hinders the accurate representation of fine-scale structures in long-term predictions. This issue is exacerbated when models are deployed autoregressively, leading to compounding errors and instability. In this work, we introduce a novel approach to mitigate the spectral bias which we call the Binned Spectral Power (BSP) Loss. The BSP loss is a frequency-domain loss function that adaptively weighs errors in predicting both larger and smaller scales of the dataset. Unlike traditional losses that focus on pointwise misfits, our BSP loss explicitly penalizes deviations in the energy distribution across different scales, promoting stable and physically consistent predictions. We demonstrate that the BSP loss mitigates the well-known problem of spectral bias in deep learning. We further validate our approach for the data-driven high-dimensional time-series forecasting of a range of benchmark chaotic systems which are typically intractable due to spectral bias. Our results demonstrate that the BSP loss significantly improves the stability and spectral accuracy of neural forecasting models without requiring architectural modifications. By directly targeting spectral consistency, our approach paves the way for more robust deep learning models for long-term forecasting of chaotic dynamical systems.
- Abstract（参考訳）: ディープラーニングを用いたマルチスケールカオス力学系の予測は、ニューラルネットワークのスペクトルバイアスが長期予測における微細構造の正確な表現を妨げているため、依然として困難な課題である。
この問題は、モデルが自動回帰的にデプロイされると悪化し、エラーと不安定が複雑になる。
本研究では,BSP損失(Binned Spectral Power (BSP) Loss)と呼ばれるスペクトルバイアスを緩和する新しい手法を提案する。
BSP損失(英: BSP loss)は、データセットの大きなスケールと小さなスケールの両方を予測する際のエラーを適応的に重み付けする周波数領域損失関数である。
ポイントワイドなミスフィットに焦点を当てた従来の損失とは異なり、BSPの損失は、異なるスケールにわたるエネルギー分布の偏差を明示的に罰し、安定的で物理的に一貫した予測を促進する。
BSPの損失は、ディープラーニングにおけるスペクトルバイアスのよく知られた問題を緩和することを示した。
さらに, スペクトルバイアスにより典型的に難易度が高いベンチマークカオスシステムの, データ駆動型高次元時系列予測に対するアプローチを検証した。
以上の結果から,BSPの損失は,アーキテクチャ変更を必要とせずに,ニューラル予測モデルの安定性とスペクトル精度を著しく向上させることが示された。
スペクトル一貫性を直接ターゲットとすることで、カオス力学系の長期予測のためのより堅牢なディープラーニングモデルを構築することができる。
関連論文リスト
- The Power of Perturbation under Sampling in Solving Extensive-Form Games [56.013335390600524]
本稿では,不完全な情報形式ゲームにおいて,摂動がFTRL(Follow-the-Regularized-Leader)アルゴリズムをどのように改善するかを検討する。
期待されるペイオフの摂動は、FTRL力学が近似平衡に達することを保証している。
最後に、FTRLは非サンプリングFTRLよりも一貫して優れていることを示す。
論文 参考訳（メタデータ） (2025-01-28T00:29:38Z) - Transformer-Based Bearing Fault Detection using Temporal Decomposition Attention Mechanism [0.40964539027092917]
ベアリング故障検出は予測保守において重要な課題であり、正確かつタイムリーな故障識別はコストダウンや機器の損傷を防ぐことができる。
トランスフォーマーニューラルネットワークの従来の注意機構は、振動データを保持する複雑な時間パターンを捉えるのに苦労することが多く、最適以下の性能をもたらす。
本稿では,時系列データの長期依存性と周期的変動の両方を捉えるために,時間偏差符号化と季節差分解を組み合わせた新しい注意機構である時間分解注意機構(TDA)を提案する。
論文 参考訳（メタデータ） (2024-12-15T16:51:31Z) - Harnessing Loss Decomposition for Long-Horizon Wave Predictions via Deep Neural Networks [0.0]
本稿では,損失を分離した位相成分と振幅成分に分解する新しい損失分解戦略を提案する。
この手法は、数値誤差を明示的に考慮し、波動伝播タスクにおけるニューラルネットワークの長期予測精度を向上させる。
論文 参考訳（メタデータ） (2024-12-04T00:27:54Z) - Physics-guided Active Sample Reweighting for Urban Flow Prediction [75.24539704456791]
都市フロー予測は、バス、タクシー、ライド駆動モデルといった交通サービスのスループットを見積もる、微妙な時間的モデリングである。
最近の予測解は、物理学誘導機械学習(PGML)の概念による改善をもたらす。
我々は、PN(atized Physics-guided Network)を開発し、P-GASR(Physical-guided Active Sample Reweighting)を提案する。
論文 参考訳（メタデータ） (2024-07-18T15:44:23Z) - Long-Term Prediction Accuracy Improvement of Data-Driven Medium-Range Global Weather Forecast [5.284452133959932]
長期的反復予測を改善するために、Spherical Harmonic Neural Operator (SHNO)と呼ばれる普遍的神経オペレータが導入された。
SHNOは球面の高調波基底を用いて球面データの歪みを緩和し、異なるスケールでスプリアス相関によって生じるスペクトルバイアスを補正するためにゲート残留スペクトルアテンション(GRSA)を用いる。
本研究は,長期予測の精度を向上させるため,SHNOの利点と可能性を強調した。
論文 参考訳（メタデータ） (2024-06-26T02:06:27Z) - Momentum Diminishes the Effect of Spectral Bias in Physics-Informed
Neural Networks [72.09574528342732]
物理インフォームドニューラルネットワーク(PINN)アルゴリズムは、偏微分方程式(PDE)を含む幅広い問題を解く上で有望な結果を示している。
彼らはしばしば、スペクトルバイアスと呼ばれる現象のために、ターゲット関数が高周波の特徴を含むとき、望ましい解に収束しない。
本研究は, 運動量による勾配降下下で進化するPINNのトレーニングダイナミクスを, NTK(Neural Tangent kernel)を用いて研究するものである。
論文 参考訳（メタデータ） (2022-06-29T19:03:10Z) - Probabilistic AutoRegressive Neural Networks for Accurate Long-range
Forecasting [6.295157260756792]
確率的自己回帰ニューラルネットワーク(PARNN)について紹介する。
PARNNは、非定常性、非線形性、非調和性、長距離依存、カオスパターンを示す複雑な時系列データを扱うことができる。
本研究では,Transformers,NBeats,DeepARなどの標準統計モデル,機械学習モデル,ディープラーニングモデルに対して,PARNNの性能を評価する。
論文 参考訳（メタデータ） (2022-04-01T17:57:36Z) - Bayesian Spillover Graphs for Dynamic Networks [5.77019633619109]
本稿では,時間的関係を学習し,臨界ノードを同定し,マルチホライゾンの流出効果の不確実性を定量化する手法を提案する。
現状のベイジアンネットワークとディープラーニングベースラインに対する性能向上を示す。
現実世界のシステムへの応用はまた、BSGを間接的な流出の発見とリスクの定量化のための探索分析ツールとして紹介している。
論文 参考訳（メタデータ） (2022-03-03T18:42:43Z) - On the Generalization of Stochastic Gradient Descent with Momentum [58.900860437254885]
まず,アルゴリズムの安定性が一般化保証の確立に失敗する凸損失関数が存在することを示す。
滑らかなリプシッツ損失関数に対して、修正モーメントに基づく更新規則を解析し、一般化誤差の上界を認めることを示す。
強凸損失関数の特別な場合において、標準 SGDM の複数のエポックが SGDEM の特別な形式として一般化されるような運動量の範囲を見出す。
論文 参考訳（メタデータ） (2021-02-26T18:58:29Z) - Stochastically forced ensemble dynamic mode decomposition for
forecasting and analysis of near-periodic systems [65.44033635330604]
本稿では,観測力学を強制線形系としてモデル化した新しい負荷予測手法を提案する。
固有線型力学の利用は、解釈可能性やパーシモニーの観点から、多くの望ましい性質を提供することを示す。
電力グリッドからの負荷データを用いたテストケースの結果が提示される。
論文 参考訳（メタデータ） (2020-10-08T20:25:52Z) - On the Generalization of Stochastic Gradient Descent with Momentum [84.54924994010703]
運動量に基づく勾配降下(SGD)の加速変種は、機械学習モデルを訓練する際に広く用いられる。
まず,標準重球運動量(SGDM)を持つSGDの複数のエポックに対する安定性ギャップが非有界となる凸損失関数が存在することを示す。
滑らかなリプシッツ損失関数に対しては、修正モーメントベースの更新規則、すなわち、幅広いステップサイズで初期運動量(SGDEM)を解析する。
論文 参考訳（メタデータ） (2018-09-12T17:02:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。