論文の概要: Binned Spectral Power Loss for Improved Prediction of Chaotic Systems

• arxiv url: http://arxiv.org/abs/2502.00472v1
• Date: Sat, 01 Feb 2025 15:58:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-05 14:52:28.818839
• Title: Binned Spectral Power Loss for Improved Prediction of Chaotic Systems
• Title（参考訳）: カオスシステムの予測精度向上のための結合スペクトルパワー損失
• Authors: Dibyajyoti Chakraborty, Arvind T. Mohan, Romit Maulik,
• Abstract要約: 本稿では,BSP(Binned Spectral Power)ロス(BSP)と呼ばれるスペクトルバイアスを緩和する新しい手法を提案する。 ポイントワイドなミスフィットに焦点を当てた従来の損失とは異なり、BSPの損失は、異なるスケールにわたるエネルギー分布の偏差を明示的に罰する。 以上の結果から,BSP損失は神経予測モデルの安定性とスペクトル精度を著しく向上させることが示された。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Forecasting multiscale chaotic dynamical systems with deep learning remains a formidable challenge due to the spectral bias of neural networks, which hinders the accurate representation of fine-scale structures in long-term predictions. This issue is exacerbated when models are deployed autoregressively, leading to compounding errors and instability. In this work, we introduce a novel approach to mitigate the spectral bias which we call the Binned Spectral Power (BSP) Loss. The BSP loss is a frequency-domain loss function that adaptively weighs errors in predicting both larger and smaller scales of the dataset. Unlike traditional losses that focus on pointwise misfits, our BSP loss explicitly penalizes deviations in the energy distribution across different scales, promoting stable and physically consistent predictions. We demonstrate that the BSP loss mitigates the well-known problem of spectral bias in deep learning. We further validate our approach for the data-driven high-dimensional time-series forecasting of a range of benchmark chaotic systems which are typically intractable due to spectral bias. Our results demonstrate that the BSP loss significantly improves the stability and spectral accuracy of neural forecasting models without requiring architectural modifications. By directly targeting spectral consistency, our approach paves the way for more robust deep learning models for long-term forecasting of chaotic dynamical systems.
• Abstract（参考訳）: ディープラーニングを用いたマルチスケールカオス力学系の予測は、ニューラルネットワークのスペクトルバイアスが長期予測における微細構造の正確な表現を妨げているため、依然として困難な課題である。 この問題は、モデルが自動回帰的にデプロイされると悪化し、エラーと不安定が複雑になる。 本研究では,BSP損失(Binned Spectral Power (BSP) Loss)と呼ばれるスペクトルバイアスを緩和する新しい手法を提案する。 BSP損失(英: BSP loss)は、データセットの大きなスケールと小さなスケールの両方を予測する際のエラーを適応的に重み付けする周波数領域損失関数である。 ポイントワイドなミスフィットに焦点を当てた従来の損失とは異なり、BSPの損失は、異なるスケールにわたるエネルギー分布の偏差を明示的に罰し、安定的で物理的に一貫した予測を促進する。 BSPの損失は、ディープラーニングにおけるスペクトルバイアスのよく知られた問題を緩和することを示した。 さらに, スペクトルバイアスにより典型的に難易度が高いベンチマークカオスシステムの, データ駆動型高次元時系列予測に対するアプローチを検証した。 以上の結果から,BSPの損失は,アーキテクチャ変更を必要とせずに,ニューラル予測モデルの安定性とスペクトル精度を著しく向上させることが示された。 スペクトル一貫性を直接ターゲットとすることで、カオス力学系の長期予測のためのより堅牢なディープラーニングモデルを構築することができる。

関連論文リスト

• Physics-guided Active Sample Reweighting for Urban Flow Prediction [75.24539704456791]
  都市フロー予測は、バス、タクシー、ライド駆動モデルといった交通サービスのスループットを見積もる、微妙な時間的モデリングである。 最近の予測解は、物理学誘導機械学習(PGML)の概念による改善をもたらす。 我々は、PN(atized Physics-guided Network)を開発し、P-GASR(Physical-guided Active Sample Reweighting)を提案する。
  論文  参考訳（メタデータ） (2024-07-18T15:44:23Z)
• Long-Term Prediction Accuracy Improvement of Data-Driven Medium-Range Global Weather Forecast [5.284452133959932]
  長期的反復予測を改善するために、Spherical Harmonic Neural Operator (SHNO)と呼ばれる普遍的神経オペレータが導入された。 SHNOは球面の高調波基底を用いて球面データの歪みを緩和し、異なるスケールでスプリアス相関によって生じるスペクトルバイアスを補正するためにゲート残留スペクトルアテンション(GRSA)を用いる。 本研究は,長期予測の精度を向上させるため,SHNOの利点と可能性を強調した。
  論文  参考訳（メタデータ） (2024-06-26T02:06:27Z)
• Data efficiency and extrapolation trends in neural network interatomic potentials [0.0]
  ニューラルネットワーク間ポテンシャル(NNIP)の一般化にアーキテクチャと最適化がどう影響するかを示す。 NNIPにおけるテストエラーはスケーリング関係に従っており、ノイズに対して堅牢であるが、高精度なシステムではMD安定性を予測できないことを示す。 我々の研究は、多くの共通NNIPの補間性能に対する深い学習の正当性を提供する。
  論文  参考訳（メタデータ） (2023-02-12T00:34:05Z)
• Momentum Diminishes the Effect of Spectral Bias in Physics-Informed Neural Networks [72.09574528342732]
  物理インフォームドニューラルネットワーク(PINN)アルゴリズムは、偏微分方程式(PDE)を含む幅広い問題を解く上で有望な結果を示している。 彼らはしばしば、スペクトルバイアスと呼ばれる現象のために、ターゲット関数が高周波の特徴を含むとき、望ましい解に収束しない。 本研究は, 運動量による勾配降下下で進化するPINNのトレーニングダイナミクスを, NTK(Neural Tangent kernel)を用いて研究するものである。
  論文  参考訳（メタデータ） (2022-06-29T19:03:10Z)
• Surface Similarity Parameter: A New Machine Learning Loss Metric for Oscillatory Spatio-Temporal Data [0.0]
  本研究では, 表面類似度パラメータ(SSP)を新しい損失関数として導入し, 滑らかな振動列の学習に特に有用であることを示す。 カオス時間系の実験により,SSPは勾配を形成するのに有用であることが示され,トレーニングプロセスの加速が図られた。
  論文  参考訳（メタデータ） (2022-04-14T09:27:33Z)
• Probabilistic AutoRegressive Neural Networks for Accurate Long-range Forecasting [6.295157260756792]
  確率的自己回帰ニューラルネットワーク(PARNN)について紹介する。 PARNNは、非定常性、非線形性、非調和性、長距離依存、カオスパターンを示す複雑な時系列データを扱うことができる。 本研究では,Transformers,NBeats,DeepARなどの標準統計モデル,機械学習モデル,ディープラーニングモデルに対して,PARNNの性能を評価する。
  論文  参考訳（メタデータ） (2022-04-01T17:57:36Z)
• Bayesian Spillover Graphs for Dynamic Networks [5.77019633619109]
  本稿では,時間的関係を学習し,臨界ノードを同定し,マルチホライゾンの流出効果の不確実性を定量化する手法を提案する。 現状のベイジアンネットワークとディープラーニングベースラインに対する性能向上を示す。 現実世界のシステムへの応用はまた、BSGを間接的な流出の発見とリスクの定量化のための探索分析ツールとして紹介している。
  論文  参考訳（メタデータ） (2022-03-03T18:42:43Z)
• BCD Nets: Scalable Variational Approaches for Bayesian Causal Discovery [97.79015388276483]
  構造方程式モデル(SEM)は、有向非巡回グラフ(DAG)を介して表される因果関係を推論する効果的な枠組みである。 近年の進歩により、観測データからDAGの有効最大点推定が可能となった。 線形ガウス SEM を特徴付ける DAG 上の分布を推定するための変分フレームワークである BCD Nets を提案する。
  論文  参考訳（メタデータ） (2021-12-06T03:35:21Z)
• On the Generalization of Stochastic Gradient Descent with Momentum [58.900860437254885]
  まず,アルゴリズムの安定性が一般化保証の確立に失敗する凸損失関数が存在することを示す。 滑らかなリプシッツ損失関数に対して、修正モーメントに基づく更新規則を解析し、一般化誤差の上界を認めることを示す。 強凸損失関数の特別な場合において、標準 SGDM の複数のエポックが SGDEM の特別な形式として一般化されるような運動量の範囲を見出す。
  論文  参考訳（メタデータ） (2021-02-26T18:58:29Z)
• Stochastically forced ensemble dynamic mode decomposition for forecasting and analysis of near-periodic systems [65.44033635330604]
  本稿では,観測力学を強制線形系としてモデル化した新しい負荷予測手法を提案する。 固有線型力学の利用は、解釈可能性やパーシモニーの観点から、多くの望ましい性質を提供することを示す。 電力グリッドからの負荷データを用いたテストケースの結果が提示される。
  論文  参考訳（メタデータ） (2020-10-08T20:25:52Z)
• On the Generalization of Stochastic Gradient Descent with Momentum [84.54924994010703]
  運動量に基づく勾配降下(SGD)の加速変種は、機械学習モデルを訓練する際に広く用いられる。 まず,標準重球運動量(SGDM)を持つSGDの複数のエポックに対する安定性ギャップが非有界となる凸損失関数が存在することを示す。 滑らかなリプシッツ損失関数に対しては、修正モーメントベースの更新規則、すなわち、幅広いステップサイズで初期運動量(SGDEM)を解析する。
  論文  参考訳（メタデータ） (2018-09-12T17:02:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。