論文の概要: Spectral bias in physics-informed and operator learning: Analysis and mitigation guidelines

• arxiv url: http://arxiv.org/abs/2602.19265v1
• Date: Sun, 22 Feb 2026 16:29:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-24 17:42:02.555277
• Title: Spectral bias in physics-informed and operator learning: Analysis and mitigation guidelines
• Title（参考訳）: 物理インフォームドおよび演算子学習におけるスペクトルバイアス:分析・緩和ガイドライン
• Authors: Siavash Khodakarami, Vivek Oommen, Nazanin Ahmadi Daryakenari, Maxim Beekenkamp, George Em Karniadakis,
• Abstract要約: スペクトルバイアスは、溶液の低周波成分が高周波モードよりも早く学習されるときである。 スペクトルバイアスは単に表現的ではなく、基本的に動的であることを示す。 ニューラル演算子の場合、スペクトルバイアスはニューラル演算子アーキテクチャに依存する。
• 参考スコア（独自算出の注目度）: 3.758814046658822
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Solving partial differential equations (PDEs) by neural networks as well as Kolmogorov-Arnold Networks (KANs), including physics-informed neural networks (PINNs), physics-informed KANs (PIKANs), and neural operators, are known to exhibit spectral bias, whereby low-frequency components of the solution are learned significantly faster than high-frequency modes. While spectral bias is often treated as an intrinsic representational limitation of neural architectures, its interaction with optimization dynamics and physics-based loss formulations remains poorly understood. In this work, we provide a systematic investigation of spectral bias in physics-informed and operator learning frameworks, with emphasis on the coupled roles of network architecture, activation functions, loss design, and optimization strategy. We quantify spectral bias through frequency-resolved error metrics, Barron-norm diagnostics, and higher-order statistical moments, enabling a unified analysis across elliptic, hyperbolic, and dispersive PDEs. Through diverse benchmark problems, including the Korteweg-de Vries, wave and steady-state diffusion-reaction equations, turbulent flow reconstruction, and earthquake dynamics, we demonstrate that spectral bias is not simply representational but fundamentally dynamical. In particular, second-order optimization methods substantially alter the spectral learning order, enabling earlier and more accurate recovery of high-frequency modes for all PDE types. For neural operators, we further show that spectral bias is dependent on the neural operator architecture and can also be effectively mitigated through spectral-aware loss formulations without increasing the inference cost.
• Abstract（参考訳）: ニューラルネットワークとKolmogorov-Arnold Networks(KANs)による偏微分方程式(PDEs)の解法は、物理インフォームドニューラルネットワーク(PINNs)、物理インフォームドカン(PIKANs)、ニューラル演算子を含む、高周波数モードよりもはるかに高速に学習されることで知られている。 スペクトルバイアスはしばしばニューラルネットワークの内在的な表現制限として扱われるが、最適化力学と物理に基づく損失の定式化との相互作用はいまだに理解されていない。 本研究では,ネットワークアーキテクチャ,アクティベーション関数,損失設計,最適化戦略の複合的役割に着目し,物理インフォームドおよび演算子学習フレームワークにおけるスペクトルバイアスの系統的研究を行う。 我々は,周波数分解誤差測定,バロンノルム診断,高次統計モーメントを通じてスペクトルバイアスを定量化し,楕円型,双曲型および分散型PDEの統一解析を可能にする。 Korteweg-de Vries、波動および定常拡散反応方程式、乱流再構成、地震力学といった様々なベンチマーク問題を通じて、スペクトルバイアスは単に表現的ではなく、基本的に動的であることを示す。 特に、2次最適化法はスペクトル学習順序を大幅に変化させ、全てのPDE型に対してより早くより正確な高周波モードの回復を可能にする。 ニューラル演算子の場合、スペクトルバイアスはニューラル演算子アーキテクチャに依存しており、推論コストを増大させることなくスペクトル認識損失の定式化によって効果的に緩和できることを示す。

関連論文リスト

• NeuraLSP: An Efficient and Rigorous Neural Left Singular Subspace Preconditioner for Conjugate Gradient Methods [49.84495044725856]
  NeuraLSPはニューラルプレコンディショナーである。 提案手法は, インフレーションのランク付けにおける理論的保証と実証的堅牢性の両方を示し, 最大53%の高速化を実現した。
  論文  参考訳（メタデータ） (2026-01-28T02:15:16Z)
• Graph Neural Regularizers for PDE Inverse Problems [62.49743146797144]
  本稿では,偏微分方程式(PDE)によって支配される多種多様な不測の逆問題を解くための枠組みを提案する。 有限要素法(FEM)を用いて前方問題の数値解法 我々は、物理に着想を得たグラフニューラルネットワークを学習正規化器として採用し、標準アプローチの頑健で解釈可能な、一般化可能な代替手段を提供する。
  論文  参考訳（メタデータ） (2025-10-23T21:43:25Z)
• Neuro-Spectral Architectures for Causal Physics-Informed Networks [4.105582334433184]
  NeuSAは古典的なスペクトル法に触発された新しいPINNのクラスである。 NeuSA は基礎となる PDE のスペクトル基底への射影を学習し、力学の有限次元表現をもたらす。 コードと事前訓練されたモデルがリリースされる。
  論文  参考訳（メタデータ） (2025-09-05T09:43:45Z)
• LOGLO-FNO: Efficient Learning of Local and Global Features in Fourier Neural Operators [20.77877474840923]
  高周波情報は機械学習における重要な課題である。 ディープニューラルネットワークは、低周波成分の学習に対するいわゆるスペクトルバイアスを示す。 放射結合スペクトル誤差に基づく新しい周波数感受性損失項を提案する。
  論文  参考訳（メタデータ） (2025-04-05T19:35:04Z)
• Learnable Activation Functions in Physics-Informed Neural Networks for Solving Partial Differential Equations [0.0]
  偏微分方程式(PDE)の解法として物理情報ニューラルネットワーク(PINN)が誕生した。 これらの制限は、急激な振動、鋭い勾配、複雑な境界挙動を含む問題の精度に影響を与える。 これらの課題に対する解決策として,学習可能なアクティベーション関数について検討する。
  論文  参考訳（メタデータ） (2024-11-22T18:25:13Z)
• Momentum Diminishes the Effect of Spectral Bias in Physics-Informed Neural Networks [72.09574528342732]
  物理インフォームドニューラルネットワーク(PINN)アルゴリズムは、偏微分方程式(PDE)を含む幅広い問題を解く上で有望な結果を示している。 彼らはしばしば、スペクトルバイアスと呼ばれる現象のために、ターゲット関数が高周波の特徴を含むとき、望ましい解に収束しない。 本研究は, 運動量による勾配降下下で進化するPINNのトレーニングダイナミクスを, NTK(Neural Tangent kernel)を用いて研究するものである。
  論文  参考訳（メタデータ） (2022-06-29T19:03:10Z)
• The Spectral Bias of Polynomial Neural Networks [63.27903166253743]
  PNN(Polynomial Neural Network)は、高頻度情報を重要視する画像生成と顔認識に特に有効であることが示されている。 これまでの研究では、ニューラルネットワークが低周波関数に対して$textitspectral bias$を示しており、トレーニング中に低周波成分のより高速な学習をもたらすことが示されている。 このような研究に触発されて、我々はPNNのTangent Kernel(NTK)のスペクトル分析を行う。 我々は、最近提案されたPNNのパラメトリゼーションである$Pi$-Netファミリがスピードアップすることを発見した。
  論文  参考訳（メタデータ） (2022-02-27T23:12:43Z)
• Neural Dynamic Mode Decomposition for End-to-End Modeling of Nonlinear Dynamics [49.41640137945938]
  ニューラルネットワークに基づくリフト関数を推定するためのニューラルダイナミックモード分解法を提案する。 提案手法により,予測誤差はニューラルネットワークとスペクトル分解によって逆伝搬される。 提案手法の有効性を,固有値推定と予測性能の観点から実証した。
  論文  参考訳（メタデータ） (2020-12-11T08:34:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。