論文の概要: Gradient Scaling Effects in Adaptive Spectral PINNs for Stiff Nonlinear ODEs

• arxiv url: http://arxiv.org/abs/2605.04502v1
• Date: Wed, 06 May 2026 05:10:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-07 18:41:07.654355
• Title: Gradient Scaling Effects in Adaptive Spectral PINNs for Stiff Nonlinear ODEs
• Title（参考訳）: 剛性非線形直列に対する適応スペクトルPINNの勾配スケーリング効果
• Abstract要約: ICゲーティング関数の選択は,時間依存性の勾配スケーリングを明示的に引き起こすことを示す。 適応型PINNの剛性による相対優位性の変化を適度に観察した。 これらの傾向は、相対的な$L2$エラーとポイントワイズエラーの両方に当てはまる。
• 参考スコア（独自算出の注目度）: 0.794957965474334
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Physics-Informed Neural Networks (PINNs) often struggle to train reliably on stiff and oscillatory dynamical systems due to poor optimization conditioning. While prior work has emphasized representational remedies such as spectral parameterizations, the optimization implications of initial-condition (IC) embeddings in adaptive spectral PINNs have not been well characterized. In this work, we show that the choice of IC gating function induces explicit time-dependent gradient scaling, which interacts with spectral representations during training. Using a nonlinear stiff spring-pendulum ODE as a controlled benchmark, we compare exponential and linear IC gates in combination with fixed and adaptive Fourier spectral trunks. We observe stiffness-dependent changes in relative dominance for adaptive PINNs: at moderate stiffness ($k=20$), exponential gating often yields lower error but exhibits heterogeneous behavior across random seeds, whereas at higher stiffness ($k=60$), linear gating becomes preferable, with additional reversals observed at larger $k$. These trends hold for both relative $L^2$ error and maximum pointwise error and are confirmed by paired Wilcoxon signed-rank tests with Holm correction. Overall, our results demonstrate that IC embeddings are not a neutral design choice in PINNs: the induced gradient scaling materially shapes optimization conditioning in stiff regimes, with distinct sensitivity patterns in baseline and adaptive spectral models.
• Abstract（参考訳）: 物理インフォームドニューラルネットワーク(PINN)は、最適化条件が不十分なため、硬く振動的な力学系を確実に訓練するのに苦労することが多い。 従来の研究は、スペクトルパラメータ化などの表現的改善を強調してきたが、適応スペクトルPINNにおける初期条件(IC)埋め込みの最適化は、十分に評価されていない。 本研究では、ICゲーティング関数の選択により、トレーニング中のスペクトル表現と相互作用する時間依存勾配スケーリングが明らかになることを示す。 非線形剛性ばねペンデュラムODEを制御ベンチマークとして, 指数ICゲートと線形ICゲートと, 固定および適応フーリエスペクトルトランクを比較した。 適応型PINNの相対的優位性における剛性依存性の変化を観察する: 適度な剛性(k=20$)では指数的ゲーティングは低い誤差を生じるが、ランダムな種子間で不均一な振る舞いを示すが、高剛性(k=60$)では線形ゲーティングが好まれる。 これらの傾向は、相対的な$L^2$誤差と最大点次誤差の両方を保ち、ホルム補正とペアのウィルコクソン符号ランクテストによって確認される。 その結果、IC埋め込みはPINNにおいて中立的な設計選択ではないことが示される: 誘導勾配スケーリングは厳密なレシエーションにおいて物質的に最適化条件を定式化し、ベースラインおよび適応スペクトルモデルにおいて異なる感度パターンを持つ。

関連論文リスト

• Variational Boosting for Physics-Informed Neural Networks [0.794957965474334]
  モノリシックPINNは、しばしば不調、スペクトルバイアス、最適化不安定に悩まされる。 本稿では,関数空間における解を付加的に構築する変分ブースティングフレームワークを提案する。 このフレームワークは多段PINNの幾何学的解釈を関数勾配勾配として提供する。
  論文  参考訳（メタデータ） (2026-07-27T02:32:22Z)
• From Simple to Complex: Curriculum-Guided Physics-Informed Neural Networks via Gaussian Mixture Models [13.535408662482434]
  物理インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)を解くためのメッシュフリーフレームワークを提供する 本稿では,混合モデリングと動的カリキュラム学習を統合したCGMPINNを提案する。
  論文  参考訳（メタデータ） (2026-05-19T02:20:13Z)
• Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
  プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。 我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。 重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
  論文  参考訳（メタデータ） (2026-02-24T05:32:03Z)
• Structure-Preserving Physics-Informed Neural Network for the Korteweg--de Vries (KdV) Equation [0.0]
  本稿では,非線形カルテヴェーグ・ド・ヴリー(KdV)方程式に対するエンファン構造保存型PINNフレームワークを提案する。 提案手法は、質量とハミルトンエネルギーの保存を直接損失関数に埋め込む。 我々は保存不変量を維持しながらKdVダイナミクスの目印挙動をうまく再現する。
  論文  参考訳（メタデータ） (2025-11-01T06:07:24Z)
• Curvature Learning for Generalization of Hyperbolic Neural Networks [51.888534247573894]
  ハイパーボリックニューラルネットワーク(HNN)は,階層構造を持つ実世界のデータを表現する上で,顕著な有効性を示している。 不適切な曲率により、HNNは最適以下のパラメータに収束し、全体的な性能が低下する可能性がある。 本研究では,損失景観の平滑化を図り,HNNの一般化を向上するシャープネス対応曲率学習法を提案する。
  論文  参考訳（メタデータ） (2025-08-24T07:14:30Z)
• PIG: Physics-Informed Gaussians as Adaptive Parametric Mesh Representations [5.4087282763977855]
  本稿では,ガウス関数を用いた特徴埋め込みと軽量ニューラルネットワークを組み合わせた物理インフォームドガウス(PIG)を提案する。 提案手法では,各ガウス平均と分散にトレーニング可能なパラメータを用い,トレーニング中の位置と形状を動的に調整する。 実験の結果,複雑なPDEを解くための堅牢なツールとしての可能性を示した。
  論文  参考訳（メタデータ） (2024-12-08T16:58:29Z)
• Gradient Normalization Provably Benefits Nonconvex SGD under Heavy-Tailed Noise [60.92029979853314]
  重み付き雑音下でのグラディエントDescence(SGD)の収束を確実にする上での勾配正規化とクリッピングの役割について検討する。 我々の研究は、重尾雑音下でのSGDの勾配正規化の利点を示す最初の理論的証拠を提供する。 我々は、勾配正規化とクリッピングを取り入れた加速SGD変種を導入し、さらに重み付き雑音下での収束率を高めた。
  論文  参考訳（メタデータ） (2024-10-21T22:40:42Z)
• Controlled Learning of Pointwise Nonlinearities in Neural-Network-Like Architectures [14.93489065234423]
  本稿では,階層型計算アーキテクチャにおける自由形式非線形性のトレーニングのための一般的な変分フレームワークを提案する。 傾斜制約により、1-Lipschitz安定性、堅固な非膨張性、単調性/可逆性といった特性を課すことができる。 本稿では, 非線形性を適切な(一様でない)B-スプラインベースで表現することで, 数値関数最適化問題の解法を示す。
  論文  参考訳（メタデータ） (2024-08-23T14:39:27Z)
• Implicit Stochastic Gradient Descent for Training Physics-informed Neural Networks [51.92362217307946]
  物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。 PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。 本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
  論文  参考訳（メタデータ） (2023-03-03T08:17:47Z)
• Momentum Diminishes the Effect of Spectral Bias in Physics-Informed Neural Networks [72.09574528342732]
  物理インフォームドニューラルネットワーク(PINN)アルゴリズムは、偏微分方程式(PDE)を含む幅広い問題を解く上で有望な結果を示している。 彼らはしばしば、スペクトルバイアスと呼ばれる現象のために、ターゲット関数が高周波の特徴を含むとき、望ましい解に収束しない。 本研究は, 運動量による勾配降下下で進化するPINNのトレーニングダイナミクスを, NTK(Neural Tangent kernel)を用いて研究するものである。
  論文  参考訳（メタデータ） (2022-06-29T19:03:10Z)
• Optimization-Induced Graph Implicit Nonlinear Diffusion [64.39772634635273]
  我々はGIND(Graph Implicit Diffusion)と呼ばれる新しいグラフ畳み込み変種を提案する。 GINDは暗黙的に隣人の無限のホップにアクセスでき、非線型拡散を伴う特徴を適応的に集約することで過度な平滑化を防いでいる。 学習された表現は、明示的な凸最適化目標の最小化として定式化できることを示す。
  論文  参考訳（メタデータ） (2022-06-29T06:26:42Z)
• Efficient Semi-Implicit Variational Inference [65.07058307271329]
  効率的でスケーラブルな半単純外挿 (SIVI) を提案する。 本手法はSIVIの証拠を低勾配値の厳密な推測にマッピングする。
  論文  参考訳（メタデータ） (2021-01-15T11:39:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。