論文の概要: Curvature-Aware Optimization for High-Accuracy Physics-Informed Neural Networks
- arxiv url: http://arxiv.org/abs/2604.05230v1
- Date: Mon, 06 Apr 2026 22:52:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-08 17:42:09.522303
- Title: Curvature-Aware Optimization for High-Accuracy Physics-Informed Neural Networks
- Title(参考訳): 高精度物理インフォームドニューラルネットワークの曲率認識最適化
- Authors: Anas Jnini, Elham Kiyani, Khemraj Shukla, Jorge F. Urban, Nazanin Ahmadi Daryakenari, Johannes Muller, Marius Zeinhofer, George Em Karniadakis,
- Abstract要約: 物理インフォームドニューラルネットワーク(PINN)の収束を加速するための高度な最適化手法を提案する。
我々は、ヘルムホルツ方程式、ストークスフロー、バーガーズ方程式、高速流れに対するオイラー方程式などの問題に対するそれらの性能を実証する。
Inviscid Burgers 方程式を解くための新しい PINN ベースの手法を提案し、その結果を高次数値法と比較する。
- 参考スコア(独自算出の注目度): 6.7049043613619155
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Efficient and robust optimization is essential for neural networks, enabling scientific machine learning models to converge rapidly to very high accuracy -- faithfully capturing complex physical behavior governed by differential equations. In this work, we present advanced optimization strategies to accelerate the convergence of physics-informed neural networks (PINNs) for challenging partial (PDEs) and ordinary differential equations (ODEs). Specifically, we provide efficient implementations of the Natural Gradient (NG) optimizer, Self-Scaling BFGS and Broyden optimizers, and demonstrate their performance on problems including the Helmholtz equation, Stokes flow, inviscid Burgers equation, Euler equations for high-speed flows, and stiff ODEs arising in pharmacokinetics and pharmacodynamics. Beyond optimizer development, we also propose new PINN-based methods for solving the inviscid Burgers and Euler equations, and compare the resulting solutions against high-order numerical methods to provide a rigorous and fair assessment. Finally, we address the challenge of scaling these quasi-Newton optimizers for batched training, enabling efficient and scalable solutions for large data-driven problems.
- Abstract(参考訳): ニューラルネットワークには効率的でロバストな最適化が不可欠であり、科学的な機械学習モデルが非常に高い精度で急速に収束し、微分方程式によって支配される複雑な物理的振る舞いを忠実に捉えることができる。
本研究では,物理インフォームドニューラルネットワーク(PINN)の収束を高速化するための高度な最適化手法を提案する。
具体的には,Natural Gradient(NG)オプティマイザ,自己スケーリングBFGS,Broydenオプティマイザの効率的な実装を提供し,ヘルムホルツ方程式,ストークスフロー,バーガース方程式,高速フローのためのオイラー方程式,薬物動態学および薬物力学における固いODEなどの問題に対するそれらの性能を実証する。
また,最適器開発以外にも,不明瞭なバーガー方程式とオイラー方程式を解くための新しいPINNベースの手法を提案し,その結果を高次数値法と比較し,厳密で公平な評価を行う。
最後に、バッチトレーニングのための準ニュートンオプティマイザのスケーリングという課題に対処し、大規模データ駆動問題に対する効率的でスケーラブルなソリューションを実現する。
関連論文リスト
- Optimizing the Optimizer for Physics-Informed Neural Networks and Kolmogorov-Arnold Networks [3.758814046658822]
物理情報ニューラルネットワーク(PINN)は、部分マグニチュード方程式(PDE)をニューラルネットワークのトレーニングプロセスにソフト制約として統合することにより、計算PDEソリューションに革命をもたらした。
さらに、物理インフォームドネットワーク(PIKAN)も有効であり、精度も同等である。
論文 参考訳(メタデータ) (2025-01-22T21:19:42Z) - Implicit Stochastic Gradient Descent for Training Physics-informed
Neural Networks [51.92362217307946]
物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。
PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。
本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
論文 参考訳(メタデータ) (2023-03-03T08:17:47Z) - NeuralStagger: Accelerating Physics-constrained Neural PDE Solver with
Spatial-temporal Decomposition [67.46012350241969]
本稿では,NeuralStaggerと呼ばれる一般化手法を提案する。
元の学習タスクをいくつかの粗い解像度のサブタスクに分解する。
本稿では,2次元および3次元流体力学シミュレーションにおけるNeuralStaggerの適用例を示す。
論文 参考訳(メタデータ) (2023-02-20T19:36:52Z) - Neural Basis Functions for Accelerating Solutions to High Mach Euler
Equations [63.8376359764052]
ニューラルネットワークを用いた偏微分方程式(PDE)の解法を提案する。
ニューラルネットワークの集合を縮小順序 Proper Orthogonal Decomposition (POD) に回帰する。
これらのネットワークは、所定のPDEのパラメータを取り込み、PDEに還元順序近似を計算する分岐ネットワークと組み合わせて使用される。
論文 参考訳(メタデータ) (2022-08-02T18:27:13Z) - Speeding up Computational Morphogenesis with Online Neural Synthetic
Gradients [51.42959998304931]
現代科学および工学の適用の広い範囲は制約として部分的な微分方程式(PDEs)のシステムとの最適化問題として定式化されます。
これらのPDE制約最適化問題は通常、標準のDisretize-then-optimizeアプローチで解決される。
オンラインニューラル合成勾配(ONSG)を用いたPDE制約最適化の高速化のための新しい2スケール最適化手法を提案する。
論文 参考訳(メタデータ) (2021-04-25T22:43:51Z) - Meta-Solver for Neural Ordinary Differential Equations [77.8918415523446]
本研究では,ソルバ空間の変動がニューラルODEの性能を向上する方法について検討する。
解法パラメータ化の正しい選択は, 敵の攻撃に対するロバスト性の観点から, 神経odesモデルに大きな影響を与える可能性がある。
論文 参考訳(メタデータ) (2021-03-15T17:26:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。