論文の概要: An Optimisation Framework for the Well-Conditioned Training of Physics-Informed Neural Networks
- arxiv url: http://arxiv.org/abs/2607.02194v1
- Date: Thu, 02 Jul 2026 14:03:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-03 19:45:08.863178
- Title: An Optimisation Framework for the Well-Conditioned Training of Physics-Informed Neural Networks
- Title（参考訳）: 物理インフォームドニューラルネットワークの高度学習のための最適化フレームワーク
- Abstract要約: 物理インフォームドニューラルネットワーク(PINN)は偏微分方程式を解くための有望な経路として登場した。
PINNは古典的解決者の精度に到達するのに苦労している。
拡張性のある2階最適化フレームワークであるAdaptive Ratioを使ったDouubly-Sketched Gauss-Newtonを提示する。
- 参考スコア（独自算出の注目度）: 0.12744523252873352
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Physics-informed neural networks (PINNs) have emerged as a promising route to solve partial differential equations, yet they have struggled to reach the precision of classical solvers. The obstacle is increasingly understood to be one of optimisation, owing to the severely ill-conditioned loss landscape. We present $\textbf{DSGNAR}$: Doubly-Sketched Gauss-Newton with Adaptive Ratio, a scalable second-order optimisation framework that confronts this ill-conditioning and, in doing so, obtains unprecedented accuracy and speed. $\textbf{DSGNAR}$ couples a doubly-sketched Gauss-Newton model with a novel strategy that carefully controls both regularisation and step length. Across a suite of problems spanning nonlinear, chaotic, multi-scale, high-dimensional, and Navier-Stokes, the framework greatly improves on the state of the art: able to attain relative $\ell_2$ errors as low as $3\times10^{-16}$ in double precision, improve contemporary results by five orders of magnitude on the canonical Burgers' equation, and as much as eight orders on a high-dimensional Poisson problem, while remaining markedly faster. We further show that, in single precision, solutions at the limit of round-off error can be obtained very quickly: Burgers' equation to $\ell_2^{\text{rel}} = 4.75 \times 10^{-7}$ in under ten seconds. The framework is also robust to the choice of architecture, arithmetic precision, and initial hyperparameters. The code is available at https://www.github.com/wephy/physics-informed-neural-networks
- Abstract（参考訳）: 物理インフォームドニューラルネットワーク(PINN)は偏微分方程式を解くための有望な経路として登場したが、古典的解法の精度に到達するのに苦労している。
この障害は、過酷な条件のロスランドスケープのため、最適化の1つとして理解されがちである。
この悪条件に直面するスケーラブルな2階最適化フレームワークであるAdaptive Ratioで、前例のない精度と速度を得る。
$\textbf{DSGNAR}$ doublely-sketched Gauss-Newtonモデルと、正規化とステップ長の両方を慎重に制御する新しい戦略を結合する。
非線形、カオス的、マルチスケール、高次元、およびナビエ・ストークスにまたがる一連の問題の中で、このフレームワークは最先端で大幅に改善され、相対的な$\ell_2$エラーを$3\times10^{-16}$で2倍精度で達成し、正準バーガースの方程式で5桁の現代結果を改善するとともに、高次元ポアソン問題では最大8桁のオーダーを保ちながら、顕著に高速に維持できる。
さらに、単精度では、ラウンドオフ誤差の極限での解は非常に早く得られることが示される: Burgers' equation to $\ell_2^{\text{rel}} = 4.75 \times 10^{-7}$ in 10 seconds。
このフレームワークは、アーキテクチャ、算術精度、初期ハイパーパラメータの選択にも堅牢である。
コードはhttps://www.github.com/wephy/physics-informed-neural-networksで公開されている。
関連論文リスト
- Physics-enriched neural solvers for transient ice-flow simulation [0.21892916695245224]
本稿では,低次氷流バランスから得られる安価な入力フィールドをネットワークに供給することで,このオンライン解法が向上することを示す。
3つの現実世界の氷河構成の中で、濃縮されたソルバは、ソルバ設定に対して著しく堅牢である。
論文 参考訳（メタデータ） (2026-09-11T14:26:12Z) - Learning-Augmented Scalable Linear Assignment Problem Optimization via Neural Dual Warm-Starts [19.540758462427878]
最適性と最悪の保証を維持しつつ、正確な代入解決を高速化する学習強化フレームワークを提案する。
グラフベースのモデルのメモリボトルネックを$mathcalO(N2)$で回避する軽量な行独立アーキテクチャであるRowDualNetを紹介します。
論文 参考訳（メタデータ） (2026-05-10T07:15:49Z) - INC: An Indirect Neural Corrector for Auto-Regressive Hybrid PDE Solvers [61.84396402100827]
本稿では,学習した補正を支配方程式に統合する間接ニューラルコレクタ(mathrmINC$)を提案する。
$mathrmINC$は、$t-1 + L$の順番でエラー増幅を減らし、$t$はタイムステップ、$L$はリプシッツ定数である。
大規模なベンチマークで$mathrmINC$をテストし、1Dカオスシステムから3D乱流まで、多くの異なる解法、神経バックボーン、テストケースをカバーした。
論文 参考訳（メタデータ） (2025-11-16T20:14:28Z) - Breaking the Precision Ceiling in Physics-Informed Neural Networks: A Hybrid Fourier-Neural Architecture for Ultra-High Accuracy [0.0]
物理インフォームドニューラルネットワーク(PINN)は、4階偏微分方程式に対して10-3$-10-4$の誤差で高められている。
我々は従来の数値法よりも17倍のL2誤差を1.94倍10-7$で達成した。
論文 参考訳（メタデータ） (2025-07-28T15:41:51Z) - Dual Natural Gradient Descent for Scalable Training of Physics-Informed Neural Networks [0.7562843347215286]
物理インフォームドニューラルネットワーク(PINN)の学習を著しく促進する自然段階的手法
textitDual Natural Gradient Descent (D-NGD)を紹介する。
D-NGDは、残留空間におけるガウス-ニュートンステップを計算し、ジオデシック加速度補正を無視可能な余剰コストで拡張し、モデスト$m$とNystrom-preconditioned conjugate-gradient solverをより大きい$m$で提供する。
論文 参考訳（メタデータ） (2025-05-27T16:27:23Z) - Enabling Automatic Differentiation with Mollified Graph Neural Operators [73.52999622724101]
本稿では,自動微分と任意のジオメトリの正確な勾配を求める最初の手法であるモリファイドグラフニューラル演算子(m$GNO)を提案する。
正規格子上のPDEの例では、$m$GNOとオートグレードの組み合わせにより、L2相対データの誤差は有限差に比べて20倍減少した。
また、物理損失のみを使用し、有限差分に必要な分解能よりもはるかに低い精度で、非構造化点雲上のPDEをシームレスに解くことができる。
論文 参考訳（メタデータ） (2025-04-11T06:16:30Z) - Towards large-scale quantum optimization solvers with few qubits [59.63282173947468]
我々は、$m=mathcalO(nk)$バイナリ変数を$n$ qubitsだけを使って最適化するために、$k>1$で可変量子ソルバを導入する。
我々は,特定の量子ビット効率の符号化が,バレン高原の超ポリノミウム緩和を内蔵特徴としてもたらすことを解析的に証明した。
論文 参考訳（メタデータ） (2024-01-17T18:59:38Z) - Gradient-Free Methods for Deterministic and Stochastic Nonsmooth
Nonconvex Optimization [94.19177623349947]
非滑らかな非最適化問題は、機械学習とビジネス製造に現れる。
2つのコア課題は、有限収束を保証する効率的な方法の開発を妨げる。
GFMとSGFMの2相版も提案され, 改良された大規模評価結果が得られた。
論文 参考訳（メタデータ） (2022-09-12T06:53:24Z) - Bounding the Width of Neural Networks via Coupled Initialization -- A
Worst Case Analysis [121.9821494461427]
2層ReLUネットワークに必要なニューロン数を著しく削減する方法を示す。
また、事前の作業を改善するための新しい下位境界を証明し、ある仮定の下では、最善を尽くすことができることを証明します。
論文 参考訳（メタデータ） (2022-06-26T06:51:31Z) - Improved Convergence Rate of Stochastic Gradient Langevin Dynamics with
Variance Reduction and its Application to Optimization [50.83356836818667]
勾配ランゲヴィン・ダイナミクスは非エプス最適化問題を解くための最も基本的なアルゴリズムの1つである。
本稿では、このタイプの2つの変種、すなわち、分散還元ランジュバンダイナミクスと再帰勾配ランジュバンダイナミクスを示す。
論文 参考訳（メタデータ） (2022-03-30T11:39:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。