論文の概要: Derivative Computation in PINNs: Automatic Differentiation, Finite Differences and Beyond
- arxiv url: http://arxiv.org/abs/2608.11020v1
- Date: Tue, 11 Aug 2026 15:01:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-12 19:14:46.094989
- Title: Derivative Computation in PINNs: Automatic Differentiation, Finite Differences and Beyond
- Title(参考訳): PINNにおける微分計算:自動微分、有限差分、およびそれ以上
- Abstract要約: 自動微分(AD)に代わるPINNにおける有限差分微分計算について検討する。
FDは全バッチサイズ範囲で高速に動作し,GPUメモリをはるかに少ない速度で使用しながら,すべての問題に対して精度でADと一致していることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We systematically investigate finite-difference (FD) derivative computation in Physics-Informed Neural Networks (PINNs) as an alternative to automatic differentiation (AD). On three benchmark PDEs we show that, with a properly calibrated step size, FD matches AD in accuracy on every problem while running faster across the full tested batch-size range and using substantially less GPU memory, and that a stochastic variant we propose outperforms AD on a stationary problem. We further show that for neural architectures with inter-sample dependencies (e.g. BatchNorm, self-attention) the standard PyTorch autograd idiom is silently incorrect; the correct per-sample alternative is computationally infeasible at PINN-relevant batch sizes, while FD provides a forward-only approximation that is empirically an order of magnitude closer to the true per-sample derivative.
- Abstract(参考訳): 自動微分 (AD) の代替として, 物理情報ニューラルネットワーク (PINN) における有限差分法 (FD) の微分計算を系統的に検討した。
3つのベンチマークPDEにおいて、FDは、適切に調整されたステップサイズで、全バッチサイズ範囲で高速に動作し、GPUメモリをかなり少ない精度で実行しながら、各問題に対してADを精度良くマッチングし、定常問題においてADより確率的な変形を提案する。
さらに、サンプル間の依存関係(例えば BatchNorm, self-attention)を持つニューラルネットワークの場合、標準の PyTorch autograd idiom は無音で不正確である。
関連論文リスト
- Fourier Feature Pyramids for Physics-Informed Neural Networks [47.75068288153803]
偏微分方程式(PDE)を解くための改良されたニューラルネットワークアーキテクチャを提案する。
Bandlimited Embedding with Interpolated Grid Network (特集:Bandlimited Embedding with Interpolated Grid Network)
我々は,PDEベンチマークにおいて,最先端のPINN手法よりも少ないパラメータを用いて,ベニグレットがはるかに精度の高い解を見つけることを示した。
論文 参考訳(メタデータ) (2026-05-22T23:12:56Z) - Building Trust in PINNs: Error Estimation through Finite Difference Methods [52.92887996882041]
物理インフォームドニューラルネットワーク(PINN)は偏微分方程式(PDE)を解くための柔軟な深層学習手法である
その柔軟性にもかかわらず、PINNは、彼らの予測が真の解決策から逸脱し、彼らの予測品質への信頼を妨げる方法について、限られた洞察を提供する。
本稿では,PINN予測のためのポイントワイズ誤差推定を行うことにより,このギャップに対処する軽量なポストホック手法を提案する。
論文 参考訳(メタデータ) (2026-03-16T16:51:42Z) - DInf-Grid: A Neural Differential Equation Solver with Differentiable Feature Grids [73.28614344779076]
我々は、微分方程式(DE)を効率的に解くための微分可能グリッドベース表現を提案する。
その結果,座標法よりも5~20倍の高速化を実現し,差分方程式を数秒または数分で解き,精度とコンパクト性を維持した。
論文 参考訳(メタデータ) (2026-01-15T18:59:57Z) - Enabling Automatic Differentiation with Mollified Graph Neural Operators [73.52999622724101]
本稿では,自動微分と任意のジオメトリの正確な勾配を求める最初の手法であるモリファイドグラフニューラル演算子(m$GNO)を提案する。
正規格子上のPDEの例では、$m$GNOとオートグレードの組み合わせにより、L2相対データの誤差は有限差に比べて20倍減少した。
また、物理損失のみを使用し、有限差分に必要な分解能よりもはるかに低い精度で、非構造化点雲上のPDEをシームレスに解くことができる。
論文 参考訳(メタデータ) (2025-04-11T06:16:30Z) - Nonsmooth Implicit Differentiation: Deterministic and Stochastic Convergence Rates [34.81849268839475]
パラメトリックな非微分可縮写像の固定点の微分を効率的に計算する問題について検討する。
我々は、反復的分化(ITD)と近似的暗黙的分化(AID)の2つの一般的なアプローチを分析する。
我々はNSIDの収束率を確立し、スムーズな環境での最良の利用率を含む。
論文 参考訳(メタデータ) (2024-03-18T11:37:53Z) - Scaling Structured Inference with Randomization [64.18063627155128]
本稿では、構造化されたモデルを数万の潜在状態に拡張するためにランダム化された動的プログラミング(RDP)のファミリを提案する。
我々の手法は古典的DPベースの推論に広く適用できる。
また、自動微分とも互換性があり、ニューラルネットワークとシームレスに統合できる。
論文 参考訳(メタデータ) (2021-12-07T11:26:41Z) - Efficient training of physics-informed neural networks via importance
sampling [2.9005223064604078]
Physics-In Neural Networks(PINN)は、偏微分方程式(PDE)によって制御されるシステムを計算するために訓練されているディープニューラルネットワークのクラスである。
重要サンプリング手法により,PINN訓練の収束挙動が改善されることが示唆された。
論文 参考訳(メタデータ) (2021-04-26T02:45:10Z) - Message Passing Descent for Efficient Machine Learning [4.416484585765027]
機械学習におけるbfデータフィッティング(DF)問題に対する反復最適化手法を提案する。
このアプローチは、df問題のbfグラフィカルモデル表現に依存している。
本稿では,モデルDF関数の多項式表現に依存する bf Message Passage Descent アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-02-16T12:22:54Z) - Reducing the Amortization Gap in Variational Autoencoders: A Bayesian
Random Function Approach [38.45568741734893]
GPモデルの推論は、セミアモタイズ法よりもはるかに高速な1つのフィードフォワードパスによって行われる。
提案手法は,複数のベンチマークデータセットの最先端データよりも高い確率でテストデータが得られることを示す。
論文 参考訳(メタデータ) (2021-02-05T13:01:12Z) - Efficient Learning of Generative Models via Finite-Difference Score
Matching [111.55998083406134]
有限差分で任意の順序方向微分を効率的に近似する汎用戦略を提案する。
我々の近似は関数評価にのみ関係しており、これは並列で実行でき、勾配計算は行わない。
論文 参考訳(メタデータ) (2020-07-07T10:05:01Z) - Weak SINDy For Partial Differential Equations [0.0]
我々はWeak SINDy(WSINDy)フレームワークを偏微分方程式(PDE)の設定にまで拡張する。
弱い形状による点微分近似の除去は、ノイズフリーデータからモデル係数の効率的な機械的精度回復を可能にする。
我々は、いくつかの挑戦的なPDEに対して、WSINDyの堅牢性、速度、精度を実証する。
論文 参考訳(メタデータ) (2020-07-06T16:03:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。