論文の概要: Loss Landscape Diagnosis for Gradient-Based Gray-Scott System Inversion: Disentangling the Roles of PINN Components
- arxiv url: http://arxiv.org/abs/2606.11258v1
- Date: Tue, 09 Jun 2026 01:13:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-11 16:42:38.089839
- Title: Loss Landscape Diagnosis for Gradient-Based Gray-Scott System Inversion: Disentangling the Roles of PINN Components
- Title(参考訳): グラディエントベースグレースコットシステムインバージョンにおけるランドスケープの損失診断 : PINNコンポーネントの役割の解明
- Authors: Yan Yang,
- Abstract要約: 反応拡散系の勾配に基づく逆転の理論は、一般に代理モデルや物理インフォームドニューラルネットワーク(PINN)を介してアプローチされる。
我々は、この直接経路を診断プローブとして追求し、非ローリンググレー・スコットシミュレーションにより、サロゲートやニューラル・ネットワークの強化を伴わずに、パラメータを回復するために定常的な損失をバックプロパゲートする。
この最小限のセットアップをPINNのアブレーションとして読んで、各コンポーネントの役割を歪めます。
これらの知見は, PINN方式の具体的な設計上の意味と, 追加次元が実際に役立った場合の問題点を包含する。
- 参考スコア(独自算出の注目度): 6.626016846098371
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Gradient-based inversion of reaction-diffusion systems is typically approached via surrogate models or physics-informed neural networks (PINNs), while the most direct route, backpropagation through the PDE's structure itself, has largely been avoided. We pursue this direct route as a diagnostic probe, backpropagating a steady-state loss through unrolled Gray-Scott simulation to recover its parameters, with no surrogate or neural-network augmentation. Optimization fails to converge, and plotting the landscape directly locates the failure in its geometry -- flat plateaus with no gradient signal, bounded by sharp cliffs that align with bifurcation boundaries -- a structure that recurs across loss functions and is inherited however the gradients are routed to parameters. Reading this minimal setup as an ablation of PINN, we disentangle each component's role: with the neural network fixed, the residual loss is quadratic in the PDE parameters and yields a smooth landscape, so it alone already avoids the pathology, by implicitly encoding the full PDE dynamics across all initial conditions. The neural network, for its part, cannot repair an ill-posed parameter subspace, and so serves only to complete the observed data -- a division of labor not previously made explicit. These findings carry concrete design implications for PINN-type methods and a broader heuristic on when added dimensions actually help.
- Abstract(参考訳): 反応拡散系の勾配に基づく逆転は、一般的に代理モデルや物理インフォームドニューラルネットワーク(PINN)を介してアプローチされるが、最も直接的な経路であるPDEの構造自体によるバックプロパゲーションは避けられている。
我々は、この直接経路を診断プローブとして追求し、非ローリンググレー・スコットシミュレーションにより、サロゲートやニューラル・ネットワークの強化を伴わずに、パラメータを回復するために定常的な損失をバックプロパゲートする。
最適化は収束に失敗し、地形をプロットすることで地形の故障が直接特定される -- 勾配信号のない平坦な台地は、分岐境界に沿う鋭い崖によって境界付けられ、損失関数をまたいで再帰するが、勾配はパラメータにルーティングされる。
ニューラルネットワークが固定された場合、残留損失はPDEパラメータで二次的であり、スムーズなランドスケープをもたらすため、すべての初期条件にわたって完全なPDEダイナミクスを暗黙的に符号化することで、すでに病理を回避しています。
ニューラルネットワークは、その部分において、不適切なパラメータ部分空間を修復することができないため、観測されたデータを完成させるのにのみ役立ちます。
これらの知見は, PINN方式の具体的な設計上の意味と, 追加次元が実際に有効である場合に, より広いヒューリスティック性を示すものである。
関連論文リスト
- Per-Loss Adapters for Gradient Conflict in Physics-Informed Neural Networks [3.1861308132183375]
PINN勾配競合は1つの普遍的治療を伴う一様障害モードではないことを示す。
異なる介入クラスに関連付けられた個別のPINN勾配コンフリクトレギュレーションを同定した。
論文 参考訳(メタデータ) (2026-05-11T07:46:07Z) - Spinverse: Differentiable Physics for Permeability-Aware Microstructure Reconstruction from Diffusion MRI [1.6863755729554886]
我々は,dMRI計測を反転させる透過性を考慮した再構成手法であるSpinverseを提案する。
スピンバースは固定された四面体格子上の組織を表し、各内面透過性を学習可能なパラメータとして扱う。
多様な測地を再構成し、配列スケジューリングと正規化がアウトラインのみの解を避けるために重要であることを示す。
論文 参考訳(メタデータ) (2026-03-04T21:57:40Z) - Non-Singularity of the Gradient Descent map for Neural Networks with Piecewise Analytic Activations [53.348574336527854]
重みとバイアスの空間上の関数としてのニューラルネットワークマップについて検討する。
我々は、現実的なニューラルネットワークアーキテクチャの損失ランドスケープにおける勾配降下(GD)マップの非特異性を初めて証明した。
論文 参考訳(メタデータ) (2025-10-28T14:34:33Z) - ProPINN: Demystifying Propagation Failures in Physics-Informed Neural Networks [71.02216400133858]
物理インフォームドニューラルネットワーク(PINN)は偏微分方程式(PDE)の解法において高い期待を得た
以前の研究では、PINNの伝播不良現象が観察された。
本稿では,伝播不良とその根本原因に関する公式かつ詳細な研究について述べる。
論文 参考訳(メタデータ) (2025-02-02T13:56:38Z) - Implicit Stochastic Gradient Descent for Training Physics-informed
Neural Networks [51.92362217307946]
物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。
PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。
本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
論文 参考訳(メタデータ) (2023-03-03T08:17:47Z) - Investigating and Mitigating Failure Modes in Physics-informed Neural
Networks (PINNs) [0.0]
本稿では,物理インフォームドニューラルネットワーク(PINN)を用いた偏微分方程式(PDE)の解法について検討する。
PINNは客観的関数の正規化用語として物理を用いるが、この手法はデータの欠如や解の事前知識の欠如において実用的ではない。
以上の結果から,高次PDEは逆伝播勾配を汚染し,収束を阻害することが明らかとなった。
論文 参考訳(メタデータ) (2022-09-20T20:46:07Z) - LordNet: An Efficient Neural Network for Learning to Solve Parametric Partial Differential Equations without Simulated Data [47.49194807524502]
エンタングルメントをモデル化するためのチューナブルで効率的なニューラルネットワークであるLordNetを提案する。
ポアソン方程式と(2Dおよび3D)ナビエ・ストークス方程式を解く実験は、長距離の絡み合いがロードネットによってうまくモデル化できることを示した。
論文 参考訳(メタデータ) (2022-06-19T14:41:08Z) - Modeling from Features: a Mean-field Framework for Over-parameterized
Deep Neural Networks [54.27962244835622]
本稿では、オーバーパラメータ化ディープニューラルネットワーク(DNN)のための新しい平均場フレームワークを提案する。
このフレームワークでは、DNNは連続的な極限におけるその特徴に対する確率測度と関数によって表現される。
本稿では、標準DNNとResidual Network(Res-Net)アーキテクチャを通してフレームワークを説明する。
論文 参考訳(メタデータ) (2020-07-03T01:37:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。