論文の概要: Per-Loss Adapters for Gradient Conflict in Physics-Informed Neural Networks

• arxiv url: http://arxiv.org/abs/2605.10136v1
• Date: Mon, 11 May 2026 07:46:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:50.615657
• Title: Per-Loss Adapters for Gradient Conflict in Physics-Informed Neural Networks
• Title（参考訳）: 物理インフォームドニューラルネットワークにおけるグラディエント・コンフリクトに対するパーロス適応器
• Authors: Bum Jun Kim, Gnankan Landry Regis N'guessan,
• Abstract要約: PINN勾配競合は1つの普遍的治療を伴う一様障害モードではないことを示す。 異なる介入クラスに関連付けられた個別のPINN勾配コンフリクトレギュレーションを同定した。
• 参考スコア（独自算出の注目度）: 3.1861308132183375
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Physics-informed neural networks (PINNs) train a single neural approximation by minimizing multiple physics- and data-derived losses, but the gradients of these losses often interfere and can stall optimization. Existing remedies typically treat this pathology either through scalar loss balancing or full-parameter-space gradient surgery, leaving it unclear which intervention is most appropriate. We show that PINN gradient conflict is not a uniform failure mode with one universal remedy. Instead, we identify distinct PINN gradient-conflict regimes, each associated with a different intervention class. Persistent directional conflict may require separate loss-indexed parameter subspaces, magnitude imbalance often favors scalar reweighting, and low or transient conflict may require no extra mitigation. To select between scalar reweighting and a lightweight architectural intervention, we propose a diagnostic-first framework. It profiles a 1000-step unmodified PINN run and, when intervention is warranted, uses one low-rank adapter per loss to create explicit loss-indexed parameter subspaces attached to a shared PINN trunk, providing each loss with a direct gradient pathway. Across more than 60 PDE configurations, including forward, inverse, multi-physics, parameter-varying, and high-dimensional problems up to 50D, persistent directional conflict dominates standard forward $K=3$ benchmarks and a natural $K=4$ thermoelastic system, where adapters combined with reweighting yield significant improvements. In contrast, $K=3$ inverse problems and natural $K=5$ and $K=6$ multi-physics systems are largely magnitude-dominated and often favor reweighting alone, while full-parameter-space gradient surgery can fail on heterogeneous parameter spaces.
• Abstract（参考訳）: 物理インフォームドニューラルネットワーク(PINN)は、複数の物理とデータ由来の損失を最小化することで単一のニューラルネットワーク近似を訓練するが、これらの損失の勾配がしばしば干渉し、最適化を停止させる。 既存の治療法は、通常、スカラー損失バランスやフルパラメータ空間勾配手術を通じてこの病態を治療し、どの介入が最も適切かは明らかでない。 PINN勾配競合は1つの普遍的治療を伴う一様障害モードではないことを示す。 代わりに、異なる介入クラスに関連付けられた異なるPINN勾配競合体制を同定する。 永続的な方向性の衝突は、別の損失指数パラメータ部分空間を必要とするかもしれないし、等級不均衡はしばしばスカラー再重み付けを好んでおり、低あるいは過渡的な衝突は、余分な緩和を必要としないかもしれない。 本稿では,スカラー再重み付けと軽量なアーキテクチャ介入の選択のために,診断優先フレームワークを提案する。 1000ステップの未修正PINNの実行をプロファイルし、介入が保証されると、損失毎に1つのローランクアダプタを使用して、共有PINNトランクにアタッチされた明確な損失インデックスパラメータサブスペースを生成し、それぞれの損失に直接的な勾配経路を提供する。 60以上のPDE構成(フォワード、逆数、多重物理、パラメータ可変、高次元問題を含む)では、標準の$K=3$ベンチマークと天然の$K=4$サーモ弾性システムで、アダプタと再重み付けを組み合わせることで大幅に改善される。 対照的に、$K=3$逆問題と自然$K=5$と$K=6$多重物理系は、大まかに支配され、しばしば再重み付けのみを好むが、フルパラメータ空間勾配手術は不均一なパラメータ空間で失敗する。

関連論文リスト

• Supervised Metric Regularization Through Alternating Optimization for Multi-Regime Physics-Informed Neural Networks [0.0]
  PINNは、分岐のような急激な状態遷移を持つ力学系をモデル化する際に、しばしば課題に直面している。 我々は,この課題を,Supervised Metric Regularizationによる潜在空間によって緩和することを目的としたTopology-Aware PINN(TAPINN)を提案する。 Duffingの予備実験では、標準ベースラインはスペクトルバイアスと高容量勾配ネットワークのオーバーフィットに悩まされているが、本手法は、マルチ出力ソボレフ誤差ベースラインよりも2.18倍低い分散と、ハイパーネットワークベースの代替よりも5倍少ないパラメータで安定した収束を実現する。
  論文  参考訳（メタデータ） (2026-02-10T17:06:57Z)
• APRIL: Auxiliary Physically-Redundant Information in Loss - A physics-informed framework for parameter estimation with a gravitational-wave case study [0.0]
  物理情報ニューラルネットワーク(PINN)は、ニューラルネットワークのトレーニングに直接、システムを管理する偏微分方程式を組み込む。 本稿では,損失に物理的に依存する補助的な情報を含めることによる補完的アプローチを提案する。 数学的にこれらの用語は、損失景観を再構成しながら、真の物理的最小値を保存することを実証する。
  論文  参考訳（メタデータ） (2025-10-15T15:34:19Z)
• Neural PDE Solvers with Physics Constraints: A Comparative Study of PINNs, DRM, and WANs [1.131316248570352]
  部分方程式 (PDE) は、科学や工学にまたがるモデルを支えるが、解析解は非定型であり、古典的なメッシュベースの解法は高次元でコストがかかる。 この論文は、3つのメッシュフリーニューラルネットワークPDEソルバ、物理インフォームドニューラルネットワーク(PINN)、ディープリッツ法(DRM)、弱い敵ネットワーク(WAN)、ポアソン問題(最大5D)と1D/2Dにおける時間非依存シュラーオーディンガー方程式の統一的な比較を提示する。
  論文  参考訳（メタデータ） (2025-10-09T13:41:51Z)
• Targeted Deep Architectures: A TMLE-Based Framework for Robust Causal Inference in Neural Networks [41.07059178065932]
  ネットワークのパラメータ空間に直接、TMLE(Targeted Likelihood Estimation)を直接埋め込む新しいフレームワークであるTDA(Targeted Deep Architectures)を提案する。 TDAはモデルパラメータを分割し、ターゲットの勾配に沿って反復的に更新する。 この手順は、一階偏差を除去し、有効な信頼区間を生成するプラグイン推定を与える。
  論文  参考訳（メタデータ） (2025-07-16T17:24:06Z)
• The Butterfly Effect: Neural Network Training Trajectories Are Highly Sensitive to Initial Conditions [51.68215326304272]
  たとえ小さな摂動であっても、同じ訓練軌跡を確実に引き起こすことで、トレーニング時間とともに急速に減少する効果が発散することを示します。 この結果から,ニューラルネットワークのトレーニング安定性,微調整,モデルマージ,モデルアンサンブルの多様性の実践的意味が示唆された。
  論文  参考訳（メタデータ） (2025-06-16T08:35:16Z)
• Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum [78.27945336558987]
  分散サーバ(DFL)はクライアント・クライアント・アーキテクチャへの依存をなくす。 非滑らかな正規化はしばしば機械学習タスクに組み込まれる。 本稿では,これらの問題を解決する新しいDNCFLアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-04-17T08:32:25Z)
• Enabling Automatic Differentiation with Mollified Graph Neural Operators [73.52999622724101]
  本稿では,自動微分と任意のジオメトリの正確な勾配を求める最初の手法であるモリファイドグラフニューラル演算子(m$GNO)を提案する。 正規格子上のPDEの例では、$m$GNOとオートグレードの組み合わせにより、L2相対データの誤差は有限差に比べて20倍減少した。 また、物理損失のみを使用し、有限差分に必要な分解能よりもはるかに低い精度で、非構造化点雲上のPDEをシームレスに解くことができる。
  論文  参考訳（メタデータ） (2025-04-11T06:16:30Z)
• Multi-Grid Tensorized Fourier Neural Operator for High-Resolution PDEs [93.82811501035569]
  本稿では,メモリ要求を低減し,より一般化したデータ効率・並列化可能な演算子学習手法を提案する。 MG-TFNOは、実世界の実世界の現象の局所的構造と大域的構造を活用することで、大規模な分解能にスケールする。 乱流ナビエ・ストークス方程式において150倍以上の圧縮で誤差の半分以下を達成できる優れた性能を示す。
  論文  参考訳（メタデータ） (2023-09-29T20:18:52Z)
• Adaptive Self-supervision Algorithms for Physics-informed Neural Networks [59.822151945132525]
  物理情報ニューラルネットワーク(PINN)は、損失関数のソフト制約として問題領域からの物理的知識を取り入れている。 これらのモデルの訓練性に及ぼす座標点の位置の影響について検討した。 モデルがより高い誤りを犯している領域に対して、より多くのコロケーションポイントを段階的に割り当てる適応的コロケーション方式を提案する。
  論文  参考訳（メタデータ） (2022-07-08T18:17:06Z)
• LordNet: An Efficient Neural Network for Learning to Solve Parametric Partial Differential Equations without Simulated Data [47.49194807524502]
  エンタングルメントをモデル化するためのチューナブルで効率的なニューラルネットワークであるLordNetを提案する。 ポアソン方程式と(2Dおよび3D)ナビエ・ストークス方程式を解く実験は、長距離の絡み合いがロードネットによってうまくモデル化できることを示した。
  論文  参考訳（メタデータ） (2022-06-19T14:41:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。