論文の概要: Gradient Surgery for Physics-Informed Neural Networks

• arxiv url: http://arxiv.org/abs/2609.30966v1
• Date: Fri, 25 Sep 2026 08:16:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 18:27:51.290333
• Title: Gradient Surgery for Physics-Informed Neural Networks
• Title（参考訳）: 物理インフォームドニューラルネットワークのグラディエント手術
• Abstract要約: PINNの最適化は、角度と等級に基づく勾配が交互に発生する3つの異なる位相を示す。 タスク干渉を適応的に軽減する物理対応勾配手術法であるPAM-GSを提案する。 4つの代表的なPDEベンチマークの実験により、PAM-GSは、競合する解の精度と、一貫した強いタスクバランス性能を組み合わせていることが示された。
• 参考スコア（独自算出の注目度）: 0.028647133890966986
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Physics-Informed Neural Networks (PINNs) are trained by optimising a composite objective that combines data fitting with physics-based constraints, typically resulting in a highly imbalanced multi-task optimisation problem. Under these conditions, existing optimisation strategies are affected by conflicting task gradients, leading to slow convergence and unstable training, particularly for stiff and high-frequency partial differential equations. We analyse gradient conflicts throughout training of PINNs with standard optimiser and investigate Multi-Task Deep Learning (MTDL) optimisation methods. In our analysis across four benchmark problems we observed that PINN optimisation exhibits three distinct phases in which angle- and magnitude-based gradient conflicts alternate, with only one present at a time. Building on these observations, we propose PAM-GS, a physics-aware gradient surgery method that adaptively mitigates task interference during training according to the observed conflict types. Experiments on four representative PDE benchmarks demonstrate that PAM-GS combines competitive solution accuracy with consistently strong task-balanced performance, outperforming existing methods on most problems.
• Abstract（参考訳）: 物理インフォームドニューラルネットワーク(PINN)は、データフィッティングと物理ベースの制約を組み合わせた複合目的を最適化することで訓練される。 これらの条件下では、既存の最適化戦略は相反するタスク勾配の影響を受け、特に硬質偏微分方程式や高周波偏微分方程式において、収束が遅く不安定な訓練をもたらす。 標準オプティマイザを用いたPINNのトレーニングを通じて,勾配の矛盾を分析し,MTDL(Multi-Task Deep Learning)最適化手法について検討する。 4つのベンチマーク問題を解析したところ、PINNの最適化は、角度と等級に基づく勾配が交互に衝突する3つの異なる位相を示し、一度に1つしか存在しないことがわかった。 そこで本研究では,PAM-GSを提案する。PAM-GSは,観測されたコンフリクトのタイプに応じて,トレーニング中のタスク干渉を適応的に緩和する物理認識型勾配手術法である。 4つの代表的なPDEベンチマークの実験により、PAM-GSは競合する解の精度と一貫した強いタスクバランス性能を組み合わせ、ほとんどの問題において既存の手法よりも優れていることを示した。

関連論文リスト

• Unveiling Multi-regime Patterns in SciML: Distinct Failure Modes and Regime-specific Optimization [72.59989168322774]
  本研究では,科学機械学習(SciML)モデルにおけるこのようなマルチレジリエムの挙動を,レシシカル・アウェア・診断・フレームワークを用いて検討する。 i) 多くの標準SciMLモデル、異なる制約執行、および様々な設計で一貫した3つの登録構造が出現し、 (ii)最適化効率はシステマ固有であり、すべてのレギュマでうまく機能する単一の手法が存在しない、 (iii)SciMLモデルは、標準ロスランドスケープメトリクスの従来の解釈に挑戦できるきめ細かい障害モードを示すことができる。
  論文  参考訳（メタデータ） (2026-05-27T22:33:03Z)
• A Framework for Combining Optimization-Based and Analytic Inverse Kinematics [53.66628333687382]
  逆運動学(IK)問題の解法と最適化法はロボティクスの歴史において深く研究されている。 IK回避のための新しい定式化を提案する。
  論文  参考訳（メタデータ） (2026-02-04T22:23:32Z)
• Self-adaptive weighting and sampling for physics-informed neural networks [0.5302833929459496]
  物理インフォームドニューラルネットワーク(PINN)の性能向上を目的としたハイブリッド適応サンプリングおよび重み付け手法を提案する。 提案するフレームワークは予測精度とトレーニング効率を継続的に改善し,PDEをPINNで解くための堅牢なアプローチを提供する。
  論文  参考訳（メタデータ） (2025-11-07T17:48:11Z)
• Gradient Alignment in Physics-informed Neural Networks: A Second-Order Optimization Perspective [12.91773326430686]
  損失項間の方向性衝突に対処するための理論的および実践的なアプローチを提案する。 これらの矛盾が一階法にどのように制限されているかを示し、二階最適化が自然にそれらを解決することを示す。 我々は,最近提案された準ニュートン法であるSOAPが,ヘッセンのプレコンディショナーを効率的に近似していることを証明する。
  論文  参考訳（メタデータ） (2025-02-02T00:21:45Z)
• Learnable Activation Functions in Physics-Informed Neural Networks for Solving Partial Differential Equations [0.0]
  偏微分方程式(PDE)の解法として物理情報ニューラルネットワーク(PINN)が誕生した。 これらの制限は、急激な振動、鋭い勾配、複雑な境界挙動を含む問題の精度に影響を与える。 これらの課題に対する解決策として,学習可能なアクティベーション関数について検討する。
  論文  参考訳（メタデータ） (2024-11-22T18:25:13Z)
• Optimizing Solution-Samplers for Combinatorial Problems: The Landscape of Policy-Gradient Methods [52.0617030129699]
  本稿では,DeepMatching NetworksとReinforcement Learningメソッドの有効性を解析するための新しい理論フレームワークを提案する。 我々の主な貢献は、Max- and Min-Cut、Max-$k$-Bipartite-Bi、Maximum-Weight-Bipartite-Bi、Traveing Salesman Problemを含む幅広い問題である。 本分析の副産物として,バニラ降下による新たな正則化プロセスを導入し,失効する段階的な問題に対処し,悪い静止点から逃れる上で有効であることを示す理論的および実験的証拠を提供する。
  論文  参考訳（メタデータ） (2023-10-08T23:39:38Z)
• Implicit Stochastic Gradient Descent for Training Physics-informed Neural Networks [51.92362217307946]
  物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。 PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。 本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
  論文  参考訳（メタデータ） (2023-03-03T08:17:47Z)
• Tunable Complexity Benchmarks for Evaluating Physics-Informed Neural Networks on Coupled Ordinary Differential Equations [64.78260098263489]
  本研究では,より複雑に結合した常微分方程式(ODE)を解く物理インフォームドニューラルネットワーク(PINN)の能力を評価する。 PINNの複雑性が増大するにつれて,これらのベンチマークに対する正しい解が得られないことが示される。 PINN損失のラプラシアンは,ネットワーク容量の不足,ODEの条件の低下,局所曲率の高さなど,いくつかの理由を明らかにした。
  論文  参考訳（メタデータ） (2022-10-14T15:01:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。