論文の概要: LIGO-PINN: Learned Initialization via Gated Optimization to Alleviate Convergence Failures in Physics Informed Neural Networks

• arxiv url: http://arxiv.org/abs/2607.14233v1
• Date: Wed, 15 Jul 2026 18:00:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-17 17:01:32.877791
• Title: LIGO-PINN: Learned Initialization via Gated Optimization to Alleviate Convergence Failures in Physics Informed Neural Networks
• Title（参考訳）: LIGO-PINN:物理情報ニューラルネットワークにおける収束障害軽減のためのゲート最適化による初期化学習
• Abstract要約: 物理インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)によって支配されるモデリング領域に幅広い影響を及ぼした。 PINNは、PDEドメインに挑戦するときに、しばしば自明な解決策に収束する、パフォーマンスが良くないことが示されている。 Gated Layerwise Optimization (LIGO-PINN) による学習初期化のためのフレームワークを提案し、PINN収束障害を克服する。
• 参考スコア（独自算出の注目度）: 4.769951565159109
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Physics-informed neural networks (PINNs) have had a broad research impact in modeling domains governed by partial differential equations (PDE). However, PINNs have been shown to perform poorly, sometimes even converging to trivial solutions, in challenging PDE domains, or when generalizing to unseen but related PDE domains. Previously proposed solutions detail hyperparameter tuning to reduce loss imbalance between data-driven and physics guided losses, curriculum learning based training strategies, or dynamic re-sampling of hard collocation points. These methods face certain pitfalls: hyperparameter tuning is expensive, designing a training curriculum is ambiguous in multi-parameter PDE settings, and dynamic resampling still fails in complex PDE settings. Complementary to this line of thinking, we believe the initial PINN network weights also play a crucial role in the emergence of catastrophic failures during training, yet the effect of PINN weight initialization has been surprisingly under-investigated. To this end, we propose a framework for Learned Initialization via Gated Layerwise Optimization (LIGO-PINN) to overcome PINN convergence failures. Through rigorous evaluation on 1D and 2D PDE domains, including a challenging 2D fluid dynamics setting, we demonstrate that our methodology outperforms state-of-the-art methods designed to alleviate PINN failures, achieving a 91.5% average performance improvement across six baselines and 81% over the strongest baseline. We also verify that LIGO-PINN generalizes to 3D unstructured domains. Finally, we analyze training dynamics across all three PDE domains to explain both LIGO-PINN's improvement and the convergence failure of traditional PINNs. Code: https://github.com/scailab/ligo-pinn Keywords: Machine Learning, Physics-Informed Neural Networks, Deep Learning, PDE Modeling
• Abstract（参考訳）: 物理インフォームドニューラルネットワーク (PINN) は、偏微分方程式 (PDE) によって支配されるモデリング領域に広範な影響を及ぼしている。 しかし、PINNは性能が悪く、時には自明な解に収束したり、PDEドメインに挑戦したり、あるいは見えないが関連するPDEドメインに一般化する際にも機能することが示されている。 従来提案されたソリューションでは、データ駆動型と物理誘導型損失、カリキュラムベースのトレーニング戦略、ハードコロケーションポイントの動的再サンプリングの間の損失不均衡を軽減するために、ハイパーパラメータチューニングの詳細が説明されていた。 ハイパーパラメータチューニングは高価であり、マルチパラメータPDE設定ではトレーニングカリキュラムが曖昧であり、複雑なPDE設定では動的リサンプリングが失敗する。 この考え方を補完するものとして、初期のPINNネットワークウェイトは、トレーニング中に破滅的な障害が出現する上でも重要な役割を果たすと信じているが、PINNのウェイト初期化の効果は驚くほど過小評価されている。 そこで本稿では,PINN収束障害を克服するために,Gated Layerwise Optimization (LIGO-PINN) を用いた学習初期化フレームワークを提案する。 1次元および2次元PDEドメインの厳密な評価、挑戦的な2次元流体力学の設定などを通じて、本手法がPINN障害を軽減するために設計された最先端の手法よりも優れており、6つのベースラインで91.5%、最強ベースラインで81%の性能向上を実現していることを示す。 また,LIGO-PINNが3次元非構造ドメインに一般化することを検証した。 最後に、LIGO-PINNの改良と従来のPINNの収束失敗を説明するために、3つのPDEドメインすべてにわたるトレーニングダイナミクスを分析した。 コード:https://github.com/scailab/ligo-pinn Keywords: Machine Learning, Physics-Informed Neural Networks, Deep Learning, PDE Modeling

関連論文リスト

• Architecture-Optimization Co-Design for Physics-Informed Neural Networks Via Attentive Representations and Conflict-Resolved Gradients [5.447935819547941]
  統合アーキテクチャ最適化の観点からPINNトレーニングについて検討する。 表現の柔軟性を高めるため,レイヤワイドな動的アテンション機構を提案する。 次に、マルチタスク学習問題としてPINNトレーニングを再構築し、競合解決型勾配更新戦略を導入する。
  論文  参考訳（メタデータ） (2026-01-19T11:32:25Z)
• High precision PINNs in unbounded domains: application to singularity formulation in PDEs [83.50980325611066]
  ニューラルネットワークアンサッツの選択、サンプリング戦略、最適化アルゴリズムについて検討する。 1次元バーガース方程式の場合、我々のフレームワークは非常に高精度な解が得られる。 2D Boussinesq 方程式の場合、損失が 4$ の解は citewang2023asymsymptotic よりも小さく、トレーニングステップは少ない。
  論文  参考訳（メタデータ） (2025-06-24T02:01:44Z)
• Implicit Stochastic Gradient Descent for Training Physics-informed Neural Networks [51.92362217307946]
  物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。 PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。 本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
  論文  参考訳（メタデータ） (2023-03-03T08:17:47Z)
• Auto-PINN: Understanding and Optimizing Physics-Informed Neural Architecture [77.59766598165551]
  物理インフォームドニューラルネットワーク(PINN)は、ディープラーニングのパワーを科学計算にもたらし、科学と工学の実践に革命をもたらしている。 本稿では,ニューラル・アーキテクチャ・サーチ(NAS)手法をPINN設計に適用したAuto-PINNを提案する。 標準PDEベンチマークを用いた包括的事前実験により、PINNの構造と性能の関係を探索することができる。
  論文  参考訳（メタデータ） (2022-05-27T03:24:31Z)
• Revisiting PINNs: Generative Adversarial Physics-informed Neural Networks and Point-weighting Method [70.19159220248805]
  物理インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)を数値的に解くためのディープラーニングフレームワークを提供する 本稿では,GA機構とPINNの構造を統合したGA-PINNを提案する。 本稿では,Adaboost法の重み付け戦略からヒントを得て,PINNのトレーニング効率を向上させるためのPW法を提案する。
  論文  参考訳（メタデータ） (2022-05-18T06:50:44Z)
• Learning Physics-Informed Neural Networks without Stacked Back-propagation [82.26566759276105]
  我々は,物理インフォームドニューラルネットワークのトレーニングを著しく高速化する新しい手法を開発した。 特に、ガウス滑らか化モデルによりPDE解をパラメータ化し、スタインの恒等性から導かれる2階微分がバックプロパゲーションなしで効率的に計算可能であることを示す。 実験の結果,提案手法は通常のPINN訓練に比べて2桁の精度で競合誤差を実現できることがわかった。
  論文  参考訳（メタデータ） (2022-02-18T18:07:54Z)
• Gradient-enhanced physics-informed neural networks for forward and inverse PDE problems [2.0062792633909026]
  深層学習は物理情報ニューラルネットワーク(PINN)による偏微分方程式(PDE)の解法として有効であることが示されている。 PINNはPDE残基をニューラルネットワークの損失関数に埋め込んでおり、様々な前方および逆PDE問題の解決に成功している。 そこで本研究では, PINNの精度とトレーニング効率を向上させるために, 勾配型物理インフォームドニューラルネットワーク(gPINN)を提案する。
  論文  参考訳（メタデータ） (2021-11-01T18:01:38Z)
• Multi-Objective Loss Balancing for Physics-Informed Deep Learning [0.0]
  PINNを効果的に訓練するために、複数の競合損失関数の組み合わせを正しく重み付けする役割を観察する。 本稿では,ReLoBRaLoと呼ばれるPINNの自己適応的損失分散を提案する。 シミュレーションにより、ReLoBRaLoトレーニングは、他のバランシング手法によるPINNのトレーニングよりもはるかに高速で精度の高いことが示されている。
  論文  参考訳（メタデータ） (2021-10-19T09:00:12Z)
• Characterizing possible failure modes in physics-informed neural networks [55.83255669840384]
  科学機械学習における最近の研究は、いわゆる物理情報ニューラルネットワーク(PINN)モデルを開発した。 既存のPINN方法論は比較的自明な問題に対して優れたモデルを学ぶことができるが、単純なPDEであっても、関連する物理現象を学習するのに失敗する可能性があることを実証する。 これらの障害モードは,NNアーキテクチャの表現力の欠如によるものではなく,PINNのセットアップによって損失状況の最適化が極めて困難であることを示す。
  論文  参考訳（メタデータ） (2021-09-02T16:06:45Z)
• PhyCRNet: Physics-informed Convolutional-Recurrent Network for Solving Spatiotemporal PDEs [8.220908558735884]
  偏微分方程式 (Partial differential equation, PDE) は、幅広い分野の問題をモデル化し、シミュレーションする上で基礎的な役割を果たす。 近年のディープラーニングの進歩は、データ駆動逆解析の基盤としてPDEを解くために物理学インフォームドニューラルネットワーク(NN)の大きな可能性を示している。 本稿では,PDEをラベル付きデータなしで解くための物理インフォームド・畳み込み学習アーキテクチャ(PhyCRNetとPhCRyNet-s)を提案する。
  論文  参考訳（メタデータ） (2021-06-26T22:22:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。