論文の概要: A unified scalable framework for causal sweeping strategies for
Physics-Informed Neural Networks (PINNs) and their temporal decompositions
- arxiv url: http://arxiv.org/abs/2302.14227v2
- Date: Mon, 18 Sep 2023 18:19:26 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-20 20:10:48.243671
- Title: A unified scalable framework for causal sweeping strategies for
Physics-Informed Neural Networks (PINNs) and their temporal decompositions
- Title（参考訳）: 物理形ニューラルネットワーク(pinns)の因果スイーピング戦略と時間分解のための統一スケーラブルな枠組み
- Authors: Michael Penwarden, Ameya D. Jagtap, Shandian Zhe, George Em
Karniadakis, Robert M. Kirby
- Abstract要約: PINNとXPINNの時間依存型PDEのトレーニング課題について論じる。
PINNとXPINNのギャップを埋める新しい積み重ね分解法を提案する。
また,従来のPINNの因果性にインスパイアされた新しいタイムスウィーピング・コロケーション・ポイント・アルゴリズムを定式化した。
- 参考スコア（独自算出の注目度）: 22.514769448363754
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Physics-informed neural networks (PINNs) as a means of solving partial
differential equations (PDE) have garnered much attention in the Computational
Science and Engineering (CS&E) world. However, a recent topic of interest is
exploring various training (i.e., optimization) challenges - in particular,
arriving at poor local minima in the optimization landscape results in a PINN
approximation giving an inferior, and sometimes trivial, solution when solving
forward time-dependent PDEs with no data. This problem is also found in, and in
some sense more difficult, with domain decomposition strategies such as
temporal decomposition using XPINNs. We furnish examples and explanations for
different training challenges, their cause, and how they relate to information
propagation and temporal decomposition. We then propose a new
stacked-decomposition method that bridges the gap between time-marching PINNs
and XPINNs. We also introduce significant computational speed-ups by using
transfer learning concepts to initialize subnetworks in the domain and loss
tolerance-based propagation for the subdomains. Finally, we formulate a new
time-sweeping collocation point algorithm inspired by the previous PINNs
causality literature, which our framework can still describe, and provides a
significant computational speed-up via reduced-cost collocation point
segmentation. The proposed methods form our unified framework, which overcomes
training challenges in PINNs and XPINNs for time-dependent PDEs by respecting
the causality in multiple forms and improving scalability by limiting the
computation required per optimization iteration. Finally, we provide numerical
results for these methods on baseline PDE problems for which unmodified PINNs
and XPINNs struggle to train.
- Abstract（参考訳）: 偏微分方程式(PDE)を解く手段として物理情報ニューラルネットワーク(PINN)がCS&E(Computational Science and Engineering)の世界で注目を集めている。
しかし、近年の関心事は、様々なトレーニング(すなわち、最適化)の課題を探求することである。特に、最適化ランドスケープの貧弱なローカルミニマにたどり着くと、PINN近似は、データ無しで時間依存PDEを前方で解く際に、劣等で、時に自明な解を与える。
この問題はまた、XPINNを用いた時間分解のような領域分解戦略により、ある意味でより難しい。
我々は,異なる学習課題,その原因,情報伝達と時間分解との関連について,実例と説明を提供する。
次に,時間マーチング PINN と XPINN のギャップを埋める新たな積み重ね分解法を提案する。
また,転送学習の概念を用いて,ドメイン内のサブネットワークを初期化し,サブドメインに対する損失耐性に基づく伝播を行うことにより,重要な計算速度アップを導入する。
最後に,従来のピンズ因果関係文献に触発された,新たな時間分割型コロケーションポイントアルゴリズムを定式化し,低コストコロケーションポイントセグメンテーションによる大幅な計算速度向上を実現する。
提案手法は,複数形式の因果関係を尊重することで,PINNとXPINNの時間依存型PDEのトレーニング課題を克服し,最適化イテレーション毎に必要となる計算を制限することによりスケーラビリティを向上させる。
最後に,無修正ピンとxpinnが訓練に苦しむベースラインpde問題に対する数値計算結果を示す。
関連論文リスト
- RoPINN: Region Optimized Physics-Informed Neural Networks [66.38369833561039]
物理インフォームドニューラルネットワーク(PINN)は偏微分方程式(PDE)の解法として広く応用されている。
本稿では,地域最適化としての新たな訓練パラダイムを提案し,理論的に検討する。
実践的なトレーニングアルゴリズムであるRerea Optimized PINN(RoPINN)は、この新しいパラダイムからシームレスに派生している。
論文 参考訳（メタデータ） (2024-05-23T09:45:57Z) - Efficient Discrete Physics-informed Neural Networks for Addressing
Evolutionary Partial Differential Equations [7.235476098729406]
物理インフォームドニューラルネットワーク(PINN)は、ディープラーニングを用いて偏微分方程式(PDE)を解く有望な可能性を示している。
PINNの損失における時間的特徴の全てを同時に訓練するため、PINNは時間的因果性に違反する可能性がある。
本稿では,時間的因果関係を強制するために暗黙の時間差分法を用い,空間内のPINNを異なる時間フレームにおけるPDEソリューションのサロゲートとして逐次更新するために転送学習を用いることを提案する。
論文 参考訳（メタデータ） (2023-12-22T11:09:01Z) - Adversarial Training for Physics-Informed Neural Networks [4.446564162927513]
本稿では,AT-PINN と呼ばれる PINN に対する敵的訓練戦略を提案する。
AT-PINNは、逆サンプルを用いてモデルを微調整することにより、PINNの堅牢性を高める。
我々は,マルチスケール係数の楕円型方程式,マルチピーク解のポアソン方程式,鋭解のバーガース方程式,アレン・カーンの方程式にAT-PINNを実装した。
論文 参考訳（メタデータ） (2023-10-18T08:28:43Z) - PINNsFormer: A Transformer-Based Framework For Physics-Informed Neural Networks [22.39904196850583]
物理インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)の数値解を近似するための有望なディープラーニングフレームワークとして登場した。
我々は,この制限に対処するために,新しいTransformerベースのフレームワークであるPINNsFormerを紹介した。
PINNsFormerは、PINNの障害モードや高次元PDEなど、様々なシナリオにおいて優れた一般化能力と精度を実現する。
論文 参考訳（メタデータ） (2023-07-21T18:06:27Z) - Tunable Complexity Benchmarks for Evaluating Physics-Informed Neural
Networks on Coupled Ordinary Differential Equations [64.78260098263489]
本研究では,より複雑に結合した常微分方程式(ODE)を解く物理インフォームドニューラルネットワーク(PINN)の能力を評価する。
PINNの複雑性が増大するにつれて,これらのベンチマークに対する正しい解が得られないことが示される。
PINN損失のラプラシアンは,ネットワーク容量の不足,ODEの条件の低下,局所曲率の高さなど,いくつかの理由を明らかにした。
論文 参考訳（メタデータ） (2022-10-14T15:01:32Z) - PIXEL: Physics-Informed Cell Representations for Fast and Accurate PDE
Solvers [4.1173475271436155]
物理インフォームドセル表現(PIXEL)と呼ばれる新しいデータ駆動型PDEの解法を提案する。
PIXELは古典的な数値法と学習に基づくアプローチをエレガントに組み合わせている。
PIXELは高速収束速度と高精度を実現する。
論文 参考訳（メタデータ） (2022-07-26T10:46:56Z) - Revisiting PINNs: Generative Adversarial Physics-informed Neural
Networks and Point-weighting Method [70.19159220248805]
物理インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)を数値的に解くためのディープラーニングフレームワークを提供する
本稿では,GA機構とPINNの構造を統合したGA-PINNを提案する。
本稿では,Adaboost法の重み付け戦略からヒントを得て,PINNのトレーニング効率を向上させるためのPW法を提案する。
論文 参考訳（メタデータ） (2022-05-18T06:50:44Z) - Improved Training of Physics-Informed Neural Networks with Model
Ensembles [81.38804205212425]
我々は、PINNを正しい解に収束させるため、解区間を徐々に拡大することを提案する。
すべてのアンサンブルのメンバーは、観測されたデータの近くで同じ解に収束する。
提案手法は, 得られた解の精度を向上させることができることを示す。
論文 参考訳（メタデータ） (2022-04-11T14:05:34Z) - Learning Physics-Informed Neural Networks without Stacked
Back-propagation [82.26566759276105]
我々は,物理インフォームドニューラルネットワークのトレーニングを著しく高速化する新しい手法を開発した。
特に、ガウス滑らか化モデルによりPDE解をパラメータ化し、スタインの恒等性から導かれる2階微分がバックプロパゲーションなしで効率的に計算可能であることを示す。
実験の結果,提案手法は通常のPINN訓練に比べて2桁の精度で競合誤差を実現できることがわかった。
論文 参考訳（メタデータ） (2022-02-18T18:07:54Z) - PhyCRNet: Physics-informed Convolutional-Recurrent Network for Solving
Spatiotemporal PDEs [8.220908558735884]
偏微分方程式 (Partial differential equation, PDE) は、幅広い分野の問題をモデル化し、シミュレーションする上で基礎的な役割を果たす。
近年のディープラーニングの進歩は、データ駆動逆解析の基盤としてPDEを解くために物理学インフォームドニューラルネットワーク(NN)の大きな可能性を示している。
本稿では,PDEをラベル付きデータなしで解くための物理インフォームド・畳み込み学習アーキテクチャ(PhyCRNetとPhCRyNet-s)を提案する。
論文 参考訳（メタデータ） (2021-06-26T22:22:19Z) - dNNsolve: an efficient NN-based PDE solver [62.997667081978825]
ODE/PDEを解決するためにデュアルニューラルネットワークを利用するdNNsolveを紹介します。
我々は,dNNsolveが1,2,3次元の幅広いODE/PDEを解くことができることを示す。
論文 参考訳（メタデータ） (2021-03-15T19:14:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。