論文の概要: A unified scalable framework for causal sweeping strategies for
Physics-Informed Neural Networks (PINNs) and their temporal decompositions
- arxiv url: http://arxiv.org/abs/2302.14227v1
- Date: Tue, 28 Feb 2023 01:19:21 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-01 18:32:56.029576
- Title: A unified scalable framework for causal sweeping strategies for
Physics-Informed Neural Networks (PINNs) and their temporal decompositions
- Title（参考訳）: 物理形ニューラルネットワーク(pinns)の因果スイーピング戦略と時間分解のための統一スケーラブルな枠組み
- Authors: Michael Penwarden, Ameya D. Jagtap, Shandian Zhe, George Em
Karniadakis, Robert M. Kirby
- Abstract要約: 特に、最適化ランドスケープにおける局所最小値の低下は、PINN近似が劣等で、時には自明な解を与える結果となる。
本稿では,時間マーチング PINN と XPINN のギャップを埋める新たな積み重ね分解法を提案する。
また,転送学習の概念を用いて計算速度を向上する手法を提案する。
- 参考スコア（独自算出の注目度）: 12.450068264339633
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Physics-informed neural networks (PINNs) as a means of solving partial
differential equations (PDE) have garnered much attention in Computational
Science and Engineering (CS&E). However, a recent topic of interest is
exploring various training (i.e., optimization) challenges - in particular,
arriving at poor local minima in the optimization landscape results in a PINN
approximation giving an inferior, and sometimes trivial, solution when solving
forward time-dependent PDEs with no data. This problem is also found in, and in
some sense more difficult, with domain decomposition strategies such as
temporal decomposition using XPINNs. To address this problem, we first enable a
general categorization for previous causality methods, from which we identify a
gap in the previous approaches. We then furnish examples and explanations for
different training challenges, their cause, and how they relate to information
propagation and temporal decomposition. We propose a solution to fill this gap
by reframing these causality concepts into a generalized information
propagation framework in which any prior method or combination of methods can
be described. Our unified framework moves toward reducing the number of PINN
methods to consider and the implementation and retuning cost for thorough
comparisons. We propose a new stacked-decomposition method that bridges the gap
between time-marching PINNs and XPINNs. We also introduce significant
computational speed-ups by using transfer learning concepts to initialize
subnetworks in the domain and loss tolerance-based propagation for the
subdomains. We formulate a new time-sweeping collocation point algorithm
inspired by the previous PINNs causality literature, which our framework can
still describe, and provides a significant computational speed-up via
reduced-cost collocation point segmentation. Finally, we provide numerical
results on baseline PDE problems.
- Abstract（参考訳）: 偏微分方程式(PDE)を解く手段として物理情報ニューラルネットワーク(PINN)がCS&E(Computational Science and Engineering)において注目を集めている。
しかし、近年の関心事は、様々なトレーニング(すなわち、最適化)の課題を探求することである。特に、最適化ランドスケープの貧弱なローカルミニマにたどり着くと、PINN近似は、データ無しで時間依存PDEを前方で解く際に、劣等で、時に自明な解を与える。
この問題はまた、XPINNを用いた時間分解のような領域分解戦略により、ある意味でより難しい。
この問題に対処するために、我々はまず、従来の因果解法に対する一般的な分類を可能にし、そこから従来のアプローチのギャップを識別する。
次に,様々な学習課題,その原因,情報伝達と時間分解との関連について,実例と解説を行った。
本稿では,このような因果関係の概念を,先行手法や手法の組み合わせを記述可能な一般化された情報伝達フレームワークに反映することで,このギャップを埋める解決策を提案する。
統合されたフレームワークは、検討すべきPINNメソッドの数削減と、徹底的な比較のための実装と修正コストの削減に向けられている。
本稿では,時間マーチング PINN と XPINN のギャップを埋める新たな積み重ね分解法を提案する。
また,転送学習の概念を用いて,ドメイン内のサブネットワークを初期化し,サブドメインに対する損失耐性に基づく伝播を行うことにより,重要な計算速度アップを導入する。
我々は,従来のピンズ因果関係文献に触発された新しい時間分割型コロケーションポイントアルゴリズムを定式化し,コスト削減による計算速度向上を実現する。
最後に,ベースラインPDE問題に関する数値結果を提供する。
関連論文リスト
- RoPINN: Region Optimized Physics-Informed Neural Networks [66.38369833561039]
物理インフォームドニューラルネットワーク(PINN)は偏微分方程式(PDE)の解法として広く応用されている。
本稿では,地域最適化としての新たな訓練パラダイムを提案し,理論的に検討する。
実践的なトレーニングアルゴリズムであるRerea Optimized PINN(RoPINN)は、この新しいパラダイムからシームレスに派生している。
論文 参考訳（メタデータ） (2024-05-23T09:45:57Z) - Efficient Discrete Physics-informed Neural Networks for Addressing
Evolutionary Partial Differential Equations [7.235476098729406]
物理インフォームドニューラルネットワーク(PINN)は、ディープラーニングを用いて偏微分方程式(PDE)を解く有望な可能性を示している。
PINNの損失における時間的特徴の全てを同時に訓練するため、PINNは時間的因果性に違反する可能性がある。
本稿では,時間的因果関係を強制するために暗黙の時間差分法を用い,空間内のPINNを異なる時間フレームにおけるPDEソリューションのサロゲートとして逐次更新するために転送学習を用いることを提案する。
論文 参考訳（メタデータ） (2023-12-22T11:09:01Z) - Adversarial Training for Physics-Informed Neural Networks [4.446564162927513]
本稿では,AT-PINN と呼ばれる PINN に対する敵的訓練戦略を提案する。
AT-PINNは、逆サンプルを用いてモデルを微調整することにより、PINNの堅牢性を高める。
我々は,マルチスケール係数の楕円型方程式,マルチピーク解のポアソン方程式,鋭解のバーガース方程式,アレン・カーンの方程式にAT-PINNを実装した。
論文 参考訳（メタデータ） (2023-10-18T08:28:43Z) - PINNsFormer: A Transformer-Based Framework For Physics-Informed Neural Networks [22.39904196850583]
物理インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)の数値解を近似するための有望なディープラーニングフレームワークとして登場した。
我々は,この制限に対処するために,新しいTransformerベースのフレームワークであるPINNsFormerを紹介した。
PINNsFormerは、PINNの障害モードや高次元PDEなど、様々なシナリオにおいて優れた一般化能力と精度を実現する。
論文 参考訳（メタデータ） (2023-07-21T18:06:27Z) - Tunable Complexity Benchmarks for Evaluating Physics-Informed Neural
Networks on Coupled Ordinary Differential Equations [64.78260098263489]
本研究では,より複雑に結合した常微分方程式(ODE)を解く物理インフォームドニューラルネットワーク(PINN)の能力を評価する。
PINNの複雑性が増大するにつれて,これらのベンチマークに対する正しい解が得られないことが示される。
PINN損失のラプラシアンは,ネットワーク容量の不足,ODEの条件の低下,局所曲率の高さなど,いくつかの理由を明らかにした。
論文 参考訳（メタデータ） (2022-10-14T15:01:32Z) - PIXEL: Physics-Informed Cell Representations for Fast and Accurate PDE
Solvers [4.1173475271436155]
物理インフォームドセル表現(PIXEL)と呼ばれる新しいデータ駆動型PDEの解法を提案する。
PIXELは古典的な数値法と学習に基づくアプローチをエレガントに組み合わせている。
PIXELは高速収束速度と高精度を実現する。
論文 参考訳（メタデータ） (2022-07-26T10:46:56Z) - Revisiting PINNs: Generative Adversarial Physics-informed Neural
Networks and Point-weighting Method [70.19159220248805]
物理インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)を数値的に解くためのディープラーニングフレームワークを提供する
本稿では,GA機構とPINNの構造を統合したGA-PINNを提案する。
本稿では,Adaboost法の重み付け戦略からヒントを得て,PINNのトレーニング効率を向上させるためのPW法を提案する。
論文 参考訳（メタデータ） (2022-05-18T06:50:44Z) - Improved Training of Physics-Informed Neural Networks with Model
Ensembles [81.38804205212425]
我々は、PINNを正しい解に収束させるため、解区間を徐々に拡大することを提案する。
すべてのアンサンブルのメンバーは、観測されたデータの近くで同じ解に収束する。
提案手法は, 得られた解の精度を向上させることができることを示す。
論文 参考訳（メタデータ） (2022-04-11T14:05:34Z) - Learning Physics-Informed Neural Networks without Stacked
Back-propagation [82.26566759276105]
我々は,物理インフォームドニューラルネットワークのトレーニングを著しく高速化する新しい手法を開発した。
特に、ガウス滑らか化モデルによりPDE解をパラメータ化し、スタインの恒等性から導かれる2階微分がバックプロパゲーションなしで効率的に計算可能であることを示す。
実験の結果,提案手法は通常のPINN訓練に比べて2桁の精度で競合誤差を実現できることがわかった。
論文 参考訳（メタデータ） (2022-02-18T18:07:54Z) - PhyCRNet: Physics-informed Convolutional-Recurrent Network for Solving
Spatiotemporal PDEs [8.220908558735884]
偏微分方程式 (Partial differential equation, PDE) は、幅広い分野の問題をモデル化し、シミュレーションする上で基礎的な役割を果たす。
近年のディープラーニングの進歩は、データ駆動逆解析の基盤としてPDEを解くために物理学インフォームドニューラルネットワーク(NN)の大きな可能性を示している。
本稿では,PDEをラベル付きデータなしで解くための物理インフォームド・畳み込み学習アーキテクチャ(PhyCRNetとPhCRyNet-s)を提案する。
論文 参考訳（メタデータ） (2021-06-26T22:22:19Z) - dNNsolve: an efficient NN-based PDE solver [62.997667081978825]
ODE/PDEを解決するためにデュアルニューラルネットワークを利用するdNNsolveを紹介します。
我々は,dNNsolveが1,2,3次元の幅広いODE/PDEを解くことができることを示す。
論文 参考訳（メタデータ） (2021-03-15T19:14:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。