論文の概要: Lagrangian PINNs: A causality-conforming solution to failure modes of
physics-informed neural networks
- arxiv url: http://arxiv.org/abs/2205.02902v1
- Date: Thu, 5 May 2022 19:48:05 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-09 13:12:38.429569
- Title: Lagrangian PINNs: A causality-conforming solution to failure modes of
physics-informed neural networks
- Title(参考訳): ラグランジアンPINN:物理インフォームドニューラルネットワークの障害モードに対する因果変換ソリューション
- Authors: Rambod Mojgani and Maciej Balajewicz and Pedram Hassanzadeh
- Abstract要約: 物理インフォームドニューラルネットワーク(PINN)は、ニューラルネットワークを利用して偏微分方程式(PDE)に制約された最適化問題の解を求める。
境界条件が厳格に強制された場合でも,トレーニングの課題は継続することを示す。
PDEインフォームド・ソリューションとして,ラグランジアン・フレーム(LPINN)上でのPINNの再構成を提案する。
- 参考スコア(独自算出の注目度): 5.8010446129208155
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Physics-informed neural networks (PINNs) leverage neural-networks to find the
solutions of partial differential equation (PDE)-constrained optimization
problems with initial conditions and boundary conditions as soft constraints.
These soft constraints are often considered to be the sources of the complexity
in the training phase of PINNs. Here, we demonstrate that the challenge of
training (i) persists even when the boundary conditions are strictly enforced,
and (ii) is closely related to the Kolmogorov n-width associated with problems
demonstrating transport, convection, traveling waves, or moving fronts. Given
this realization, we describe the mechanism underlying the training schemes
such as those used in eXtended PINNs (XPINN), curriculum regularization, and
sequence-to-sequence learning. For an important category of PDEs, i.e.,
governed by non-linear convection-diffusion equation, we propose reformulating
PINNs on a Lagrangian frame of reference, i.e., LPINNs, as a PDE-informed
solution. A parallel architecture with two branches is proposed. One branch
solves for the state variables on the characteristics, and the second branch
solves for the low-dimensional characteristics curves. The proposed
architecture conforms to the causality innate to the convection, and leverages
the direction of travel of the information in the domain. Finally, we
demonstrate that the loss landscapes of LPINNs are less sensitive to the
so-called "complexity" of the problems, compared to those in the traditional
PINNs in the Eulerian framework.
- Abstract(参考訳): 物理インフォームドニューラルネットワーク(PINN)はニューラルネットワークを利用して、初期条件と境界条件をソフト制約とする偏微分方程式(PDE)制約最適化問題の解を求める。
これらのソフト制約は、しばしばPINNのトレーニングフェーズにおける複雑さの源であると考えられている。
ここでは トレーニングの課題が
(i)境界条件が厳格に強制された場合でも継続し、
i) は輸送、対流、進行波、移動前面を示す問題に関連するコルモゴロフ n-幅と密接に関連している。
この実現を前提として,拡張ピン(xpinn)やカリキュラムの正規化,シーケンスツーシーケンス学習など,トレーニングスキームの基礎となるメカニズムについて述べる。
非線形対流拡散方程式によって支配されるPDEの重要なカテゴリとして、ラグランジアンフレーム上のPINN、すなわちLPINNをPDEインフォームドソリューションとして提案する。
2つの分岐を持つ並列アーキテクチャを提案する。
1つの枝は特性上の状態変数を解き、2番目の枝は低次元の特徴曲線を解く。
提案されたアーキテクチャは、対流に固有の因果性に準拠し、ドメイン内の情報の移動の方向を活用する。
最後に,LPINNのロスランドスケープは,Eulerianフレームワークの従来のPINNに比べて,いわゆる「複雑性」に敏感でないことを示す。
関連論文リスト
- General-Kindred Physics-Informed Neural Network to the Solutions of Singularly Perturbed Differential Equations [11.121415128908566]
我々は,Singular Perturbation Differential Equations(SPDE)の解法として,GKPINN(General-Kindred Physics-Informed Neural Network)を提案する。
この手法は, 境界層の事前知識を方程式から利用し, 境界層を近似するPINNを支援する新しいネットワークを確立する。
GKPINNは,確立したPINN法と比較して,2~4桁の誤差を2~4桁に削減し,大幅な性能向上を実現している。
論文 参考訳(メタデータ) (2024-08-27T02:03:22Z) - A unified scalable framework for causal sweeping strategies for
Physics-Informed Neural Networks (PINNs) and their temporal decompositions [22.514769448363754]
PINNとXPINNの時間依存型PDEのトレーニング課題について論じる。
PINNとXPINNのギャップを埋める新しい積み重ね分解法を提案する。
また,従来のPINNの因果性にインスパイアされた新しいタイムスウィーピング・コロケーション・ポイント・アルゴリズムを定式化した。
論文 参考訳(メタデータ) (2023-02-28T01:19:21Z) - Tunable Complexity Benchmarks for Evaluating Physics-Informed Neural
Networks on Coupled Ordinary Differential Equations [64.78260098263489]
本研究では,より複雑に結合した常微分方程式(ODE)を解く物理インフォームドニューラルネットワーク(PINN)の能力を評価する。
PINNの複雑性が増大するにつれて,これらのベンチマークに対する正しい解が得られないことが示される。
PINN損失のラプラシアンは,ネットワーク容量の不足,ODEの条件の低下,局所曲率の高さなど,いくつかの理由を明らかにした。
論文 参考訳(メタデータ) (2022-10-14T15:01:32Z) - Mitigating Learning Complexity in Physics and Equality Constrained
Artificial Neural Networks [0.9137554315375919]
偏微分方程式(PDE)の解を学ぶために物理インフォームドニューラルネットワーク(PINN)が提案されている。
PINNでは、利害関係のPDEの残留形態とその境界条件は、軟罰として複合目的関数にまとめられる。
本稿では,この目的関数を定式化する方法が,異なる種類のPDEに適用した場合のPINNアプローチにおける厳しい制約の源であることを示す。
論文 参考訳(メタデータ) (2022-06-19T04:12:01Z) - Enhanced Physics-Informed Neural Networks with Augmented Lagrangian
Relaxation Method (AL-PINNs) [1.7403133838762446]
物理インフォームドニューラルネットワーク(PINN)は非線形偏微分方程式(PDE)の解の強力な近似器である
PINN(AL-PINN)のための拡張ラグランジアン緩和法を提案する。
AL-PINNは、最先端の適応的損失分散アルゴリズムと比較して、相対誤差がはるかに小さいことを様々な数値実験で示している。
論文 参考訳(メタデータ) (2022-04-29T08:33:11Z) - Learning Physics-Informed Neural Networks without Stacked
Back-propagation [82.26566759276105]
我々は,物理インフォームドニューラルネットワークのトレーニングを著しく高速化する新しい手法を開発した。
特に、ガウス滑らか化モデルによりPDE解をパラメータ化し、スタインの恒等性から導かれる2階微分がバックプロパゲーションなしで効率的に計算可能であることを示す。
実験の結果,提案手法は通常のPINN訓練に比べて2桁の精度で競合誤差を実現できることがわかった。
論文 参考訳(メタデータ) (2022-02-18T18:07:54Z) - Physics-Informed Neural Operator for Learning Partial Differential
Equations [55.406540167010014]
PINOは、演算子を学ぶために異なる解像度でデータとPDE制約を組み込んだ最初のハイブリッドアプローチである。
結果の PINO モデルは、多くの人気のある PDE ファミリの基底構造解演算子を正確に近似することができる。
論文 参考訳(メタデータ) (2021-11-06T03:41:34Z) - Physics and Equality Constrained Artificial Neural Networks: Application
to Partial Differential Equations [1.370633147306388]
偏微分方程式(PDE)の解を学ぶために物理インフォームドニューラルネットワーク(PINN)が提案されている。
本稿では,この目的関数の定式化方法が,PINNアプローチにおける厳密な制約の源であることを示す。
本稿では,逆問題と前方問題の両方に対処可能な多目的フレームワークを提案する。
論文 参考訳(メタデータ) (2021-09-30T05:55:35Z) - Characterizing possible failure modes in physics-informed neural
networks [55.83255669840384]
科学機械学習における最近の研究は、いわゆる物理情報ニューラルネットワーク(PINN)モデルを開発した。
既存のPINN方法論は比較的自明な問題に対して優れたモデルを学ぶことができるが、単純なPDEであっても、関連する物理現象を学習するのに失敗する可能性があることを実証する。
これらの障害モードは,NNアーキテクチャの表現力の欠如によるものではなく,PINNのセットアップによって損失状況の最適化が極めて困難であることを示す。
論文 参考訳(メタデータ) (2021-09-02T16:06:45Z) - dNNsolve: an efficient NN-based PDE solver [62.997667081978825]
ODE/PDEを解決するためにデュアルニューラルネットワークを利用するdNNsolveを紹介します。
我々は,dNNsolveが1,2,3次元の幅広いODE/PDEを解くことができることを示す。
論文 参考訳(メタデータ) (2021-03-15T19:14:41Z) - Local Propagation in Constraint-based Neural Network [77.37829055999238]
ニューラルネットワークアーキテクチャの制約に基づく表現について検討する。
本稿では,いわゆるアーキテクチャ制約を満たすのに適した簡単な最適化手法について検討する。
論文 参考訳(メタデータ) (2020-02-18T16:47:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。