論文の概要: Physics and Equality Constrained Artificial Neural Networks: Application
to Partial Differential Equations
- arxiv url: http://arxiv.org/abs/2109.14860v1
- Date: Thu, 30 Sep 2021 05:55:35 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-04 14:18:31.977794
- Title: Physics and Equality Constrained Artificial Neural Networks: Application
to Partial Differential Equations
- Title（参考訳）: 物理と平等制約付きニューラルネットワーク:偏微分方程式への応用
- Authors: Shamsulhaq Basir, Inanc Senocak
- Abstract要約: 偏微分方程式(PDE)の解を学ぶために物理インフォームドニューラルネットワーク(PINN)が提案されている。
本稿では,この目的関数の定式化方法が,PINNアプローチにおける厳密な制約の源であることを示す。
本稿では,逆問題と前方問題の両方に対処可能な多目的フレームワークを提案する。
- 参考スコア（独自算出の注目度）: 1.370633147306388
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Physics-informed neural networks (PINNs) have been proposed to learn the
solution of partial differential equations (PDE). In PINNs, the residual form
of the PDE of interest and its boundary conditions are lumped into a composite
objective function as an unconstrained optimization problem, which is then used
to train a deep feed-forward neural network. Here, we show that this specific
way of formulating the objective function is the source of severe limitations
in the PINN approach when applied to different kinds of PDEs. To address these
limitations, we propose a versatile framework that can tackle both inverse and
forward problems. The framework is adept at multi-fidelity data fusion and can
seamlessly constrain the governing physics equations with proper initial and
boundary conditions. The backbone of the proposed framework is a nonlinear,
equality-constrained optimization problem formulation aimed at minimizing a
loss functional, where an augmented Lagrangian method (ALM) is used to formally
convert a constrained-optimization problem into an unconstrained-optimization
problem. We implement the ALM within a stochastic, gradient-descent type
training algorithm in a way that scrupulously focuses on meeting the
constraints without sacrificing other loss terms. Additionally, as a
modification of the original residual layers, we propose lean residual layers
in our neural network architecture to address the so-called vanishing-gradient
problem. We demonstrate the efficacy and versatility of our physics- and
equality-constrained deep-learning framework by applying it to learn the
solutions of various multi-dimensional PDEs, including a nonlinear inverse
problem from the hydrology field with multi-fidelity data fusion. The results
produced with our proposed model match exact solutions very closely for all the
cases considered.
- Abstract（参考訳）: 偏微分方程式 (PDE) の解を求めるために, 物理インフォームドニューラルネットワーク (PINN) が提案されている。
PINNでは、興味のあるPDEの残形とその境界条件は、制約のない最適化問題として複合目的関数にまとめられ、その後、ディープフィードフォワードニューラルネットワークのトレーニングに使用される。
本稿では,この目的関数を定式化する方法が,異なる種類のPDEに適用した場合のPINNアプローチにおける厳しい制約の源であることを示す。
これらの制約に対処するため,逆問題と前方問題の両方に対処可能な多目的フレームワークを提案する。
このフレームワークは多要素データ融合に適しており、適切な初期条件と境界条件で制御物理方程式をシームレスに制約することができる。
提案フレームワークのバックボーンは、損失関数の最小化を目的とした非線形等質制約最適化問題の定式化であり、拡張ラグランジアン法(ALM)を用いて制約最適化問題を非制約最適化問題に変換する。
我々は,ALMを確率的・勾配差型学習アルゴリズム内に実装し,他の損失項を犠牲にすることなく,制約を満たすことに注力する。
さらに、元の残層の変更として、ニューラルネットワークアーキテクチャにおけるリーン残層を提案し、いわゆる消滅段階問題に対処する。
多次元データ融合による水理分野からの非線形逆問題を含む多次元PDEの解を学習するために, 物理・等式制約付きディープラーニングフレームワークの有効性と有用性を示す。
提案するモデルで得られた結果は,考慮されたすべてのケースに対して非常に密接に一致する。
関連論文リスト
- Optimizing Solution-Samplers for Combinatorial Problems: The Landscape
of Policy-Gradient Methods [52.0617030129699]
本稿では,DeepMatching NetworksとReinforcement Learningメソッドの有効性を解析するための新しい理論フレームワークを提案する。
我々の主な貢献は、Max- and Min-Cut、Max-$k$-Bipartite-Bi、Maximum-Weight-Bipartite-Bi、Traveing Salesman Problemを含む幅広い問題である。
本分析の副産物として,バニラ降下による新たな正則化プロセスを導入し,失効する段階的な問題に対処し,悪い静止点から逃れる上で有効であることを示す理論的および実験的証拠を提供する。
論文 参考訳（メタデータ） (2023-10-08T23:39:38Z) - An adaptive augmented Lagrangian method for training physics and
equality constrained artificial neural networks [0.9137554315375919]
PECANNフレームワークを、拡張された多様な制約セットを持つ前方および逆問題の解決に適用する。
ALMは従来の定式化によってペナルティパラメータとラグランジュ乗算器のストールを更新する。
本稿では,適応的下位段階法にインスパイアされた規則に従って適応的に進化する一意のペナルティパラメータを各制約に割り当てる適応ALMを提案する。
論文 参考訳（メタデータ） (2023-06-08T03:16:21Z) - A Stable and Scalable Method for Solving Initial Value PDEs with Neural
Networks [52.5899851000193]
我々は,ネットワークの条件が悪くなるのを防止し,パラメータ数で時間線形に動作するODEベースのIPPソルバを開発した。
このアプローチに基づく現在の手法は2つの重要な問題に悩まされていることを示す。
まず、ODEに従うと、問題の条件付けにおいて制御不能な成長が生じ、最終的に許容できないほど大きな数値誤差が生じる。
論文 参考訳（メタデータ） (2023-04-28T17:28:18Z) - NeuralStagger: Accelerating Physics-constrained Neural PDE Solver with
Spatial-temporal Decomposition [67.46012350241969]
本稿では,NeuralStaggerと呼ばれる一般化手法を提案する。
元の学習タスクをいくつかの粗い解像度のサブタスクに分解する。
本稿では,2次元および3次元流体力学シミュレーションにおけるNeuralStaggerの適用例を示す。
論文 参考訳（メタデータ） (2023-02-20T19:36:52Z) - Learning differentiable solvers for systems with hard constraints [48.54197776363251]
ニューラルネットワーク(NN)によって定義される関数に対する偏微分方程式(PDE)制約を強制する実践的手法を提案する。
我々は、任意のNNアーキテクチャに組み込むことができる微分可能なPDE制約層を開発した。
その結果、NNアーキテクチャに直接ハード制約を組み込むことで、制約のない目的のトレーニングに比べてテストエラーがはるかに少ないことがわかった。
論文 参考訳（メタデータ） (2022-07-18T15:11:43Z) - Mitigating Learning Complexity in Physics and Equality Constrained
Artificial Neural Networks [0.9137554315375919]
偏微分方程式(PDE)の解を学ぶために物理インフォームドニューラルネットワーク(PINN)が提案されている。
PINNでは、利害関係のPDEの残留形態とその境界条件は、軟罰として複合目的関数にまとめられる。
本稿では,この目的関数を定式化する方法が,異なる種類のPDEに適用した場合のPINNアプローチにおける厳しい制約の源であることを示す。
論文 参考訳（メタデータ） (2022-06-19T04:12:01Z) - Enhanced Physics-Informed Neural Networks with Augmented Lagrangian
Relaxation Method (AL-PINNs) [1.7403133838762446]
物理インフォームドニューラルネットワーク(PINN)は非線形偏微分方程式(PDE)の解の強力な近似器である
PINN(AL-PINN)のための拡張ラグランジアン緩和法を提案する。
AL-PINNは、最先端の適応的損失分散アルゴリズムと比較して、相対誤差がはるかに小さいことを様々な数値実験で示している。
論文 参考訳（メタデータ） (2022-04-29T08:33:11Z) - Physics-constrained Unsupervised Learning of Partial Differential
Equations using Meshes [1.066048003460524]
グラフニューラルネットワークは、不規則にメッシュ化されたオブジェクトを正確に表現し、それらのダイナミクスを学ぶことを約束する。
本研究では、メッシュをグラフとして自然に表現し、グラフネットワークを用いてそれらを処理し、物理に基づく損失を定式化し、偏微分方程式(PDE)の教師なし学習フレームワークを提供する。
本フレームワークは, ソフトボディ変形のモデルベース制御など, PDEソルバをインタラクティブな設定に適用する。
論文 参考訳（メタデータ） (2022-03-30T19:22:56Z) - Message Passing Neural PDE Solvers [60.77761603258397]
我々は、バックプロップ最適化されたニューラル関数近似器で、グラフのアリーデザインのコンポーネントを置き換えるニューラルメッセージパッシング解決器を構築した。
本稿では, 有限差分, 有限体積, WENOスキームなどの古典的手法を表現的に含んでいることを示す。
本研究では, 異なる領域のトポロジ, 方程式パラメータ, 離散化などにおける高速, 安定, 高精度な性能を, 1次元, 2次元で検証する。
論文 参考訳（メタデータ） (2022-02-07T17:47:46Z) - Optimal Transport Based Refinement of Physics-Informed Neural Networks [0.0]
我々は、最適輸送(OT)の概念に基づく偏微分方程式(PDE)の解法として、よく知られた物理情報ニューラルネットワーク(PINN)の改良戦略を提案する。
PINNの解法は、完全接続された病理のスペクトルバイアス、不安定な勾配、収束と精度の難しさなど、多くの問題に悩まされている。
本稿では,既存の PINN フレームワークを補完する OT-based sample を用いて,Fokker-Planck-Kolmogorov Equation (FPKE) を解くための新しいトレーニング戦略を提案する。
論文 参考訳（メタデータ） (2021-05-26T02:51:20Z) - dNNsolve: an efficient NN-based PDE solver [62.997667081978825]
ODE/PDEを解決するためにデュアルニューラルネットワークを利用するdNNsolveを紹介します。
我々は,dNNsolveが1,2,3次元の幅広いODE/PDEを解くことができることを示す。
論文 参考訳（メタデータ） (2021-03-15T19:14:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。