論文の概要: Improved Training of Physics-Informed Neural Networks with Model Ensembles

• arxiv url: http://arxiv.org/abs/2204.05108v1
• Date: Mon, 11 Apr 2022 14:05:34 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-12 22:16:29.278835
• Title: Improved Training of Physics-Informed Neural Networks with Model Ensembles
• Title（参考訳）: モデルアンサンブルを用いた物理形ニューラルネットワークのトレーニング改善
• Authors: Katsiaryna Haitsiukevich and Alexander Ilin
• Abstract要約: 我々は、PINNを正しい解に収束させるため、解区間を徐々に拡大することを提案する。 すべてのアンサンブルのメンバーは、観測されたデータの近くで同じ解に収束する。 提案手法は, 得られた解の精度を向上させることができることを示す。
• 参考スコア（独自算出の注目度）: 81.38804205212425
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Learning the solution of partial differential equations (PDEs) with a neural network (known in the literature as a physics-informed neural network, PINN) is an attractive alternative to traditional solvers due to its elegancy, greater flexibility and the ease of incorporating observed data. However, training PINNs is notoriously difficult in practice. One problem is the existence of multiple simple (but wrong) solutions which are attractive for PINNs when the solution interval is too large. In this paper, we propose to expand the solution interval gradually to make the PINN converge to the correct solution. To find a good schedule for the solution interval expansion, we train an ensemble of PINNs. The idea is that all ensemble members converge to the same solution in the vicinity of observed data (e.g., initial conditions) while they may be pulled towards different wrong solutions farther away from the observations. Therefore, we use the ensemble agreement as the criterion for including new points for computing the loss derived from PDEs. We show experimentally that the proposed method can improve the accuracy of the found solution.
• Abstract（参考訳）: ニューラルネットワークによる偏微分方程式(PDE)の解法(物理学的インフォームドニューラルネットワーク、PINN)を学習することは、そのエレガントさ、柔軟性、観測データの導入の容易さにより、従来の解法に代わる魅力的な方法である。 しかし、PINNの訓練は実践的には非常に難しい。 1つの問題は、解区間が大きすぎるとPINNにとって魅力的な複数の単純(しかし間違った)解が存在することである。 本稿では,解区間を徐々に拡大してPINNを正しい解に収束させる手法を提案する。 解区間拡大のための適切なスケジュールを見つけるために、PINNのアンサンブルを訓練する。 この考え方では、全てのアンサンブルメンバーは観測データ(例えば初期条件)の近くで同じ解に収束するが、観測から遠く離れた異なる間違った解へと引き寄せられる可能性がある。 そこで我々は,PDEから得られた損失を計算するための新たなポイントを含むための基準として,アンサンブル合意を用いる。 本研究では,提案手法が解の精度を向上させることを実験的に示す。

関連論文リスト

• Solving partial differential equations with sampled neural networks [1.8590821261905535]
  偏微分方程式(PDE)に対する解の近似は計算科学や工学において重要な問題である。 データに依存しない確率分布から、アンザッツネットワークの隠れた重みとバイアスをサンプリングすることで、両課題を進展させる方法について論じる。
  論文  参考訳（メタデータ） (2024-05-31T14:24:39Z)
• Tunable Complexity Benchmarks for Evaluating Physics-Informed Neural Networks on Coupled Ordinary Differential Equations [64.78260098263489]
  本研究では,より複雑に結合した常微分方程式(ODE)を解く物理インフォームドニューラルネットワーク(PINN)の能力を評価する。 PINNの複雑性が増大するにつれて,これらのベンチマークに対する正しい解が得られないことが示される。 PINN損失のラプラシアンは,ネットワーク容量の不足,ODEの条件の低下,局所曲率の高さなど,いくつかの理由を明らかにした。
  論文  参考訳（メタデータ） (2022-10-14T15:01:32Z)
• Semi-analytic PINN methods for singularly perturbed boundary value problems [0.8594140167290099]
  本稿では,新しい半解析的物理情報ニューラルネットワーク(PINN)を提案し,特異な摂動境界値問題の解法を提案する。 PINNは、偏微分方程式の数値解を見つけるための有望な視点を提供する科学機械学習フレームワークである。
  論文  参考訳（メタデータ） (2022-08-19T04:26:40Z)
• Characterizing possible failure modes in physics-informed neural networks [55.83255669840384]
  科学機械学習における最近の研究は、いわゆる物理情報ニューラルネットワーク(PINN)モデルを開発した。 既存のPINN方法論は比較的自明な問題に対して優れたモデルを学ぶことができるが、単純なPDEであっても、関連する物理現象を学習するのに失敗する可能性があることを実証する。 これらの障害モードは,NNアーキテクチャの表現力の欠如によるものではなく,PINNのセットアップによって損失状況の最適化が極めて困難であることを示す。
  論文  参考訳（メタデータ） (2021-09-02T16:06:45Z)
• Finite Basis Physics-Informed Neural Networks (FBPINNs): a scalable domain decomposition approach for solving differential equations [20.277873724720987]
  我々はFBPINN(Finite Basis PINNs)と呼ばれる微分方程式に関連する大きな問題を解くための新しいスケーラブルなアプローチを提案する。 FBPINNは古典的有限要素法に着想を得ており、微分方程式の解はコンパクトな支持を持つ基底関数の有限集合の和として表される。 FBPINNでは、ニューラルネットワークを使ってこれらの基底関数を学習する。
  論文  参考訳（メタデータ） (2021-07-16T13:03:47Z)
• Optimal Transport Based Refinement of Physics-Informed Neural Networks [0.0]
  我々は、最適輸送(OT)の概念に基づく偏微分方程式(PDE)の解法として、よく知られた物理情報ニューラルネットワーク(PINN)の改良戦略を提案する。 PINNの解法は、完全接続された病理のスペクトルバイアス、不安定な勾配、収束と精度の難しさなど、多くの問題に悩まされている。 本稿では,既存の PINN フレームワークを補完する OT-based sample を用いて,Fokker-Planck-Kolmogorov Equation (FPKE) を解くための新しいトレーニング戦略を提案する。
  論文  参考訳（メタデータ） (2021-05-26T02:51:20Z)
• Conditional physics informed neural networks [85.48030573849712]
  固有値問題のクラス解を推定するための条件付きPINN(物理情報ニューラルネットワーク)を紹介します。 一つのディープニューラルネットワークが、問題全体に対する偏微分方程式の解を学習できることが示される。
  論文  参考訳（メタデータ） (2021-04-06T18:29:14Z)
• dNNsolve: an efficient NN-based PDE solver [62.997667081978825]
  ODE/PDEを解決するためにデュアルニューラルネットワークを利用するdNNsolveを紹介します。 我々は,dNNsolveが1,2,3次元の幅広いODE/PDEを解くことができることを示す。
  論文  参考訳（メタデータ） (2021-03-15T19:14:41Z)
• Multipole Graph Neural Operator for Parametric Partial Differential Equations [57.90284928158383]
  物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。 線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。 実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
  論文  参考訳（メタデータ） (2020-06-16T21:56:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。