論文の概要: A Stable and Scalable Method for Solving Initial Value PDEs with Neural Networks

• arxiv url: http://arxiv.org/abs/2304.14994v2
• Date: Wed, 30 Aug 2023 18:52:03 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-01 20:19:19.119726
• Title: A Stable and Scalable Method for Solving Initial Value PDEs with Neural Networks
• Title（参考訳）: ニューラルネットワークを用いた初期値PDEの安定かつスケーラブルな解法
• Authors: Marc Finzi, Andres Potapczynski, Matthew Choptuik, Andrew Gordon Wilson
• Abstract要約: 我々は,ネットワークの条件が悪くなるのを防止し,パラメータ数で時間線形に動作するODEベースのIPPソルバを開発した。 このアプローチに基づく現在の手法は2つの重要な問題に悩まされていることを示す。 まず、ODEに従うと、問題の条件付けにおいて制御不能な成長が生じ、最終的に許容できないほど大きな数値誤差が生じる。
• 参考スコア（独自算出の注目度）: 52.5899851000193
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Unlike conventional grid and mesh based methods for solving partial differential equations (PDEs), neural networks have the potential to break the curse of dimensionality, providing approximate solutions to problems where using classical solvers is difficult or impossible. While global minimization of the PDE residual over the network parameters works well for boundary value problems, catastrophic forgetting impairs the applicability of this approach to initial value problems (IVPs). In an alternative local-in-time approach, the optimization problem can be converted into an ordinary differential equation (ODE) on the network parameters and the solution propagated forward in time; however, we demonstrate that current methods based on this approach suffer from two key issues. First, following the ODE produces an uncontrolled growth in the conditioning of the problem, ultimately leading to unacceptably large numerical errors. Second, as the ODE methods scale cubically with the number of model parameters, they are restricted to small neural networks, significantly limiting their ability to represent intricate PDE initial conditions and solutions. Building on these insights, we develop Neural IVP, an ODE based IVP solver which prevents the network from getting ill-conditioned and runs in time linear in the number of parameters, enabling us to evolve the dynamics of challenging PDEs with neural networks.
• Abstract（参考訳）: 偏微分方程式(PDE)を解く従来のグリッドやメッシュベースの手法とは異なり、ニューラルネットワークは次元の呪いを破る可能性があり、古典的な解法の使用が困難または不可能な問題に対する近似的な解決策を提供する。 ネットワークパラメータ上のPDE残差のグローバル最小化は境界値問題に対してうまく機能するが、破滅的な忘れ込みは初期値問題(IVP)に対するこのアプローチの適用性を損なう。 代替的なローカル・イン・タイム・アプローチでは、最適化問題をネットワークパラメータ上の常微分方程式(ODE)に変換することができ、その解は時間内に伝播するが、本手法に基づく現在の手法は2つの重要な問題に悩まされていることを示す。 まず、ODEに従うと、問題の条件付けにおいて制御不能な成長が生じ、最終的に許容できないほど大きな数値誤差が生じる。 第二に、ODE法はモデルパラメータの数で3次スケールするので、これらは小さなニューラルネットワークに限定され、複雑なPDE初期条件と解を表現する能力は著しく制限される。 これらの知見に基づいて、我々は、パラメータ数でネットワークが不調になるのを防止し、時間リニアな動作を可能にするODEベースのIPP解決器であるNeural IVPを開発し、ニューラルネットワークによる挑戦的PDEのダイナミクスを進化させる。

関連論文リスト

• Solving partial differential equations with sampled neural networks [1.8590821261905535]
  偏微分方程式(PDE)に対する解の近似は計算科学や工学において重要な問題である。 データに依存しない確率分布から、アンザッツネットワークの隠れた重みとバイアスをサンプリングすることで、両課題を進展させる方法について論じる。
  論文  参考訳（メタデータ） (2024-05-31T14:24:39Z)
• TSONN: Time-stepping-oriented neural network for solving partial differential equations [1.9061608251056779]
  この研究は、PDE問題を解決するために、タイムステッピング法とディープラーニングを統合する。 擬似タイムステッピング過程の軌跡に従うことにより、モデルトレーニングの収束性を大幅に改善する。 提案手法は,標準のPINNでは解けない多くの問題において,安定したトレーニングと正しい結果が得られることを示す。
  論文  参考訳（メタデータ） (2023-10-25T09:19:40Z)
• Meta-learning of Physics-informed Neural Networks for Efficiently Solving Newly Given PDEs [33.072056425485115]
  本稿では、偏微分方程式(PDE)問題を効率的に解くニューラルネットワークに基づくメタラーニング手法を提案する。 提案手法は多種多様なPDE問題の解法をメタラーニングし,その知識を新たに与えられたPDE問題の解法に用いる。 提案手法は,PDE問題の解を予測する上で,既存の手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-10-20T04:35:59Z)
• Neural Basis Functions for Accelerating Solutions to High Mach Euler Equations [63.8376359764052]
  ニューラルネットワークを用いた偏微分方程式(PDE)の解法を提案する。 ニューラルネットワークの集合を縮小順序 Proper Orthogonal Decomposition (POD) に回帰する。 これらのネットワークは、所定のPDEのパラメータを取り込み、PDEに還元順序近似を計算する分岐ネットワークと組み合わせて使用される。
  論文  参考訳（メタデータ） (2022-08-02T18:27:13Z)
• Learning Physics-Informed Neural Networks without Stacked Back-propagation [82.26566759276105]
  我々は,物理インフォームドニューラルネットワークのトレーニングを著しく高速化する新しい手法を開発した。 特に、ガウス滑らか化モデルによりPDE解をパラメータ化し、スタインの恒等性から導かれる2階微分がバックプロパゲーションなしで効率的に計算可能であることを示す。 実験の結果,提案手法は通常のPINN訓練に比べて2桁の精度で競合誤差を実現できることがわかった。
  論文  参考訳（メタデータ） (2022-02-18T18:07:54Z)
• Message Passing Neural PDE Solvers [60.77761603258397]
  我々は、バックプロップ最適化されたニューラル関数近似器で、グラフのアリーデザインのコンポーネントを置き換えるニューラルメッセージパッシング解決器を構築した。 本稿では, 有限差分, 有限体積, WENOスキームなどの古典的手法を表現的に含んでいることを示す。 本研究では, 異なる領域のトポロジ, 方程式パラメータ, 離散化などにおける高速, 安定, 高精度な性能を, 1次元, 2次元で検証する。
  論文  参考訳（メタデータ） (2022-02-07T17:47:46Z)
• Physics and Equality Constrained Artificial Neural Networks: Application to Partial Differential Equations [1.370633147306388]
  偏微分方程式(PDE)の解を学ぶために物理インフォームドニューラルネットワーク(PINN)が提案されている。 本稿では,この目的関数の定式化方法が,PINNアプローチにおける厳密な制約の源であることを示す。 本稿では,逆問題と前方問題の両方に対処可能な多目的フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-09-30T05:55:35Z)
• dNNsolve: an efficient NN-based PDE solver [62.997667081978825]
  ODE/PDEを解決するためにデュアルニューラルネットワークを利用するdNNsolveを紹介します。 我々は,dNNsolveが1,2,3次元の幅広いODE/PDEを解くことができることを示す。
  論文  参考訳（メタデータ） (2021-03-15T19:14:41Z)
• Meta-Solver for Neural Ordinary Differential Equations [77.8918415523446]
  本研究では,ソルバ空間の変動がニューラルODEの性能を向上する方法について検討する。 解法パラメータ化の正しい選択は, 敵の攻撃に対するロバスト性の観点から, 神経odesモデルに大きな影響を与える可能性がある。
  論文  参考訳（メタデータ） (2021-03-15T17:26:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。