論文の概要: Deep neural networks with ReLU, leaky ReLU, and softplus activation provably overcome the curse of dimensionality for space-time solutions of semilinear partial differential equations

• arxiv url: http://arxiv.org/abs/2406.10876v1
• Date: Sun, 16 Jun 2024 09:59:29 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-18 20:21:59.027836
• Title: Deep neural networks with ReLU, leaky ReLU, and softplus activation provably overcome the curse of dimensionality for space-time solutions of semilinear partial differential equations
• Title（参考訳）: 半線形偏微分方程式の時空解に対する次元性の呪いを、ReLU, リークReLU, ソフトプラスアクティベーションによるディープニューラルネットワークが確実に克服する
• Authors: Julia Ackermann, Arnulf Jentzen, Benno Kuckuck, Joshua Lee Padgett,
• Abstract要約: これは高次元非線形偏微分方程式(PDE)を解くための応用数学の難題である。 深層ニューラルネットワーク(DNN)を用いてPDEの解を近似する深層学習(DL)に基づくPDEの手法を提案する。
• 参考スコア（独自算出の注目度）: 3.3123773366516645
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: It is a challenging topic in applied mathematics to solve high-dimensional nonlinear partial differential equations (PDEs). Standard approximation methods for nonlinear PDEs suffer under the curse of dimensionality (COD) in the sense that the number of computational operations of the approximation method grows at least exponentially in the PDE dimension and with such methods it is essentially impossible to approximately solve high-dimensional PDEs even when the fastest currently available computers are used. However, in the last years great progress has been made in this area of research through suitable deep learning (DL) based methods for PDEs in which deep neural networks (DNNs) are used to approximate solutions of PDEs. Despite the remarkable success of such DL methods in simulations, it remains a fundamental open problem of research to prove (or disprove) that such methods can overcome the COD in the approximation of PDEs. However, there are nowadays several partial error analysis results for DL methods for high-dimensional nonlinear PDEs in the literature which prove that DNNs can overcome the COD in the sense that the number of parameters of the approximating DNN grows at most polynomially in both the reciprocal of the prescribed approximation accuracy $\varepsilon>0$ and the PDE dimension $d\in\mathbb{N}$. In the main result of this article we prove that for all $T,p\in(0,\infty)$ it holds that solutions $u_d\colon[0,T]\times\mathbb{R}^d\to\mathbb{R}$, $d\in\mathbb{N}$, of semilinear heat equations with Lipschitz continuous nonlinearities can be approximated in the $L^p$-sense on space-time regions without the COD by DNNs with the rectified linear unit (ReLU), the leaky ReLU, or the softplus activation function. In previous articles similar results have been established not for space-time regions but for the solutions $u_d(T,\cdot)$, $d\in\mathbb{N}$, at the terminal time $T$.
• Abstract（参考訳）: これは高次元非線形偏微分方程式(PDE)を解くための応用数学の難題である。 非線形PDEの標準的な近似法は、近似法の計算演算数がPDE次元において少なくとも指数関数的に増加するという意味で、次元性(COD)の呪いに苦しむ。 しかし、近年では、深層ニューラルネットワーク(DNN)を用いてPDEの解を近似する、適切な深層学習(DL)に基づくPDEの手法によって、この分野において大きな進展が見られた。 このようなDL法がシミュレーションで顕著に成功したにもかかわらず、これらの手法がPDEの近似においてCODを克服できることを証明(または証明)するための研究の根本的なオープンな問題である。 しかし、近年、DNNの近似DNNのパラメータの数が、所定近似精度$\varepsilon>0$とPDE次元$d\in\mathbb{N}$の相反性の両方で多項式的に増加するという意味で、DNNがCODを克服できることを示す文献における高次元非線形PDEに対するDL法に対する部分誤差解析結果がいくつか存在する。 この記事では、すべての$T,p\in(0,\infty)$に対して、リプシッツ連続非線形性を持つ半線型熱方程式の解 $u_d\colon[0,T]\times\mathbb{R}^d\to\mathbb{R}$, $d\in\mathbb{N}$ は、正則線型単位(ReLU)を持つDNNによるCODのない時空領域上の $L^p$-sense で近似することができることを証明している。 以前の論文では、同様の結果は時空領域ではなく、ソリューション $u_d(T,\cdot)$, $d\in\mathbb{N}$ に対して、終点時間 $T$ で確立されている。

関連論文リスト

• Unisolver: PDE-Conditional Transformers Are Universal PDE Solvers [55.0876373185983]
  広範にPDEを解くことができるUniversal PDEソルバ(Unisolver)を提案する。 私たちの重要な発見は、PDEソリューションが基本的に一連のPDEコンポーネントの制御下にあることです。 Unisolverは3つの挑戦的な大規模ベンチマークにおいて、一貫した最先端の結果を達成する。
  論文  参考訳（メタデータ） (2024-05-27T15:34:35Z)
• RoPINN: Region Optimized Physics-Informed Neural Networks [66.38369833561039]
  物理インフォームドニューラルネットワーク(PINN)は偏微分方程式(PDE)の解法として広く応用されている。 本稿では,地域最適化としての新たな訓練パラダイムを提案し,理論的に検討する。 実践的なトレーニングアルゴリズムであるRerea Optimized PINN(RoPINN)は、この新しいパラダイムからシームレスに派生している。
  論文  参考訳（メタデータ） (2024-05-23T09:45:57Z)
• Deep Equilibrium Based Neural Operators for Steady-State PDEs [100.88355782126098]
  定常PDEに対する重み付けニューラルネットワークアーキテクチャの利点について検討する。 定常PDEの解を直接解くFNOアーキテクチャの深い平衡変種であるFNO-DEQを提案する。
  論文  参考訳（メタデータ） (2023-11-30T22:34:57Z)
• Deep neural networks with ReLU, leaky ReLU, and softplus activation provably overcome the curse of dimensionality for Kolmogorov partial differential equations with Lipschitz nonlinearities in the $L^p$-sense [3.3123773366516645]
  我々は、ディープニューラルネットワーク(DNN)が、次元の呪い(COD)を伴わずにPDE解を近似する表現力を持っていることを示す。 この成果を一般化するためにこの研究の重要な貢献は、$pin(0,infty)$で$Lp$-senseでこのステートメントを確立することである。
  論文  参考訳（メタデータ） (2023-09-24T18:58:18Z)
• Tackling the Curse of Dimensionality with Physics-Informed Neural Networks [24.86574584293979]
  我々は、任意の高次元PDEを解決するために、物理インフォームドニューラルネットワーク(PINN)をスケールアップする新しい方法を開発した。 本研究では,提案手法が多くの高次元PDEを解くことができることを示す。
  論文  参考訳（メタデータ） (2023-07-23T12:18:12Z)
• Solving High-Dimensional PDEs with Latent Spectral Models [74.1011309005488]
  我々は,高次元PDEの効率的かつ高精度な解法に向けて,Latent Spectral Models (LSM) を提案する。 数値解析において古典スペクトル法に着想を得て,潜時空間におけるPDEを解くために,ニューラルスペクトルブロックを設計する。 LSMは、一貫した最先端を実現し、7つのベンチマークで平均11.5%の相対的な利益を得る。
  論文  参考訳（メタデータ） (2023-01-30T04:58:40Z)
• Deep learning approximations for non-local nonlinear PDEs with Neumann boundary conditions [2.449909275410288]
  非局所非線形PDEを大まかに解くために,機械学習とPicard反復に基づく2つの数値手法を提案する。 物理・生物学における5種類のPDEにおける2つの手法の性能評価を行った。
  論文  参考訳（メタデータ） (2022-05-07T15:47:17Z)
• Neural Q-learning for solving PDEs [0.0]
  我々は,強化学習にQ-ラーニングアルゴリズムを適用し,楕円型PDEを解くための新しい数値法を開発した。 我々の「Q-PDE」アルゴリズムはメッシュフリーであり、従って次元の呪いを克服する可能性がある。 楕円型PDEに対するQ-PDEアルゴリズムの数値計算性能について検討した。
  論文  参考訳（メタデータ） (2022-03-31T15:52:44Z)
• Lie Point Symmetry Data Augmentation for Neural PDE Solvers [69.72427135610106]
  本稿では,ニューラルPDEソルバサンプルの複雑性を改善することにより,この問題を部分的に緩和する手法を提案する。 PDEの文脈では、データ変換の完全なリストを定量的に導き出せることが分かりました。 神経性PDEソルバサンプルの複雑さを桁違いに改善するために、どのように容易に展開できるかを示す。
  論文  参考訳（メタデータ） (2022-02-15T18:43:17Z)
• dNNsolve: an efficient NN-based PDE solver [62.997667081978825]
  ODE/PDEを解決するためにデュアルニューラルネットワークを利用するdNNsolveを紹介します。 我々は,dNNsolveが1,2,3次元の幅広いODE/PDEを解くことができることを示す。
  論文  参考訳（メタデータ） (2021-03-15T19:14:41Z)
• Space-time deep neural network approximations for high-dimensional partial differential equations [3.6185342807265415]
  深層学習近似は次元性の呪いを克服する能力を持っているかもしれない。 この記事では、任意の$ainmathbbR$, $ bin (a,infty)$に対して、あるコルモゴロフ PDE の解が次元性の呪いなしで DNN によって近似できることを証明する。
  論文  参考訳（メタデータ） (2020-06-03T12:14:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。