論文の概要: Unisolver: PDE-Conditional Transformers Are Universal PDE Solvers

• arxiv url: http://arxiv.org/abs/2405.17527v1
• Date: Mon, 27 May 2024 15:34:35 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-29 23:40:54.885460
• Title: Unisolver: PDE-Conditional Transformers Are Universal PDE Solvers
• Title（参考訳）: Unisolver: PDE-Conditional TransformerはユニバーサルPDEソルバー
• Authors: Zhou Hang, Yuezhou Ma, Haixu Wu, Haowen Wang, Mingsheng Long,
• Abstract要約: 広範にPDEを解くことができるUniversal PDEソルバ(Unisolver)を提案する。 私たちの重要な発見は、PDEソリューションが基本的に一連のPDEコンポーネントの制御下にあることです。 Unisolverは3つの挑戦的な大規模ベンチマークにおいて、一貫した最先端の結果を達成する。
• 参考スコア（独自算出の注目度）: 46.215127013993076
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep models have recently emerged as a promising tool to solve partial differential equations (PDEs), known as neural PDE solvers. While neural solvers trained from either simulation data or physics-informed loss can solve the PDEs reasonably well, they are mainly restricted to a specific set of PDEs, e.g. a certain equation or a finite set of coefficients. This bottleneck limits the generalizability of neural solvers, which is widely recognized as its major advantage over numerical solvers. In this paper, we present the Universal PDE solver (Unisolver) capable of solving a wide scope of PDEs by leveraging a Transformer pre-trained on diverse data and conditioned on diverse PDEs. Instead of simply scaling up data and parameters, Unisolver stems from the theoretical analysis of the PDE-solving process. Our key finding is that a PDE solution is fundamentally under the control of a series of PDE components, e.g. equation symbols, coefficients, and initial and boundary conditions. Inspired by the mathematical structure of PDEs, we define a complete set of PDE components and correspondingly embed them as domain-wise (e.g. equation symbols) and point-wise (e.g. boundaries) conditions for Transformer PDE solvers. Integrating physical insights with recent Transformer advances, Unisolver achieves consistent state-of-the-art results on three challenging large-scale benchmarks, showing impressive gains and endowing favorable generalizability and scalability.
• Abstract（参考訳）: ディープモデルは、ニューラルPDEソルバとして知られる偏微分方程式(PDE)を解くための有望なツールとして最近登場した。 シミュレーションデータまたは物理情報損失から訓練されたニューラルソルバは、PDEを合理的に解くことができるが、それらは主に特定のPDE(例えば、ある方程式や有限個の係数)の集合に制限される。 このボトルネックは、数値解法に対する大きな優位性として広く認識されているニューラルソルバの一般化性を制限する。 本稿では,多種多様なPDEを事前学習し,多種多様なPDEを条件としたTransformerを活用することで,多種多様なPDEを解くことができるUniversal PDEソルバ(Unisolver)を提案する。 データとパラメータを単純にスケールアップする代わりに、UnisolverはPDE解決プロセスの理論解析から生まれた。 我々の重要な発見は、PDE解は基本的に一連のPDE成分、例えば方程式記号、係数、初期および境界条件の制御下にあることである。 PDE の数学的構造に着想を得て,PDE 成分の完全集合を定義し,それを変換器 PDE ソルバに対する領域ワイド (eg 方程式記号) および点ワイド (eg 境界) 条件として埋め込む。 最近のTransformerの進歩と物理的洞察を統合することで、Unisolverは3つの挑戦的な大規模ベンチマークにおいて、一貫した最先端の結果を達成している。

関連論文リスト

• Deep Equilibrium Based Neural Operators for Steady-State PDEs [100.88355782126098]
  定常PDEに対する重み付けニューラルネットワークアーキテクチャの利点について検討する。 定常PDEの解を直接解くFNOアーキテクチャの深い平衡変種であるFNO-DEQを提案する。
  論文  参考訳（メタデータ） (2023-11-30T22:34:57Z)
• Elucidating the solution space of extended reverse-time SDE for diffusion models [54.23536653351234]
  拡散モデル(DM)は、様々な生成的モデリングタスクにおいて強力な画像生成能力を示す。 その主な制限はサンプリング速度の遅いことであり、高品質な画像を生成するには数百から数千のシーケンシャルな機能評価が必要である。 サンプリングプロセスを拡張逆時間SDEとして定式化し、ODEやSDEへの事前探索を統一する。 我々は, 高速かつトレーニング不要なサンプル装置ER-SDE-rsを考案し, 全サンプル装置の最先端性能を実現した。
  論文  参考訳（メタデータ） (2023-09-12T12:27:17Z)
• Weak-PDE-LEARN: A Weak Form Based Approach to Discovering PDEs From Noisy, Limited Data [0.0]
  Weak-PDE-LEARNは,非線形PDEを雑音から同定し,その解を限定的に測定する探索アルゴリズムである。 いくつかのベンチマークPDEを学習し,Weak-PDE-LEARNの有効性を示す。
  論文  参考訳（メタデータ） (2023-09-09T06:45:15Z)
• Neural Control of Parametric Solutions for High-dimensional Evolution PDEs [6.649496716171139]
  我々は進化偏微分方程式(PDE)の解演算子を近似する新しい計算フレームワークを開発する。 パラメータ空間における制御ベクトル場を学習することにより,PDEの解演算子を近似する。 これにより計算コストを大幅に削減し、任意の初期条件で進化PDEを解くことができる。
  論文  参考訳（メタデータ） (2023-01-31T19:26:25Z)
• Meta-PDE: Learning to Solve PDEs Quickly Without a Mesh [24.572840023107574]
  偏微分方程式(PDE)は、しばしば計算的に解くのが難しい。 本稿では,関連するPDEの分布から,問題の迅速な解法を学習するメタラーニング手法を提案する。
  論文  参考訳（メタデータ） (2022-11-03T06:17:52Z)
• Learning differentiable solvers for systems with hard constraints [48.54197776363251]
  ニューラルネットワーク(NN)によって定義される関数に対する偏微分方程式(PDE)制約を強制する実践的手法を提案する。 我々は、任意のNNアーキテクチャに組み込むことができる微分可能なPDE制約層を開発した。 その結果、NNアーキテクチャに直接ハード制約を組み込むことで、制約のない目的のトレーニングに比べてテストエラーがはるかに少ないことがわかった。
  論文  参考訳（メタデータ） (2022-07-18T15:11:43Z)
• Neural Q-learning for solving PDEs [0.0]
  我々は,強化学習にQ-ラーニングアルゴリズムを適用し,楕円型PDEを解くための新しい数値法を開発した。 我々の「Q-PDE」アルゴリズムはメッシュフリーであり、従って次元の呪いを克服する可能性がある。 楕円型PDEに対するQ-PDEアルゴリズムの数値計算性能について検討した。
  論文  参考訳（メタデータ） (2022-03-31T15:52:44Z)
• Lie Point Symmetry Data Augmentation for Neural PDE Solvers [69.72427135610106]
  本稿では,ニューラルPDEソルバサンプルの複雑性を改善することにより,この問題を部分的に緩和する手法を提案する。 PDEの文脈では、データ変換の完全なリストを定量的に導き出せることが分かりました。 神経性PDEソルバサンプルの複雑さを桁違いに改善するために、どのように容易に展開できるかを示す。
  論文  参考訳（メタデータ） (2022-02-15T18:43:17Z)
• Meta-Auto-Decoder for Solving Parametric Partial Differential Equations [32.46080264991759]
  部分微分方程式 (Partial Differential Equations, PDE) は、科学と工学の多くの分野においてユビキタスであり、解決が困難である。 提案手法はメタオートデコーダ(MAD)と呼ばれ,パラメトリックPDEをメタ学習問題として扱う。 MADは、他のディープラーニング手法と比較して精度を損なうことなく、より高速な収束速度を示す。
  論文  参考訳（メタデータ） (2021-11-15T02:51:42Z)
• dNNsolve: an efficient NN-based PDE solver [62.997667081978825]
  ODE/PDEを解決するためにデュアルニューラルネットワークを利用するdNNsolveを紹介します。 我々は,dNNsolveが1,2,3次元の幅広いODE/PDEを解くことができることを示す。
  論文  参考訳（メタデータ） (2021-03-15T19:14:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。