論文の概要: Unisolver: PDE-Conditional Transformers Are Universal PDE Solvers

• arxiv url: http://arxiv.org/abs/2405.17527v3
• Date: Tue, 08 Oct 2024 03:36:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-10 14:28:57.422662
• Title: Unisolver: PDE-Conditional Transformers Are Universal PDE Solvers
• Title（参考訳）: Unisolver: PDE-Conditional TransformerはユニバーサルPDEソルバー
• Authors: Hang Zhou, Yuezhou Ma, Haixu Wu, Haowen Wang, Mingsheng Long,
• Abstract要約: 広範にPDEを解くことができるUniversal PDEソルバ(Unisolver)を提案する。 私たちの重要な発見は、PDEソリューションが基本的に一連のPDEコンポーネントの制御下にあることです。 Unisolverは3つの挑戦的な大規模ベンチマークにおいて、一貫した最先端の結果を達成する。
• 参考スコア（独自算出の注目度）: 55.0876373185983
• License:
• Abstract: Deep models have recently emerged as a promising tool to solve partial differential equations (PDEs), known as neural PDE solvers. While neural solvers trained from either simulation data or physics-informed loss can solve PDEs reasonably well, they are mainly restricted to a few instances of PDEs, e.g. a certain equation with a limited set of coefficients. This limits the generalization of neural solvers to diverse PDEs, impeding them from being practical surrogate models for numerical solvers. In this paper, we present the Universal PDE Solver (Unisolver) capable of solving a wide scope of PDEs by training a novel Transformer model on diverse data and conditioned on diverse PDEs. Instead of purely scaling up data and parameters, Unisolver stems from the theoretical analysis of the PDE-solving process. Our key finding is that a PDE solution is fundamentally under the control of a series of PDE components, e.g. equation symbols, coefficients, and boundary conditions. Inspired by the mathematical structure of PDEs, we define a complete set of PDE components and flexibly embed them as domain-wise (e.g. equation symbols) and point-wise (e.g. boundaries) conditions for Transformer PDE solvers. Integrating physical insights with recent Transformer advances, Unisolver achieves consistent state-of-the-art results on three challenging large-scale benchmarks, showing impressive performance gains and favorable PDE generalizability.
• Abstract（参考訳）: ディープモデルは、ニューラルPDEソルバとして知られる偏微分方程式(PDE)を解くための有望なツールとして最近登場した。 シミュレーションデータまたは物理インフォームドロスから訓練されたニューラルソルバは、PDEを合理的に解くことができるが、主に数個のPDE(例えば係数の限られた方程式)に制限される。 これにより、ニューラルソルバの一般化は多様なPDEに制限され、数値ソルバの実用的なサロゲートモデルになることを妨げている。 本稿では,多種多様なPDEに基づいて新しいトランスフォーマーモデルをトレーニングし,多種多様なPDEに条件付けすることで,PDEの幅広い範囲を解決できるUniversal PDEソルバー(Unisolver)を提案する。 データとパラメータを純粋にスケールアップする代わりに、UnisolverはPDE解決プロセスの理論解析に由来する。 我々の重要な発見は、PDE解は基本的に一連のPDE成分、例えば方程式記号、係数、境界条件の制御下にあることである。 PDE の数学的構造に着想を得て,PDE 成分の完全集合を定義し,それを領域ワイド (eg 方程式記号) および点ワイド (eg 境界) 条件として柔軟に埋め込む。 最近のTransformerの進歩と物理的洞察を統合することで、Unisolverは3つの挑戦的な大規模ベンチマークにおいて、一貫した最先端の結果を達成し、優れたパフォーマンス向上と良好なPDE一般化性を示している。

関連論文リスト

• Deep Equilibrium Based Neural Operators for Steady-State PDEs [100.88355782126098]
  定常PDEに対する重み付けニューラルネットワークアーキテクチャの利点について検討する。 定常PDEの解を直接解くFNOアーキテクチャの深い平衡変種であるFNO-DEQを提案する。
  論文  参考訳（メタデータ） (2023-11-30T22:34:57Z)
• Elucidating the solution space of extended reverse-time SDE for diffusion models [54.23536653351234]
  拡散モデル(DM)は、様々な生成的モデリングタスクにおいて強力な画像生成能力を示す。 その主な制限はサンプリング速度の遅いことであり、高品質な画像を生成するには数百から数千のシーケンシャルな機能評価が必要である。 サンプリングプロセスを拡張逆時間SDEとして定式化し、ODEやSDEへの事前探索を統一する。 我々は, 高速かつトレーニング不要なサンプル装置ER-SDE-rsを考案し, 全サンプル装置の最先端性能を実現した。
  論文  参考訳（メタデータ） (2023-09-12T12:27:17Z)
• Weak-PDE-LEARN: A Weak Form Based Approach to Discovering PDEs From Noisy, Limited Data [0.0]
  Weak-PDE-LEARNは,非線形PDEを雑音から同定し,その解を限定的に測定する探索アルゴリズムである。 いくつかのベンチマークPDEを学習し,Weak-PDE-LEARNの有効性を示す。
  論文  参考訳（メタデータ） (2023-09-09T06:45:15Z)
• Neural Control of Parametric Solutions for High-dimensional Evolution PDEs [6.649496716171139]
  我々は進化偏微分方程式(PDE)の解演算子を近似する新しい計算フレームワークを開発する。 パラメータ空間における制御ベクトル場を学習することにより,PDEの解演算子を近似する。 これにより計算コストを大幅に削減し、任意の初期条件で進化PDEを解くことができる。
  論文  参考訳（メタデータ） (2023-01-31T19:26:25Z)
• Meta-PDE: Learning to Solve PDEs Quickly Without a Mesh [24.572840023107574]
  偏微分方程式(PDE)は、しばしば計算的に解くのが難しい。 本稿では,関連するPDEの分布から,問題の迅速な解法を学習するメタラーニング手法を提案する。
  論文  参考訳（メタデータ） (2022-11-03T06:17:52Z)
• Learning differentiable solvers for systems with hard constraints [48.54197776363251]
  ニューラルネットワーク(NN)によって定義される関数に対する偏微分方程式(PDE)制約を強制する実践的手法を提案する。 我々は、任意のNNアーキテクチャに組み込むことができる微分可能なPDE制約層を開発した。 その結果、NNアーキテクチャに直接ハード制約を組み込むことで、制約のない目的のトレーニングに比べてテストエラーがはるかに少ないことがわかった。
  論文  参考訳（メタデータ） (2022-07-18T15:11:43Z)
• Neural Q-learning for solving PDEs [0.0]
  我々は,強化学習にQ-ラーニングアルゴリズムを適用し,楕円型PDEを解くための新しい数値法を開発した。 我々の「Q-PDE」アルゴリズムはメッシュフリーであり、従って次元の呪いを克服する可能性がある。 楕円型PDEに対するQ-PDEアルゴリズムの数値計算性能について検討した。
  論文  参考訳（メタデータ） (2022-03-31T15:52:44Z)
• Lie Point Symmetry Data Augmentation for Neural PDE Solvers [69.72427135610106]
  本稿では,ニューラルPDEソルバサンプルの複雑性を改善することにより,この問題を部分的に緩和する手法を提案する。 PDEの文脈では、データ変換の完全なリストを定量的に導き出せることが分かりました。 神経性PDEソルバサンプルの複雑さを桁違いに改善するために、どのように容易に展開できるかを示す。
  論文  参考訳（メタデータ） (2022-02-15T18:43:17Z)
• Meta-Auto-Decoder for Solving Parametric Partial Differential Equations [32.46080264991759]
  部分微分方程式 (Partial Differential Equations, PDE) は、科学と工学の多くの分野においてユビキタスであり、解決が困難である。 提案手法はメタオートデコーダ(MAD)と呼ばれ,パラメトリックPDEをメタ学習問題として扱う。 MADは、他のディープラーニング手法と比較して精度を損なうことなく、より高速な収束速度を示す。
  論文  参考訳（メタデータ） (2021-11-15T02:51:42Z)
• dNNsolve: an efficient NN-based PDE solver [62.997667081978825]
  ODE/PDEを解決するためにデュアルニューラルネットワークを利用するdNNsolveを紹介します。 我々は,dNNsolveが1,2,3次元の幅広いODE/PDEを解くことができることを示す。
  論文  参考訳（メタデータ） (2021-03-15T19:14:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。