論文の概要: Enhancing Solutions for Complex PDEs: Introducing Complementary Convolution and Equivariant Attention in Fourier Neural Operators
- arxiv url: http://arxiv.org/abs/2311.12902v2
- Date: Fri, 26 Jul 2024 07:08:19 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-29 18:31:34.097600
- Title: Enhancing Solutions for Complex PDEs: Introducing Complementary Convolution and Equivariant Attention in Fourier Neural Operators
- Title（参考訳）: 複雑PDEのためのソリューションの強化:フーリエニューラル演算子における相補的畳み込みと同変注意の導入
- Authors: Xuanle Zhao, Yue Sun, Tielin Zhang, Bo Xu,
- Abstract要約: 複雑なPDEを解くために,畳み込み-残留層と注意機構を備えた新しい階層型フーリエニューラル演算子を提案する。
提案手法はこれらのPDEベンチマークにおいて,特に高速な係数変動を特徴とする方程式に対して,優れた性能を実現する。
- 参考スコア（独自算出の注目度）: 17.91230192726962
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural operators improve conventional neural networks by expanding their capabilities of functional mappings between different function spaces to solve partial differential equations (PDEs). One of the most notable methods is the Fourier Neural Operator (FNO), which draws inspiration from Green's function method and directly approximates operator kernels in the frequency domain. However, after empirical observation followed by theoretical validation, we demonstrate that the FNO approximates kernels primarily in a relatively low-frequency domain. This suggests a limited capability in solving complex PDEs, particularly those characterized by rapid coefficient changes and oscillations in the solution space. Such cases are crucial in specific scenarios, like atmospheric convection and ocean circulation. To address this challenge, inspired by the translation equivariant of the convolution kernel, we propose a novel hierarchical Fourier neural operator along with convolution-residual layers and attention mechanisms to make them complementary in the frequency domain to solve complex PDEs. We perform experiments on forward and reverse problems of multiscale elliptic equations, Navier-Stokes equations, and other physical scenarios, and find that the proposed method achieves superior performance in these PDE benchmarks, especially for equations characterized by rapid coefficient variations.
- Abstract（参考訳）: ニューラル演算子は、偏微分方程式(PDE)を解くために、異なる関数空間間の関数写像の能力を拡大することで、従来のニューラルネットワークを改善する。
最も重要な手法の1つはフーリエニューラル演算子(FNO)であり、これはグリーンの関数法からインスピレーションを得て、周波数領域の演算子カーネルを直接近似する。
しかし、実験的な観察の後、理論的な検証を行い、FNOは主に比較的低周波領域の核を近似することを示した。
このことは、複雑なPDE、特に急激な係数変化と解空間での発振を特徴とする問題の解決能力に限界があることを示唆している。
このようなケースは、大気の対流や海洋循環といった特定のシナリオにおいて重要である。
この課題に対処するために、畳み込みカーネルの変換同変にインスパイアされた新しい階層型フーリエニューラル演算子と畳み込み残余層とアテンション機構を提案し、複雑なPDEを解くために周波数領域でそれらを補完する。
我々は,多スケール楕円型方程式,ナビエ・ストークス方程式,その他の物理シナリオの前方および逆問題に関する実験を行い,提案手法がこれらのPDEベンチマークにおいて,特に高速係数の変動を特徴とする方程式に対して,優れた性能を達成できることを見出した。
関連論文リスト
- DimOL: Dimensional Awareness as A New 'Dimension' in Operator Learning [63.5925701087252]
本稿では,DimOL(Dimension-aware Operator Learning)を紹介し,次元解析から洞察を得る。
DimOLを実装するために,FNOおよびTransformerベースのPDEソルバにシームレスに統合可能なProdLayerを提案する。
経験的に、DimOLモデルはPDEデータセット内で最大48%のパフォーマンス向上を達成する。
論文 参考訳（メタデータ） (2024-10-08T10:48:50Z) - Graph Fourier Neural Kernels (G-FuNK): Learning Solutions of Nonlinear Diffusive Parametric PDEs on Multiple Domains [2.8780581594260926]
グラフフーリエニューラルカーネルに基づくニューラル演算子の新しいファミリーを導入する。
G-FuNKはパラメータとドメイン適応のコンポーネントを、そうでないコンポーネントと組み合わせている。
実験では、G-FuNKが熱、反応拡散、心電気生理学的方程式を正確に近似する能力を示した。
論文 参考訳（メタデータ） (2024-10-06T23:55:34Z) - Dilated convolution neural operator for multiscale partial differential equations [11.093527996062058]
本稿では,多スケール偏微分方程式に対するDilated Convolutional Neural Operator (DCNO)を提案する。
DCNOアーキテクチャは、低計算コストを維持しながら、高周波と低周波の両方の特徴を効果的にキャプチャする。
我々は,DCNOが精度と計算コストの最適なバランスをとることを示し,マルチスケール演算子学習に有望なソリューションを提供する。
論文 参考訳（メタデータ） (2024-07-16T08:17:02Z) - Physics-embedded Fourier Neural Network for Partial Differential Equations [35.41134465442465]
物理埋め込みフーリエニューラルネット(PeFNN)を柔軟かつ説明可能な誤差で導入する。
PeFNNは運動量保存を強制し、解釈可能な非線形表現を得るように設計されている。
我々は,大規模な洪水シミュレーションのような実世界のアプリケーションに挑戦する上で,その優れた性能を実証する。
論文 参考訳（メタデータ） (2024-07-15T18:30:39Z) - Coupled Multiwavelet Neural Operator Learning for Coupled Partial
Differential Equations [13.337268390844745]
本稿では,結合した積分カーネルを分離し,テキスト結合型マルチウェーブレットニューラル演算子(CMWNO)の学習手法を提案する。
提案手法は,従来の学習型解法に比べて精度が高い。
論文 参考訳（メタデータ） (2023-03-04T03:06:47Z) - Incremental Spatial and Spectral Learning of Neural Operators for
Solving Large-Scale PDEs [86.35471039808023]
Incrmental Fourier Neural Operator (iFNO)を導入し、モデルが使用する周波数モードの数を徐々に増加させる。
iFNOは、各種データセット間の一般化性能を維持したり改善したりしながら、トレーニング時間を短縮する。
提案手法は,既存のフーリエニューラル演算子に比べて20%少ない周波数モードを用いて,10%低いテスト誤差を示すとともに,30%高速なトレーニングを実現する。
論文 参考訳（メタデータ） (2022-11-28T09:57:15Z) - Blending Neural Operators and Relaxation Methods in PDE Numerical Solvers [3.2712166248850685]
HINTSは偏微分方程式のハイブリッド、反復、数値、移乗可能な解法である。
DeepONetのスペクトルバイアスを利用して固有モードのスペクトル間の収束挙動のバランスをとる。
離散化、計算領域、境界条件に関して柔軟である。
論文 参考訳（メタデータ） (2022-08-28T19:07:54Z) - Neural Basis Functions for Accelerating Solutions to High Mach Euler
Equations [63.8376359764052]
ニューラルネットワークを用いた偏微分方程式(PDE)の解法を提案する。
ニューラルネットワークの集合を縮小順序 Proper Orthogonal Decomposition (POD) に回帰する。
これらのネットワークは、所定のPDEのパラメータを取り込み、PDEに還元順序近似を計算する分岐ネットワークと組み合わせて使用される。
論文 参考訳（メタデータ） (2022-08-02T18:27:13Z) - Momentum Diminishes the Effect of Spectral Bias in Physics-Informed
Neural Networks [72.09574528342732]
物理インフォームドニューラルネットワーク(PINN)アルゴリズムは、偏微分方程式(PDE)を含む幅広い問題を解く上で有望な結果を示している。
彼らはしばしば、スペクトルバイアスと呼ばれる現象のために、ターゲット関数が高周波の特徴を含むとき、望ましい解に収束しない。
本研究は, 運動量による勾配降下下で進化するPINNのトレーニングダイナミクスを, NTK(Neural Tangent kernel)を用いて研究するものである。
論文 参考訳（メタデータ） (2022-06-29T19:03:10Z) - Fourier Neural Operator for Parametric Partial Differential Equations [57.90284928158383]
積分カーネルを直接フーリエ空間でパラメータ化することで、新しいニューラル演算子を定式化する。
バーガースの方程式、ダーシー流、ナビエ・ストークス方程式の実験を行う。
従来のPDEソルバに比べて最大3桁高速である。
論文 参考訳（メタデータ） (2020-10-18T00:34:21Z) - Multipole Graph Neural Operator for Parametric Partial Differential
Equations [57.90284928158383]
物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。
線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。
実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
論文 参考訳（メタデータ） (2020-06-16T21:56:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。