論文の概要: The Fourier Spectral Transformer Networks For Efficient and Generalizable Nonlinear PDEs Prediction
- arxiv url: http://arxiv.org/abs/2507.05584v1
- Date: Tue, 08 Jul 2025 01:43:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-09 16:34:37.477715
- Title: The Fourier Spectral Transformer Networks For Efficient and Generalizable Nonlinear PDEs Prediction
- Title(参考訳): 効率よく一般化可能な非線形PDE予測のためのフーリエスペクトル変換器ネットワーク
- Authors: Beibei Li,
- Abstract要約: 本研究では、高精度数値解法を用いてトレーニングデータを生成し、Transformerネットワークを用いてスペクトル係数の進化をモデル化する。
提案フレームワークは,複雑な動的システムのリアルタイム予測と制御に期待できるパラダイムを提供する。
- 参考スコア(独自算出の注目度): 1.1272369832509876
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: In this work we propose a unified Fourier Spectral Transformer network that integrates the strengths of classical spectral methods and attention based neural architectures. By transforming the original PDEs into spectral ordinary differential equations, we use high precision numerical solvers to generate training data and use a Transformer network to model the evolution of the spectral coefficients. We demonstrate the effectiveness of our approach on the two dimensional incompressible Navier-Stokes equations and the one dimensional Burgers' equation. The results show that our spectral Transformer can achieve highly accurate long term predictions even with limited training data, better than traditional numerical methods and machine learning methods in forecasting future flow dynamics. The proposed framework generalizes well to unseen data, bringing a promising paradigm for real time prediction and control of complex dynamical systems.
- Abstract(参考訳): 本研究では,古典的スペクトル法と注目に基づくニューラルアーキテクチャの強みを統合する統合されたフーリエスペクトル変換器ネットワークを提案する。
元のPDEをスペクトル常微分方程式に変換することにより、高精度数値解法を用いてトレーニングデータを生成し、Transformerネットワークを用いてスペクトル係数の進化をモデル化する。
我々は,2次元非圧縮性ナビエ・ストークス方程式と1次元バーガーズ方程式に対するアプローチの有効性を実証する。
その結果, スペクトル変換器は, 従来の数値法や機械学習法よりも, 限られた訓練データであっても, 高精度な長期予測が可能であることがわかった。
提案フレームワークは,複雑な動的システムのリアルタイム予測と制御に期待できるパラダイムを提供する。
関連論文リスト
- Koopman Theory-Inspired Method for Learning Time Advancement Operators in Unstable Flame Front Evolution [0.2812395851874055]
本研究は,フレイムフロント不安定性に対するソリューション前進演算子を学習するために,クープマンインスパイアされたフーリエニューラル演算子(kFNO)と畳み込みニューラルニューラルネットワーク(kCNN)を紹介する。
データを高次元の潜在空間に変換することにより、これらのモデルは従来の手法と比較してより正確な多段階予測を実現する。
論文 参考訳(メタデータ) (2024-12-11T14:47:19Z) - From Fourier to Neural ODEs: Flow Matching for Modeling Complex Systems [20.006163951844357]
ニューラル常微分方程式(NODE)を学習するためのシミュレーション不要なフレームワークを提案する。
フーリエ解析を用いて、ノイズの多い観測データから時間的および潜在的高次空間勾配を推定する。
我々の手法は、トレーニング時間、ダイナミクス予測、堅牢性の観点から、最先端の手法よりも優れています。
論文 参考訳(メタデータ) (2024-05-19T13:15:23Z) - Multi-scale Time-stepping of Partial Differential Equations with
Transformers [8.430481660019451]
偏微分方程式(PDE)のための高速サロゲートの開発
我々のモデルは、ナヴィエ・ストークス方程式の時間進化を予測する際に、同様のあるいはより良い結果が得られる。
論文 参考訳(メタデータ) (2023-11-03T20:26:43Z) - Spectral operator learning for parametric PDEs without data reliance [6.7083321695379885]
本研究では,データ活用を必要とせずにパラメトリック偏微分方程式(PDE)を解く演算子に基づく新しい手法を提案する。
提案手法は,既存の科学的機械学習技術と比較して優れた性能を示す。
論文 参考訳(メタデータ) (2023-10-03T12:37:15Z) - Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。
そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文 参考訳(メタデータ) (2023-04-08T07:55:36Z) - Transform Once: Efficient Operator Learning in Frequency Domain [69.74509540521397]
本研究では、周波数領域の構造を利用して、空間や時間における長距離相関を効率的に学習するために設計されたディープニューラルネットワークについて検討する。
この研究は、単一変換による周波数領域学習のための青写真を導入している。
論文 参考訳(メタデータ) (2022-11-26T01:56:05Z) - NAG-GS: Semi-Implicit, Accelerated and Robust Stochastic Optimizer [45.47667026025716]
2つの重要な要素に依存した、新しく、堅牢で、加速された反復を提案する。
NAG-GSと呼ばれる手法の収束と安定性は、まず広範に研究されている。
我々は、NAG-arityが、重量減衰を伴う運動量SGDや機械学習モデルのトレーニングのためのAdamWといった最先端の手法と競合していることを示す。
論文 参考訳(メタデータ) (2022-09-29T16:54:53Z) - Equivariant vector field network for many-body system modeling [65.22203086172019]
Equivariant Vector Field Network (EVFN) は、新しい同変層と関連するスカラー化およびベクトル化層に基づいて構築されている。
シミュレーションされたニュートン力学系の軌跡を全観測データと部分観測データで予測する手法について検討した。
論文 参考訳(メタデータ) (2021-10-26T14:26:25Z) - Efficient Semi-Implicit Variational Inference [65.07058307271329]
効率的でスケーラブルな半単純外挿 (SIVI) を提案する。
本手法はSIVIの証拠を低勾配値の厳密な推測にマッピングする。
論文 参考訳(メタデータ) (2021-01-15T11:39:09Z) - Liquid Time-constant Networks [117.57116214802504]
本稿では,時間連続リカレントニューラルネットワークモデルについて紹介する。
暗黙の非線形性によって学習システムの力学を宣言する代わりに、線形一階力学系のネットワークを構築する。
これらのニューラルネットワークは安定かつ有界な振る舞いを示し、ニューラル常微分方程式の族の中で優れた表現性をもたらす。
論文 参考訳(メタデータ) (2020-06-08T09:53:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。