論文の概要: LLT: Local Linear Transformer for PDE Operator Learning
- arxiv url: http://arxiv.org/abs/2607.07718v1
- Date: Sat, 04 Jul 2026 11:07:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-10 14:45:27.274905
- Title: LLT: Local Linear Transformer for PDE Operator Learning
- Title(参考訳): LLT: PDE演算子学習のための局所線形変換器
- Abstract要約: PDE演算子学習のための局所線形変換器(LLT)を提案する。
LLTは線形グローバルアテンションと局所空間ミキシングを結合し、座標情報と幾何学情報を組み込む。
弾性, 塑性, 気流, 管流, ダーシー流などのPDE問題に対するLLTの評価を行った。
- 参考スコア(独自算出の注目度): 0.10742675209112622
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural operators have become a common approach for learning PDE solution maps and accelerating numerical simulations. Transformer-based neural operators are of particular interest, since attention can learn long-range dependencies in the computational domain. However, standard attention has two major limitations when applied to PDEs: it scales quadratically with the number of computational nodes, and it lacks an explicit bias toward local interactions. To address these issues, we introduce Local Linear Transformer (LLT) for PDE operator learning. The architecture combines linear global attention with local spatial mixing, and incorporates coordinate and geometry information. We evaluate LLT on several PDE problems, including elasticity, plasticity, airfoil flow, pipe flow, and Darcy flow. The reference data for these problems span finite-element, finite-volume, and finite-difference discretizations on structured and unstructured meshes. Compared with other neural-operator and transformer baselines from prior studies, LLT achieves competitive or lower relative $L_2$ error across these problems. On matched structured discretizations, wall-clock time per training iteration is reduced by factors of 1.8 to 2.5 relative to Transolver. We also scale the approach and apply it to a three-dimensional car aerodynamics dataset with 32,186 unstructured mesh points per sample. Together, these results indicate that LLT provides an accurate and computationally efficient operator for PDE problems across discretizations, mesh types, and problem settings.
- Abstract(参考訳): ニューラル作用素は、PDEソリューションマップを学習し、数値シミュレーションを加速する一般的なアプローチとなっている。
トランスフォーマーベースのニューラル演算子は、注意が計算領域における長距離依存を学習できるため、特に興味深い。
しかしながら、PDEに適用される場合、標準的な注意力には2つの大きな制限がある。
これらの問題に対処するために、PDE演算子学習のためのローカル線形変換器(LLT)を導入する。
このアーキテクチャは、線形大域的注意と局所的な空間混合を結合し、座標情報と幾何学情報を組み込む。
弾性, 塑性, 翼流, 管流, ダーシー流など, いくつかのPDE問題に対するLLTの評価を行った。
これらの問題の基準データは、構造化および非構造化メッシュ上の有限要素、有限体積、有限差分離散化にまたがる。
従来のニューラルネットワークやトランスフォーマーのベースラインと比較して、LLTはこれらの問題に対して競合的あるいは低い相対的な$L_2$エラーを達成している。
一致した構造的離散化では、トレーニングイテレーション毎のウォールタイム時間は、Transolverと比較して1.8から2.5に短縮される。
また、このアプローチをスケールし、サンプルあたり32,186個の非構造メッシュポイントを持つ3次元自動車空力学データセットに適用する。
これらの結果から,LLTは離散化やメッシュタイプ,問題設定といったPDE問題に対して,正確かつ効率的な演算子を提供することが示された。
関連論文リスト
- Local gradient neural operator [12.997669738865484]
典型的機械的問題における現場時間進化予測と情報源同定のための軽量で解釈可能な代替案を提案する。
この手法は非線形勾配の離散化から先行して構築され、多層パーセプトロン畳み込み層を用いて翻訳不変な局所カーネルを学習する。
線形,非線形,静的,動的,低次元,高次元を対象とするPDEベンチマークの評価を行った。
論文 参考訳(メタデータ) (2026-09-07T16:53:47Z) - CompNO: A Novel Foundation Model approach for solving Partial Differential Equations [0.0]
偏微分方程式は幅広い物理現象を支配しているが、その数値解は計算的に要求されるままである。
最近のSFM(Scientific Foundation Models)は、シミュレーションシステムの大規模なコレクションから普遍的なサロゲートを学習することで、このコストを軽減することを目的としている。
パラメトリックPDEのための合成ニューラルネットワークフレームワークCompNOを紹介する。
論文 参考訳(メタデータ) (2026-01-12T10:04:48Z) - Tensor Gaussian Processes: Efficient Solvers for Nonlinear PDEs [16.38975732337055]
TGPSは偏微分方程式の機械学習解法である。
1次元GPの集合を学習する作業を減らす。
既存の手法に比べて精度と効率が優れている。
論文 参考訳(メタデータ) (2025-10-15T17:23:21Z) - Geometric Operator Learning with Optimal Transport [77.16909146519227]
複素測地上での偏微分方程式(PDE)に対する演算子学習に最適輸送(OT)を統合することを提案する。
表面に焦点を当てた3次元シミュレーションでは、OTベースのニューラルオペレーターが表面形状を2次元パラメータ化潜在空間に埋め込む。
ShapeNet-Car と DrivAerNet-Car を用いたレイノルズ平均化 Navier-Stokes 方程式 (RANS) を用いた実験により,提案手法は精度の向上と計算コストの削減を図った。
論文 参考訳(メタデータ) (2025-07-26T21:28:25Z) - LaPON: A Lagrange's-mean-value-theorem-inspired operator network for solving PDEs and its application on NSE [8.014720523981385]
ラグランジュの平均値定理に着想を得た演算子ネットワークであるLaPONを提案する。
損失関数ではなく、ニューラルネットワークアーキテクチャに直接、事前の知識を組み込む。
LaPONは、高忠実度流体力学シミュレーションのためのスケーラブルで信頼性の高いソリューションを提供する。
論文 参考訳(メタデータ) (2025-05-18T10:45:17Z) - Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum [78.27945336558987]
分散サーバ(DFL)はクライアント・クライアント・アーキテクチャへの依存をなくす。
非滑らかな正規化はしばしば機械学習タスクに組み込まれる。
本稿では,これらの問題を解決する新しいDNCFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-04-17T08:32:25Z) - Enabling Automatic Differentiation with Mollified Graph Neural Operators [73.52999622724101]
本稿では,自動微分と任意のジオメトリの正確な勾配を求める最初の手法であるモリファイドグラフニューラル演算子(m$GNO)を提案する。
正規格子上のPDEの例では、$m$GNOとオートグレードの組み合わせにより、L2相対データの誤差は有限差に比べて20倍減少した。
また、物理損失のみを使用し、有限差分に必要な分解能よりもはるかに低い精度で、非構造化点雲上のPDEをシームレスに解くことができる。
論文 参考訳(メタデータ) (2025-04-11T06:16:30Z) - Pretraining Codomain Attention Neural Operators for Solving Multiphysics PDEs [85.40198664108624]
PDEを用いた多物理問題の解法として,コドメイン注意ニューラル演算子(CoDA-NO)を提案する。
CoDA-NOはコドメインやチャネル空間に沿った機能をトークン化し、複数のPDEシステムの自己教師付き学習や事前訓練を可能にする。
CoDA-NOは、データ制限のある複雑な下流タスクにおいて、既存のメソッドを36%以上上回ります。
論文 参考訳(メタデータ) (2024-03-19T08:56:20Z) - Solving High-Dimensional PDEs with Latent Spectral Models [74.1011309005488]
我々は,高次元PDEの効率的かつ高精度な解法に向けて,Latent Spectral Models (LSM) を提案する。
数値解析において古典スペクトル法に着想を得て,潜時空間におけるPDEを解くために,ニューラルスペクトルブロックを設計する。
LSMは、一貫した最先端を実現し、7つのベンチマークで平均11.5%の相対的な利益を得る。
論文 参考訳(メタデータ) (2023-01-30T04:58:40Z) - LordNet: An Efficient Neural Network for Learning to Solve Parametric Partial Differential Equations without Simulated Data [47.49194807524502]
エンタングルメントをモデル化するためのチューナブルで効率的なニューラルネットワークであるLordNetを提案する。
ポアソン方程式と(2Dおよび3D)ナビエ・ストークス方程式を解く実験は、長距離の絡み合いがロードネットによってうまくモデル化できることを示した。
論文 参考訳(メタデータ) (2022-06-19T14:41:08Z) - Lie Point Symmetry Data Augmentation for Neural PDE Solvers [69.72427135610106]
本稿では,ニューラルPDEソルバサンプルの複雑性を改善することにより,この問題を部分的に緩和する手法を提案する。
PDEの文脈では、データ変換の完全なリストを定量的に導き出せることが分かりました。
神経性PDEソルバサンプルの複雑さを桁違いに改善するために、どのように容易に展開できるかを示す。
論文 参考訳(メタデータ) (2022-02-15T18:43:17Z) - Non-linear Independent Dual System (NIDS) for Discretization-independent
Surrogate Modeling over Complex Geometries [0.0]
非線形独立双対系(Non-linear independent dual system、NIDS)は、PDEソリューションの離散化独立で連続的な表現のための深層学習サロゲートモデルである。
NIDSは複雑な可変ジオメトリとメッシュトポロジを持つドメインの予測に使用できる。
テストケースには、複雑な幾何学とデータ不足を伴う車両の問題が含まれており、訓練方法によって実現されている。
論文 参考訳(メタデータ) (2021-09-14T23:38:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。