論文の概要: CATO: Charted Attention for Neural PDE Operators
- arxiv url: http://arxiv.org/abs/2605.09016v1
- Date: Sat, 09 May 2026 15:55:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:50.022447
- Title: CATO: Charted Attention for Neural PDE Operators
- Title(参考訳): CATO:ニューラルPDE演算子に対するチャートアテンション
- Abstract要約: 一般測地上でのPDEのための幾何適応・微分認識型ニューラル演算子であるCharted Axial Transformer Operator (CATO)を紹介する。
物理座標系に直接注意を向ける代わりに、CATOはメッシュ座標を学習されたチャート空間にマッピングする連続潜在チャートを学習する。
さらに、CATOは定常PDEに対して、解値、メッシュ一貫性勾配、補助フラックスのような場を共同で監督する微分物理学的損失を導入する。
- 参考スコア(独自算出の注目度): 21.5068146747055
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural operators have emerged as powerful data-driven solvers for PDEs, offering substantial acceleration over classical numerical methods. However, existing transformer-based operators still face critical challenges when modeling PDEs on complex geometries: directly processing over massive mesh points is computationally expensive, while operating in raw discretization coordinates may obscure the intrinsic geometry where physical interactions are more naturally expressed. To address these limitations, we introduce the Charted Axial Transformer Operator (CATO), a geometry-adaptive and derivative-aware neural operator for PDEs on general geometries. Instead of applying attention directly in the physical coordinate system, CATO learns a continuous latent chart that maps mesh coordinates into a learned chart space, where chart-conditioned axial attention efficiently captures long-range dependencies with reduced computational cost. In addition, CATO introduces a derivative-aware physics loss for steady-state PDEs that jointly supervises solution values, mesh-consistent gradients, and an auxiliary flux-like field, improving physical fidelity and reducing oversmoothing. We further provide a theoretical approximation result showing that, under a favorable chart, charted axial attention can represent low-rank axial solution operators with controlled error, and that small chart perturbations induce bounded approximation degradation. CATO achieves the best performance across all evaluated datasets, yielding an average improvement of approximately 26.76\% over the strongest competing baselines while reducing the number of parameters by 81.98\%. These results highlight the effectiveness of learning geometry-adaptive charts and derivative-aware physical supervision for accurate and efficient PDE operator learning.
- Abstract(参考訳): ニューラルネットワークはPDEの強力なデータ駆動型解法として登場し、古典的数値法よりもかなり加速された。
しかし、既存のトランスフォーマーベースの演算子は、複雑なジオメトリ上でPDEをモデル化する際、依然として重要な課題に直面している: 巨大なメッシュポイントを直接処理することは計算コストが高いが、生の離散化座標では、物理的相互作用がより自然に表現される固有の幾何学を曖昧にすることができる。
これらの制約に対処するために、一般測地上でのPDEのための幾何適応および微分認識型ニューラル演算子であるCharted Axial Transformer Operator (CATO)を導入する。
物理座標系に直接注意を向ける代わりに、CATOはメッシュ座標を学習されたチャート空間にマッピングする連続潜時チャートを学習する。
さらに、CATOは、定常PDEに対して、解の値、メッシュ一貫性勾配、補助フラックスのような場を共同で監督し、物理的忠実度を改善し、過度に平滑化を減少させる微分物理学的損失を導入する。
さらに, グラフが好ましく, チャート付き軸方向の注意は制御誤差で低ランク軸方向の解演算子を表現でき, 小さいチャートの摂動は有界近似分解を誘導することを示す理論近似結果を提供する。
CATOはすべての評価データセットで最高のパフォーマンスを達成し、最強の競合するベースラインよりも平均26.76\%向上し、パラメータの数を81.98\%削減した。
これらの結果は,PDE演算子学習における幾何適応チャートと微分対応物理監督の有効性を強調した。
関連論文リスト
- PCGD: Physics-Guided Conditional Graph Diffusion for TCAD Device Simulation [9.52305650797911]
非構造化TCADメッシュ上で動作する物理誘導型条件付きグラフ拡散フレームワークPCGDを紹介する。
PCGDは静電場とキャリア密度場の結合を予測する。
剛体ドリフト拡散方程式の典型的な数値不安定性を回避できる。
論文 参考訳(メタデータ) (2026-06-28T08:40:41Z) - Latent Dynamics Graph Convolutional Networks for model order reduction of parameterized time-dependent PDEs [0.0]
本稿では,データ駆動型エンコーダフリーアーキテクチャであるLatent Dynamics Graph Conal Network (LD-GCN)を紹介する。
LD-GCNは外部入力とパラメータで条件付けられた動的システムのグローバルで低次元の表現を学習する。
本フレームワークは,削減されたダイナミクスの解析を可能にし,ゼロショット予測をサポートすることにより,解釈可能性を向上させる。
論文 参考訳(メタデータ) (2026-01-16T13:10:00Z) - An Operator-Consistent Graph Neural Network for Learning Diffusion Dynamics on Irregular Meshes [0.0]
拡散、損傷、治癒などの多物理相互作用は、しばしば不規則なメッシュ上で起こる。
我々は,物理インフォームド制約下でのPDE進化を近似する演算子一貫性グラフニューラルネットワーク(OCGNN-PINN)を開発した。
論文 参考訳(メタデータ) (2025-12-05T06:58:25Z) - Geometric Operator Learning with Optimal Transport [77.16909146519227]
複素測地上での偏微分方程式(PDE)に対する演算子学習に最適輸送(OT)を統合することを提案する。
表面に焦点を当てた3次元シミュレーションでは、OTベースのニューラルオペレーターが表面形状を2次元パラメータ化潜在空間に埋め込む。
ShapeNet-Car と DrivAerNet-Car を用いたレイノルズ平均化 Navier-Stokes 方程式 (RANS) を用いた実験により,提案手法は精度の向上と計算コストの削減を図った。
論文 参考訳(メタデータ) (2025-07-26T21:28:25Z) - Enabling Automatic Differentiation with Mollified Graph Neural Operators [73.52999622724101]
本稿では,自動微分と任意のジオメトリの正確な勾配を求める最初の手法であるモリファイドグラフニューラル演算子(m$GNO)を提案する。
正規格子上のPDEの例では、$m$GNOとオートグレードの組み合わせにより、L2相対データの誤差は有限差に比べて20倍減少した。
また、物理損失のみを使用し、有限差分に必要な分解能よりもはるかに低い精度で、非構造化点雲上のPDEをシームレスに解くことができる。
論文 参考訳(メタデータ) (2025-04-11T06:16:30Z) - Dual Cone Gradient Descent for Training Physics-Informed Neural Networks [0.0]
物理インフォームド・デュアルニューラルネットワーク(PINN)は偏微分方程式の解法として注目されている。
コーン領域内に落下するのを確実にするために、更新された勾配の方向を調節する新しいフレームワークであるDual Cone Gradient Descent (DCGD)を提案する。
論文 参考訳(メタデータ) (2024-09-27T03:27:46Z) - Implicit Stochastic Gradient Descent for Training Physics-informed
Neural Networks [51.92362217307946]
物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。
PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。
本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
論文 参考訳(メタデータ) (2023-03-03T08:17:47Z) - Solving High-Dimensional PDEs with Latent Spectral Models [74.1011309005488]
我々は,高次元PDEの効率的かつ高精度な解法に向けて,Latent Spectral Models (LSM) を提案する。
数値解析において古典スペクトル法に着想を得て,潜時空間におけるPDEを解くために,ニューラルスペクトルブロックを設計する。
LSMは、一貫した最先端を実現し、7つのベンチマークで平均11.5%の相対的な利益を得る。
論文 参考訳(メタデータ) (2023-01-30T04:58:40Z) - LordNet: An Efficient Neural Network for Learning to Solve Parametric Partial Differential Equations without Simulated Data [47.49194807524502]
エンタングルメントをモデル化するためのチューナブルで効率的なニューラルネットワークであるLordNetを提案する。
ポアソン方程式と(2Dおよび3D)ナビエ・ストークス方程式を解く実験は、長距離の絡み合いがロードネットによってうまくモデル化できることを示した。
論文 参考訳(メタデータ) (2022-06-19T14:41:08Z) - Physics-constrained Unsupervised Learning of Partial Differential
Equations using Meshes [1.066048003460524]
グラフニューラルネットワークは、不規則にメッシュ化されたオブジェクトを正確に表現し、それらのダイナミクスを学ぶことを約束する。
本研究では、メッシュをグラフとして自然に表現し、グラフネットワークを用いてそれらを処理し、物理に基づく損失を定式化し、偏微分方程式(PDE)の教師なし学習フレームワークを提供する。
本フレームワークは, ソフトボディ変形のモデルベース制御など, PDEソルバをインタラクティブな設定に適用する。
論文 参考訳(メタデータ) (2022-03-30T19:22:56Z) - Cogradient Descent for Dependable Learning [64.02052988844301]
双線形最適化問題に対処するために,CoGDアルゴリズムに基づく信頼度の高い学習法を提案する。
CoGDは、ある変数がスパーシティ制約を持つ場合の双線形問題を解くために導入された。
また、特徴と重みの関連を分解するためにも使用できるため、畳み込みニューラルネットワーク(CNN)をより良く訓練するための我々の手法をさらに一般化することができる。
論文 参考訳(メタデータ) (2021-06-20T04:28:20Z) - SGCN:Sparse Graph Convolution Network for Pedestrian Trajectory
Prediction [64.16212996247943]
歩行者軌道予測のためのスパースグラフ畳み込みネットワーク(SGCN)を提案する。
具体的には、SGCNはスパース指向の相互作用をスパース指向の空間グラフと明確にモデル化し、適応的な相互作用歩行者を捉える。
可視化は,歩行者の適応的相互作用とその運動特性を捉えることができることを示す。
論文 参考訳(メタデータ) (2021-04-04T03:17:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。