論文の概要: Cluster Attention Neural Operators for Solving Parametric Partial Differential Equations
- arxiv url: http://arxiv.org/abs/2609.39914v1
- Date: Wed, 30 Sep 2026 15:06:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-02 04:51:24.454276
- Title: Cluster Attention Neural Operators for Solving Parametric Partial Differential Equations
- Title(参考訳): パラメトリック部分微分方程式の解法のためのクラスタアテンションニューラル演算子
- Abstract要約: クラスタアテンションニューラルオペレータ(CANO)は、新しいクロスアテンション機構を通じて注意を再構築する。
CANOは標準PDEベンチマークで最先端のパフォーマンスを達成する。
- 参考スコア(独自算出の注目度): 1.7589384342400687
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Traditional simulations of parametric partial differential equations (PDEs) rely on repetitive computations for each parameter, which makes high-fidelity design impractical. Neural operators address this issue by learning solution operators, accelerating parameter-space mapping by orders of magnitude. Recent Transformer-based neural operators attempt to capture global dependencies, but often at the cost of quadratic attention complexity. Transolver resolves this problem by projecting physical states into a reduced slice space for attention computation. Although fast, this projection sacrifices fine spatial information. Moreover, by operating in this reduced space with shared weights across attention heads, it may constrain the model's flexibility, thereby limiting its capacity to capture complex phenomena. To address these issues, we propose the Cluster Attention Neural Operator (CANO), which reformulates attention via a novel cross-attention mechanism that dynamically clusters queries while preserving full-resolution keys and values. This avoids slice compression loss and removes weight-sharing limits. At the same time, the model remains fast without losing global interactions. Empirically, CANO achieves state-of-the-art performance across canonical PDE benchmarks, covering fluid and solid dynamics (e.g., Navier-Stokes, Airfoil, Plasticity), irregular unstructured geometries (e.g., Pipe Turbulence, Composites), and long-term temporal rollouts. Across solid deformation and turbulent flow benchmarks, CANO achieves lower errors than baselines and exhibits strong geometric adaptability and temporal consistency.
- Abstract(参考訳): 従来のパラメトリック偏微分方程式(PDE)のシミュレーションは各パラメータの反復計算に依存しており、これは高忠実度設計を非現実的にしている。
ニューラル演算子はこの問題に解演算子を学習し、パラメータ空間マッピングを桁違いに高速化する。
最近のTransformerベースのニューラル演算子は、グローバルな依存関係をキャプチャしようと試みているが、しばしば二次的な注意の複雑さを犠牲にしている。
Transolver はこの問題を、注意計算のために物理状態を縮小されたスライス空間に投影することで解決する。
この射影は速いが、細かな空間情報を犠牲にする。
さらに、注意を向けて重みを共有してこの縮小された空間で操作することで、モデルの柔軟性を制限し、複雑な現象を捉える能力を制限することができる。
これらの問題に対処するために,クラスタアテンションニューラル演算子(CANO)を提案する。これは,完全解像度のキーと値を保存しながらクエリを動的にクラスタする,新しいクロスアテンション機構によって注意を再構築する。
これによりスライス圧縮の損失が回避され、ウェイトシェアリングの制限が取り除かれる。
同時に、このモデルはグローバルな相互作用を失うことなく、速いままである。
実証的には、CANOは標準的なPDEベンチマークにおける最先端性能、流体と固体力学(例:Navier-Stokes, Airfoil, Plasticity)、不規則な非構造ジオメトリ(例:パイプ乱流、複合材料)、長期の時間的ロールアウトをカバーしている。
CANOは、固体変形と乱流のベンチマーク全体にわたって、ベースラインよりも低い誤差を達成し、強力な幾何学的適応性と時間的整合性を示す。
関連論文リスト
- Transolver-$σ$: Joint Spectral-Physical Subspace Modeling for Neural PDE Solving [53.58729034895666]
Transolver-$は、結合スペクトル-物理部分空間モデリングに基づくニューラルPDEソルバである。
平均的な相対誤差を33.4%減らし、各基準に対して最強の基準線を上回り、最先端を達成している。
論文 参考訳(メタデータ) (2026-09-29T11:24:19Z) - A Task-Space Receding Horizon Controller for Fast Collision Avoidance [0.08594140167290099]
ロボットマニピュレータのリアルタイム衝突回避には、予期せぬ障害物運動に対する迅速な反応が必要である。
完全なモデル予測制御は、この展望を提供することができるが、オンラインコストは、水平線長、モデル忠実度、アクティブな幾何学的制約の数とともに急速に増大する可能性がある。
本稿では, 短時間の接触一貫性を持つロールアウトを用いて, 終端キネマティック参照を生成するタスクスペースリテーディング・ホライゾンコントローラを提案する。
論文 参考訳(メタデータ) (2026-07-17T08:13:12Z) - From Complex Dynamics to DynFormer: Rethinking Transformers for PDEs [6.873342825786888]
トランスフォーマーベースのニューラルオペレータは、強力なデータ駆動型代替手段として登場した。
動的インフォームドニューラル演算子DynFormerを提案する。
我々はDynFormerが、最先端のベースラインと比較して95%の相対誤差を削減できることを示す。
論文 参考訳(メタデータ) (2026-03-03T15:45:09Z) - Parallel Complex Diffusion for Scalable Time Series Generation [50.01609741902786]
PaCoDiは周波数領域における生成モデリングを分離するスペクトルネイティブアーキテクチャである。
本研究では,PaCoDiが生成品質と推論速度の両方において,既存のベースラインを上回っていることを示す。
論文 参考訳(メタデータ) (2026-02-10T14:31:53Z) - PhyG-MoE: A Physics-Guided Mixture-of-Experts Framework for Energy-Efficient GNSS Interference Recognition [49.955269674859004]
本稿では,PhyG-MoE(Physics-Guided Mixture-of-Experts)について述べる。
静的アーキテクチャとは異なり、提案システムはスペクトル特性の絡み合いに基づいて信号をルーティングするスペクトルベースのゲーティング機構を用いる。
高容量のTransNeXtエキスパートがオンデマンドでアクティベートされ、飽和シナリオで複雑な機能を分離する一方、軽量のエキスパートは基本的なシグナルを処理してレイテンシを最小化する。
論文 参考訳(メタデータ) (2026-01-19T07:57:52Z) - The Curious Case of In-Training Compression of State Space Models [49.819321766705514]
ステートスペースモデル(SSM)は、並列化可能なトレーニングと高速推論の両方を提供する。
鍵となる設計上の課題は、表現力の最大化と計算負荷の制限の間の適切なバランスを打つことだ。
我々のアプローチである textscCompreSSM はリニアリカレントユニットのような線形時間不変SSMに適用されるが、選択モデルにも拡張可能である。
論文 参考訳(メタデータ) (2025-10-03T09:02:33Z) - Fast-Forward Lattice Boltzmann: Learning Kinetic Behaviour with Physics-Informed Neural Operators [37.65214107289304]
格子ボルツマン方程式(LBE)のための物理インフォームドニューラルネットワークフレームワークを提案する。
我々のフレームワークは離散化不変であり、粗い格子で訓練されたモデルをより微細なものに一般化することができる。
その結果,von Karman vortex shedding, ligament breakup, bubble adhesionなどの複雑な流れシナリオの堅牢性を示した。
論文 参考訳(メタデータ) (2025-09-26T14:36:23Z) - Smooth and Sparse Latent Dynamics in Operator Learning with Jerk
Regularization [1.621267003497711]
本稿では,圧縮された潜在空間の学習にジャッジ正規化を組み込んだ連続演算子学習フレームワークを提案する。
このフレームワークは、任意の所望の空間的あるいは時間的解像度での推論を可能にする。
この枠組みの有効性は、ナヴィエ・ストークス方程式によって支配される二次元非定常流問題によって証明される。
論文 参考訳(メタデータ) (2024-02-23T22:38:45Z) - Enhancing Solutions for Complex PDEs: Introducing Complementary Convolution and Equivariant Attention in Fourier Neural Operators [17.91230192726962]
複雑なPDEを解くために,畳み込み-残留層と注意機構を備えた新しい階層型フーリエニューラル演算子を提案する。
提案手法はこれらのPDEベンチマークにおいて,特に高速な係数変動を特徴とする方程式に対して,優れた性能を実現する。
論文 参考訳(メタデータ) (2023-11-21T11:04:13Z) - Multi-Grid Tensorized Fourier Neural Operator for High-Resolution PDEs [93.82811501035569]
本稿では,メモリ要求を低減し,より一般化したデータ効率・並列化可能な演算子学習手法を提案する。
MG-TFNOは、実世界の実世界の現象の局所的構造と大域的構造を活用することで、大規模な分解能にスケールする。
乱流ナビエ・ストークス方程式において150倍以上の圧縮で誤差の半分以下を達成できる優れた性能を示す。
論文 参考訳(メタデータ) (2023-09-29T20:18:52Z) - LordNet: An Efficient Neural Network for Learning to Solve Parametric Partial Differential Equations without Simulated Data [47.49194807524502]
エンタングルメントをモデル化するためのチューナブルで効率的なニューラルネットワークであるLordNetを提案する。
ポアソン方程式と(2Dおよび3D)ナビエ・ストークス方程式を解く実験は、長距離の絡み合いがロードネットによってうまくモデル化できることを示した。
論文 参考訳(メタデータ) (2022-06-19T14:41:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。