論文の概要: Physics Transformer: Tailoring Transformer for General PDE Prediction
- arxiv url: http://arxiv.org/abs/2607.24513v1
- Date: Mon, 27 Jul 2026 14:53:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:15.47047
- Title: Physics Transformer: Tailoring Transformer for General PDE Prediction
- Title（参考訳）: 物理変換器:一般PDE予測用テーラー変換器
- Abstract要約: 物理変換器は物理場予測のための関数投影型変換器アーキテクチャである。
微細な物理的構造を正確に捉え、最先端の予測性能を達成する。
- 参考スコア（独自算出の注目度）: 11.078942660962651
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Transformer architectures have attracted increasing attention for solving partial differential equations (PDEs), owing to their flexibility in handling irregular discretizations and their ability to capture long-range physical dependencies. However, unlike discrete language tokens or fixed-resolution image patches, observed physical fields are finite samples of underlying infinite-dimensional functions. Consequently, effectively applying Transformers to PDEs requires a tokenizer that respects the functional nature of physical fields and constructs physically expressive tokens from arbitrary discretizations.To this end, we propose \methodname{Physics Transformer}, a function-projection-based Transformer architecture for physical field prediction. Physics Transformer treats a physical field as a continuous function and partitions its discretization into locality-preserving spatial patches. Within each patch, it dynamically learns a set of adaptive local basis functions and projects the sampled field onto these bases to obtain compact physics tokens. The resulting tokens capture diverse latent physical states while preserving fine-scale spatial structures, enabling efficient global interaction through factorized attention across space and physical states. The projected representation further supports efficient decoding at arbitrary query locations. Extensive experiments on diverse benchmarks, ranging from two-dimensional PDE dynamics to industrial-scale three-dimensional CFD simulations, demonstrate that Physics Transformer accurately captures fine-grained physical structures and achieves state-of-the-art predictive performance. These results establish function projection as a practical and effective foundation for designing Transformer architectures for PDE solving.
- Abstract（参考訳）: 変圧器のアーキテクチャは偏微分方程式(PDE)の解法に注目が集まるようになり、不規則な離散化処理の柔軟性と長距離の物理的依存を捉える能力により注目されている。
しかし、離散言語トークンや固定解像度画像パッチとは異なり、観測された物理場は基礎となる無限次元関数の有限標本である。
したがって、PDEにトランスフォーマーを効果的に適用するには、物理場の機能的性質を尊重し、任意の離散化から物理的に表現可能なトークンを構築するトークン化が必要であり、この目的のために、関数射影に基づく物理場予測のためのトランスフォーマーアーキテクチャである 'methodname{Physics Transformer} を提案する。
物理変換器は物理場を連続関数として扱い、その離散化を局所性保存空間パッチに分割する。
各パッチ内で、適応的な局所基底関数の集合を動的に学習し、サンプルフィールドをこれらの基底に投影し、コンパクトな物理トークンを得る。
結果として生じるトークンは、細かな空間構造を保ちながら様々な潜在物理的状態を捕捉し、空間的および物理的状態にまたがる分解された注意を通して効率的なグローバルな相互作用を可能にする。
プロジェクテッド表現はさらに、任意のクエリロケーションでの効率的なデコーディングをサポートする。
2次元PDE力学から産業規模の3次元CFDシミュレーションまで多種多様なベンチマーク実験により、物理変換器が精密に微細な物理構造を捕捉し、最先端の予測性能を達成することを示した。
これらの結果は、PDE問題解決のためのトランスフォーマーアーキテクチャを設計するための実用的で効果的な基盤として、関数プロジェクションを確立している。
関連論文リスト
- Learning Metamaterial Eigenmodes with Wavelet-Encoded Fourier Neural Operators [57.64362886310329]
ニューラル演算子に基づく機械学習サロゲートは,弾性波動方程式の複数の固有モードを学習し,予測できることを示す。
メタマテリアル設計では、サロゲートは設計サイクルのシミュレーション段階を、コンシューマグレードのCPU上の有限要素解析と比較して3桁の速度で加速する。
これらの結果は、スペクトルニューラル演算子に基づく他のマルチモードPDEソルバの入力エンコーディングを設計するための幅広い意味を持つ。
論文 参考訳（メタデータ） (2026-09-08T01:21:46Z) - PhysiFormer: Learning to Simulate Mechanics in World Space [56.16644631495]
物理的に表現可能な3次元物体運動のための拡散変換器であるPhysorFormerを提案する。
世界座標で表される3Dメッシュとしてオブジェクトを表す。
これは、軌道精度、剛性保存、運動量に基づく物理的一貫性において、自己回帰ベースラインを大幅に上回る。
論文 参考訳（メタデータ） (2026-06-25T17:59:00Z) - Mesh Based Simulations with Spatial and Temporal awareness [2.867517731896504]
本稿では,幾何学的深層学習と厳密な数値解析のギャップを埋める統一的な枠組みを提案する。
1) ノードの全局所トポロジのフィールド値を予測するステンシルレベルの目的であるマルチノード予測,(2) 時間的微分整合性,(3) 時間的交叉による不安定な定性的スキームを予測器・コレクタに置き換える時間的補正,(3) 幾何学的インダクティブ・ビアース,3) 3次元回転位置埋め込み(RoPE)を利用して非構造メッシュの回転対称性を頑健に捉える。
論文 参考訳（メタデータ） (2026-05-02T17:09:31Z) - Differentiable Multiphysics Co-Optimization via Implicit Neural Representations: A Transient Hamburger-Cooking Benchmark [0.40611352512781856]
本稿では,幾何学の暗黙的表現をJAXコンパイルされたユーレリア多物理解法と組み合わせた,エンドツーエンドの微分可能共最適化フレームワークを提案する。
その結果, 形状のみの最適化は熱的ボトルネックを緩和するために形状を変化させる一方, 共同最適化は形状, 材料状態, プロセス変数, 境界条件に設計応答を分散させることがわかった。
論文 参考訳（メタデータ） (2026-05-01T19:08:14Z) - Interpreting Physics in Video World Models [28.27323417999283]
物理推論における長年の疑問は、ビデオベースのモデルが物理変数の分解表現に依存する必要があるかどうかである。
本稿では,大規模ビデオエンコーダ内の物理表現を調べるための最初の解釈可能性研究について述べる。
現代のビデオモデルは、古典的な物理エンジンのような物理変数の分解表現を使用しない。
論文 参考訳（メタデータ） (2026-02-04T15:19:19Z) - Surrogate-Based Differentiable Pipeline for Shape Optimization [64.24199762940444]
本稿では,非微分可能なパイプラインコンポーネントを,本質的に微分可能な代理モデルに置き換えることを提案する。
本研究では、3次元U-Netのフルフィールドサロゲートがメッシュ化とシミュレーションの両方のステップを置き換え、その形状の符号付き距離場(SDF)と関心領域のマッピングをトレーニングするエンド・ツー・エンドの微分可能なパイプラインを実証する。
論文 参考訳（メタデータ） (2025-11-13T19:30:50Z) - Graded Transformers [0.0]
そこで我々は,ベクトル空間上のグレーディングを通じて帰納バイアスを埋め込む新しいシーケンスモデルである Graded Transformer フレームワークを紹介した。
このフレームワークは、以前のモデルの固定グレードの制限を克服し、適応的な特徴優先順位付けを可能にする。
Graded Transformerは、階層的学習とニューロシンボリック推論に対する数学的に原則化されたアプローチを提供する。
論文 参考訳（メタデータ） (2025-07-27T02:34:08Z) - PDE-Transformer: Efficient and Versatile Transformers for Physics Simulations [23.196500975208302]
PDE-Transformerは、正規格子上の物理シミュレーションの代理モデリングのための改良されたトランスフォーマーベースのアーキテクチャである。
提案アーキテクチャは16種類のPDEの大規模データセット上で,コンピュータビジョンのための最先端のトランスフォーマーアーキテクチャより優れていることを示す。
論文 参考訳（メタデータ） (2025-05-30T15:39:54Z) - Geometry aware inference of steady state PDEs using Equivariant Neural Fields representations [0.30786914102688595]
本稿では,幾何的変動を考慮した定常PDEの予測手法であるenf2enfを紹介する。
本手法は,特定空間に固定された遅延特徴にジオメトリを符号化し,ネットワーク全体の局所性を保存する。
論文 参考訳（メタデータ） (2025-04-24T08:30:32Z) - PhyRecon: Physically Plausible Neural Scene Reconstruction [81.73129450090684]
PHYRECONは、微分可能なレンダリングと微分可能な物理シミュレーションの両方を利用して暗黙的な表面表現を学習する最初のアプローチである。
この設計の中心は、SDFに基づく暗黙の表現と明示的な表面点の間の効率的な変換である。
また,物理シミュレータの安定性も向上し,全データセットに対して少なくとも40%の改善が得られた。
論文 参考訳（メタデータ） (2024-04-25T15:06:58Z) - Transolver: A Fast Transformer Solver for PDEs on General Geometries [66.82060415622871]
本稿では, 離散化された測地の背後に隠れた本質的な物理状態を学習するTransolverについて述べる。
スライスから符号化された物理認識トークンに注意を向けることで、Transovlerは複雑な物理的相関を効果的に捉えることができる。
Transolverは6つの標準ベンチマークで22%の相対的な利得で一貫した最先端を実現し、大規模産業シミュレーションでも優れている。
論文 参考訳（メタデータ） (2024-02-04T06:37:38Z) - PnP-DETR: Towards Efficient Visual Analysis with Transformers [146.55679348493587]
近年、DeTRはトランスフォーマーを用いたソリューションビジョンタスクの先駆者であり、画像特徴マップを直接オブジェクト結果に変換する。
最近の変圧器を用いた画像認識モデルとTTは、一貫した効率向上を示す。
論文 参考訳（メタデータ） (2021-09-15T01:10:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。