論文の概要: Physics-Guided Transformer (PGT): Physics-Aware Attention Mechanism for PINNs
- arxiv url: http://arxiv.org/abs/2603.27929v1
- Date: Mon, 30 Mar 2026 00:55:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-31 23:18:45.18158
- Title: Physics-Guided Transformer (PGT): Physics-Aware Attention Mechanism for PINNs
- Title(参考訳): 物理誘導変圧器(PGT) : PINNの物理認識注意機構
- Authors: Ehsan Zeraatkar, Rodion Podorozhny, Jelena Tešić,
- Abstract要約: 物理誘導変換器(PGT)は,物理構造を直接自己認識機構に組み込むニューラルネットワークである。
本研究では,1次元熱方程式と2次元非圧縮性ナビエ・ストークス系のPGTを評価する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reconstructing continuous physical fields from sparse, irregular observations is a central challenge in scientific machine learning, particularly for systems governed by partial differential equations (PDEs). Existing physics-informed methods typically enforce governing equations as soft penalty terms during optimization, often leading to gradient imbalance, instability, and degraded physical consistency under limited data. We introduce the Physics-Guided Transformer (PGT), a neural architecture that embeds physical structure directly into the self-attention mechanism. Specifically, PGT incorporates a heat-kernel-derived additive bias into attention logits, encoding diffusion dynamics and temporal causality within the representation. Query coordinates attend to these physics-conditioned context tokens, and the resulting features are decoded using a FiLM-modulated sinusoidal implicit network that adaptively controls spectral response. We evaluate PGT on the one-dimensional heat equation and two-dimensional incompressible Navier-Stokes systems. In sparse 1D reconstruction with 100 observations, PGT achieves a relative L2 error of 5.9e-3, significantly outperforming both PINNs and sinusoidal representations. In the 2D cylinder wake problem, PGT uniquely achieves both low PDE residual (8.3e-4) and competitive relative error (0.034), outperforming methods that optimize only one objective. These results demonstrate that embedding physics within attention improves stability, generalization, and physical fidelity under data-scarce conditions.
- Abstract(参考訳): スパース、不規則な観測から連続体を再構成することは、特に偏微分方程式(PDE)によって支配されるシステムにおいて、科学機械学習における中心的な課題である。
既存の物理インフォームド法は、最適化中にソフトペナルティ項として支配方程式を強制し、しばしば勾配の不均衡、不安定性、有限データの下での劣化した物理的一貫性をもたらす。
物理誘導変換器(PGT)は,物理構造を直接自己認識機構に組み込むニューラルネットワークである。
具体的には、PGTは、熱カーネル由来の添加性バイアスを注目ロジットに組み込み、表現内の拡散ダイナミクスと時間的因果関係を符号化する。
クエリ座標は、これらの物理条件付きコンテキストトークンに対応し、結果として得られる特徴は、スペクトル応答を適応的に制御するFiLM変調正弦波暗黙ネットワークを用いて復号される。
本研究では,1次元熱方程式と2次元非圧縮性ナビエ・ストークス系のPGTを評価する。
PGTは100個の観察で1次元のスパース再構成を行い、5.9e-3の相対的なL2誤差を達成し、PINNと正弦波表現を著しく上回っている。
2Dシリンダーウェイク問題では、PGTはPDE残差(8.3e-4)と競合相対誤差(0.034)の両方を独自に達成し、1つの目的だけを最適化する優れた方法である。
これらの結果は, 注意に物理を埋め込むことで, データスカース条件下での安定性, 一般化, 物理的忠実度が向上することを示した。
関連論文リスト
- Manifold-Orthogonal Dual-spectrum Extrapolation for Parameterized Physics-Informed Neural Networks [5.601252185916962]
物理インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)によって支配される力学系のモデリングにおいて顕著な成功を収めた。
物理演算子適応のための軽量マイクロアーキテクチャであるManifold-Orthogonal Dual-spectrum Extrapolation (MODE)を提案する。
論文 参考訳(メタデータ) (2026-03-14T04:52:50Z) - Neural Field Thermal Tomography: A Differentiable Physics Framework for Non-Destructive Evaluation [3.697746606429496]
本研究では,過渡表面温度測定から材料特性を定量的に再現する物理フレームワークを提案する。
NeFTYは、3次元微分場を厳密な数値解法によって最適化された連続神経場としてパラメータ化する。
提案手法は,高分解能3次元トモグラフィに必要なメモリ効率を維持しつつ,熱力学的法則をハード制約として適用する。
論文 参考訳(メタデータ) (2026-03-11T17:59:42Z) - Conditional Denoising Model as a Physical Surrogate Model [1.0616273526777913]
物理多様体自体の幾何学を学ぶために設計された生成モデルを導入する。
ネットワークにノイズの多い状態からクリーンな状態を復元するように訓練することで、モデルは有効な解部分空間へ連続的に向けられるベクトル場を学習する。
論文 参考訳(メタデータ) (2026-01-28T20:32:20Z) - PEGNet: A Physics-Embedded Graph Network for Long-Term Stable Multiphysics Simulation [8.95344024479836]
偏微分方程式(PDE)によって支配される物理現象は、科学と工学の進歩にとって重要である。
PEGNetは物理埋め込みグラフネットワークであり、PDE誘導メッセージパスを再設計されたグラフニューラルネットワークアーキテクチャに組み込む。
従来の手法に比べて長期予測精度と物理的整合性に大きな改善が見られた。
論文 参考訳(メタデータ) (2025-11-11T19:02:16Z) - PHASE-Net: Physics-Grounded Harmonic Attention System for Efficient Remote Photoplethysmography Measurement [63.007237197267834]
既存のディープラーニング手法は、主に生理学的モニタリングであり、理論的な堅牢性を欠いている。
本研究では,Navier-Stokes方程式のヘモダイナミックスから導かれる物理インフォームド r パラダイムを提案し,パルス信号が2次系に従うことを示す。
これは、時間的円錐ネットワーク(TCN)を使用する理論的正当性を提供する。
Phase-Netは高い効率で最先端のパフォーマンスを実現し、理論上は基礎的でデプロイ可能な r ソリューションを提供する。
論文 参考訳(メタデータ) (2025-09-29T14:36:45Z) - Enabling Automatic Differentiation with Mollified Graph Neural Operators [73.52999622724101]
本稿では,自動微分と任意のジオメトリの正確な勾配を求める最初の手法であるモリファイドグラフニューラル演算子(m$GNO)を提案する。
正規格子上のPDEの例では、$m$GNOとオートグレードの組み合わせにより、L2相対データの誤差は有限差に比べて20倍減少した。
また、物理損失のみを使用し、有限差分に必要な分解能よりもはるかに低い精度で、非構造化点雲上のPDEをシームレスに解くことができる。
論文 参考訳(メタデータ) (2025-04-11T06:16:30Z) - Advancing Generalization in PINNs through Latent-Space Representations [71.86401914779019]
物理インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)によって支配される力学系のモデリングにおいて大きな進歩を遂げた。
本稿では,多種多様なPDE構成を効果的に一般化する物理インフォームドニューラルPDE解法PIDOを提案する。
PIDOは1次元合成方程式と2次元ナビエ・ストークス方程式を含む様々なベンチマークで検証する。
論文 参考訳(メタデータ) (2024-11-28T13:16:20Z) - Equivariant Graph Mechanics Networks with Constraints [83.38709956935095]
本稿では,グラフ力学ネットワーク(GMN)を提案する。
GMNは、一般化された座標により、構造体の前方運動学情報(位置と速度)を表す。
大規模な実験は、予測精度、制約満足度、データ効率の観点から、最先端のGNNと比較してGMNの利点を支持する。
論文 参考訳(メタデータ) (2022-03-12T14:22:14Z) - Robust Learning of Physics Informed Neural Networks [2.86989372262348]
物理インフォームドニューラルネットワーク(PINN)は偏微分方程式の解法に有効であることが示されている。
本稿では、PINNがトレーニングデータのエラーに敏感であり、これらのエラーをPDEの解領域上で動的に伝播させるのに過度に適合していることを示す。
論文 参考訳(メタデータ) (2021-10-26T00:10:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。