論文の概要: Physics-informed Temporal Alignment for Auto-regressive PDE Foundation Models
- arxiv url: http://arxiv.org/abs/2505.10930v1
- Date: Fri, 16 May 2025 07:08:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-19 14:36:14.201799
- Title: Physics-informed Temporal Alignment for Auto-regressive PDE Foundation Models
- Title(参考訳): 自己回帰型PDEファンデーションモデルのための物理インフォームドテンポラルアライメント
- Authors: Congcong Zhu, Xiaoyan Xu, Jiayue Han, Jingrun Chen,
- Abstract要約: 本稿では,逆問題解に着想を得た自己教師型学習フレームワークPITAを提案する。
PITAは、物理インフォームド制約を自己超越信号に統合することにより、それぞれのPDE軌道上の異なる時間ステップで発見された物理力学を整列させる。
実験により、PITAは、様々な時間依存PDEデータに基づいて、既存の基礎モデルの精度と堅牢性を著しく向上させることが示された。
- 参考スコア(独自算出の注目度): 2.57401182252473
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Auto-regressive partial differential equation (PDE) foundation models have shown great potential in handling time-dependent data. However, these models suffer from the shortcut problem deeply rooted in auto-regressive prediction, causing error accumulation. The challenge becomes particularly evident for out-of-distribution data, as the pretraining performance may approach random model initialization for downstream tasks with long-term dynamics. To deal with this problem, we propose physics-informed temporal alignment (PITA), a self-supervised learning framework inspired by inverse problem solving. Specifically, PITA aligns the physical dynamics discovered at different time steps on each given PDE trajectory by integrating physics-informed constraints into the self-supervision signal. The alignment is derived from observation data without relying on known physics priors, indicating strong generalization ability to the out-of-distribution data. Extensive experiments show that PITA significantly enhances the accuracy and robustness of existing foundation models on diverse time-dependent PDE data. The code is available at https://github.com/SCAILab-USTC/PITA.
- Abstract(参考訳): 自己回帰偏微分方程式(PDE)基礎モデルは時間依存データを扱う大きな可能性を示している。
しかし、これらのモデルは自己回帰予測に深く根ざしたショートカット問題に悩まされ、エラーの蓄積を引き起こす。
事前学習性能は、長期的ダイナミクスを持つ下流タスクに対するランダムモデル初期化に近づく可能性があるため、ディストリビューション外データには特に問題となる。
この問題に対処するために,逆問題解決に触発された自己教師型学習フレームワークPITAを提案する。
具体的には、PITAは物理インフォームド制約を自己超越信号に統合することにより、それぞれのPDE軌道上の異なる時間ステップで発見された物理力学を整列させる。
このアライメントは、既知の物理計算に頼らずに観測データから導出され、分布外データに対する強い一般化能力を示す。
大規模実験の結果,PITAは様々な時間依存PDEデータに基づいて,既存の基礎モデルの精度と堅牢性を著しく向上させることがわかった。
コードはhttps://github.com/SCAILab-USTC/PITAで公開されている。
関連論文リスト
- PINT: Physics-Informed Neural Time Series Models with Applications to Long-term Inference on WeatherBench 2m-Temperature Data [2.6842667886955196]
PINT(Physics-Informed Neural Time Series Models)は、物理制約をニューラルネットワークの時系列モデルに統合するフレームワークである。
ERA5 WeatherBenchデータセットにPINTを適用し,2m温度データの長期予測に着目した。
論文 参考訳(メタデータ) (2025-02-06T12:19:34Z) - Physics-guided Active Sample Reweighting for Urban Flow Prediction [75.24539704456791]
都市フロー予測は、バス、タクシー、ライド駆動モデルといった交通サービスのスループットを見積もる、微妙な時間的モデリングである。
最近の予測解は、物理学誘導機械学習(PGML)の概念による改善をもたらす。
我々は、PN(atized Physics-guided Network)を開発し、P-GASR(Physical-guided Active Sample Reweighting)を提案する。
論文 参考訳(メタデータ) (2024-07-18T15:44:23Z) - Generalizing Weather Forecast to Fine-grained Temporal Scales via Physics-AI Hybrid Modeling [55.13352174687475]
本稿では,天気予報をトレーニングデータセットを超える微細な時間スケールに一般化する物理AIハイブリッドモデル(WeatherGFT)を提案する。
具体的には、小さな時間スケールで物理進化をシミュレートするために、慎重に設計されたPDEカーネルを用いる。
また、異なるリードタイムでのモデルの一般化を促進するためのリードタイムアウェアトレーニングフレームワークも導入する。
論文 参考訳(メタデータ) (2024-05-22T16:21:02Z) - PDE-Refiner: Achieving Accurate Long Rollouts with Neural PDE Solvers [40.097474800631]
時間依存偏微分方程式(PDE)は、科学や工学においてユビキタスである。
ディープニューラルネットワークに基づくサロゲートへの関心が高まっている。
論文 参考訳(メタデータ) (2023-08-10T17:53:05Z) - A Neural PDE Solver with Temporal Stencil Modeling [44.97241931708181]
最近の機械学習(ML)モデルでは、高解像度信号において重要なダイナミクスを捉えることが約束されている。
この研究は、低解像度のダウンサンプリング機能で重要な情報が失われることがしばしばあることを示している。
本稿では,高度な時系列シーケンスモデリングと最先端のニューラルPDEソルバの強みを組み合わせた新しい手法を提案する。
論文 参考訳(メタデータ) (2023-02-16T06:13:01Z) - Deep Physics Corrector: A physics enhanced deep learning architecture
for solving stochastic differential equations [0.0]
微分方程式(SDE)によって制御される物理系に対する新しいグレーボックスモデリングアルゴリズムを提案する。
提案手法はDeep Physics Corrector(DPC)と呼ばれ、SDEとDeep Neural Network(DNN)で表される近似物理学をブレンドする。
本論文では,本論文の4つのベンチマーク例について,提案したDPCの性能について述べる。
論文 参考訳(メタデータ) (2022-09-20T14:30:07Z) - Deep Convolutional Architectures for Extrapolative Forecast in
Time-dependent Flow Problems [0.0]
深層学習技術は、対流に支配された問題に対するシステムの力学をモデル化するために用いられる。
これらのモデルは、PDEから得られた連続した時間ステップに対する高忠実度ベクトル解のシーケンスとして入力される。
ディープオートエンコーダネットワークのような非侵襲的な低次モデリング技術を用いて高忠実度スナップショットを圧縮する。
論文 参考訳(メタデータ) (2022-09-18T03:45:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。