論文の概要: Geometry Meets Physics: Data-Efficient Pre-Training for Unstructured Neural PDE Solvers
- arxiv url: http://arxiv.org/abs/2610.03363v2
- Date: Mon, 05 Oct 2026 07:53:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-07 04:43:28.542605
- Title: Geometry Meets Physics: Data-Efficient Pre-Training for Unstructured Neural PDE Solvers
- Title(参考訳): Geometry Meets Physics: 構造化されていないニューラルPDEソリューションのためのデータ効率の良い事前トレーニング
- Abstract要約: 定常状態と過渡状態の両方に合わせたディスクデータフリーな事前学習フレームワークを導入する。
定常状態問題に対して,本質的な形状記述子を用いて複雑な3次元領域の表現を学習する手法を提案する。
過渡的な問題に対して,オンライン合成PDEデータ生成に基づく物理駆動型アプローチを導入する。
- 参考スコア(独自算出の注目度): 36.82859801568057
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural surrogate models for Partial Differential Equations (PDEs) on unstructured 3D geometries are often limited by poor generalization and the high cost of generating large-scale training datasets. Consequently, pre-training on massive datasets of related PDE dynamics has emerged as a critical alternative to enhance the robustness and scalability of these models. However, this strategy is neither compute- nor data-efficient, as it relies on massive pre-computed data that is very costly to generate. In this work, we introduce a disk-data-free pre-training framework tailored to both steady-state and transient regimes. For steady-state problems, we propose a geometry-driven strategy that leverages intrinsic shape descriptors to learn representations of complex 3D domains. For transient problems, we introduce a physics-driven approach based on online generation of synthetic PDE data, enabling scalable pre-training without reliance on expensive datasets. Across multiple experiments, our approach achieves faster convergence, greater data efficiency, and higher accuracy during fine-tuning, particularly under realistic low-data regimes. This methodology provides a practical pathway toward data-efficient neural emulators for large-scale simulations.
- Abstract(参考訳): 非構造3次元測地における部分微分方程式(PDE)に対するニューラルサロゲートモデルはしばしば、一般化の貧弱さと大規模トレーニングデータセットの生成コストによって制限される。
その結果、関連するPDEダイナミクスの膨大なデータセットに対する事前トレーニングが、これらのモデルの堅牢性とスケーラビリティを高める重要な代替手段として現れている。
しかし、この戦略は計算量でもデータ効率でもない。
本研究では,定常状態と過渡状態の両方に合わせたディスクデータフリーな事前学習フレームワークを提案する。
定常状態問題に対して、本質的な形状記述子を用いて複雑な3次元領域の表現を学習する幾何駆動型戦略を提案する。
過渡的な問題に対して、オンライン合成PDEデータの生成に基づく物理駆動型アプローチを導入し、高価なデータセットに依存することなく、スケーラブルな事前学習を可能にする。
複数の実験において,本手法はより高速な収束,データ効率の向上,微調整時の高精度化を実現している。
この手法は大規模シミュレーションのためのデータ効率のよいニューラルエミュレータへの実践的な経路を提供する。
関連論文リスト
- Stable spectral neural operator for learning stiff PDE systems from limited data [12.62991453201434]
我々は、方程式のない学習フレームワーク、すなわち、安定スペクトルニューラル演算子(SSNO)を導入する。
SSNOはそのアーキテクチャにスペクトルにインスパイアされた構造を組み込み、基礎となる物理学を学ぶための強い誘導バイアスをもたらす。
予測誤差は、先行モデルよりも1~2桁低い。
論文 参考訳(メタデータ) (2025-12-12T16:09:38Z) - Paving the way for scientific foundation models: enhancing generalization and robustness in PDEs with constraint-aware pre-training [49.8035317670223]
科学基盤モデル(SciFM)は、様々な領域にまたがる伝達可能な表現を学習するための有望なツールとして登場しつつある。
本稿では,PDE残差を単独の学習信号として,あるいはデータ損失と組み合わせて事前学習に組み込むことにより,限定的あるいは実用的でないトレーニングデータに補償することを提案する。
以上の結果から, PDE制約による事前学習は, 解データのみを訓練したモデルよりも, 一般化を著しく向上させることが示された。
論文 参考訳(メタデータ) (2025-03-24T19:12:39Z) - Enforcing the Principle of Locality for Physical Simulations with Neural Operators [0.0]
時間依存偏微分方程式(PDE)は、物理学における局所性の原理に従って厳密に局所依存的である。
ディープラーニングアーキテクチャは、ローカルな予測を行うための情報の範囲を必然的に増やすため、ローカル依存を厳格に強制することはできない。
本稿では,局所的な予測を行うニューラル演算子の情報範囲を厳格に制限するデータ分解手法を提案する。
論文 参考訳(メタデータ) (2024-05-02T14:24:56Z) - DPOT: Auto-Regressive Denoising Operator Transformer for Large-Scale PDE Pre-Training [87.90342423839876]
我々は,PDEデータに対するより安定的で効率的な事前学習を可能にする,自己回帰型事前学習戦略を提案する。
我々は,100k以上の軌道を持つ10以上のPDEデータセットに対して,最大0.5BパラメータでPDEファンデーションモデルをトレーニングする。
論文 参考訳(メタデータ) (2024-03-06T08:38:34Z) - Data-Efficient Operator Learning via Unsupervised Pretraining and In-Context Learning [45.78096783448304]
本研究では,PDE演算子学習のための教師なし事前学習を設計する。
シミュレーションソリューションを使わずにラベルなしのPDEデータをマイニングし、物理に着想を得た再構成ベースのプロキシタスクでニューラルネットワークを事前訓練する。
提案手法は,データ効率が高く,より一般化可能であり,従来の視覚予測モデルよりも優れる。
論文 参考訳(メタデータ) (2024-02-24T06:27:33Z) - Training Deep Surrogate Models with Large Scale Online Learning [48.7576911714538]
ディープラーニングアルゴリズムは、PDEの高速解を得るための有効な代替手段として登場した。
モデルは通常、ソルバによって生成された合成データに基づいてトレーニングされ、ディスクに格納され、トレーニングのために読み返される。
ディープサロゲートモデルのためのオープンソースのオンライントレーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2023-06-28T12:02:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。