論文の概要: PDE-PFN: Prior-Data Fitted Neural PDE Solver
- arxiv url: http://arxiv.org/abs/2610.13334v1
- Date: Fri, 09 Oct 2026 10:08:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-13 04:06:29.519701
- Title: PDE-PFN: Prior-Data Fitted Neural PDE Solver
- Title(参考訳): PDE-PFN:プリデータフィット型ニューラルPDEソルバー
- Abstract要約: In-context Learning を用いて PDE ソリューションの後方予測平均を近似した事前データ適合型ニューラルソルバ PDE-PFN を提案する。
PDE-PFNはTransformerの自己アテンション機構とクロスアテンション機構を備えたPFNアーキテクチャ上に構築されている。
我々は、PDE-PFNが不均一な方程式をまたいだ経験的一般化、ノイズ前処理、およびゼロ段階更新インコンテキスト推論能力を実現することを実証した。
- 参考スコア(独自算出の注目度): 38.850169275048295
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Motivated by the success of large language models (LLMs) with broad generalizability and robustness to noisy or unreliable pre-training data, we explore in-context prediction of PDE solution fields using approximate pre-training data. In addition, inspired by the posterior predictive mean-based inference mechanism of the in-context learning in prior-data fitted networks (PFNs), we propose PDE-PFN, a prior-data fitted neural solver that approximates the posterior predictive mean of PDE solutions via in-context learning. PDE-PFN builds on a PFN architecture with self- and cross-attention mechanisms of Transformer and is pre-trained on noisy approximate solutions generated by physics-informed neural networks, serving as diverse but not necessarily exact priors. Through experiments on a range of two-dimensional PDEs, we demonstrate that PDE-PFN achieves empirical generalization across heterogeneous equations, robustness under noisy priors, and zero-gradient-update in-context inference capability. PDE-PFN achieves competitive or improved predictive accuracy relative to the evaluated baselines while supporting flexible context and query representations.
- Abstract(参考訳): 雑音や信頼できない事前学習データに対する広範な一般化性と頑健性を有する大規模言語モデル(LLM)の成功により、近似事前学習データを用いたPDEソリューションフィールドのコンテキスト内予測を探索する。
さらに、先行データ適合型ネットワーク(PFN)におけるインコンテキスト学習の後方予測平均に基づく推論機構に着想を得て、PDE-PFN(PDE-PFN)を提案する。
PDE-PFNはTransformerの自己およびクロスアテンション機構を備えたPFNアーキテクチャ上に構築されており、物理インフォームドニューラルネットワークが生み出すノイズの多い近似解に基づいて事前訓練されている。
PDE-PFNは、多次元PDEの実験を通じて、不均一な方程式をまたいだ経験的一般化、雑音下でのロバスト性、およびゼロ段階更新インコンテキスト推論能力を実現することを実証する。
PDE-PFNは、柔軟なコンテキストとクエリ表現をサポートしながら、評価されたベースラインに対する競合的または改善された予測精度を達成する。
関連論文リスト
- PDEInvBench: A Comprehensive Dataset and Design Space Exploration of Neural Networks for PDE Inverse Problems [11.742898472476796]
偏微分方程式(PDE)における時間的問題は、溶液場から観測システムの物理パラメータを推定することを含む。
神経ネットワークは関数-関数間空間変換をモデル化する能力のため、PDEパラメータ推定に適している。
PDEInvBenchは、時間依存PDEと時間依存PDEの両方の数値シミュレーションからなる包括的なベンチマークデータセットである。
論文 参考訳(メタデータ) (2026-05-25T02:13:33Z) - UniFluids: Unified Neural Operator Learning with Conditional Flow-matching [41.28751393724146]
各種PDEにおける解演算子の学習を統一する条件付きフローマッチングフレームワークUniFluidsを提案する。
UniFluidsは並列シーケンス生成を実現するためにフローマッチングを採用している。
次元1D, 2D, 3Dをカバーする複数のPDEデータセット上でUniFluidの大規模評価を行う。
論文 参考訳(メタデータ) (2026-03-19T04:19:28Z) - Paving the way for scientific foundation models: enhancing generalization and robustness in PDEs with constraint-aware pre-training [49.8035317670223]
科学基盤モデル(SciFM)は、様々な領域にまたがる伝達可能な表現を学習するための有望なツールとして登場しつつある。
本稿では,PDE残差を単独の学習信号として,あるいはデータ損失と組み合わせて事前学習に組み込むことにより,限定的あるいは実用的でないトレーニングデータに補償することを提案する。
以上の結果から, PDE制約による事前学習は, 解データのみを訓練したモデルよりも, 一般化を著しく向上させることが示された。
論文 参考訳(メタデータ) (2025-03-24T19:12:39Z) - Deep Equilibrium Based Neural Operators for Steady-State PDEs [100.88355782126098]
定常PDEに対する重み付けニューラルネットワークアーキテクチャの利点について検討する。
定常PDEの解を直接解くFNOアーキテクチャの深い平衡変種であるFNO-DEQを提案する。
論文 参考訳(メタデータ) (2023-11-30T22:34:57Z) - PDE+: Enhancing Generalization via PDE with Adaptive Distributional
Diffusion [66.95761172711073]
ニューラルネットワークの一般化は、機械学習における中心的な課題です。
本稿では、入力データを調整することに集中するのではなく、ニューラルネットワークの基盤機能を直接拡張することを提案する。
私たちはこの理論的フレームワークを、$textbfPDE+$$textbfPDE$ with $textbfA$daptive $textbfD$istributional $textbfD$iffusionとして実践しました。
論文 参考訳(メタデータ) (2023-05-25T08:23:26Z) - Noise-aware Physics-informed Machine Learning for Robust PDE Discovery [5.746505534720594]
この研究は、物理系の制御偏微分方程式(PDE)の発見に関係している。
既存の手法では、有限観測からPDEの同定を実証しているが、ノイズデータに対する満足度を維持できなかった。
本稿では、任意の分布に従うデータからPDEを管理するためのノイズ対応物理インフォームド機械学習フレームワークを提案する。
論文 参考訳(メタデータ) (2022-06-26T15:29:07Z) - Physics-Informed Neural Operator for Learning Partial Differential
Equations [55.406540167010014]
PINOは、演算子を学ぶために異なる解像度でデータとPDE制約を組み込んだ最初のハイブリッドアプローチである。
結果の PINO モデルは、多くの人気のある PDE ファミリの基底構造解演算子を正確に近似することができる。
論文 参考訳(メタデータ) (2021-11-06T03:41:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。