論文の概要: Unsupervised Adaptation of PDE Foundation Models

• arxiv url: http://arxiv.org/abs/2608.07053v1
• Date: Fri, 07 Aug 2026 10:01:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-10 16:21:25.458616
• Title: Unsupervised Adaptation of PDE Foundation Models
• Title（参考訳）: PDE基礎モデルの教師なし適応
• Abstract要約: そこで本研究では,非教師なしPDEに基づく微調整フレームワークを提案する。 提案手法は, 基本トラス解を必要とせず, 教師付きLoRAファインタニングに匹敵する性能を実現する。
• 参考スコア（独自算出の注目度）: 17.002625091063937
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Pretrained partial differential equation (PDE) foundation models can generalize across different equations, but adapting them to unseen PDE systems typically requires dense solution data, which is often expensive or unavailable. To address this limitation, we propose an unsupervised PDE-based finetuning framework that eliminates the need for ground-truth solutions. We first pretrain a neighborhood attention Transformer on diverse time-dependent PDEs spanning varying spatial scales, yielding transferable representations across heterogeneous equations. In the adaptation stage, we construct a physics-based objective using the PDE residual and boundary conditions, and finetune the model on unseen equations via low-rank adaptation (LoRA). To address the uneven learning across physical quantities in standard LoRA, we introduce NSLoRA, a Newton-Schulz orthogonalized variant that rebalances adaptation. Our method achieves performance comparable to supervised LoRA finetuning without requiring any ground-truth solutions, while consistently outperforming competitive neural operator baselines and recent PDE foundation models across heterogeneous PDE benchmarks spanning multiple spatial dimensions.
• Abstract（参考訳）: 事前訓練された偏微分方程式(PDE)基礎モデルは、異なる方程式にまたがって一般化することができるが、未確認のPDEシステムにそれらを適用するには、しばしば高価または利用できないような高密度な解データを必要とする。 この制限に対処するため,本論文では,基盤トラスソリューションの必要性を排除した,教師なしPDEに基づく微調整フレームワークを提案する。 まず,異なる空間スケールにまたがる様々な時間依存型PDEに対して,近隣の注意変換器を事前学習し,異種方程式間で伝達可能な表現を生成する。 適応段階では,PDE残差条件と境界条件を用いて物理に基づく目標を構築し,ローランク適応(LoRA)を用いて未知の方程式のモデルを微調整する。 標準 LoRA における物理量にわたる不均一な学習に対処するために、ニュートン・シュルツ直交多様体 NSLoRA を導入する。 提案手法は,複数の空間次元にまたがる不均一PDEベンチマークにおいて,競合するニューラル演算子ベースラインと最近のPDE基礎モデルより一貫して優れた性能を保ちながら,教師付きLoRAファインタニングに匹敵する性能を実現する。

関連論文リスト

• AOT-POT: Adaptive Operator Transformation for Large-Scale PDE Pre-training [50.28798360093496]
  複雑で多様な解演算子をよりシンプルで、より整合性の高い形式に変換し、共同でモデリングしやすくすることを提案する。 我々はこのアイデアをAOT-POT (adaptive operator-transformation for pre-training operator transformer) としてインスタンス化し、隠れ表現を複数の並列ストリームに拡張する。 AOT-POTは、3%の追加パラメータを持つ12のPDEベンチマークで最先端のパフォーマンスを実現し、相対的なL2エラーを77.6%削減した(平均40.9%)。
  論文  参考訳（メタデータ） (2026-05-15T09:50:34Z)
• A Randomized PDE Energy driven Iterative Framework for Efficient and Stable PDE Solutions [3.005135324395161]
  偏微分方程式 (Partial differential equation, PDE) は、科学や工学の応用の中心である。 既存の数値解法は行列に基づく離散化に大きく依存している。 物理的に制約された拡散反復によってPDEを解くPDEエネルギー駆動フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-04-17T06:53:03Z)
• Scale-Consistent Learning for Partial Differential Equations [79.48661503591943]
  本稿では,PDEのスケール一貫性特性に基づくデータ拡張手法を提案する。 次に、幅広いスケールをモデル化できるスケールインフォームド・ニューラル演算子を設計する。 スケール一貫性によって、1000ドルの$Re$でトレーニングされたモデルは、250から10000までの$Re$に一般化することができる。
  論文  参考訳（メタデータ） (2025-07-24T21:29:52Z)
• Mechanistic PDE Networks for Discovery of Governing Equations [52.492158106791365]
  データから偏微分方程式を発見するためのモデルであるメカニスティックPDEネットワークを提案する。 表現されたPDEは解決され、特定のタスクのためにデコードされる。 線形偏微分方程式に特化して、ネイティブ、GPU対応、並列、スパース、微分可能多重グリッドソルバを開発した。
  論文  参考訳（メタデータ） (2025-02-25T17:21:44Z)
• Advancing Generalization in PINNs through Latent-Space Representations [71.86401914779019]
  物理インフォームドニューラルネットワーク(PINN)は、偏微分方程式(PDE)によって支配される力学系のモデリングにおいて大きな進歩を遂げた。 本稿では,多種多様なPDE構成を効果的に一般化する物理インフォームドニューラルPDE解法PIDOを提案する。 PIDOは1次元合成方程式と2次元ナビエ・ストークス方程式を含む様々なベンチマークで検証する。
  論文  参考訳（メタデータ） (2024-11-28T13:16:20Z)
• DiffusionPDE: Generative PDE-Solving Under Partial Observation [10.87702379899977]
  生成拡散モデルを用いて偏微分方程式(PDE)を解くための一般的な枠組みを提案する。 そこで本研究では, 学習した生成先行が, 部分観察下において, 広範囲のPDEを正確に解くための多元的枠組みに導かれることを示す。
  論文  参考訳（メタデータ） (2024-06-25T17:48:24Z)
• Unisolver: PDE-Conditional Transformers Towards Universal Neural PDE Solvers [53.79279286773326]
  我々は、多様なデータに基づいて訓練され、多様なPDEで条件付けされた新しいトランスフォーマーモデルUnisolverを提案する。 Unisolverは3つの挑戦的な大規模ベンチマークで一貫した最先端を実現し、優れたパフォーマンスと一般化性を示している。
  論文  参考訳（メタデータ） (2024-05-27T15:34:35Z)
• Deep Equilibrium Based Neural Operators for Steady-State PDEs [100.88355782126098]
  定常PDEに対する重み付けニューラルネットワークアーキテクチャの利点について検討する。 定常PDEの解を直接解くFNOアーキテクチャの深い平衡変種であるFNO-DEQを提案する。
  論文  参考訳（メタデータ） (2023-11-30T22:34:57Z)
• Neural Control of Parametric Solutions for High-dimensional Evolution PDEs [6.649496716171139]
  我々は進化偏微分方程式(PDE)の解演算子を近似する新しい計算フレームワークを開発する。 パラメータ空間における制御ベクトル場を学習することにより,PDEの解演算子を近似する。 これにより計算コストを大幅に削減し、任意の初期条件で進化PDEを解くことができる。
  論文  参考訳（メタデータ） (2023-01-31T19:26:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。