論文の概要: Kastor: An efficient fine-tuning strategy for generative emulation of PDE simulations
- arxiv url: http://arxiv.org/abs/2608.06107v1
- Date: Thu, 06 Aug 2026 14:41:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 17:43:06.777501
- Title: Kastor: An efficient fine-tuning strategy for generative emulation of PDE simulations
- Title(参考訳): Kastor: PDEシミュレーションの生成エミュレーションのための効率的な微調整方法
- Abstract要約: 本稿では,決定論的物理基礎モデルを高効率かつ高精度な生成サロゲートに適応するための包括的方法論を提案する。
まず,大規模な因果的自己回帰モデルと非因果的時間的超解像ネットワークを組み合わせた2段階推論手法を提案する。
第2に,Nullノイズ条件下での定性分布平均を予測するために生成モデルを制約する新たな学習目標である平均予測正則化(MPR)を提案する。
- 参考スコア(独自算出の注目度): 14.561544063927228
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine learning offers a promising avenue to accelerate physical simulations by replacing computationally expensive traditional Partial Differential Equation (PDE) solvers with fast, differentiable surrogate models. However, standard auto-regressive ML emulators often suffer from error accumulation over long horizons and struggle to capture the stochasticity of complex physical systems. In this paper, we propose Kastor, a comprehensive methodology to adapt a deterministic physics foundation model into a highly efficient and accurate generative surrogate. First, we introduce a two-stage inference scheme that combines a large-stride causal auto-regressive model with a non-causal temporal super-resolution network, significantly reducing error accumulation while minimizing computational cost. Second, we present Mean prediction regularization (MPR), a novel training objective that constrains the generative model to predict the deterministic distribution mean under null noise conditioning. This regularization dramatically improves the performance and stability of both Functional Generative Networks (FGN) and diffusion-based emulators. Finally, we demonstrate that incorporating spatial gradient matching improves the accuracy and physical fidelity of the simulations as measured by power spectrum density. Extensive evaluations on diverse simulation datasets of the benchmark The Well show that with these components, our model outperforms competing methods in forecasting accuracy, spectral consistency, and computational efficiency. Our model achieves a 42.9% average reduction in forecasting compared to our reference based on the Walrus finetuning methodology, and outperforms Walrus for 8 out of 10 datasets on variance-normalized RMSE (VRMSE).
- Abstract(参考訳): 機械学習は計算コストのかかる従来の偏微分方程式(PDE)を高速で微分可能な代理モデルに置き換えることで、物理シミュレーションを加速する有望な道を提供する。
しかし、標準的な自己回帰型MLエミュレータは、長い水平線上でエラーの蓄積に悩まされ、複雑な物理系の確率性を捉えるのに苦労する。
本稿では,決定論的物理基礎モデルを高効率かつ高精度な生成サロゲートに適応するための包括的方法論であるKastorを提案する。
まず,大規模な因果的自己回帰モデルと非因果的時間的超解像ネットワークを組み合わせ,計算コストを最小化しながらエラーの蓄積を著しく低減する2段階推論手法を提案する。
第2に,Nullノイズ条件下での定性分布平均を予測するために生成モデルを制約する新たな学習目標である平均予測正則化(MPR)を提案する。
この正規化により、FGN(Functional Generative Networks)と拡散型エミュレータの両方の性能と安定性が劇的に向上する。
最後に、空間勾配マッチングを取り入れることで、パワースペクトル密度によって測定されたシミュレーションの精度と物理的忠実度が向上することを示した。
ベンチマークの多様なシミュレーションデータセットに対する広範囲な評価は、これらのコンポーネントにより、我々のモデルは精度、スペクトルの一貫性、計算効率の予測において競合する手法よりも優れていることを示している。
本モデルでは,Walrusファインタニング手法に基づく基準よりも平均42.9%の予測削減を実現し,分散正規化RMSE(VRMSE)に基づく10データセット中8データセットにおいてWalrusを上回った。
関連論文リスト
- Scalable Lindblad Noise Learning via Stochastic Tensor-Network Simulation [48.887627688666974]
大規模オープン量子システムにおける学習散逸率は、短期量子技術の大きな障害である。
本稿では,シミュレーション手法であるJump Method(TJM)を組み合わせたLindblad散逸率のスケーラブルなノイズ学習フレームワークを提案する。
我々は,Isingモデルにおける2つのノイズモデルに対するアプローチを実証し,各サイトについて,N_mathrmsite=16$まで独立散逸率を学習した。
スケーラブルな数値と厳密な理論的保証の組み合わせは、TJMベースのノイズ学習を大きな量子デバイスにおける散逸を特徴づける実用的な基礎として位置づけている。
論文 参考訳(メタデータ) (2026-08-25T15:07:11Z) - Recursive Flow Matching [26.525851478512678]
本稿では,複雑な力学を予測するための生成フレームワークRecursive Flow Matching (RecFM)を紹介する。
RecFMは、離散化スケールを調整するための自己整合性を強制し、離散化エラーを低減し、物理ベースのタスクのメトリクス間でのパフォーマンスを改善する。
論文 参考訳(メタデータ) (2026-05-26T04:32:01Z) - Low-Rank Compression of Pretrained Models via Randomized Subspace Iteration [2.1016374925364616]
特異値分解(SVD)に基づく低ランク分解は、モデル還元の原理的なアプローチを提供する。
ランダム化SVD (RSVD) のようなランダム化された代替手法は効率を向上するが、特異値スペクトルがゆっくりと崩壊すると近似品質が低下する。
より効果的な代替手段としてランダム化部分空間(RSI)を提案する。
論文 参考訳(メタデータ) (2026-04-03T02:47:03Z) - Machine learning based radiative parameterization scheme and its performance in operational reforecast experiments [21.24990493675443]
本研究では、ディープニューラルネットワークを数値予測モデルに組み込むハイブリッド予測フレームワークに固有の制約について検討する。
残留畳み込みニューラルネットワークを用いて、中国気象庁のグローバル運用システム内での一般循環モデル(RRTMG)のラピッシブトランスファーモデル(Rapidive Transfer Model)を近似する。
リアルタイムな演算処理に適したLibTorchベースの結合方式が提案されている。
論文 参考訳(メタデータ) (2026-01-20T04:45:45Z) - Equilibrium Matching: Generative Modeling with Implicit Energy-Based Models [52.74448905289362]
EqMは、平衡力学の観点から構築された生成モデリングフレームワークである。
時間条件の速度を統一された平衡景観に置き換えることで、EqMは流れとエネルギーベースのモデルの間により緊密な橋渡しを提供する。
論文 参考訳(メタデータ) (2025-10-02T17:59:06Z) - Inference-Time Scaling of Diffusion Language Models with Particle Gibbs Sampling [70.8832906871441]
我々は、モデルを再訓練することなく、所望の報酬に向けて世代を操る方法を研究する。
従来の手法では、通常は1つの認知軌道内でサンプリングやフィルタを行い、軌道レベルの改善なしに報酬をステップバイステップで最適化する。
本稿では,拡散言語モデル(PG-DLM)の粒子ギブスサンプリングについて紹介する。
論文 参考訳(メタデータ) (2025-07-11T08:00:47Z) - Enhanced accuracy through ensembling of randomly initialized auto-regressive models for time-dependent PDEs [0.0]
機械学習モデルによる自己回帰推論は、連続した予測よりもエラーの蓄積に悩まされ、長期的な精度が制限される。
この課題に対処するために,複数のMLサロゲートモデルを並列にトレーニングし,推論中に集約するディープアンサンブルフレームワークを提案する。
我々はPDEを駆動する3つの力学系 - 不均一なミクロ組織における応力の進化、グレイ・スコット反応拡散、惑星規模の浅層水系 - の枠組みを検証した。
論文 参考訳(メタデータ) (2025-07-05T02:25:12Z) - Flow Matching Meets PDEs: A Unified Framework for Physics-Constrained Generation [21.321570407292263]
本稿では,PDE残差と代数的関係の両方の物理制約をフローマッチングの対象に組み込む生成フレームワークである物理ベースフローマッチングを提案する。
提案手法では,FMよりも高精度な物理残差を最大8倍に抑えながら,分布精度では既存アルゴリズムよりも明らかに優れていることを示す。
論文 参考訳(メタデータ) (2025-06-10T09:13:37Z) - On conditional diffusion models for PDE simulations [53.01911265639582]
スパース観測の予測と同化のためのスコアベース拡散モデルについて検討した。
本稿では,予測性能を大幅に向上させる自動回帰サンプリング手法を提案する。
また,条件付きスコアベースモデルに対する新たなトレーニング戦略を提案する。
論文 参考訳(メタデータ) (2024-10-21T18:31:04Z) - End-to-End Reinforcement Learning of Koopman Models for Economic Nonlinear Model Predictive Control [45.84205238554709]
本研究では, (e)NMPCの一部として最適性能を示すために, Koopman シュロゲートモデルの強化学習法を提案する。
エンドツーエンドトレーニングモデルは,(e)NMPCにおけるシステム識別を用いてトレーニングしたモデルよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-08-03T10:21:53Z) - Improving and generalizing flow-based generative models with minibatch
optimal transport [90.01613198337833]
連続正規化フロー(CNF)のための一般条件流整合(CFM)技術を導入する。
CFMは、拡散モデルのフローをトレーニングするために使用されるような安定した回帰目標を特徴としているが、決定論的フローモデルの効率的な推論を好んでいる。
我々の目的の変種は最適輸送CFM (OT-CFM) であり、訓練がより安定し、より高速な推論をもたらすより単純なフローを生成する。
論文 参考訳(メタデータ) (2023-02-01T14:47:17Z) - Multi-fidelity Hierarchical Neural Processes [79.0284780825048]
多要素代理モデリングは、異なるシミュレーション出力を融合させることで計算コストを削減する。
本稿では,多階層型階層型ニューラルネットワーク(MF-HNP)を提案する。
疫学および気候モデリングタスクにおけるMF-HNPの評価を行い、精度と不確実性評価の観点から競合性能を達成した。
論文 参考訳(メタデータ) (2022-06-10T04:54:13Z) - Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。
AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。
本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文 参考訳(メタデータ) (2020-10-24T07:01:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。