論文の概要: Enhanced accuracy through ensembling of randomly initialized auto-regressive models for time-dependent PDEs
- arxiv url: http://arxiv.org/abs/2507.03863v1
- Date: Sat, 05 Jul 2025 02:25:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-08 15:46:34.909444
- Title: Enhanced accuracy through ensembling of randomly initialized auto-regressive models for time-dependent PDEs
- Title（参考訳）: 時間依存PDEのためのランダム初期化自己回帰モデルのアンサンブルによる精度の向上
- Authors: Ishan Khurjekar, Indrashish Saha, Lori Graham-Brady, Somdatta Goswami,
- Abstract要約: 機械学習モデルによる自己回帰推論は、連続した予測よりもエラーの蓄積に悩まされ、長期的な精度が制限される。
この課題に対処するために,複数のMLサロゲートモデルを並列にトレーニングし,推論中に集約するディープアンサンブルフレームワークを提案する。
我々はPDEを駆動する3つの力学系 - 不均一なミクロ組織における応力の進化、グレイ・スコット反応拡散、惑星規模の浅層水系 - の枠組みを検証した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Systems governed by partial differential equations (PDEs) require computationally intensive numerical solvers to predict spatiotemporal field evolution. While machine learning (ML) surrogates offer faster solutions, autoregressive inference with ML models suffer from error accumulation over successive predictions, limiting their long-term accuracy. We propose a deep ensemble framework to address this challenge, where multiple ML surrogate models with random weight initializations are trained in parallel and aggregated during inference. This approach leverages the diversity of model predictions to mitigate error propagation while retaining the autoregressive strategies ability to capture the system's time dependent relations. We validate the framework on three PDE-driven dynamical systems - stress evolution in heterogeneous microstructures, Gray-Scott reaction-diffusion, and planetary-scale shallow water system - demonstrating consistent reduction in error accumulation over time compared to individual models. Critically, the method requires only a few time steps as input, enabling full trajectory predictions with inference times significantly faster than numerical solvers. Our results highlight the robustness of ensemble methods in diverse physical systems and their potential as efficient and accurate alternatives to traditional solvers. The codes for this work are available on GitHub (https://github.com/Graham-Brady-Research-Group/AutoregressiveEnsemble_SpatioTemporal_Evolution).
- Abstract（参考訳）: 偏微分方程式(PDE)によって支配されるシステムは、時空間発展を予測するために計算集約的な数値解法を必要とする。
機械学習(ML)サロゲートはより高速なソリューションを提供するが、MLモデルに対する自己回帰推論は、連続した予測よりもエラーの蓄積に悩まされ、長期的な精度が制限される。
この課題に対処するディープアンサンブルフレームワークを提案し、ランダムなウェイト初期化を伴う複数のMLサロゲートモデルを並列に訓練し、推論中に集約する。
このアプローチでは、モデル予測の多様性を活用してエラーの伝播を軽減し、システムの時間依存関係をキャプチャする自己回帰戦略を維持できる。
我々はPDE駆動の3つの力学系 - 不均一なミクロ構造における応力進化, グレイ・スコット反応拡散, 惑星規模の浅層水系 - の枠組みを検証し, 個々のモデルと比較して時間とともに誤差の蓄積が一貫した減少を示す。
重要なことに、この手法は入力として数ステップしか必要とせず、数値解法よりもはるかに高速な推論時間を持つ完全な軌道予測を可能にする。
本研究は,多様な物理システムにおけるアンサンブル手法の堅牢性と,従来の解法に対する効率的かつ正確な代替手段としての可能性を明らかにするものである。
この作業のコードはGitHubで公開されている(https://github.com/Graham-Brady-Research-Group/AutoregressiveEnsemble_SpatioTemporal_Evolution)。
関連論文リスト
- Implicit Neural Differential Model for Spatiotemporal Dynamics [5.1854032131971195]
In-PiNDiffは、安定時間力学のための新しい暗黙の物理積分型ニューラル微分可能解法である。
深い平衡モデルにインスパイアされたIm-PiNDiffは、暗黙の固定点層を用いて状態を前進させ、堅牢な長期シミュレーションを可能にする。
Im-PiNDiffは優れた予測性能、数値安定性の向上、メモリとコストの大幅な削減を実現している。
論文 参考訳（メタデータ） (2025-04-03T04:07:18Z) - MultiPDENet: PDE-embedded Learning with Multi-time-stepping for Accelerated Flow Simulation [48.41289705783405]
マルチスケールタイムステップ(MultiPDENet)を用いたPDE組み込みネットワークを提案する。
特に,有限差分構造に基づく畳み込みフィルタを少数のパラメータで設計し,最適化する。
4階ランゲ・クッタ積分器を微細な時間スケールで備えた物理ブロックが確立され、PDEの構造を埋め込んで予測を導出する。
論文 参考訳（メタデータ） (2025-01-27T12:15:51Z) - Ensemble Kalman Filtering Meets Gaussian Process SSM for Non-Mean-Field and Online Inference [47.460898983429374]
我々は,非平均場(NMF)変動推定フレームワークにアンサンブルカルマンフィルタ(EnKF)を導入し,潜在状態の後方分布を近似する。
EnKFとGPSSMのこの新しい結婚は、変分分布の学習における広範なパラメータ化の必要性をなくすだけでなく、エビデンスの下限(ELBO)の解釈可能でクローズドな近似を可能にする。
得られたEnKF支援オンラインアルゴリズムは、データ適合精度を確保しつつ、モデル正規化を組み込んで過度適合を緩和し、目的関数を具現化する。
論文 参考訳（メタデータ） (2023-12-10T15:22:30Z) - Deep Ensembles Meets Quantile Regression: Uncertainty-aware Imputation for Time Series [45.76310830281876]
量子回帰に基づくタスクネットワークのアンサンブルを用いて不確実性を推定する新しい手法であるQuantile Sub-Ensemblesを提案する。
提案手法は,高い損失率に頑健な高精度な計算法を生成するだけでなく,非生成モデルの高速な学習により,計算効率も向上する。
論文 参考訳（メタデータ） (2023-12-03T05:52:30Z) - IVP-VAE: Modeling EHR Time Series with Initial Value Problem Solvers [20.784780497613557]
状態進化をIPPによって直接近似できる連続プロセスを用いて、時系列を純粋にモデル化することを提案する。
これにより、リカレント計算が不要になり、複数の状態が並列に進化することが可能になる。
実世界の3つのデータセットの実験から,提案手法は先進国を体系的に上回り,最先端の結果が得られ,データ効率の面で大きな優位性を持つことが示された。
論文 参考訳（メタデータ） (2023-05-11T11:53:31Z) - Deep Convolutional Architectures for Extrapolative Forecast in
Time-dependent Flow Problems [0.0]
深層学習技術は、対流に支配された問題に対するシステムの力学をモデル化するために用いられる。
これらのモデルは、PDEから得られた連続した時間ステップに対する高忠実度ベクトル解のシーケンスとして入力される。
ディープオートエンコーダネットワークのような非侵襲的な低次モデリング技術を用いて高忠実度スナップショットを圧縮する。
論文 参考訳（メタデータ） (2022-09-18T03:45:56Z) - Interfacing Finite Elements with Deep Neural Operators for Fast
Multiscale Modeling of Mechanics Problems [4.280301926296439]
本研究では,機械学習を用いたマルチスケールモデリングのアイデアを探求し,高コストソルバの効率的なサロゲートとしてニューラル演算子DeepONetを用いる。
DeepONetは、きめ細かい解法から取得したデータを使って、基礎とおそらく未知のスケールのダイナミクスを学習してオフラインでトレーニングされている。
精度とスピードアップを評価するための様々なベンチマークを提示し、特に時間依存問題に対する結合アルゴリズムを開発する。
論文 参考訳（メタデータ） (2022-02-25T20:46:08Z) - Scaling Structured Inference with Randomization [64.18063627155128]
本稿では、構造化されたモデルを数万の潜在状態に拡張するためにランダム化された動的プログラミング(RDP)のファミリを提案する。
我々の手法は古典的DPベースの推論に広く適用できる。
また、自動微分とも互換性があり、ニューラルネットワークとシームレスに統合できる。
論文 参考訳（メタデータ） (2021-12-07T11:26:41Z) - Fast Distributionally Robust Learning with Variance Reduced Min-Max
Optimization [85.84019017587477]
分散的ロバストな教師付き学習は、現実世界のアプリケーションのための信頼性の高い機械学習システムを構築するための重要なパラダイムとして登場している。
Wasserstein DRSLを解くための既存のアルゴリズムは、複雑なサブプロブレムを解くか、勾配を利用するのに失敗する。
我々はmin-max最適化のレンズを通してwaserstein drslを再検討し、スケーラブルで効率的に実装可能な超勾配アルゴリズムを導出する。
論文 参考訳（メタデータ） (2021-04-27T16:56:09Z) - Large-scale Neural Solvers for Partial Differential Equations [48.7576911714538]
偏微分方程式 (PDE) を解くことは、多くのプロセスがPDEの観点でモデル化できるため、科学の多くの分野において不可欠である。
最近の数値解法では、基礎となる方程式を手動で離散化するだけでなく、分散コンピューティングのための高度で調整されたコードも必要である。
偏微分方程式, 物理インフォームドニューラルネットワーク(PINN)に対する連続メッシュフリーニューラルネットワークの適用性について検討する。
本稿では,解析解に関するGatedPINNの精度と,スペクトル解法などの最先端数値解法について論じる。
論文 参考訳（メタデータ） (2020-09-08T13:26:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。