論文の概要: SPDE priors for uncertainty quantification of end-to-end neural data
assimilation schemes
- arxiv url: http://arxiv.org/abs/2402.01855v1
- Date: Fri, 2 Feb 2024 19:18:12 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-06 23:51:56.790130
- Title: SPDE priors for uncertainty quantification of end-to-end neural data
assimilation schemes
- Title(参考訳): SPDEによるエンドツーエンドのニューラルデータ同化スキームの不確実性定量化
- Authors: Maxime Beauchamp, Nicolas Desassis, J. Emmanuel Johnson, Simon
Benaichouche, Pierre Tandeo and Ronan Fablet
- Abstract要約: ディープラーニングコミュニティの最近の進歩は、データ同化変動フレームワークを組み込んだニューラルネットワークとしてこの問題に対処する上で有効である。
本研究では、SPDEに基づくプロセスから、空間と時間の両方で非定常共分散を扱える事前モデルを推定する。
我々のニューラル変分法は、両方の状態SPDEパラメトリゼーションによる拡張状態定式化を組み込むように修正されている。
- 参考スコア(独自算出の注目度): 4.213142548113385
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The spatio-temporal interpolation of large geophysical datasets has
historically been adressed by Optimal Interpolation (OI) and more sophisticated
model-based or data-driven DA techniques. In the last ten years, the link
established between Stochastic Partial Differential Equations (SPDE) and
Gaussian Markov Random Fields (GMRF) opened a new way of handling both large
datasets and physically-induced covariance matrix in Optimal Interpolation.
Recent advances in the deep learning community also enables to adress this
problem as neural architecture embedding data assimilation variational
framework. The reconstruction task is seen as a joint learning problem of the
prior involved in the variational inner cost and the gradient-based
minimization of the latter: both prior models and solvers are stated as neural
networks with automatic differentiation which can be trained by minimizing a
loss function, typically stated as the mean squared error between some ground
truth and the reconstruction. In this work, we draw from the SPDE-based
Gaussian Processes to estimate complex prior models able to handle
non-stationary covariances in both space and time and provide a stochastic
framework for interpretability and uncertainty quantification. Our neural
variational scheme is modified to embed an augmented state formulation with
both state and SPDE parametrization to estimate. Instead of a neural prior, we
use a stochastic PDE as surrogate model along the data assimilation window. The
training involves a loss function for both reconstruction task and SPDE prior
model, where the likelihood of the SPDE parameters given the true states is
involved in the training. Because the prior is stochastic, we can easily draw
samples in the prior distribution before conditioning to provide a flexible way
to estimate the posterior distribution based on thousands of members.
- Abstract(参考訳): 大規模な物理データセットの時空間補間は、OI(Optimal Interpolation)とより洗練されたモデルベースまたはデータ駆動DA技術によって歴史的に調整されてきた。
過去10年間で、確率的偏微分方程式 (SPDE) とガウス的マルコフランダム場 (GMRF) の間に確立されたリンクは、最適補間における大きなデータセットと物理的に誘起される共分散行列の両方を扱う新しい方法を開いた。
ディープラーニングコミュニティの最近の進歩により、この問題を、データ同化変動フレームワークを組み込んだニューラルネットワークアーキテクチャとして扱うこともできる。
リコンストラクションタスクは、変動の内コストと勾配に基づく後者の最小化にかかわる事前の学習問題と見なされており、先行モデルとソルバーはどちらも、損失関数を最小化することで訓練できる自動微分を持つニューラルネットワークとして記述され、一般に、ある基底真理と再構成の間の平均二乗誤差として記述される。
本研究では、SPDEに基づくガウス過程から、空間と時間の両方で非定常共分散を扱える複雑な事前モデルを推定し、解釈可能性と不確実性定量化のための確率的枠組みを提供する。
我々のニューラル変分法は、状態とSPDEパラメトリゼーションの両方に拡張状態の定式化を組み込むように修正されている。
ニューラルネットワークに代えて、確率的PDEをデータ同化ウィンドウに沿った代理モデルとして使用します。
トレーニングには、復元タスクとSPDE事前モデルの両方の損失関数が含まれており、真の状態が与えられたSPDEパラメータの可能性がトレーニングに関係している。
前者は確率的であるため、条件付け前にサンプルを簡単に事前分布に描画することができ、数千のメンバに基づいて後方分布を推定する柔軟な方法を提供する。
関連論文リスト
- Optimal Transport-Based Displacement Interpolation with Data Augmentation for Reduced Order Modeling of Nonlinear Dynamical Systems [0.0]
本稿では,複雑なシステムにおける非線形力学の表現を強化するために,最適輸送理論と変位を利用した新しいリダクション・オーダー・モデル(ROM)を提案する。
複雑なシステム挙動の予測における精度と効率の向上を示し、計算物理学や工学における幅広い応用の可能性を示している。
論文 参考訳(メタデータ) (2024-11-13T16:29:33Z) - PDE+: Enhancing Generalization via PDE with Adaptive Distributional
Diffusion [66.95761172711073]
ニューラルネットワークの一般化は、機械学習における中心的な課題です。
本稿では、入力データを調整することに集中するのではなく、ニューラルネットワークの基盤機能を直接拡張することを提案する。
私たちはこの理論的フレームワークを、$textbfPDE+$$textbfPDE$ with $textbfA$daptive $textbfD$istributional $textbfD$iffusionとして実践しました。
論文 参考訳(メタデータ) (2023-05-25T08:23:26Z) - Implicit Stochastic Gradient Descent for Training Physics-informed
Neural Networks [51.92362217307946]
物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。
PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。
本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
論文 参考訳(メタデータ) (2023-03-03T08:17:47Z) - Deep Learning Aided Laplace Based Bayesian Inference for Epidemiological
Systems [2.596903831934905]
本稿では,Laplace をベースとしたベイズ推定と ANN アーキテクチャを併用して ODE 軌道の近似を求めるハイブリッド手法を提案する。
本手法の有効性を,非分析的ソリューションを用いた疫学システム,Susceptible-Infectious-Demoved (SIR) モデルを用いて実証した。
論文 参考訳(メタデータ) (2022-10-17T09:02:41Z) - Extension of Dynamic Mode Decomposition for dynamic systems with
incomplete information based on t-model of optimal prediction [69.81996031777717]
動的モード分解は、動的データを研究するための非常に効率的な手法であることが証明された。
このアプローチの適用は、利用可能なデータが不完全である場合に問題となる。
本稿では,森-Zwanzig分解の1次近似を考察し,対応する最適化問題を記述し,勾配に基づく最適化法を用いて解く。
論文 参考訳(メタデータ) (2022-02-23T11:23:59Z) - Probabilistic partition of unity networks: clustering based deep
approximation [0.0]
ユニタリネットワーク(POU-Nets)の分割は、回帰とPDEの解に対する代数収束率を実現することができる。
ガウス雑音モデルを用いてPOU-Netを拡張し、最大可算損失の勾配に基づく一般化を導出できる確率的一般化を得る。
本研究では,高次元・低次元での性能を定量化するためのベンチマークを行い,高次元空間内のデータの潜在次元にのみ依存することを示す。
論文 参考訳(メタデータ) (2021-07-07T08:02:00Z) - Learning Functional Priors and Posteriors from Data and Physics [3.537267195871802]
我々は、歴史的データを用いて時空の露光を可能にするディープニューラルネットワークに基づく新しいフレームワークを開発した。
物理インフォームド・ジェネレーティブ・アダクティブ・アダクティブ・ネットワーク(PI-GAN)を用いて機能的事前学習を行う。
第2段階では, PI-GANの潜伏空間の後方を推定するために, ハミルトニアンモンテカルロ法(HMC)を用いる。
論文 参考訳(メタデータ) (2021-06-08T03:03:24Z) - Influence Estimation and Maximization via Neural Mean-Field Dynamics [60.91291234832546]
本稿では,ニューラル平均場(NMF)ダイナミクスを用いた新しい学習フレームワークを提案する。
我々のフレームワークは拡散ネットワークの構造とノード感染確率の進化を同時に学習することができる。
論文 参考訳(メタデータ) (2021-06-03T00:02:05Z) - Non-intrusive reduced order modeling of poroelasticity of heterogeneous
media based on a discontinuous Galerkin approximation [0.0]
異種多孔質媒体における線形多弾性問題に対する非侵入的モデル還元フレームワークを提案する。
内部ペナルティ不連続ガレルキン法(DG法)を全順序解法として利用し,不連続性を扱う。
我々のフレームワークは、DGソリューションの妥当な近似を提供するが、かなり高速である。
論文 参考訳(メタデータ) (2021-01-28T04:21:06Z) - Network Diffusions via Neural Mean-Field Dynamics [52.091487866968286]
本稿では,ネットワーク上の拡散の推論と推定のための新しい学習フレームワークを提案する。
本研究の枠組みは, ノード感染確率の正確な進化を得るために, モリ・ズワンジッヒ形式から導かれる。
我々のアプローチは、基礎となる拡散ネットワークモデルのバリエーションに対して多用途で堅牢である。
論文 参考訳(メタデータ) (2020-06-16T18:45:20Z) - Communication-Efficient Distributed Stochastic AUC Maximization with
Deep Neural Networks [50.42141893913188]
本稿では,ニューラルネットワークを用いた大規模AUCのための分散変数について検討する。
我々のモデルは通信ラウンドをはるかに少なくし、理論上はまだ多くの通信ラウンドを必要としています。
いくつかのデータセットに対する実験は、我々の理論の有効性を示し、我々の理論を裏付けるものである。
論文 参考訳(メタデータ) (2020-05-05T18:08:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。