論文の概要: Uncertainty Quantification in Scientific Machine Learning: Methods,
Metrics, and Comparisons
- arxiv url: http://arxiv.org/abs/2201.07766v1
- Date: Wed, 19 Jan 2022 18:04:01 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-20 14:54:15.014064
- Title: Uncertainty Quantification in Scientific Machine Learning: Methods,
Metrics, and Comparisons
- Title(参考訳): 科学機械学習における不確かさの定量化:方法,メトリクス,比較
- Authors: Apostolos F Psaros, Xuhui Meng, Zongren Zou, Ling Guo, George Em
Karniadakis
- Abstract要約: NNは、物理と工学の数学的法則とデータを組み合わせる方法の計算パラダイムを変更している。
NNベースの推論における誤りと不確かさの定量化は、従来の方法よりも複雑である。
本稿では、不確実性モデリング、新しい解法、既存の解法、評価指標、ポストホック改善アプローチを含む包括的フレームワークを提案する。
- 参考スコア(独自算出の注目度): 1.8197242789718422
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural networks (NNs) are currently changing the computational paradigm on
how to combine data with mathematical laws in physics and engineering in a
profound way, tackling challenging inverse and ill-posed problems not solvable
with traditional methods. However, quantifying errors and uncertainties in
NN-based inference is more complicated than in traditional methods. This is
because in addition to aleatoric uncertainty associated with noisy data, there
is also uncertainty due to limited data, but also due to NN hyperparameters,
overparametrization, optimization and sampling errors as well as model
misspecification. Although there are some recent works on uncertainty
quantification (UQ) in NNs, there is no systematic investigation of suitable
methods towards quantifying the total uncertainty effectively and efficiently
even for function approximation, and there is even less work on solving partial
differential equations and learning operator mappings between
infinite-dimensional function spaces using NNs. In this work, we present a
comprehensive framework that includes uncertainty modeling, new and existing
solution methods, as well as evaluation metrics and post-hoc improvement
approaches. To demonstrate the applicability and reliability of our framework,
we present an extensive comparative study in which various methods are tested
on prototype problems, including problems with mixed input-output data, and
stochastic problems in high dimensions. In the Appendix, we include a
comprehensive description of all the UQ methods employed, which we will make
available as open-source library of all codes included in this framework.
- Abstract(参考訳): ニューラルネットワーク(nns)は現在、物理学と工学における数学的法則とデータをどのように結合するかという計算パラダイムを変えており、従来の方法では解決できない逆問題や不適切な問題に取り組んでいる。
しかし、nnに基づく推論の誤りや不確かさの定量化は従来の手法よりも複雑である。
これは、ノイズデータに関連するアレータティック不確実性に加えて、限られたデータによる不確実性もあるが、NNハイパーパラメータ、過度なパラメータ化、最適化、サンプリングエラー、モデル誤特定などによる。
nns における不確かさ量子化(uq)に関する最近の研究はいくつかあるが、関数近似においても不確かさを効果的かつ効率的に定量化するための適切な方法に関する体系的な調査はなく、偏微分方程式の解法や nns を用いた無限次元関数空間間の学習作用素写像の解法も少ない。
本研究では,不確実性モデリング,新しい解法,既存解法,評価指標,ポストホック改善アプローチを含む包括的フレームワークを提案する。
本研究では,本フレームワークの適用性と信頼性を示すために,混合入力出力データにおける問題や高次元確率問題など,プロトタイプ問題に対する様々な手法のテストを行った。
付録には、採用されているすべてのuqメソッドの包括的な説明が含まれており、このフレームワークに含まれるすべてのコードのオープンソースライブラリとして利用可能になります。
関連論文リスト
- Deep Operator Networks for Bayesian Parameter Estimation in PDEs [0.0]
本稿では,Deep Operator Networks (DeepONets) と物理インフォームドニューラルネットワーク (PINN) を組み合わせて偏微分方程式 (PDE) を解く新しいフレームワークを提案する。
データ駆動学習を物理的制約と統合することにより,多様なシナリオにまたがる堅牢で正確なソリューションを実現する。
論文 参考訳(メタデータ) (2025-01-18T07:41:05Z) - Empowering Bayesian Neural Networks with Functional Priors through Anchored Ensembling for Mechanics Surrogate Modeling Applications [0.0]
本稿では,関数空間で利用可能な事前情報を統合するアンカー型アンサンブルに基づく新しいBNNトレーニング手法を提案する。
アンカーリング方式は, NNパラメータ間の低ランク相関を利用して, 事前学習から関数前の実現まで学習する。
また,既存のBNN実装では無視されることが多いNN重み間の相関が,関数空間とパラメータ空間の事前知識を適切に伝達する上で重要であることを示す。
論文 参考訳(メタデータ) (2024-09-08T22:27:50Z) - Physics-constrained polynomial chaos expansion for scientific machine learning and uncertainty quantification [6.739642016124097]
本稿では,SciML(SciML)と不確実性定量化(UQ)の両タスクの実行が可能な代理モデリング手法として,物理制約付きカオス展開を提案する。
提案手法は,SciMLをUQにシームレスに統合し,その逆で,SciMLタスクの不確かさを効果的に定量化し,SciMLを利用してUQ関連タスクにおける不確実性評価を改善する。
論文 参考訳(メタデータ) (2024-02-23T06:04:15Z) - Ensemble Kalman Filtering Meets Gaussian Process SSM for Non-Mean-Field and Online Inference [47.460898983429374]
我々は,非平均場(NMF)変動推定フレームワークにアンサンブルカルマンフィルタ(EnKF)を導入し,潜在状態の後方分布を近似する。
EnKFとGPSSMのこの新しい結婚は、変分分布の学習における広範なパラメータ化の必要性をなくすだけでなく、エビデンスの下限(ELBO)の解釈可能でクローズドな近似を可能にする。
得られたEnKF支援オンラインアルゴリズムは、データ適合精度を確保しつつ、モデル正規化を組み込んで過度適合を緩和し、目的関数を具現化する。
論文 参考訳(メタデータ) (2023-12-10T15:22:30Z) - Single-model uncertainty quantification in neural network potentials
does not consistently outperform model ensembles [0.7499722271664145]
ニューラルネットワーク(NN)は、遠く離れた地点であっても、予測に高い信頼性を割り当てることが多い。
不確かさ定量化(英: Uncertainty Quantification、UQ)は、物質系における原子間ポテンシャルのモデル化に使用されるときの課題である。
異なるUQ技術は、新しい情報データを見つけ、堅牢なポテンシャルのためにアクティブな学習ループを駆動することができる。
論文 参考訳(メタデータ) (2023-05-02T19:41:17Z) - Validation Diagnostics for SBI algorithms based on Normalizing Flows [55.41644538483948]
本研究は,NFに基づく多次元条件(後)密度推定器の検証診断を容易にすることを提案する。
また、局所的な一貫性の結果に基づいた理論的保証も提供する。
この作業は、より良い特定モデルの設計を支援したり、新しいSBIアルゴリズムの開発を促進するのに役立つだろう。
論文 参考訳(メタデータ) (2022-11-17T15:48:06Z) - Posterior and Computational Uncertainty in Gaussian Processes [52.26904059556759]
ガウスのプロセスはデータセットのサイズとともに違法にスケールする。
多くの近似法が開発されており、必然的に近似誤差を導入している。
この余分な不確実性の原因は、計算が限られているため、近似後部を使用すると完全に無視される。
本研究では,観測された有限個のデータと有限個の計算量の両方から生じる組合せ不確実性を一貫した推定を行う手法の開発を行う。
論文 参考訳(メタデータ) (2022-05-30T22:16:25Z) - Offline Model-Based Optimization via Normalized Maximum Likelihood
Estimation [101.22379613810881]
データ駆動最適化の問題を検討し、一定の点セットでクエリのみを与えられた関数を最大化する必要がある。
この問題は、関数評価が複雑で高価なプロセスである多くの領域に現れる。
我々は,提案手法を高容量ニューラルネットワークモデルに拡張可能なトラクタブル近似を提案する。
論文 参考訳(メタデータ) (2021-02-16T06:04:27Z) - Local error quantification for Neural Network Differential Equation
solvers [6.09170287691728]
NN DEソルバをより正確かつ効率的にする手法を開発した。
本手法は,NNDEの精度の高い予測誤差をポイントワイズで推定する手法によって実現される。
非線形システムとカオスシステムでテストすることで,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-08-24T08:22:58Z) - Differentiable Causal Discovery from Interventional Data [141.41931444927184]
本稿では、介入データを活用可能なニューラルネットワークに基づく理論的基盤化手法を提案する。
提案手法は,様々な環境下での美術品の状態と良好に比較できることを示す。
論文 参考訳(メタデータ) (2020-07-03T15:19:17Z) - The empirical duality gap of constrained statistical learning [115.23598260228587]
本研究では,制約付き統計学習問題(制約なし版)について,ほぼ全ての現代情報処理のコアとなる研究を行った。
本稿では, 有限次元パラメータ化, サンプル平均, 双対性理論を利用して, 無限次元, 未知分布, 制約を克服する制約付き統計問題に取り組むことを提案する。
フェアラーニングアプリケーションにおいて,この制約付き定式化の有効性と有用性を示す。
論文 参考訳(メタデータ) (2020-02-12T19:12:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。