論文の概要: Bayesian deep learning framework for uncertainty quantification in high
dimensions
- arxiv url: http://arxiv.org/abs/2210.11737v1
- Date: Fri, 21 Oct 2022 05:20:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-24 13:25:07.436938
- Title: Bayesian deep learning framework for uncertainty quantification in high
dimensions
- Title(参考訳): 高次元の不確実性定量化のためのベイズディープラーニングフレームワーク
- Authors: Jeahan Jung, Minseok Choi
- Abstract要約: 我々はベイズニューラルネットワーク(BNN)とハミルトンモンテカルロ(HMC)に基づく偏微分方程式の不確実性定量化のための新しい深層学習法を開発した。
BNNは、ネットワークパラメータに対してベイズ推論を行うことにより、ディープニューラルネットワークにおけるパラメータの後方分布を効率的に学習する。
後部分布は、HMCを用いて効率よくサンプリングされ、システムの不確かさを定量化する。
- 参考スコア(独自算出の注目度): 6.282068591820945
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We develop a novel deep learning method for uncertainty quantification in
stochastic partial differential equations based on Bayesian neural network
(BNN) and Hamiltonian Monte Carlo (HMC). A BNN efficiently learns the posterior
distribution of the parameters in deep neural networks by performing Bayesian
inference on the network parameters. The posterior distribution is efficiently
sampled using HMC to quantify uncertainties in the system. Several numerical
examples are shown for both forward and inverse problems in high dimension to
demonstrate the effectiveness of the proposed method for uncertainty
quantification. These also show promising results that the computational cost
is almost independent of the dimension of the problem demonstrating the
potential of the method for tackling the so-called curse of dimensionality.
- Abstract(参考訳): ベイズニューラルネットワーク(BNN)とハミルトニアン・モンテカルロ(HMC)に基づく確率偏微分方程式の不確実性定量化のための新しいディープラーニング手法を開発した。
bnnは、ネットワークパラメータのベイズ推定を行うことにより、ディープニューラルネットワークにおけるパラメータの後方分布を効率的に学習する。
後部分布は、HMCを用いて効率よくサンプリングされ、システムの不確かさを定量化する。
提案手法の有効性を示すために,高次元における前方問題と逆問題の両方にいくつかの数値例を示す。
これらはまた、計算コストがいわゆる次元の呪いに取り組む方法の可能性を示す問題の次元とほとんど独立である有望な結果も示している。
関連論文リスト
- A Compact Representation for Bayesian Neural Networks By Removing
Permutation Symmetry [22.229664343428055]
置換の役割は、多くの転置計量によって有意に定量化できることを示す。
次に、最近提案されたRebasin法により、HMCサンプルをコンパクトな表現にまとめることができることを示す。
このコンパクトな表現により、サンプル法と変分推論とでトレーニングされたBNNを直接重み空間で比較できることが示される。
論文 参考訳(メタデータ) (2023-12-31T23:57:05Z) - Tractable Function-Space Variational Inference in Bayesian Neural
Networks [72.97620734290139]
ニューラルネットワークの予測不確かさを推定するための一般的なアプローチは、ネットワークパラメータに対する事前分布を定義することである。
本稿では,事前情報を組み込むスケーラブルな関数空間変動推論手法を提案する。
提案手法は,様々な予測タスクにおいて,最先端の不確実性評価と予測性能をもたらすことを示す。
論文 参考訳(メタデータ) (2023-12-28T18:33:26Z) - Learning Active Subspaces for Effective and Scalable Uncertainty
Quantification in Deep Neural Networks [13.388835540131508]
本稿では,ニューラルネットワークパラメータの低次元部分空間を構築するための新しい手法を提案する。
その結果, 有効かつスケーラブルなベイズ推定が可能であることを実証した。
提案手法は, 各種回帰タスクに対して, 頑健な不確実性推定を伴う信頼性予測を提供する。
論文 参考訳(メタデータ) (2023-09-06T15:00:36Z) - Efficient Bayesian Physics Informed Neural Networks for Inverse Problems
via Ensemble Kalman Inversion [0.0]
本稿では,高次元推論タスクにEnsemble Kalman Inversion (EKI) を用いるB-PINNの新しい効率的な推論アルゴリズムを提案する。
提案手法は,ハミルトン・モンテカルロ (HMC) ベースのB-PINNに匹敵する情報的不確実性を推定し,計算コストを大幅に削減できることを示す。
論文 参考訳(メタデータ) (2023-03-13T18:15:26Z) - Variational Neural Networks [88.24021148516319]
本稿では,変分ニューラルネットワーク(VNN)と呼ばれるニューラルネットワークにおける不確実性推定手法を提案する。
VNNは、学習可能なサブレイヤで入力を変換することで、レイヤの出力分布のパラメータを生成する。
不確実性評価実験において、VNNはモンテカルロ・ドロップアウトやベイズ・バイ・バックプロパゲーション法よりも優れた不確実性が得られることを示す。
論文 参考訳(メタデータ) (2022-07-04T15:41:02Z) - The Unreasonable Effectiveness of Deep Evidential Regression [72.30888739450343]
不確実性を考慮した回帰ベースニューラルネットワーク(NN)による新しいアプローチは、従来の決定論的手法や典型的なベイズ的NNよりも有望であることを示している。
我々は、理論的欠点を詳述し、合成および実世界のデータセットのパフォーマンスを分析し、Deep Evidential Regressionが正確な不確実性ではなく定量化であることを示す。
論文 参考訳(メタデータ) (2022-05-20T10:10:32Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳(メタデータ) (2022-02-07T12:30:45Z) - Multivariate Deep Evidential Regression [77.34726150561087]
不確実性を認識するニューラルネットワークによる新しいアプローチは、従来の決定論的手法よりも有望である。
本稿では,レグレッションベースニューラルネットワークからアレータ性およびてんかん性不確かさを抽出する手法を提案する。
論文 参考訳(メタデータ) (2021-04-13T12:20:18Z) - Sampling-free Variational Inference for Neural Networks with
Multiplicative Activation Noise [51.080620762639434]
サンプリングフリー変動推論のための後方近似のより効率的なパラメータ化を提案する。
提案手法は,標準回帰問題に対する競合的な結果をもたらし,大規模画像分類タスクに適している。
論文 参考訳(メタデータ) (2021-03-15T16:16:18Z) - Efficient Variational Inference for Sparse Deep Learning with
Theoretical Guarantee [20.294908538266867]
スパースディープラーニングは、ディープニューラルネットワークによる巨大なストレージ消費の課題に対処することを目的としている。
本稿では,スパイク・アンド・スラブ前処理による完全ベイズ処理により,疎いディープニューラルネットワークを訓練する。
我々はベルヌーイ分布の連続緩和による計算効率の良い変分推論のセットを開発する。
論文 参考訳(メタデータ) (2020-11-15T03:27:54Z) - Efficient Uncertainty Quantification for Dynamic Subsurface Flow with
Surrogate by Theory-guided Neural Network [0.0]
理論誘導ニューラルネットワーク(TgNN)により構築された代理体を用いた動的地下流れの効率的な不確実性定量化手法を提案する。
パラメータ、時間、位置はニューラルネットワークの入力であり、関心の量は出力である。
トレーニングされたニューラルネットワークは、新しいパラメータで地下流れ問題の解を予測することができる。
論文 参考訳(メタデータ) (2020-04-25T12:41:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。