論文の概要: Calibration and Uncertainty Quantification of Bayesian Convolutional
Neural Networks for Geophysical Applications
- arxiv url: http://arxiv.org/abs/2105.12115v1
- Date: Tue, 25 May 2021 17:54:23 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-26 14:17:30.357547
- Title: Calibration and Uncertainty Quantification of Bayesian Convolutional
Neural Networks for Geophysical Applications
- Title（参考訳）: 物理応用のためのベイズ畳み込みニューラルネットワークの校正と不確かさの定量化
- Authors: Lukas Mosser, Ehsan Zabihi Naeini
- Abstract要約: このような地下モデルによる予測の不確実性は、キャリブレーションされた確率と関連する不確かさを予測に組み込むのが一般的である。
一般的なディープラーニングベースのモデルは、しばしば誤解され、決定論的性質のため、予測の不確実性を解釈する手段がないことが示されている。
ベイズ形式論における畳み込みニューラルネットワークに基づく確率モデルを得るための3つの異なるアプローチを比較した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep neural networks offer numerous potential applications across geoscience,
for example, one could argue that they are the state-of-the-art method for
predicting faults in seismic datasets. In quantitative reservoir
characterization workflows, it is common to incorporate the uncertainty of
predictions thus such subsurface models should provide calibrated probabilities
and the associated uncertainties in their predictions. It has been shown that
popular Deep Learning-based models are often miscalibrated, and due to their
deterministic nature, provide no means to interpret the uncertainty of their
predictions. We compare three different approaches to obtaining probabilistic
models based on convolutional neural networks in a Bayesian formalism, namely
Deep Ensembles, Concrete Dropout, and Stochastic Weight Averaging-Gaussian
(SWAG). These methods are consistently applied to fault detection case studies
where Deep Ensembles use independently trained models to provide fault
probabilities, Concrete Dropout represents an extension to the popular Dropout
technique to approximate Bayesian neural networks, and finally, we apply SWAG,
a recent method that is based on the Bayesian inference equivalence of
mini-batch Stochastic Gradient Descent. We provide quantitative results in
terms of model calibration and uncertainty representation, as well as
qualitative results on synthetic and real seismic datasets. Our results show
that the approximate Bayesian methods, Concrete Dropout and SWAG, both provide
well-calibrated predictions and uncertainty attributes at a lower computational
cost when compared to the baseline Deep Ensemble approach. The resulting
uncertainties also offer a possibility to further improve the model performance
as well as enhancing the interpretability of the models.
- Abstract（参考訳）: 例えば、深層ニューラルネットワークは、地震データセットの断層を予測する最先端の手法であると主張することができる。
量的貯留層キャラクタリゼーションワークフローでは、予測の不確かさを取り入れることで、そのような地下モデルが校正された確率と関連する不確実性をもたらすことが一般的である。
一般的なディープラーニングベースのモデルは、しばしば誤解され、決定論的性質のため、その予測の不確かさを解釈する手段がないことが示されている。
ベイズ形式主義における畳み込みニューラルネットワークに基づく確率モデル(Deep Ensembles, concrete Dropout, Stochastic Weight Averaging-Gaussian (SWAG)) の3つのアプローチを比較した。
これらの手法は, 深いアンサンブルが独立に訓練されたモデルを用いて故障確率を提供する場合, コンクリートのドロップアウトはベイズ型ニューラルネットワークへの人気のあるドロップアウト手法の拡張であり, 最終的に, ミニバッチ確率勾配降下のベイズ推定等価性に基づく最近の手法であるswagを適用する。
モデルキャリブレーションと不確実性表現の観点で定量的な結果と,合成および実地震データセットの質的結果を提供する。
この結果から, 基礎となるDeep Ensemble手法と比較して, ベイズ近似法, コンクリート落下法, SWAG は, ともに計算コストが低く, 精度のよい予測および不確かさ特性を提供することがわかった。
結果として生じる不確実性は、モデルの性能をさらに改善し、モデルの解釈可能性を高める可能性も提供する。
関連論文リスト
- Human Trajectory Forecasting with Explainable Behavioral Uncertainty [63.62824628085961]
人間の軌道予測は人間の行動を理解し予測し、社会ロボットから自動運転車への応用を可能にする。
モデルフリー手法は予測精度が優れているが説明可能性に欠ける一方、モデルベース手法は説明可能性を提供するが、よく予測できない。
BNSP-SFMは,11種類の最先端手法と比較して,予測精度を最大50%向上することを示す。
論文 参考訳（メタデータ） (2023-07-04T16:45:21Z) - Collapsed Inference for Bayesian Deep Learning [36.1725075097107]
本稿では,崩壊サンプルを用いたベイズモデル平均化を行う新しい崩壊予測手法を提案する。
崩壊したサンプルは、近似後部から引き出された数え切れないほど多くのモデルを表す。
提案手法は, スケーラビリティと精度のバランスをとる。
論文 参考訳（メタデータ） (2023-06-16T08:34:42Z) - Neural State-Space Models: Empirical Evaluation of Uncertainty
Quantification [0.0]
本稿では,ニューラル状態空間モデルを用いたシステム同定のための不確実性定量化に関する予備的結果を示す。
ベイズ確率的設定で学習問題をフレーム化し、ニューラルネットワークの重みと出力の後方分布を求める。
後部に基づいて,出力の信頼区間を構築し,潜在的に危険なアウト・オブ・ディストリビューション体制下でモデルの使用を効果的に診断できるサプライズ指標を定義する。
論文 参考訳（メタデータ） (2023-04-13T08:57:33Z) - Dense Uncertainty Estimation [62.23555922631451]
本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。
本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
論文 参考訳（メタデータ） (2021-10-13T01:23:48Z) - Improving Uncertainty Calibration via Prior Augmented Data [56.88185136509654]
ニューラルネットワークは、普遍関数近似器として機能することで、複雑なデータ分布から学習することに成功した。
彼らはしばしば予測に自信過剰であり、不正確で誤った確率的予測に繋がる。
本稿では,モデルが不当に過信である特徴空間の領域を探索し,それらの予測のエントロピーをラベルの以前の分布に対して条件的に高める手法を提案する。
論文 参考訳（メタデータ） (2021-02-22T07:02:37Z) - Probabilistic electric load forecasting through Bayesian Mixture Density
Networks [70.50488907591463]
確率的負荷予測(PLF)は、スマートエネルギーグリッドの効率的な管理に必要な拡張ツールチェーンの重要なコンポーネントです。
ベイジアン混合密度ネットワークを枠とした新しいPLFアプローチを提案する。
後方分布の信頼性と計算にスケーラブルな推定を行うため,平均場変動推定と深層アンサンブルを統合した。
論文 参考訳（メタデータ） (2020-12-23T16:21:34Z) - Towards Trustworthy Predictions from Deep Neural Networks with Fast
Adversarial Calibration [2.8935588665357077]
本稿では,ドメインシフト後に得られたサンプルに対して,信頼度の高い信頼度を得るための効率的かつ汎用的なモデリング手法を提案する。
本稿では,エントロピー増大損失項と逆キャリブレーション損失項を組み合わせた新しいトレーニング戦略を導入し,この結果が適切に調整され,技術的に信頼できる予測となることを示す。
論文 参考訳（メタデータ） (2020-12-20T13:39:29Z) - Ramifications of Approximate Posterior Inference for Bayesian Deep
Learning in Adversarial and Out-of-Distribution Settings [7.476901945542385]
ベイジアン深層学習モデルが従来のニューラルネットワークよりわずかに優れていることを示す。
予備的な調査は、初期化、アーキテクチャ、アクティベーション関数の選択によるバイアスの潜在的固有の役割を示している。
論文 参考訳（メタデータ） (2020-09-03T16:58:15Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳（メタデータ） (2020-06-26T13:50:19Z) - Uncertainty Estimation Using a Single Deep Deterministic Neural Network [66.26231423824089]
本稿では,1回のフォワードパスで,テスト時に分布データポイントの発見と拒否が可能な決定論的ディープモデルを訓練する手法を提案する。
我々は,新しい損失関数とセントロイド更新方式を用いて,これらをスケールトレーニングし,ソフトマックスモデルの精度に適合させる。
論文 参考訳（メタデータ） (2020-03-04T12:27:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。