論文の概要: Unreliable Uncertainty Estimates with Monte Carlo Dropout
- arxiv url: http://arxiv.org/abs/2512.14851v1
- Date: Tue, 16 Dec 2025 19:14:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-18 17:06:26.759598
- Title: Unreliable Uncertainty Estimates with Monte Carlo Dropout
- Title(参考訳): モンテカルロ・ドロップアウトによる信頼できない不確実性の推定
- Authors: Aslak Djupskås, Alexander Johannes Stasik, Signe Riemer-Sørensen,
- Abstract要約: 深層学習におけるベイズ推定の効率的な近似としてモンテカルロ・ドロップアウト (MCD) が提案された。
我々は、その真の不確実性を捉える能力を実証的に調査する。
MCDは根底にある真の不確かさを正確に反映するのに苦労している。
- 参考スコア(独自算出の注目度): 42.50242605797505
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Reliable uncertainty estimation is crucial for machine learning models, especially in safety-critical domains. While exact Bayesian inference offers a principled approach, it is often computationally infeasible for deep neural networks. Monte Carlo dropout (MCD) was proposed as an efficient approximation to Bayesian inference in deep learning by applying neuron dropout at inference time \citep{gal2016dropout}. Hence, the method generates multiple sub-models yielding a distribution of predictions to estimate uncertainty. We empirically investigate its ability to capture true uncertainty and compare to Gaussian Processes (GP) and Bayesian Neural Networks (BNN). We find that MCD struggles to accurately reflect the underlying true uncertainty, particularly failing to capture increased uncertainty in extrapolation and interpolation regions as observed in Bayesian models. The findings suggest that uncertainty estimates from MCD, as implemented and evaluated in these experiments, is not as reliable as those from traditional Bayesian approaches for capturing epistemic and aleatoric uncertainty.
- Abstract(参考訳): 信頼性の高い不確実性推定は、機械学習モデル、特に安全クリティカルな領域において重要である。
正確なベイズ推論は原理的なアプローチを提供するが、ディープニューラルネットワークでは計算不可能であることが多い。
モンテカルロ・ドロップアウト (MCD) は, 深層学習におけるベイズ推定の効率的な近似として, 推定時間 \citep{gal2016dropout} でニューロンのドロップアウトを適用した。
したがって,不確実性を推定するために予測の分布を導出する複数のサブモデルを生成する。
実不確実性を捉える能力について実証的に検討し,ガウス過程(GP)とベイズニューラルネットワーク(BNN)と比較した。
特にベイズモデルで見られるように、外挿領域や補間領域における不確実性の増大を捉えるのに失敗する。
その結果,これらの実験で実施および評価されたMDDによる不確実性評価は,従来のベイズ的アプローチによるてんかんやアレタリック不確実性の把握ほど信頼性が低いことが示唆された。
関連論文リスト
- Uncertainty Quantification for Deep Regression using Contextualised Normalizing Flows [1.8899300124593648]
本稿では,予測間隔と完全条件付き予測分布の両方を生成する新しい不確実性定量化手法であるMCNFを紹介する。
MCNFは、基礎となるトレーニングされた予測モデル上で動作するため、予測モデルの再トレーニングは不要である。
我々は、MCNFに基づく不確実性推定が十分に校正され、最先端の不確実性定量化手法と競合し、下流の意思決定タスクに対してよりリッチな情報を提供する実験的な証拠を提供する。
論文 参考訳(メタデータ) (2025-11-30T11:08:40Z) - Cooperative Bayesian and variance networks disentangle aleatoric and epistemic uncertainties [0.0]
実世界のデータは、不完全な測定やデータ生成プロセスに関する不完全な知識から生じる、アレラトリックな不確実性を含んでいる。
平均分散推定(MVE)ネットワークは、このような不確実性を学ぶことができるが、過度な適合を避けるためには、アドホックな正規化戦略を必要とする。
ベイズニューラルネットワークを用いて分散ネットワークを訓練し、その結果のモデルが平均推定を改善しつつ、アレタリックおよびてんかんの不確かさを解き放つことを示す。
論文 参考訳(メタデータ) (2025-05-05T15:50:52Z) - Bayesian meta learning for trustworthy uncertainty quantification [3.683202928838613]
ベイズメタ学習のための新しい最適化フレームワークであるTrust-Bayesを提案する。
所定間隔で捕捉される基底真理の確率の低い境界を特徴付ける。
我々は、信頼に値する不確実性定量化の可能な確率について、サンプルの複雑さを解析する。
論文 参考訳(メタデータ) (2024-07-27T15:56:12Z) - One step closer to unbiased aleatoric uncertainty estimation [71.55174353766289]
そこで本研究では,観測データのアクティブデノイズ化による新しい推定手法を提案する。
幅広い実験を行うことで,提案手法が標準手法よりも実際のデータ不確実性にはるかに近い近似を与えることを示す。
論文 参考訳(メタデータ) (2023-12-16T14:59:11Z) - Calibrating Neural Simulation-Based Inference with Differentiable
Coverage Probability [50.44439018155837]
ニューラルモデルのトレーニング目的に直接キャリブレーション項を含めることを提案する。
古典的なキャリブレーション誤差の定式化を緩和することにより、エンドツーエンドのバックプロパゲーションを可能にする。
既存の計算パイプラインに直接適用でき、信頼性の高いブラックボックス後部推論が可能である。
論文 参考訳(メタデータ) (2023-10-20T10:20:45Z) - Integrating Uncertainty into Neural Network-based Speech Enhancement [27.868722093985006]
時間周波数領域における監視されたマスキングアプローチは、ディープニューラルネットワークを使用して乗法マスクを推定し、クリーンな音声を抽出することを目的としている。
これにより、信頼性の保証や尺度を使わずに、各入力に対する単一の見積もりが導かれる。
クリーン音声推定における不確実性モデリングの利点について検討する。
論文 参考訳(メタデータ) (2023-05-15T15:55:12Z) - Dense Uncertainty Estimation [62.23555922631451]
本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。
本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
論文 参考訳(メタデータ) (2021-10-13T01:23:48Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z) - Deep Bayesian Gaussian Processes for Uncertainty Estimation in
Electronic Health Records [30.65770563934045]
我々はディープ・ベイズ学習フレームワークの特徴とディープ・カーネル・ラーニングを融合させ、より包括的な不確実性推定に両手法の強みを活用する。
我々は,不均衡なデータセットにおけるマイノリティクラスにおいて,過度に信頼された予測を行うことに対して,我々の手法はより感受性が低いことを示す。
論文 参考訳(メタデータ) (2020-03-23T10:36:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。