論文の概要: Density Uncertainty Layers for Reliable Uncertainty Estimation
- arxiv url: http://arxiv.org/abs/2306.12497v2
- Date: Mon, 4 Mar 2024 19:29:04 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-07 03:20:04.535055
- Title: Density Uncertainty Layers for Reliable Uncertainty Estimation
- Title(参考訳): 信頼性不確かさ推定のための密度不確かさ層
- Authors: Yookoon Park, David M. Blei
- Abstract要約: ディープニューラルネットワークの予測不確実性を評価することは、ディープラーニングの安全性関連の応用に不可欠である。
本稿では,モデルが入力の経験的密度に基づいて予測分散を行う必要があるという,信頼性のある予測不確実性のための新しい基準を提案する。
既存の手法と比較すると、密度不確実性層はより信頼性の高い不確実性推定とロバストなアウト・オブ・ディストリビューション検出性能を提供する。
- 参考スコア(独自算出の注目度): 20.867449366086237
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Assessing the predictive uncertainty of deep neural networks is crucial for
safety-related applications of deep learning. Although Bayesian deep learning
offers a principled framework for estimating model uncertainty, the common
approaches that approximate the parameter posterior often fail to deliver
reliable estimates of predictive uncertainty. In this paper, we propose a novel
criterion for reliable predictive uncertainty: a model's predictive variance
should be grounded in the empirical density of the input. That is, the model
should produce higher uncertainty for inputs that are improbable in the
training data and lower uncertainty for inputs that are more probable. To
operationalize this criterion, we develop the density uncertainty layer, a
stochastic neural network architecture that satisfies the density uncertain
criterion by design. We study density uncertainty layers on the UCI and
CIFAR-10/100 uncertainty benchmarks. Compared to existing approaches, density
uncertainty layers provide more reliable uncertainty estimates and robust
out-of-distribution detection performance.
- Abstract(参考訳): ディープニューラルネットワークの予測の不確実性を評価することは、深層学習の安全性に関する応用に不可欠である。
ベイズ深層学習はモデル不確かさを推定するための原則的な枠組みを提供するが、パラメータの後部を近似する一般的なアプローチは予測不確かさの信頼できる推定を達成できないことが多い。
本稿では,モデルの予測分散を入力の実証密度に基礎を置くという,信頼性の高い予測不確実性のための新しい基準を提案する。
つまり、トレーニングデータでは不可能な入力に対する不確実性が高く、より予測可能な入力に対する不確実性も低くする必要がある。
この基準を運用するために、設計により不確かさを満足する確率的ニューラルネットワークアーキテクチャである密度不確かさ層を開発する。
UCIおよびCIFAR-10/100における密度不確実性層について検討した。
既存のアプローチと比較して、密度の不確実性層はより信頼性の高い不確実性推定と堅牢な分散外検出性能を提供する。
関連論文リスト
- One step closer to unbiased aleatoric uncertainty estimation [71.55174353766289]
そこで本研究では,観測データのアクティブデノイズ化による新しい推定手法を提案する。
幅広い実験を行うことで,提案手法が標準手法よりも実際のデータ不確実性にはるかに近い近似を与えることを示す。
論文 参考訳(メタデータ) (2023-12-16T14:59:11Z) - Decomposing Uncertainty for Large Language Models through Input Clarification Ensembling [69.83976050879318]
大規模言語モデル(LLM)では、不確実性の原因を特定することが、信頼性、信頼性、解釈可能性を改善するための重要なステップである。
本稿では,LLMのための不確実性分解フレームワークについて述べる。
提案手法は,入力に対する一連の明確化を生成し,それらをLLMに入力し,対応する予測をアンサンブルする。
論文 参考訳(メタデータ) (2023-11-15T05:58:35Z) - Adaptive Uncertainty Estimation via High-Dimensional Testing on Latent
Representations [28.875819909902244]
不確実性推定は、訓練されたディープニューラルネットワークの信頼性を評価することを目的としている。
既存の不確実性推定アプローチは、低次元分布仮定に依存している。
本研究では,不確実性推定のためのデータ適応型高次元仮説テストを用いた新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2023-10-25T12:22:18Z) - Integrating Uncertainty into Neural Network-based Speech Enhancement [27.868722093985006]
時間周波数領域における監視されたマスキングアプローチは、ディープニューラルネットワークを使用して乗法マスクを推定し、クリーンな音声を抽出することを目的としている。
これにより、信頼性の保証や尺度を使わずに、各入力に対する単一の見積もりが導かれる。
クリーン音声推定における不確実性モデリングの利点について検討する。
論文 参考訳(メタデータ) (2023-05-15T15:55:12Z) - Reliability-Aware Prediction via Uncertainty Learning for Person Image
Retrieval [51.83967175585896]
UALは、データ不確実性とモデル不確実性を同時に考慮し、信頼性に配慮した予測を提供することを目的としている。
データ不確実性はサンプル固有のノイズを捕捉する」一方、モデル不確実性はサンプルの予測に対するモデルの信頼を表現している。
論文 参考訳(メタデータ) (2022-10-24T17:53:20Z) - On Attacking Out-Domain Uncertainty Estimation in Deep Neural Networks [11.929914721626849]
我々は,現在最先端の不確実性推定アルゴリズムが,我々の提案した敵攻撃の下で破滅的に失敗する可能性を示唆した。
特に、領域外不確実性推定を攻撃することを目的としている。
論文 参考訳(メタデータ) (2022-10-03T23:33:38Z) - Dense Uncertainty Estimation via an Ensemble-based Conditional Latent
Variable Model [68.34559610536614]
我々は、アレータリック不確実性はデータの固有の特性であり、偏見のないオラクルモデルでのみ正確に推定できると論じる。
そこで本研究では,軌道不確実性推定のためのオラクルモデルを近似するために,列車時の新しいサンプリングと選択戦略を提案する。
以上の結果から,提案手法は精度の高い決定論的結果と確実な不確実性推定の両方を達成できることが示唆された。
論文 参考訳(メタデータ) (2021-11-22T08:54:10Z) - Dense Uncertainty Estimation [62.23555922631451]
本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。
本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
論文 参考訳(メタデータ) (2021-10-13T01:23:48Z) - Approaching Neural Network Uncertainty Realism [53.308409014122816]
自動運転車などの安全クリティカルなシステムには、定量化または少なくとも上限の不確実性が不可欠です。
マハラノビス距離に基づく統計的テストにより、厳しい品質基準である不確実性リアリズムを評価します。
自動車分野に採用し、プレーンエンコーダデコーダモデルと比較して、不確実性リアリズムを大幅に改善することを示した。
論文 参考訳(メタデータ) (2021-01-08T11:56:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。