論文の概要: Bayesian Neural Network Versus Ex-Post Calibration For Prediction
Uncertainty
- arxiv url: http://arxiv.org/abs/2209.14594v1
- Date: Thu, 29 Sep 2022 07:22:19 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-30 15:52:22.941039
- Title: Bayesian Neural Network Versus Ex-Post Calibration For Prediction
Uncertainty
- Title(参考訳): 予測の不確実性に対するベイジアンニューラルネットワークとポストキャリブレーション
- Authors: Satya Borgohain, Klaus Ackermann and Ruben Loaiza-Maya
- Abstract要約: ニューラルネットワークからの確率的予測は、分類中の予測の不確実性の原因となる。
実際には、ほとんどのデータセットは非確率的ニューラルネットワークでトレーニングされています。
キャリブレーションアプローチのもっともらしい代替手段は、予測分布を直接モデル化するベイズニューラルネットワークを使用することである。
- 参考スコア(独自算出の注目度): 0.2343856409260935
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Probabilistic predictions from neural networks which account for predictive
uncertainty during classification is crucial in many real-world and high-impact
decision making settings. However, in practice most datasets are trained on
non-probabilistic neural networks which by default do not capture this inherent
uncertainty. This well-known problem has led to the development of post-hoc
calibration procedures, such as Platt scaling (logistic), isotonic and beta
calibration, which transforms the scores into well calibrated empirical
probabilities. A plausible alternative to the calibration approach is to use
Bayesian neural networks, which directly models a predictive distribution.
Although they have been applied to images and text datasets, they have seen
limited adoption in the tabular and small data regime. In this paper, we
demonstrate that Bayesian neural networks yields competitive performance when
compared to calibrated neural networks and conduct experiments across a wide
array of datasets.
- Abstract(参考訳): 分類中の予測の不確実性を考慮したニューラルネットワークからの確率的予測は、現実的かつ高インパクトな意思決定設定において不可欠である。
しかし、実際には、ほとんどのデータセットは非確率的ニューラルネットワークでトレーニングされている。
この良く知られた問題は、プレートスケーリング(ロジスティック)、等調、ベータキャリブレーションなどのポストホックなキャリブレーション手順の開発につながり、スコアを十分なキャリブレーションされた経験的確率に変換する。
キャリブレーションアプローチの正当な代替手段は、予測分布を直接モデル化するベイジアンニューラルネットワークを使用することである。
画像やテキストデータセットに適用されているが、表や小さなデータ構造では採用が限られている。
本稿では,ベイズニューラルネットワークが校正されたニューラルネットワークと比較して競争性能を向上し,幅広いデータセットで実験を行うことを示す。
関連論文リスト
- Bridging Precision and Confidence: A Train-Time Loss for Calibrating
Object Detection [58.789823426981044]
本稿では,境界ボックスのクラス信頼度を予測精度に合わせることを目的とした,新たな補助損失定式化を提案する。
その結果,列車の走行時間損失はキャリブレーション基準を超過し,キャリブレーション誤差を低減させることがわかった。
論文 参考訳(メタデータ) (2023-03-25T08:56:21Z) - Improved uncertainty quantification for neural networks with Bayesian
last layer [0.0]
不確実性定量化は機械学習において重要な課題である。
本稿では,BLL を用いた NN の対数乗算可能性の再構成を行い,バックプロパゲーションを用いた効率的なトレーニングを実現する。
論文 参考訳(メタデータ) (2023-02-21T20:23:56Z) - NCTV: Neural Clamping Toolkit and Visualization for Neural Network
Calibration [66.22668336495175]
ニューラルネットワークのキャリブレーションに対する考慮の欠如は、人間から信頼を得ることはないだろう。
我々はNeural Clamping Toolkitを紹介した。これは開発者が最先端のモデルに依存しないキャリブレーションモデルを採用するのを支援するために設計された最初のオープンソースフレームワークである。
論文 参考訳(メタデータ) (2022-11-29T15:03:05Z) - Single Model Uncertainty Estimation via Stochastic Data Centering [39.71621297447397]
私たちは、ディープニューラルネットワークの不確実性を見積もることに興味があります。
我々は、一定のバイアスによってシフトしたデータセットに基づいてトレーニングされた、同じ重み付きニューラルネットワークのアンサンブルが、わずかに一貫性のないトレーニングモデルを引き起こすという驚くべき新しい発見を提示する。
我々は、$Delta-$UQの不確実性推定が、様々なベンチマークにおける現在の多くの手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-07-14T23:54:54Z) - Bayesian Convolutional Neural Networks for Limited Data Hyperspectral
Remote Sensing Image Classification [14.464344312441582]
我々は、HSRS画像の分類に、ベイズニューラルネットワークと呼ばれる、ディープニューラルネットワークの特別なクラスを使用します。
ベイズニューラルネットワークは、不確実性を測定するための固有のツールを提供する。
ベイジアンネットワークは、同様に構築された非ベイジアン畳み込みニューラルネットワーク(CNN)と、既成のランダムフォレスト(RF)より優れていることを示す。
論文 参考訳(メタデータ) (2022-05-19T00:02:16Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳(メタデータ) (2022-02-07T12:30:45Z) - Improving Uncertainty Calibration via Prior Augmented Data [56.88185136509654]
ニューラルネットワークは、普遍関数近似器として機能することで、複雑なデータ分布から学習することに成功した。
彼らはしばしば予測に自信過剰であり、不正確で誤った確率的予測に繋がる。
本稿では,モデルが不当に過信である特徴空間の領域を探索し,それらの予測のエントロピーをラベルの以前の分布に対して条件的に高める手法を提案する。
論文 参考訳(メタデータ) (2021-02-22T07:02:37Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z) - Regularizing Class-wise Predictions via Self-knowledge Distillation [80.76254453115766]
類似サンプル間の予測分布を解析する新しい正規化法を提案する。
これにより、単一のネットワークの暗黒知識(すなわち誤った予測に関する知識)を規則化する。
画像分類タスクにおける実験結果から, 単純だが強力な手法が一般化能力を大幅に向上することを示した。
論文 参考訳(メタデータ) (2020-03-31T06:03:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。