論文の概要: Credal Wrapper of Model Averaging for Uncertainty Estimation in Classification
- arxiv url: http://arxiv.org/abs/2405.15047v2
- Date: Fri, 09 May 2025 14:56:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-12 20:40:09.939638
- Title: Credal Wrapper of Model Averaging for Uncertainty Estimation in Classification
- Title（参考訳）: 不確実性推定のためのモデル平均化のクレダルラッパー
- Authors: Kaizheng Wang, Fabio Cuzzolin, Keivan Shariatmadar, David Moens, Hans Hallez,
- Abstract要約: 本稿では,ベイズニューラルネットワーク(BNN)とディープアンサンブル(DE)のモデル平均化のクレダルセット表現を定式化するための,クレダルラッパー(redal wrapper)と呼ばれる革新的なアプローチを提案する。
BNNやDESから導出される単一の予測分布の有限個の集合が与えられた場合、提案したクレダルラッパーアプローチはクラスごとの上限値と低い確率を抽出する。
提案手法は,BNNおよびDEベースラインと比較して不確実性推定において優れた性能を示し,破損したデータに対して低いキャリブレーション誤差を実現する。
- 参考スコア（独自算出の注目度）: 5.19656787424626
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper presents an innovative approach, called credal wrapper, to formulating a credal set representation of model averaging for Bayesian neural networks (BNNs) and deep ensembles (DEs), capable of improving uncertainty estimation in classification tasks. Given a finite collection of single predictive distributions derived from BNNs or DEs, the proposed credal wrapper approach extracts an upper and a lower probability bound per class, acknowledging the epistemic uncertainty due to the availability of a limited amount of distributions. Such probability intervals over classes can be mapped on a convex set of probabilities (a credal set) from which, in turn, a unique prediction can be obtained using a transformation called intersection probability transformation. In this article, we conduct extensive experiments on several out-of-distribution (OOD) detection benchmarks, encompassing various dataset pairs (CIFAR10/100 vs SVHN/Tiny-ImageNet, CIFAR10 vs CIFAR10-C, CIFAR100 vs CIFAR100-C and ImageNet vs ImageNet-O) and using different network architectures (such as VGG16, ResNet-18/50, EfficientNet B2, and ViT Base). Compared to the BNN and DE baselines, the proposed credal wrapper method exhibits superior performance in uncertainty estimation and achieves a lower expected calibration error on corrupted data.
- Abstract（参考訳）: 本稿では,ベイズニューラルネットワーク(BNN)とディープアンサンブル(DE)のモデル平均化のクレダルセット表現を定式化し,分類作業における不確実性評価を改善するための,クレダルラッパー(redal wrapper)と呼ばれる革新的なアプローチを提案する。
BNNやDESから得られる単一の予測分布の有限コレクションを与えられた場合、提案したクレダルラッパーアプローチは、クラスごとの上限値と低い確率を抽出し、限られた量の分布が可能であることによるてんかんの不確実性を認識する。
このようなクラス上の確率区間は凸集合(クレダル集合)に写像することができ、そこから交叉確率変換と呼ばれる変換を用いて独自の予測が得られる。
本稿では、様々なデータセットペア(CIFAR10/100 vs SVHN/Tiny-ImageNet, CIFAR10 vs CIFAR10-C, CIFAR100-C, ImageNet vs ImageNet vs ImageNet-O)を包含し、異なるネットワークアーキテクチャ(VGG16, ResNet-18/50, EfficientNet B2, ViT Base)を用いて、OOD(out-of-distriion)検出ベンチマークを広範囲に実施する。
提案手法は,BNNおよびDEベースラインと比較して不確実性推定において優れた性能を示し,破損したデータに対して低いキャリブレーション誤差を実現する。
関連論文リスト
- Provably Safeguarding a Classifier from OOD and Adversarial Samples: an Extreme Value Theory Approach [2.5674049243330255]
本稿では, 極値理論(SPADE)を用いたサンプル効率確率検出法を提案する。
このアプローチは、分類器の潜在空間におけるトレーニング分布の一般化極値(GEV)モデルに基づいている。
評価に基づいてサンプルを拒絶する禁忌分類器は、敵のサンプルを確実に回避する。
論文 参考訳（メタデータ） (2025-01-17T13:51:14Z) - The Bayesian Confidence (BACON) Estimator for Deep Neural Networks [0.0]
本稿では、ディープニューラルネットワークのためのベイズ信頼度推定器(BACON)を紹介する。
BACONは、ResNet-18のSoftmaxと比較して85%の精度でECEとACEの校正誤差が優れている。
論文 参考訳（メタデータ） (2024-10-16T14:23:36Z) - Random-Set Neural Networks (RS-NN) [4.549947259731147]
分類のための新しいランダムセットニューラルネットワーク(RS-NN)を提案する。
RS-NNは、一組のクラス上の確率ベクトルよりも信念関数を予測する。
限られたトレーニングセットによって、機械学習で引き起こされる「緊急」不確実性を符号化する。
論文 参考訳（メタデータ） (2023-07-11T20:00:35Z) - What Can We Learn From The Selective Prediction And Uncertainty
Estimation Performance Of 523 Imagenet Classifiers [15.929238800072195]
本稿では,既存の523の事前学習深層画像ネット分類器の選択的予測と不確実性評価性能について述べる。
蒸留法に基づくトレーニング体制は、他のトレーニング方式よりも常により良い不確実性推定を導出することを発見した。
例えば、ImageNetでは前例のない99%のトップ1選択精度を47%で発見しました。
論文 参考訳（メタデータ） (2023-02-23T09:25:28Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳（メタデータ） (2022-02-07T12:30:45Z) - PDC-Net+: Enhanced Probabilistic Dense Correspondence Network [161.76275845530964]
高度確率密度対応ネットワーク(PDC-Net+)は、精度の高い高密度対応を推定できる。
我々は、堅牢で一般化可能な不確実性予測に適したアーキテクチャと強化されたトレーニング戦略を開発する。
提案手法は,複数の挑戦的幾何マッチングと光学的フローデータセットに対して,最先端の結果を得る。
論文 参考訳（メタデータ） (2021-09-28T17:56:41Z) - Trusted Multi-View Classification [76.73585034192894]
本稿では,信頼された多視点分類と呼ばれる新しい多視点分類手法を提案する。
さまざまなビューをエビデンスレベルで動的に統合することで、マルチビュー学習のための新しいパラダイムを提供する。
提案アルゴリズムは,分類信頼性とロバスト性の両方を促進するために,複数のビューを併用する。
論文 参考訳（メタデータ） (2021-02-03T13:30:26Z) - Probabilistic electric load forecasting through Bayesian Mixture Density
Networks [70.50488907591463]
確率的負荷予測(PLF)は、スマートエネルギーグリッドの効率的な管理に必要な拡張ツールチェーンの重要なコンポーネントです。
ベイジアン混合密度ネットワークを枠とした新しいPLFアプローチを提案する。
後方分布の信頼性と計算にスケーラブルな推定を行うため,平均場変動推定と深層アンサンブルを統合した。
論文 参考訳（メタデータ） (2020-12-23T16:21:34Z) - Revisiting One-vs-All Classifiers for Predictive Uncertainty and
Out-of-Distribution Detection in Neural Networks [22.34227625637843]
識別型分類器における確率のパラメトリゼーションが不確実性推定に与える影響について検討する。
画像分類タスクのキャリブレーションを改善するために, 1-vs-all の定式化が可能であることを示す。
論文 参考訳（メタデータ） (2020-07-10T01:55:02Z) - Diversity inducing Information Bottleneck in Model Ensembles [73.80615604822435]
本稿では,予測の多様性を奨励することで,ニューラルネットワークの効果的なアンサンブルを生成する問題をターゲットにする。
そこで本研究では,潜伏変数の学習における逆損失の多様性を明示的に最適化し,マルチモーダルデータのモデリングに必要な出力予測の多様性を得る。
最も競争力のあるベースラインと比較して、データ分布の変化の下で、分類精度が大幅に向上した。
論文 参考訳（メタデータ） (2020-03-10T03:10:41Z) - Uncertainty Estimation Using a Single Deep Deterministic Neural Network [66.26231423824089]
本稿では,1回のフォワードパスで,テスト時に分布データポイントの発見と拒否が可能な決定論的ディープモデルを訓練する手法を提案する。
我々は,新しい損失関数とセントロイド更新方式を用いて,これらをスケールトレーニングし,ソフトマックスモデルの精度に適合させる。
論文 参考訳（メタデータ） (2020-03-04T12:27:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。