論文の概要: Ensemble-Based Dirichlet Modeling for Predictive Uncertainty and Selective Classification
- arxiv url: http://arxiv.org/abs/2604.06032v1
- Date: Tue, 07 Apr 2026 16:28:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-08 17:42:09.926417
- Title: Ensemble-Based Dirichlet Modeling for Predictive Uncertainty and Selective Classification
- Title(参考訳): 予測不確かさと選択的分類のためのアンサンブルに基づくディリクレモデリング
- Authors: Courtney Franzen, Farhad Pourkamali-Anaraki,
- Abstract要約: Evidential Deep Learningは、1回のパスで不確実性推定を発生させることで、制限に対処することを目指している。
本研究では、モーメント推定器の手法をソフトマックス出力のアンサンブルに適用することにより、代替のディリクレパラメータ推定戦略を導入する。
これらのアンサンブルから導かれるディリクレ推定の安定性と予測的不確実性は、下流の不確実性誘導アプリケーションにおいてより強い性能に変換されることを示す。
- 参考スコア(独自算出の注目度): 1.77898701462905
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural network classifiers trained with cross-entropy loss achieve strong predictive accuracy but lack the capability to provide inherent predictive uncertainty estimates, thus requiring external techniques to obtain these estimates. In addition, softmax scores for the true class can vary substantially across independent training runs, which limits the reliability of uncertainty-based decisions in downstream tasks. Evidential Deep Learning aims to address these limitations by producing uncertainty estimates in a single pass, but evidential training is highly sensitive to design choices including loss formulation, prior regularization, and activation functions. Therefore, this work introduces an alternative Dirichlet parameter estimation strategy by applying a method of moments estimator to ensembles of softmax outputs, with an optional maximum-likelihood refinement step. This ensemble-based construction decouples uncertainty estimation from the fragile evidential loss design while also mitigating the variability of single-run cross-entropy training, producing explicit Dirichlet predictive distributions. Across multiple datasets, we show that the improved stability and predictive uncertainty behavior of these ensemble-derived Dirichlet estimates translate into stronger performance in downstream uncertainty-guided applications such as prediction confidence scoring and selective classification.
- Abstract(参考訳): クロスエントロピー損失で訓練されたニューラルネットワーク分類器は、強い予測精度を達成するが、固有の予測の不確実性推定を提供する能力が欠如しているため、これらの推定を得るために外部技術が必要である。
さらに、真のクラスのソフトマックススコアは独立したトレーニングラン毎に大きく異なり、下流タスクにおける不確実性に基づく決定の信頼性が制限される。
Evidential Deep Learningは、1回のパスで不確実性推定を生成することでこれらの制限に対処することを目的としているが、明らかなトレーニングは、損失の定式化、事前正規化、アクティベーション機能を含む設計選択に非常に敏感である。
そこで本研究では,モーメント推定器の手法をソフトマックス出力のアンサンブルに適用し,任意の最大化ステップでディリクレパラメータ推定手法を提案する。
このアンサンブルに基づく構成は、脆弱な明らかな損失設計から不確実性評価を分離するとともに、単一ランクロスエントロピートレーニングのばらつきを軽減し、明示的なディリクレ予測分布を生成する。
複数のデータセットにまたがって,これらのアンサンブルから導かれるディリクレ推定の安定性と予測不確実性は,予測信頼度評価や選択分類などの下流不確実性誘導アプリケーションにおいて,より強い性能に変換されることを示す。
関連論文リスト
- Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳(メタデータ) (2023-11-08T00:10:21Z) - Adaptive Uncertainty Estimation via High-Dimensional Testing on Latent
Representations [28.875819909902244]
不確実性推定は、訓練されたディープニューラルネットワークの信頼性を評価することを目的としている。
既存の不確実性推定アプローチは、低次元分布仮定に依存している。
本研究では,不確実性推定のためのデータ適応型高次元仮説テストを用いた新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2023-10-25T12:22:18Z) - Quantification of Predictive Uncertainty via Inference-Time Sampling [57.749601811982096]
本稿では,データあいまいさの予測不確実性を推定するためのポストホックサンプリング手法を提案する。
この方法は与えられた入力に対して異なる可算出力を生成することができ、予測分布のパラメトリック形式を仮定しない。
論文 参考訳(メタデータ) (2023-08-03T12:43:21Z) - Model-Based Uncertainty in Value Functions [89.31922008981735]
MDP上の分布によって引き起こされる値の分散を特徴付けることに重点を置いている。
従来の作業は、いわゆる不確実性ベルマン方程式を解くことで、値よりも後方の分散を境界にしている。
我々は、解が値の真後分散に収束する新しい不確実性ベルマン方程式を提案する。
論文 参考訳(メタデータ) (2023-02-24T09:18:27Z) - Calibrated Regression Against An Adversary Without Regret [10.470326550507117]
データポイントの任意のストリーム上でこれらの目標を達成するために保証されたオンラインアルゴリズムを導入する。
具体的には、アルゴリズムは(1)キャリブレーションされた予測を生成する。すなわち、80%の信頼区間は、その時間の80%の真の結果を含む。
我々は、回帰においてこれらの目標を確実に達成するポストホックリカレーション戦略を実装している。
論文 参考訳(メタデータ) (2023-02-23T17:42:11Z) - The Implicit Delta Method [61.36121543728134]
本稿では,不確実性のトレーニング損失を無限に正規化することで機能する,暗黙のデルタ法を提案する。
有限差分により無限小変化が近似された場合でも, 正則化による評価の変化は評価推定器の分散に一定であることを示す。
論文 参考訳(メタデータ) (2022-11-11T19:34:17Z) - Which models are innately best at uncertainty estimation? [15.929238800072195]
ディープニューラルネットワークは、リスクに敏感なタスクにデプロイされる場合、不確実性推定機構を備える必要がある。
本稿では,深層建築とその訓練体制との関係について,その選択予測と不確実性推定性能について検討する。
論文 参考訳(メタデータ) (2022-06-05T11:15:35Z) - Dense Uncertainty Estimation [62.23555922631451]
本稿では,ニューラルネットワークと不確実性推定手法について検討し,正確な決定論的予測と確実性推定の両方を実現する。
本研究では,アンサンブルに基づく手法と生成モデルに基づく手法の2つの不確実性推定法について検討し,それらの長所と短所を,完全/半端/弱度に制御されたフレームワークを用いて説明する。
論文 参考訳(メタデータ) (2021-10-13T01:23:48Z) - DEUP: Direct Epistemic Uncertainty Prediction [56.087230230128185]
認識の不確実性は、学習者の知識の欠如によるサンプル外の予測エラーの一部である。
一般化誤差の予測を学習し, aleatoric uncertaintyの推定を減算することで, 認識的不確かさを直接推定する原理的アプローチを提案する。
論文 参考訳(メタデータ) (2021-02-16T23:50:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。