論文の概要: Plug-in Losses for Evidential Deep Learning: A Simplified Framework for Uncertainty Estimation that Includes the Softmax Classifier
- arxiv url: http://arxiv.org/abs/2605.22746v1
- Date: Thu, 21 May 2026 17:15:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-22 16:35:42.368606
- Title: Plug-in Losses for Evidential Deep Learning: A Simplified Framework for Uncertainty Estimation that Includes the Softmax Classifier
- Title(参考訳): 情報深層学習のためのプラグイン損失:ソフトマックス分類を含む不確実性推定の簡易化フレームワーク
- Authors: Berk Hayta, Hannah Laus, Simon Mittermaier, Felix Krahmer,
- Abstract要約: 実世界のセンサに基づく学習システムでは、信頼性と計算効率の両方で不確実性を推定する必要がある。
Evidential Deep Learning (EDL) は、ディリクレ分布を用いたクラス確率のモデル化による単一パス不確実性推定を提供する。
本稿では,EDLにより誘導される1次経験的リスク最小化問題の目的をディリクレ平均で評価されたプラグイン損失を用いて近似することにより,この問題に対処する。
提案手法をGoogle Speech Commandsデータセットで検証し,従来のEDLに匹敵する予測精度と選択予測性能が得られることを示す。
- 参考スコア(独自算出の注目度): 3.6423651166048874
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Real-world sensor-based learning systems require uncertainty estimation that is both reliable and computationally efficient. Evidential Deep Learning (EDL) provides single-pass uncertainty estimation by modeling the class probabilities via Dirichlet distributions, where the Dirichlet parameters are predicted by a learned neural network mapping. However, this approach can lead to computational challenges, as Dirichlet expected objectives are more complex than standard supervised learning losses, complicating their analysis and implementation. We address this issue by approximating the objective of the first-order empirical risk minimization problem induced by EDL with a plug-in loss evaluated at the Dirichlet mean and show that, under mild assumptions, the approximation error decays with growing evidence for a broad class of loss functions, including mean-squared error and cross-entropy loss. As a special case, our analysis provides justification for the use of softmax in the context of uncertainty estimation, since under a particular evidence-to-Dirichlet mapping, our framework includes the standard softmax classifier. We validate the proposed simplified objectives on the Google Speech Commands dataset and show that they achieve predictive accuracy and selective prediction performance comparable to classical EDL, while being simpler to implement using standard deep learning losses and training pipelines. To the best of our knowledge, this empirical analysis is the first to obtain coverage-accuracy trade-offs for speech recognition tasks through EDL.
- Abstract(参考訳): 実世界のセンサに基づく学習システムでは、信頼性と計算効率の両方で不確実性を推定する必要がある。
Evidential Deep Learning (EDL)は、ディリクレ分布を介してクラス確率をモデル化し、学習したニューラルネットワークマッピングによってディリクレパラメータを予測する、単一パス不確実性推定を提供する。
しかし、ディリクレが期待する目的は標準的な教師付き学習損失よりも複雑であり、解析と実装が複雑になるため、このアプローチは計算上の課題につながる可能性がある。
本研究では,EDLによる1次経験的リスク最小化問題の目的をディリクレ平均で評価したプラグイン損失で近似し,軽微な仮定の下では,平均二乗誤差やクロスエントロピー損失を含む広い種類の損失関数の証拠を増大させて近似誤差が崩壊することを示す。
特別な場合として、我々の分析は不確実性推定の文脈におけるソフトマックスの使用を正当化するものである。
提案した単純化された目的をGoogle Speech Commandsデータセットで検証し,従来のEDLに匹敵する予測精度と選択予測性能を実現するとともに,標準的なディープラーニング損失とトレーニングパイプラインを使用した実装が容易であることを示す。
我々の知る限り、この経験的分析は、EDLを通して音声認識タスクのカバレッジ精度トレードオフを初めて得るものである。
関連論文リスト
- Possibilistic Predictive Uncertainty for Deep Learning [75.00607359322863]
Dirichlet-approximated possibilistic rear predictions (DAPPr)を紹介する。
DAPPrは可能性理論を利用した原則的なフレームワークである。
この射影近似戦略は閉形式解を用いた単純な訓練目標を与える。
論文 参考訳(メタデータ) (2026-05-01T12:14:01Z) - Ensemble-Based Dirichlet Modeling for Predictive Uncertainty and Selective Classification [1.77898701462905]
Evidential Deep Learningは、1回のパスで不確実性推定を発生させることで、制限に対処することを目指している。
本研究では、モーメント推定器の手法をソフトマックス出力のアンサンブルに適用することにより、代替のディリクレパラメータ推定戦略を導入する。
これらのアンサンブルから導かれるディリクレ推定の安定性と予測的不確実性は、下流の不確実性誘導アプリケーションにおいてより強い性能に変換されることを示す。
論文 参考訳(メタデータ) (2026-04-07T16:28:20Z) - PredictaBoard: Benchmarking LLM Score Predictability [50.47497036981544]
大きな言語モデル(LLM)は予測不能に失敗することが多い。
これは、安全なデプロイメントを保証する上で、大きな課題となる。
PredictaBoardは,新しいベンチマークフレームワークである。
論文 参考訳(メタデータ) (2025-02-20T10:52:38Z) - Revisiting Essential and Nonessential Settings of Evidential Deep Learning [70.82728812001807]
Evidential Deep Learning (EDL) は不確実性推定の新しい手法である。
本報告では,EDLの簡易かつ効果的な拡張型であるRe-EDLを提案する。
論文 参考訳(メタデータ) (2024-10-01T04:27:07Z) - Probability Distribution Learning and Its Application in Deep Learning [0.0]
本稿では,確率分布学習(PD Learning)と呼ばれる理論学習フレームワークを紹介する。
PD学習は確率分布の学習に重点を置いており、確率の単純さの中で確率変数としてモデル化される。
論文 参考訳(メタデータ) (2024-06-09T06:49:22Z) - Uncertainty Estimation by Fisher Information-based Evidential Deep
Learning [61.94125052118442]
不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。
漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。
特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
論文 参考訳(メタデータ) (2023-03-03T16:12:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。