論文の概要: Variational Inference for Evidential Deep Learning

• arxiv url: http://arxiv.org/abs/2605.26477v1
• Date: Tue, 26 May 2026 02:32:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-27 17:51:41.587641
• Title: Variational Inference for Evidential Deep Learning
• Title（参考訳）: 情報深層学習のための変分推論
• Authors: Jiawei Tang, Xinyan Du, Hui Liu, Junhui Hou, Yuheng Jia,
• Abstract要約: 数学的に原理化されたフレームワークである変分推論証拠深層学習(VI-EDL)を提案する。 VI-EDLは、分布外検出、ノイズ検出、自律運転シナリオにおいて最先端の性能を達成する。
• 参考スコア（独自算出の注目度）: 69.9353638875714
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: While Deep Neural Networks (DNNs) achieve remarkable performance, their tendency to produce overconfident predictions. Evidential Deep Learning (EDL) mitigates this by formulating predictions as a Dirichlet distribution over class probabilities to explicitly quantify epistemic uncertainty. However, we found that the conventional EDL suffers from two fundamental limitations: a Kullback-Leibler (KL) penalty that only suppresses the evidence of negative classes, producing excessively high evidence therefore decreasing the model's ability to quantify uncertainty, and an absence in theoretical guarantee of setting Dirichlet parameter $α=e+1$. In this paper, we propose a mathematically principled framework, Variational Inference Evidential Deep Learning (VI-EDL). By reformulating evidential learning through the lens of variational inference, we derive an Evidence Lower Bound (ELBO), which prevents the evidence from growing excessively. Theoretically, we rigorously establish a generalization bound and reveal how the predicted uncertainty, feature and network complexity affect this bound, and why setting $\boldsymbolα = \mathbf{e} + \mathbf{1}$ can minimize it. Extensive experiments on standard visual and medical datasets demonstrate that VI-EDL achieves state-of-the-art performance, showing excellent performance in out-of-distribution detection, noise detection and autonomous driving scenario. The code is available in https://github.com/seutjw/VI-EDL.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)は優れた性能を発揮する一方で、過信の予測を生成する傾向にある。 Evidential Deep Learning (EDL)は、クラス確率上のディリクレ分布として予測を定式化し、てんかんの不確実性を明示的に定量化することでこれを緩和する。 しかし、従来のEDLには、負のクラスの存在を抑えるだけのKL(Kullback-Leibler)のペナルティがあり、したがってモデルの不確実性を定量化する能力が過度に高すぎること、ディリクレパラメータを$α=e+1$に設定する理論的保証がないこと、という2つの基本的な制限があることがわかった。 本稿では, 数学的に原理化されたフレームワークである変分推論証拠深層学習(VI-EDL)を提案する。 変分推論のレンズによる顕在的学習を再構築することにより、証拠が過度に増大するのを防ぐエビデンス下界(ELBO)を導出する。 理論的には、一般化境界を厳密に定め、予測された不確実性、特徴、およびネットワークの複雑さがこの境界にどのように影響するかを明らかにし、なぜ$\boldsymbolα = \mathbf{e} + \mathbf{1}$ がそれを最小化できるのかを明らかにする。 標準的な視覚的および医療的データセットに対する大規模な実験により、VI-EDLは最先端のパフォーマンスを実現し、アウト・オブ・ディストリビューション検出、ノイズ検出、自律運転シナリオにおいて優れたパフォーマンスを示す。 コードはhttps://github.com/seutjw/VI-EDLで公開されている。

関連論文リスト

• Density-Informed Pseudo-Counts for Calibrated Evidential Deep Learning [1.9435397960631862]
  Evidential Deep Learning (EDL)は、ニューラルネットワークによってパラメータ化されたディリクレ分布を通じて予測の不確実性をモデル化する不確実性認識分類のための一般的なフレームワークである。 EDLトレーニングは階層型ベイズモデルにおいて,擬似的様相を呈するアモータライズされた変分推論に対応していることを示す。 本稿では,不確実性の程度からクラス予測を分離する新しいパラメトリゼーションであるDIP-EDLを導入する。
  論文  参考訳（メタデータ） (2026-02-01T22:57:39Z)
• Uncertainty Estimation by Flexible Evidential Deep Learning [11.945854832533234]
  不確実性(UQ)は、高度なアプリケーションに機械学習モデルをデプロイするために不可欠である。 Evidential Deep Learning (EDL) は、クラス確率上のディリクレ分布の予測を通じて不確実性をモデル化することで効率を向上する。 クラス確率よりもフレキシブルなディリクレ分布(ディリクレ分布の一般化)を予測することでEDLを拡張する$mathcalF$-EDLを提案する。
  論文  参考訳（メタデータ） (2025-10-21T06:12:33Z)
• On the Surprising Effectiveness of Large Learning Rates under Standard Width Scaling [15.769249369390884]
  最適な学習速度は理論的な予測よりも遅く、ネットワークは、非常に広い範囲でも安定した訓練と非自明な特徴学習の両方を示します。 特に, クロスエントロピー (CE) の損失下では, 不安定な状態は, 破滅的な不安定な状態と, より良質な制御された分岐状態の2つのサブレジムから構成されることを示す。 我々の経験的証拠は、幅スケーリングの考慮は、経験的最大学習率指数を予測するのに驚くほど有用であることを示している。
  論文  参考訳（メタデータ） (2025-05-28T15:40:48Z)
• I Predict Therefore I Am: Is Next Token Prediction Enough to Learn Human-Interpretable Concepts from Data? [76.15163242945813]
  大規模言語モデル (LLM) は、多くの人が知能の形式を示すと結論づけている。 本稿では,潜在離散変数として表現される人間解釈可能な概念に基づいてトークンを生成する新しい生成モデルを提案する。
  論文  参考訳（メタデータ） (2025-03-12T01:21:17Z)
• Revisiting Essential and Nonessential Settings of Evidential Deep Learning [70.82728812001807]
  Evidential Deep Learning (EDL) は不確実性推定の新しい手法である。 本報告では,EDLの簡易かつ効果的な拡張型であるRe-EDLを提案する。
  論文  参考訳（メタデータ） (2024-10-01T04:27:07Z)
• Are Uncertainty Quantification Capabilities of Evidential Deep Learning a Mirage? [35.15844215216846]
  EDL法は,特定の目的関数を最小化することにより,予測分布上のメタ分布を学習する。 近年の研究では、学習した不確実性は信頼できないと結論づける既存の方法の限界が特定されている。 本研究では,多種多様な目的関数を統一することにより,多種多様なEDL手法の挙動をより深く理解する。 我々は,EDL法が下流タスクに実証的に有効であるとしても,不確実な定量化能力に乏しいにもかかわらず,これは発生すると結論付けた。
  論文  参考訳（メタデータ） (2024-02-09T03:23:39Z)
• Uncertainty Estimation by Fisher Information-based Evidential Deep Learning [61.94125052118442]
  不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。 漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。 特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
  論文  参考訳（メタデータ） (2023-03-03T16:12:59Z)
• Monotonicity and Double Descent in Uncertainty Estimation with Gaussian Processes [52.92110730286403]
  限界確率はクロスバリデーションの指標を思い起こさせるべきであり、どちらもより大きな入力次元で劣化すべきである、と一般的に信じられている。 我々は,ハイパーパラメータをチューニングすることにより,入力次元と単調に改善できることを証明した。 また、クロスバリデーションの指標は、二重降下の特徴である質的に異なる挙動を示すことも証明した。
  論文  参考訳（メタデータ） (2022-10-14T08:09:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。