論文の概要: Visualizing Uncertainty: Spatial Maps of Missing and Conflicting Evidence in Deep Learning
- arxiv url: http://arxiv.org/abs/2606.15767v1
- Date: Sun, 14 Jun 2026 12:06:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-16 16:21:33.832978
- Title: Visualizing Uncertainty: Spatial Maps of Missing and Conflicting Evidence in Deep Learning
- Title（参考訳）: 不確かさを可視化する: 深層学習における失敗と矛盾の空間地図
- Abstract要約: 本稿では,Evidential Deep Learning(EDL)とFullGrad(FullGrad)を組み合わせた新しい可視化フレームワークUncertainty Activation Map(UAM)を提案する。
我々のアプローチは、空白、証拠の欠如、不協和の2つの基本的なタイプの不確実性、競合する仮説間の矛盾する証拠の捕獲を区別する。
この枠組みにより、空きと不協和の活性化マップは、信念を重み付けした属性の計算によって生成され、モデルが知識を欠いている場所と曖昧な証拠に遭遇している場所を識別することができる。
- 参考スコア（独自算出の注目度）: 11.34107841759186
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Understanding when and why deep neural networks are uncertain is crucial for deploying reliable machine learning systems in safety-critical domains. While existing uncertainty quantification methods provide scalar measures of model confidence, they offer limited insight into which spatial regions of an input contribute to different types of uncertainty. We propose a novel visualization framework, Uncertainty Activation Map (UAM), that combines Evidential Deep Learning (EDL) with Full-Gradient Class Activation Mapping (FullGrad) to generate interpretable spatial uncertainty activation maps. Our approach distinguishes between two fundamental types of uncertainty: vacuity, representing lack of evidence, and dissonance, capturing conflicting evidence between competing hypotheses. By leveraging the complete gradient decomposition property of FullGrad and the principled uncertainty quantification of Subjective Logic, our method produces theoretically grounded visualizations that highlight specific image regions responsible for model uncertainty. With this framework, vacuity and dissonance activation maps are generated by computing belief-weighted attributions, enabling identification of where models lack knowledge versus where they encounter ambiguous evidence. Extensive evaluations across multiple benchmark datasets demonstrate that the proposed framework effectively addresses the critical gap between uncertainty quantification and explainability, providing intuitive visual feedback to assess model reliability in complex visual recognition tasks.
- Abstract（参考訳）: ディープニューラルネットワークがいつ、なぜ不確実かを理解することは、安全クリティカルなドメインに信頼できる機械学習システムをデプロイするために重要である。
既存の不確実性定量化手法はモデル信頼性のスカラー測度を提供するが、入力の空間領域が異なる種類の不確実性にどのように寄与するかについての限られた洞察を提供する。
本稿では,Evidential Deep Learning(EDL)とFullGrad(FullGrad)を組み合わせた新しい可視化フレームワークUncertainty Activation Map(UAM)を提案する。
我々のアプローチは、空白、証拠の欠如、不協和の2つの基本的なタイプの不確実性、競合する仮説間の矛盾する証拠の捕獲を区別する。
FullGradの完全な勾配分解特性と主観的論理の原理的不確実性定量化を活用することにより、モデル不確実性の原因となる特定の画像領域を強調表示する理論的な基礎的な可視化を生成する。
この枠組みにより、空きと不協和の活性化マップは、信念を重み付けした属性の計算によって生成され、モデルが知識を欠いている場所と曖昧な証拠に遭遇している場所を識別することができる。
複数のベンチマークデータセットにわたる広範囲な評価の結果、提案フレームワークは不確実性定量化と説明可能性の間に重要なギャップを効果的に解決し、複雑な視覚認識タスクにおけるモデルの信頼性を評価するための直感的な視覚フィードバックを提供する。
関連論文リスト
- Estimating Semantic Ambiguity via Gaussian Context Distributions for VLM-Driven Traversability Analysis [14.31446990918297]
本稿では、文脈の不確実性を明示的にモデル化した、視覚に基づくトラバーサビリティ推定のための新しいパイプラインを提案する。
提案手法では,概念アンチョリングを用いて,開語彙VLM予測を連続的物理的トラバーサビリティ尺度上に構築する。
分布の統計的性質に基づいて,高密度トラバーサビリティマップと高密度不確実性マップの両方を導出する。
論文 参考訳（メタデータ） (2026-09-08T11:18:32Z) - Heterogeneous Uncertainty-Guided Composed Image Retrieval with Fine-Grained Probabilistic Learning [49.28548464288051]
Composed Image Retrieval (CIR)は、参照画像と修正テキストを組み合わせることで、画像検索を可能にする。
CIR三重項の内在ノイズは内在的不確実性を引き起こし、モデルの堅牢性を脅かす。
本稿では,これらの制約を克服するための不確実性誘導(HUG)パラダイムを提案する。
論文 参考訳（メタデータ） (2026-01-16T16:05:49Z) - Understanding Catastrophic Interference: On the Identifibility of Latent Representations [67.05452287233122]
破滅的な干渉、あるいは破滅的な忘れ(Caastrophic forgetting)は、機械学習の根本的な課題である。
本稿では,破滅的干渉を識別問題として定式化する新しい理論枠組みを提案する。
我々のアプローチは、合成データセットとベンチマークデータセットの両方で理論的保証と実用的なパフォーマンスの改善を提供する。
論文 参考訳（メタデータ） (2025-09-27T00:53:32Z) - Adaptive Dual Uncertainty Optimization: Boosting Monocular 3D Object Detection under Test-Time Shifts [80.32933059529135]
TTA(Test-Time Adaptation)メソッドが出現し、推論中にターゲット分布に適応する。
我々は、堅牢なM3ODの両不確実性を共同で最小化するために設計された、最初のTTAフレームワークであるDual Uncertainity Optimization (DUO)を提案する。
並列に,明瞭な意味的手がかりを持つ領域における幾何学的コヒーレンスを保存する意味認識型正規場制約を設計する。
論文 参考訳（メタデータ） (2025-08-28T07:09:21Z) - CoProU-VO: Combining Projected Uncertainty for End-to-End Unsupervised Monocular Visual Odometry [33.293024344960706]
ビジュアルオドメトリー(VO)は、自律ナビゲーション、ロボティクス、拡張現実の基本である。
提案手法は,対象フレームの不確かさと参照フレームの不確実性を組み合わせた,新しいエンドツーエンドアプローチであるCoProU-VOを提案する。
KITTIとnuScenesデータセットの実験は、以前の教師なし単眼のエンドツーエンドの2フレームベースの手法よりも大幅に改善されている。
論文 参考訳（メタデータ） (2025-08-01T12:09:42Z) - Enhancing Uncertainty Estimation and Interpretability via Bayesian Non-negative Decision Layer [55.66973223528494]
本研究では, ディープニューラルネットワークを条件付きベイズ非負因子分析として再構成したベイズ非負決定層(BNDL)を開発した。
BNDLは複雑な依存関係をモデル化し、堅牢な不確実性推定を提供する。
また,BNDLが効果的に不整合学習を達成できるという理論的保証も提供する。
論文 参考訳（メタデータ） (2025-05-28T10:23:34Z) - A Review of Bayesian Uncertainty Quantification in Deep Probabilistic Image Segmentation [0.0]
本稿では,不確実性モデリングにおける基礎概念の統合とコンテキスト化について述べる。
空間集合における強い仮定や標準ベンチマークの欠如といった課題を特定する。
深層学習における不確実性認識のセグメンテーションを進めるための方向性を提案する。
論文 参考訳（メタデータ） (2024-11-25T13:26:09Z) - Know Where You're Uncertain When Planning with Multimodal Foundation Models: A Formal Framework [54.40508478482667]
認識と計画生成の不確実性を解消し、定量化し、緩和する包括的枠組みを提案する。
本稿では,知覚と意思決定の独特な性質に合わせた手法を提案する。
この不確実性分散フレームワークは, 変動率を最大40%削減し, タスク成功率をベースラインに比べて5%向上させることを示した。
論文 参考訳（メタデータ） (2024-11-03T17:32:00Z) - Probabilistic Contrastive Learning with Explicit Concentration on the Hypersphere [3.572499139455308]
本稿では,球面空間に表現を埋め込むことにより,不確実性を比較学習に取り入れる新たな視点を提案する。
我々は、濃度パラメータであるカッパを直接解釈可能な尺度として利用し、不確実性を明示的に定量化する。
論文 参考訳（メタデータ） (2024-05-26T07:08:13Z) - The Unreasonable Effectiveness of Deep Evidential Regression [72.30888739450343]
不確実性を考慮した回帰ベースニューラルネットワーク(NN)による新しいアプローチは、従来の決定論的手法や典型的なベイズ的NNよりも有望であることを示している。
我々は、理論的欠点を詳述し、合成および実世界のデータセットのパフォーマンスを分析し、Deep Evidential Regressionが正確な不確実性ではなく定量化であることを示す。
論文 参考訳（メタデータ） (2022-05-20T10:10:32Z) - Modal Uncertainty Estimation via Discrete Latent Representation [4.246061945756033]
本稿では,インプットとアウトプットの1対1マッピングを,忠実な不確実性対策とともに学習するディープラーニングフレームワークを提案する。
我々のフレームワークは、現在の最先端手法よりもはるかに正確な不確実性推定を実証している。
論文 参考訳（メタデータ） (2020-07-25T05:29:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。