論文の概要: Uncertainty Gating for Cost-Aware Explainable Artificial Intelligence

• arxiv url: http://arxiv.org/abs/2603.29915v1
• Date: Tue, 31 Mar 2026 15:56:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-01 15:25:03.768966
• Title: Uncertainty Gating for Cost-Aware Explainable Artificial Intelligence
• Title（参考訳）: コストを考慮した説明可能な人工知能のための不確実性ゲーティング
• Authors: Georgii Mikriukov, Grégoire Montavon, Marina M. -C. Höhne,
• Abstract要約: ポストホックな説明法はブラックボックス予測の解釈に広く用いられているが、その生成は計算コストが高く、信頼性は保証されていない。 本稿では,説明信頼性のための低コストプロキシとして,てんかん不確実性を提案する。
• 参考スコア（独自算出の注目度）: 12.225335650833676
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Post-hoc explanation methods are widely used to interpret black-box predictions, but their generation is often computationally expensive and their reliability is not guaranteed. We propose epistemic uncertainty as a low-cost proxy for explanation reliability: high epistemic uncertainty identifies regions where the decision boundary is poorly defined and where explanations become unstable and unfaithful. This insight enables two complementary use cases: `improving worst-case explanations' (routing samples to cheap or expensive XAI methods based on expected explanation reliability), and `recalling high-quality explanations' (deferring explanation generation for uncertain samples under constrained budget). Across four tabular datasets, five diverse architectures, and four XAI methods, we observe a strong negative correlation between epistemic uncertainty and explanation stability. Further analysis shows that epistemic uncertainty distinguishes not only stable from unstable explanations, but also faithful from unfaithful ones. Experiments on image classification confirm that our findings generalize beyond tabular data.
• Abstract（参考訳）: ポストホックな説明法はブラックボックス予測の解釈に広く用いられているが、その生成は計算コストが高く、信頼性は保証されていない。 本研究では,意思決定境界が未定義であり,説明が不安定で不信感のある地域を特定することで,説明の信頼性を高めるための低コストなプロキシとして,認識の不確実性を提案する。 この知見は,「最悪の説明の改善」 (予測された説明信頼性に基づいた安価な,高価なXAIメソッドへのサンプルの流出) と「高品質な説明のリコール」 (制約された予算下での不確実なサンプルの説明生成) の2つの補完的なユースケースを可能にする。 4つの表状データセット,5つの多様なアーキテクチャ,および4つのXAI手法で,てんかんの不確実性と説明安定性の強い負の相関を観察した。 さらなる分析により、てんかんの不確実性は不安定な説明と不安定な説明とを区別するだけでなく、不信な説明と忠実に区別することが示された。 画像分類実験により, この結果が表層データを超えて一般化されることが確認された。

関連論文リスト

• Robust Explanations Through Uncertainty Decomposition: A Path to Trustworthier AI [4.1942958779358674]
  本稿では,古典的説明可能性法を補完する手法として,予測の不確実性を活用することを提案する。 疫学の不確実性は、信頼できない説明の拒絶基準として機能する。 本実験は, この不確実性認識アプローチが説明の堅牢性と到達性に与える影響を実証するものである。
  論文  参考訳（メタデータ） (2025-07-17T09:00:05Z)
• Uncertainty Propagation in XAI: A Comparison of Analytical and Empirical Estimators [1.0855602842179624]
  説明可能なAI(XAI)の不確実性を理解することは、信頼の構築に不可欠である。 本稿では,XAIにおける不確実性を定量化し,解釈するための統一的な枠組みを提案する。 分析的および実証的な説明分散の推定値を用いて、説明の不確かさが説明に与える影響を評価する体系的な手段を提供する。
  論文  参考訳（メタデータ） (2025-04-01T07:06:31Z)
• Probabilistic Modeling of Disparity Uncertainty for Robust and Efficient Stereo Matching [61.73532883992135]
  本稿では,新しい不確実性を考慮したステレオマッチングフレームワークを提案する。 我々はベイズリスクを不確実性の測定として採用し、データを別々に見積もり、不確実性をモデル化する。
  論文  参考訳（メタデータ） (2024-12-24T23:28:20Z)
• Certainly Uncertain: A Benchmark and Metric for Multimodal Epistemic and Aleatoric Awareness [106.52630978891054]
  視覚言語AIシステムに特有の不確実性の分類法を提案する。 また、精度と校正誤差の両方によく相関する新しい計量信頼度重み付き精度を導入する。
  論文  参考訳（メタデータ） (2024-07-02T04:23:54Z)
• Investigating the Impact of Model Instability on Explanations and Uncertainty [43.254616360807496]
  テキスト入力における不確かさを推測時に雑音を導入することでシミュレートする。 高い不確実性は必ずしも説明可能性の低さを暗示しない。 このことは、ノイズ増強モデルが不確実性のあるトークンを特定するのに優れていることを示唆している。
  論文  参考訳（メタデータ） (2024-02-20T13:41:21Z)
• Identifying Drivers of Predictive Aleatoric Uncertainty [2.5311562666866494]
  本稿では,予測的アレタリック不確実性を説明するための簡単なアプローチを提案する。 ガウス出力分布にニューラルネットワークを適用することにより,回帰の不確かさを予測分散として推定する。 このアプローチは、複雑な公表されたアプローチよりも確実に不確実性の影響を説明することができる。
  論文  参考訳（メタデータ） (2023-12-12T13:28:53Z)
• Don't Explain Noise: Robust Counterfactuals for Randomized Ensembles [50.81061839052459]
  我々は確率論的問題として、堅牢な対実的説明の生成を定式化する。 アンサンブルモデルのロバスト性とベース学習者のロバスト性との関係を示す。 本手法は, 反実的説明から初期観測までの距離をわずかに増加させるだけで, 高いロバスト性を実現する。
  論文  参考訳（メタデータ） (2022-05-27T17:28:54Z)
• The Hidden Uncertainty in a Neural Networks Activations [105.4223982696279]
  ニューラルネットワークの潜在表現の分布は、アウト・オブ・ディストリビューション(OOD)データの検出に成功している。 本研究は、この分布が、モデルの不確実性と相関しているかどうかを考察し、新しい入力に一般化する能力を示す。
  論文  参考訳（メタデータ） (2020-12-05T17:30:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。