論文の概要: How Much Can I Trust You? -- Quantifying Uncertainties in Explaining Neural Networks

• arxiv url: http://arxiv.org/abs/2006.09000v1
• Date: Tue, 16 Jun 2020 08:54:42 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-20 18:35:20.184680
• Title: How Much Can I Trust You? -- Quantifying Uncertainties in Explaining Neural Networks
• Title（参考訳）: どれぐらい信用できますか。 --説明ニューラルネットワークの不確かさの定量化
• Authors: Kirill Bykov, Marina M.-C. H\"ohne, Klaus-Robert M\"uller, Shinichi Nakajima, Marius Kloft
• Abstract要約: 説明可能なAI(XAI)は、ディープニューラルネットワークなどの学習マシンが生成した予測の解釈を提供することを目的としている。 ニューラルネットワークの任意の説明法をベイズニューラルネットワークの説明法に変換するための新しいフレームワークを提案する。 様々な実験において,本手法の有効性と有用性を示す。
• 参考スコア（独自算出の注目度）: 19.648814035399013
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Explainable AI (XAI) aims to provide interpretations for predictions made by learning machines, such as deep neural networks, in order to make the machines more transparent for the user and furthermore trustworthy also for applications in e.g. safety-critical areas. So far, however, no methods for quantifying uncertainties of explanations have been conceived, which is problematic in domains where a high confidence in explanations is a prerequisite. We therefore contribute by proposing a new framework that allows to convert any arbitrary explanation method for neural networks into an explanation method for Bayesian neural networks, with an in-built modeling of uncertainties. Within the Bayesian framework a network's weights follow a distribution that extends standard single explanation scores and heatmaps to distributions thereof, in this manner translating the intrinsic network model uncertainties into a quantification of explanation uncertainties. This allows us for the first time to carve out uncertainties associated with a model explanation and subsequently gauge the appropriate level of explanation confidence for a user (using percentiles). We demonstrate the effectiveness and usefulness of our approach extensively in various experiments, both qualitatively and quantitatively.
• Abstract（参考訳）: 説明可能なAI(XAI)は、深層ニューラルネットワークなどの学習機械による予測の解釈を提供することを目標とし、マシンをより透明にし、さらに安全クリティカルな分野のアプリケーションにも信頼性を持たせる。 しかし、これまでのところ説明の不確かさを定量化する方法は考えられておらず、説明への信頼度が高い領域では問題となっている。 そこで本研究では,ニューラルネットの任意の説明方法をベイズ型ニューラルネットの説明法に変換するための新しいフレームワークを提案する。 ベイズフレームワーク内では、ネットワークの重みは標準的な単一説明スコアとヒートマップをその分布に拡張する分布に従い、本質的なネットワークモデルの不確かさを説明の不確かさの定量化に変換する。 これにより、モデル説明に関連する不確実性を初めて彫り出し、その後、(パーセンタイルを使用して)ユーザに対する適切な説明信頼度を評価できます。 本手法の有効性と有用性は,質的および定量的に様々な実験で実証した。

関連論文リスト

• Towards Modeling Uncertainties of Self-explaining Neural Networks via Conformal Prediction [34.87646720253128]
  本稿では,自己説明型ニューラルネットワークのための新しい不確実性モデリングフレームワークを提案する。 生成した説明に対して,分布自由な不確実性モデリング性能を示す。 また、最終的な予測のために効率的で効果的な予測セットを生成することにも長けている。
  論文  参考訳（メタデータ） (2024-01-03T05:51:49Z)
• Tractable Function-Space Variational Inference in Bayesian Neural Networks [72.97620734290139]
  ニューラルネットワークの予測不確かさを推定するための一般的なアプローチは、ネットワークパラメータに対する事前分布を定義することである。 本稿では,事前情報を組み込むスケーラブルな関数空間変動推論手法を提案する。 提案手法は,様々な予測タスクにおいて,最先端の不確実性評価と予測性能をもたらすことを示す。
  論文  参考訳（メタデータ） (2023-12-28T18:33:26Z)
• Identifying Drivers of Predictive Aleatoric Uncertainty [2.5311562666866494]
  本稿では,予測的アレタリック不確実性を説明するための簡単なアプローチを提案する。 我々は、ガウス出力分布にニューラルネットワークを適用することにより、不確実性を予測分散として推定する。 我々は、実世界のデータセットを含むニュアンスなベンチマーク分析を用いて、この結果の定量化を行う。
  論文  参考訳（メタデータ） (2023-12-12T13:28:53Z)
• Interpretable Self-Aware Neural Networks for Robust Trajectory Prediction [50.79827516897913]
  本稿では,意味概念間で不確実性を分散する軌道予測のための解釈可能なパラダイムを提案する。 実世界の自動運転データに対する我々のアプローチを検証し、最先端のベースラインよりも優れた性能を示す。
  論文  参考訳（メタデータ） (2022-11-16T06:28:20Z)
• Variational Neural Networks [88.24021148516319]
  本稿では,変分ニューラルネットワーク(VNN)と呼ばれるニューラルネットワークにおける不確実性推定手法を提案する。 VNNは、学習可能なサブレイヤで入力を変換することで、レイヤの出力分布のパラメータを生成する。 不確実性評価実験において、VNNはモンテカルロ・ドロップアウトやベイズ・バイ・バックプロパゲーション法よりも優れた不確実性が得られることを示す。
  論文  参考訳（メタデータ） (2022-07-04T15:41:02Z)
• NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural Networks [151.03112356092575]
  本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。 種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
  論文  参考訳（メタデータ） (2022-02-07T12:30:45Z)
• Analytic Mutual Information in Bayesian Neural Networks [0.8122270502556371]
  相互情報は、不確実性を定量化するベイズニューラルネットワークにおける不確実性尺度の例である。 我々は,点過程のエントロピーの概念を利用して,モデルパラメータと予測出力の相互情報の解析式を導出する。 応用として,ディリクレパラメータの推定について考察し,アクティブラーニングの不確実性対策における実例を示す。
  論文  参考訳（メタデータ） (2022-01-24T17:30:54Z)
• Bayesian Attention Belief Networks [59.183311769616466]
  注意に基づくニューラルネットワークは、幅広いタスクにおいて最先端の結果を得た。 本稿では,非正規化注意重みをモデル化してデコーダネットワークを構築するベイズ的注意信念ネットワークについて紹介する。 提案手法は, 精度, 不確実性推定, ドメイン間の一般化, 敵攻撃において, 決定論的注意と最先端の注意よりも優れていることを示す。
  論文  参考訳（メタデータ） (2021-06-09T17:46:22Z)
• Multivariate Deep Evidential Regression [77.34726150561087]
  不確実性を認識するニューラルネットワークによる新しいアプローチは、従来の決定論的手法よりも有望である。 本稿では,レグレッションベースニューラルネットワークからアレータ性およびてんかん性不確かさを抽出する手法を提案する。
  論文  参考訳（メタデータ） (2021-04-13T12:20:18Z)
• Bayesian Neural Networks [0.0]
  ニューラルネットワークによる予測におけるエラーを原理的に得る方法を示し、これらのエラーを特徴付ける2つの方法を提案する。 さらに、これらの2つのメソッドが実際に実施される際に、重大な落とし穴を持つ方法についても説明します。
  論文  参考訳（メタデータ） (2020-06-02T09:43:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。