論文の概要: Quantifying Explainability of Saliency Methods in Deep Neural Networks with a Synthetic Dataset

• arxiv url: http://arxiv.org/abs/2009.02899v4
• Date: Sat, 7 May 2022 09:24:49 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-21 02:12:20.952842
• Title: Quantifying Explainability of Saliency Methods in Deep Neural Networks with a Synthetic Dataset
• Title（参考訳）: 合成データセットを用いた深部ニューラルネットワークにおけるサリエンシ法の説明可能性の定量化
• Authors: Erico Tjoa, Cuntai Guan
• Abstract要約: 本稿では, より客観的な定量的評価を行うために, 地中断熱マップとともに, アドホックを生成可能な合成データセットを提案する。 各サンプルデータは、局所化接地トラスマスクと区別される特徴が容易に認識されるセルの画像である。
• 参考スコア（独自算出の注目度）: 16.1448256306394
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Post-hoc analysis is a popular category in eXplainable artificial intelligence (XAI) study. In particular, methods that generate heatmaps have been used to explain the deep neural network (DNN), a black-box model. Heatmaps can be appealing due to the intuitive and visual ways to understand them but assessing their qualities might not be straightforward. Different ways to assess heatmaps' quality have their own merits and shortcomings. This paper introduces a synthetic dataset that can be generated adhoc along with the ground-truth heatmaps for more objective quantitative assessment. Each sample data is an image of a cell with easily recognized features that are distinguished from localization ground-truth mask, hence facilitating a more transparent assessment of different XAI methods. Comparison and recommendations are made, shortcomings are clarified along with suggestions for future research directions to handle the finer details of select post-hoc analysis methods.
• Abstract（参考訳）: ポストホック分析は、eXplainable Artificial Intelligence (XAI)研究で人気のあるカテゴリである。 特に、ブラックボックスモデルであるディープニューラルネットワーク(dnn)を説明するためにヒートマップを生成する方法が使われている。 ヒートマップは直感的で視覚的な理解方法によって魅力的だが、その性質を評価するのは単純ではないかもしれない。 ヒートマップの品質を評価するさまざまな方法は、それぞれにメリットと欠点があります。 本稿では,より客観的な定量的評価のために,接地熱マップとともに付加的に生成可能な合成データセットを提案する。 各サンプルデータは、局所化グランドトゥルースマスクと区別される特徴が容易に認識されるセルの画像であり、それによって異なるXAI手法のより透過的な評価を容易にする。 比較と推薦を行い, 問題点を明らかにするとともに, 選択したポストホック解析法の詳細を扱うための今後の研究方向の提案を行う。

関連論文リスト

• Robustness of Explainable Artificial Intelligence in Industrial Process Modelling [43.388607981317016]
  我々は,地中真実シミュレーションと感度解析に基づいて,現在のXAI手法を評価する。 モデル化された産業プロセスの真の感度を正確に予測する能力において,XAI法とXAI法の違いを示す。
  論文  参考訳（メタデータ） (2024-07-12T09:46:26Z)
• Part-based Quantitative Analysis for Heatmaps [49.473051402754486]
  ヒートマップは、深いネットワーク決定を理解するのに役立ち、説明可能なAI(XAI)の一般的なアプローチである。 熱マップ解析は一般的に非常に主観的であり、ドメインの専門家に限られる。
  論文  参考訳（メタデータ） (2024-05-22T00:24:17Z)
• EvalAttAI: A Holistic Approach to Evaluating Attribution Maps in Robust and Non-Robust Models [0.3425341633647624]
  本稿では、ロバストニューラルネットワークがより説明しやすいかどうかを調べるために、属性マッピングの評価方法に焦点を当てる。 従来の指標の限界に対処する新しい説明可能性忠実度指標(EvalAttAI)を提案する。
  論文  参考訳（メタデータ） (2023-03-15T18:33:22Z)
• Inverting brain grey matter models with likelihood-free inference: a tool for trustable cytoarchitecture measurements [62.997667081978825]
  脳の灰白質細胞構造の特徴は、体密度と体積に定量的に敏感であり、dMRIでは未解決の課題である。 我々は新しいフォワードモデル、特に新しい方程式系を提案し、比較的スパースなb殻を必要とする。 次に,提案手法を逆転させるため,確率自由推論 (LFI) として知られるベイズ解析から最新のツールを適用した。
  論文  参考訳（メタデータ） (2021-11-15T09:08:27Z)
• Discriminative Attribution from Counterfactuals [64.94009515033984]
  本稿では,特徴属性と反実的説明を組み合わせたニューラルネットワークの解釈可能性について述べる。 本手法は,特徴属性法の性能を客観的に評価するために有効であることを示す。
  論文  参考訳（メタデータ） (2021-09-28T00:53:34Z)
• CAMERAS: Enhanced Resolution And Sanity preserving Class Activation Mapping for image saliency [61.40511574314069]
  バックプロパゲーション画像のサリエンシは、入力中の個々のピクセルのモデル中心の重要性を推定することにより、モデル予測を説明することを目的としている。 CAMERASは、外部の事前処理を必要とせずに、高忠実度バックプロパゲーション・サリエンシ・マップを計算できる手法である。
  論文  参考訳（メタデータ） (2021-06-20T08:20:56Z)
• Learning Topology from Synthetic Data for Unsupervised Depth Completion [66.26787962258346]
  画像から高密度深度マップとスパース深度測定を推定する手法を提案する。 我々は,疎点雲と密度の高い自然形状の関係を学習し,その画像を用いて予測深度マップの検証を行う。
  論文  参考訳（メタデータ） (2021-06-06T00:21:12Z)
• Evaluating Explainable Artificial Intelligence Methods for Multi-label Deep Learning Classification Tasks in Remote Sensing [0.0]
  ベンチマークデータセットで最先端のパフォーマンスを持つディープラーニングモデルを開発した。 モデル予測の理解と解釈に10のXAI手法が用いられた。 Occlusion、Grad-CAM、Limeは、最も解釈可能で信頼性の高いXAIメソッドでした。
  論文  参考訳（メタデータ） (2021-04-03T11:13:14Z)
• Neural Network Attribution Methods for Problems in Geoscience: A Novel Synthetic Benchmark Dataset [0.05156484100374058]
  我々は、地質科学における回帰問題に対するアトリビューションベンチマークデータセットを生成するフレームワークを提供する。 シミュレーションの基盤となる機能を学ぶために、完全に接続されたネットワークを訓練する。 異なるXAI手法から得られた推定帰属ヒートマップと基底真理を比較して,特定のXAI手法が良好に機能する事例を同定する。
  論文  参考訳（メタデータ） (2021-03-18T03:39:17Z)
• Interpretable Multi-dataset Evaluation for Named Entity Recognition [110.64368106131062]
  本稿では,名前付きエンティティ認識(NER)タスクに対する一般的な評価手法を提案する。 提案手法は,モデルとデータセットの違いと,それらの間の相互作用を解釈することを可能にする。 分析ツールを利用可能にすることで、将来の研究者が同様の分析を実行し、この分野の進歩を促進することができる。
  論文  参考訳（メタデータ） (2020-11-13T10:53:27Z)
• Ground Truth Evaluation of Neural Network Explanations with CLEVR-XAI [12.680653816836541]
  我々は,CLEVR視覚質問応答タスクに基づくXAI手法の基盤的真理に基づく評価フレームワークを提案する。 本フレームワークは,(1)選択的,(2)制御,(3)リアルなテストベッドをニューラルネットワークの説明評価のために提供する。
  論文  参考訳（メタデータ） (2020-03-16T14:43:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。