論文の概要: How Can One Choose the Best CAM-Based Explainability Method for a CNN Model?

• arxiv url: http://arxiv.org/abs/2605.02007v1
• Date: Sun, 03 May 2026 18:28:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-05 20:33:50.040736
• Title: How Can One Choose the Best CAM-Based Explainability Method for a CNN Model?
• Title（参考訳）: CNNモデルに最適なCAMベース説明可能性法をどうやって選択できるのか?
• Authors: Daniel da Silva Costa, Pedro Nuno de Souza Moura, Adriana C. F. Alvim,
• Abstract要約: 我々は、人間の知覚と説明相性マップの類似性を評価するために、異なる指標を使用する。 人間の知覚に最もよく似ている2つの指標は、マンハッタンと相関である。 人間の知覚に関する最良の説明方法は、LayerCAM、Score-CAM、IS-CAMである。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: In recent years, several advances have been observed in Deep Learning with surprising results. Models in this area have been increasingly used in numerous applications, including those sensitive to human life, which require clear explanations and justifications. Various explainability methods have been proposed, but not many metrics to evaluate these methods. The most commonly used metric is the Intersection over Union (IoU). However, due to the characteristics of the results of the explainability methods, called saliency maps, which do not have a known shape, we hypothesise that there must be a better metric that allows one to find an explainability method that produces results that best resemble the human perception. We propose using different metrics to assess the similarity between human perception and the explanation saliency maps to find a better metric. An investigation was conducted employing a subset of the Chihuahuas images from ImageNet dataset. Several CAM-based explainability methods were used to generate saliency maps for each chihuahua image. Alignment was measured by applying distance metrics between the bounding box of human annotations and the saliency maps produced by each explainability method. Rankings of the best saliency maps were created using the results of the distance metrics and compared to the ranking obtained using people's choice, collected through crowdsourcing, of the best explanation saliency maps for each selected image. Comparison between rankings was performed using the Rank-Biased Overlap (RBO) metric. The results indicate the feasibility of our method to find the explainability method that best resembles human perception. In our experiments, the two metrics that best resemble human perception corresponded to Manhattan and Correlation. Besides, the best explainability methods regarding human perception were LayerCAM, Score-CAM, and IS-CAM.
• Abstract（参考訳）: 近年,Deep Learningではいくつかの進歩が観察されており,驚くべき結果が得られている。 この領域のモデルは、明確な説明と正当化を必要とする人間の生活に敏感な人々を含む、多くの応用でますます使われている。 様々な説明可能性手法が提案されているが、これらの手法を評価するための指標はあまり多くない。 最もよく使われる計量は、IoU (Intersection over Union) である。 しかし, サリエンシマップと呼ばれる, 形状が不明な説明可能性マップの結果の特徴から, 人間の知覚に最もよく似た結果を生み出す説明可能性手法を, より優れた計量で探す必要があると推測する。 そこで我々は,人間の知覚と説明相性マップとの類似性を評価するために,異なる指標を用いて,より良い指標を求めることを提案する。 ImageNetデータセットからチワワス画像のサブセットを用いて調査を行った。 チワワ画像ごとにサリエンシマップを生成するために, CAMに基づくいくつかの説明可能性法が用いられた。 人間のアノテーションの有界ボックスと各説明可能性法で生成したサリエンシマップとの距離測定を応用してアライメントを測定した。 距離測定値を用いて最良サリエンシマップのランキングを作成し, クラウドソーシングにより収集した人々の選択によるランキングと, 選択した画像毎の最良説明サリエンシマップとを比較した。 Rank-Biased Overlap (RBO) を用いてランキングの比較を行った。 以上の結果から,人間の知覚に最もよく似た説明可能性法が提案される可能性が示唆された。 我々の実験では、人間の知覚に最もよく似た2つの指標がマンハッタンと相関に対応していた。 また、人間の知覚に関する最も優れた説明可能性の方法は、LayerCAM、Score-CAM、IS-CAMである。

関連論文リスト

• What Makes for a Good Saliency Map? Comparing Strategies for Evaluating Saliency Maps in Explainable AI (XAI) [1.7249361224827533]
  サリエンシマップは、(畳み込み)ニューラルネットワークの分類を説明する一般的なアプローチである。 主観的ユーザ測度,客観的ユーザ測度,数学的測度という3種類の評価手法が一般的に用いられている。 いくつかの数学的指標がユーザ理解に結びついていることが示されるが、この関係は直感に反することが多い。
  論文  参考訳（メタデータ） (2025-04-23T18:09:06Z)
• A Top-down Graph-based Tool for Modeling Classical Semantic Maps: A Crosslinguistic Case Study of Supplementary Adverbs [50.982315553104975]
  セマンティックマップモデル(SMM)は、言語横断的なインスタンスや形式からネットワークのような概念空間を構築する。 ほとんどのSMMは、ボトムアップ手順を使用して、人間の専門家によって手動で構築される。 本稿では,概念空間とSMMをトップダウンで自動生成するグラフベースの新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-12-02T12:06:41Z)
• Classification Metrics for Image Explanations: Towards Building Reliable XAI-Evaluations [0.24578723416255752]
  解像度法は、入力画像に対して(超)画素単位の特徴属性スコアを提供する。 新たな評価指標を開発し,イメージネット上で一般的な評価手法をベンチマークした。 心理測定テストの概念に基づく,そのような指標の信頼性評価手法を提案する。
  論文  参考訳（メタデータ） (2024-06-07T16:37:50Z)
• An Experimental Investigation into the Evaluation of Explainability Methods [60.54170260771932]
  この研究は、9つの最先端XAI法と3つのダミー法(例えば、ランダム・サリエンシ・マップ)に適用された14の異なるメトリクスを比較した。 実験の結果、これらの指標のどれが高い相関関係を示し、潜在的な冗長性を示している。
  論文  参考訳（メタデータ） (2023-05-25T08:07:07Z)
• Evaluation of FEM and MLFEM AI-explainers in Image Classification tasks with reference-based and no-reference metrics [0.0]
  画像と映像の分類タスクにおけるCNNの説明のために設計された,最近提案されたポストホック説明器 FEM と MLFEM を思い出させる。 基準ベースおよび非参照メトリクスを用いて評価を行う。 非参照計量として、Alvarez-Melis と Jaakkola によって提案された「安定」計量を用いる。
  論文  参考訳（メタデータ） (2022-12-02T14:55:31Z)
• Introspective Deep Metric Learning for Image Retrieval [80.29866561553483]
  良好な類似性モデルは、より堅牢なトレーニングのために曖昧なイメージをよりよく扱うように注意しながら、意味的な相違を考慮すべきである、と我々は主張する。 本稿では,画像の意味的特徴とあいまいさを記述した,意味的埋め込みだけでなく,付随する不確実性埋め込みを用いて画像を表現することを提案する。 提案したIDMLフレームワークは,不確実性モデリングによるディープメトリック学習の性能向上を実現し,広く使用されているCUB-200-2011,Cars196,Stanford Online Productsデータセットの最先端結果を得る。
  論文  参考訳（メタデータ） (2022-05-09T17:51:44Z)
• Weakly Supervised Semantic Segmentation of Remote Sensing Images for Tree Species Classification Based on Explanation Methods [1.2074552857379273]
  画像レベルラベルのみを用いた弱教師付きセマンティックセグメンテーションにおける説明手法の有効性を検討する。 実験結果から, 解析手法は木種の同定に極めて有用であることが示唆された。
  論文  参考訳（メタデータ） (2022-01-19T09:32:48Z)
• Towards Interpretable Deep Metric Learning with Structural Matching [86.16700459215383]
  より透過的な埋め込み学習のための深層解釈可能なメトリック学習(DIML)法を提案する。 本手法は,既製のバックボーンネットワークやメトリック学習手法に適用可能な,モデルに依存しない手法である。 我々は,CUB200-2011,Cars196,Stanford Online Productsの3つの大規模メトリクス学習ベンチマークで評価を行った。
  論文  参考訳（メタデータ） (2021-08-12T17:59:09Z)
• Evaluation of Saliency-based Explainability Method [2.733700237741334]
  説明可能なAI(XAI)メソッドのクラスは、CNNモデルがその動作を説明する方法としてイメージを分類するために、画像の一部を強調するために、唾液マップを提供する。 これらの手法はユーザがCNNの予測を理解するための直感的な方法を提供する。 定量的な計算テスト以外に、これらの手法が有用であることを示す証拠の大部分は逸話である。
  論文  参考訳（メタデータ） (2021-06-24T05:40:50Z)
• There and Back Again: Revisiting Backpropagation Saliency Methods [87.40330595283969]
  正当性法は,各入力サンプルの重要度マップを作成することによって,モデルの予測を説明する。 このような手法の一般的なクラスは、信号のバックプロパゲートと結果の勾配の分析に基づいている。 本稿では,そのような手法を統一可能な単一のフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-04-06T17:58:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。