論文の概要: What Makes for a Good Saliency Map? Comparing Strategies for Evaluating Saliency Maps in Explainable AI (XAI)

• arxiv url: http://arxiv.org/abs/2504.17023v1
• Date: Wed, 23 Apr 2025 18:09:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-02 19:15:53.132437
• Title: What Makes for a Good Saliency Map? Comparing Strategies for Evaluating Saliency Maps in Explainable AI (XAI)
• Title（参考訳）: 優れたサリエンシマップを作るには? 説明可能なAI(XAI)におけるサリエンシマップの評価戦略の比較
• Authors: Felix Kares, Timo Speith, Hanwei Zhang, Markus Langer,
• Abstract要約: サリエンシマップは、(畳み込み)ニューラルネットワークの分類を説明する一般的なアプローチである。 主観的ユーザ測度,客観的ユーザ測度,数学的測度という3種類の評価手法が一般的に用いられている。 いくつかの数学的指標がユーザ理解に結びついていることが示されるが、この関係は直感に反することが多い。
• 参考スコア（独自算出の注目度）: 1.7249361224827533
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Saliency maps are a popular approach for explaining classifications of (convolutional) neural networks. However, it remains an open question as to how best to evaluate salience maps, with three families of evaluation methods commonly being used: subjective user measures, objective user measures, and mathematical metrics. We examine three of the most popular saliency map approaches (viz., LIME, Grad-CAM, and Guided Backpropagation) in a between subject study (N=166) across these families of evaluation methods. We test 1) for subjective measures, if the maps differ with respect to user trust and satisfaction; 2) for objective measures, if the maps increase users' abilities and thus understanding of a model; 3) for mathematical metrics, which map achieves the best ratings across metrics; and 4) whether the mathematical metrics can be associated with objective user measures. To our knowledge, our study is the first to compare several salience maps across all these evaluation methods$-$with the finding that they do not agree in their assessment (i.e., there was no difference concerning trust and satisfaction, Grad-CAM improved users' abilities best, and Guided Backpropagation had the most favorable mathematical metrics). Additionally, we show that some mathematical metrics were associated with user understanding, although this relationship was often counterintuitive. We discuss these findings in light of general debates concerning the complementary use of user studies and mathematical metrics in the evaluation of explainable AI (XAI) approaches.
• Abstract（参考訳）: サリエンシマップは、(畳み込み)ニューラルネットワークの分類を説明する一般的なアプローチである。 しかし, 主観的ユーザ測度, 客観的ユーザ測度, 数学的測度という3つの評価手法が一般的に用いられているため, サリエンスマップの評価が最善かという疑問が残る。 本研究では,これらの評価手法を用いて,最も普及している唾液マップ(viz., LIME, Grad-CAM, Guided Backpropagation)の3つのアプローチを被験者間(N=166)で検討した。 テスト 1 主観的措置については、利用者の信頼及び満足度に関して地図が異なる場合。 2 客観的措置として、地図が利用者の能力を高めてモデルを理解する場合。 3) 数学的な指標に対して, 地図は, 指標間で最高の評価を達成し, そして 4) 数学的指標を客観的なユーザ測度に関連付けることができるか。 我々の知る限りでは、これらの評価手法のサリエンスマップを、信頼と満足度に差はなく、Grad-CAMはユーザーの能力を最善に改善し、ガイドバックプロパゲーションは最も好意的な数学的指標であった。 さらに,いくつかの数学的指標がユーザ理解に結びついていることが示されるが,この関係は直感に反することが多い。 説明可能なAI(XAI)アプローチの評価におけるユーザ研究と数学的指標の相補的利用に関する一般的な議論を踏まえて,これらの知見について論じる。

関連論文リスト

• A Top-down Graph-based Tool for Modeling Classical Semantic Maps: A Crosslinguistic Case Study of Supplementary Adverbs [50.982315553104975]
  セマンティックマップモデル(SMM)は、言語横断的なインスタンスや形式からネットワークのような概念空間を構築する。 ほとんどのSMMは、ボトムアップ手順を使用して、人間の専門家によって手動で構築される。 本稿では,概念空間とSMMをトップダウンで自動生成するグラフベースの新しいアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-12-02T12:06:41Z)
• Mean Opinion Score as a New Metric for User-Evaluation of XAI Methods [2.0272430076690027]
  The Mean Opinion Score (MOS) is proposed as a user-centric evaluation metric for XAI explainers。 この新しいユーザ中心メトリックと自動メトリクスの相関について,Spearmanのランク相関係数を用いて検討した。
  論文  参考訳（メタデータ） (2024-07-29T21:38:04Z)
• Are Objective Explanatory Evaluation metrics Trustworthy? An Adversarial Analysis [12.921307214813357]
  本論文の目的は,Pixel Elimination を用いた SHifted Adversaries と呼ばれる新しい説明手法を考案することである。 我々は、SHAPEは、一般的な重要度に基づく視覚的XAI手法の堅牢性と信頼性を測定するために使用される因果的指標を騙す逆説であることを示す。
  論文  参考訳（メタデータ） (2024-06-12T02:39:46Z)
• Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
  機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。 驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。 以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T23:13:23Z)
• An Experimental Investigation into the Evaluation of Explainability Methods [60.54170260771932]
  この研究は、9つの最先端XAI法と3つのダミー法(例えば、ランダム・サリエンシ・マップ)に適用された14の異なるメトリクスを比較した。 実験の結果、これらの指標のどれが高い相関関係を示し、潜在的な冗長性を示している。
  論文  参考訳（メタデータ） (2023-05-25T08:07:07Z)
• Meta Architecure for Point Cloud Analysis [77.92830049514264]
  我々は,3Dポイントクラウド分析手法を解釈する,PointMetaと呼ばれる統合フレームワークを提案する。 PointMetaでは、さまざまなアプローチを公平に比較することができ、迅速な実験を使用して、比較から経験的な観察や仮定を検証することができます。 既存のアプローチを簡単に微調整することで、PointMetaBaseと呼ばれる基本的なビルディングブロックを導き出すことができます。
  論文  参考訳（メタデータ） (2022-11-26T02:53:40Z)
• Saliency Cards: A Framework to Characterize and Compare Saliency Methods [34.38335172204263]
  Saliencyメソッドは、各入力機能がモデルの出力に対してどれだけ重要かを計算する。 既存のアプローチでは、多様なユーザニーズを考慮しない唾液度メソッドに対して、普遍的なデシラタを仮定している。 サリエンシカード(Saliency Card)は、サリエンシメソッドの動作とパフォーマンスに関する構造化されたドキュメントである。
  論文  参考訳（メタデータ） (2022-06-07T01:21:49Z)
• Metrics for saliency map evaluation of deep learning explanation methods [0.0]
  我々はPetsiukらによって提案された削除領域(DAUC)と挿入領域(IAUC)のメトリクスを批判的に分析する。 これらの指標はGrad-CAM や RISE といった一般的な手法によって生成されるサリエンシマップの忠実さを評価するために設計された。 本研究は,サリエンシマップによって与えられる実際のサリエンシスコア値が無視されることを示し,スコアのランキングのみを考慮した。
  論文  参考訳（メタデータ） (2022-01-31T14:59:36Z)
• Rethinking Localization Map: Towards Accurate Object Perception with Self-Enhancement Maps [78.2581910688094]
  本研究は, カテゴリーラベルのみを監督として, 正確な対象位置分布マップと対象境界を抽出する, 新たな自己強調手法を提案する。 特に、提案されたセルフエンハンスメントマップは、ILSVRC上で54.88%の最先端のローカライゼーション精度を達成する。
  論文  参考訳（メタデータ） (2020-06-09T12:35:55Z)
• PONE: A Novel Automatic Evaluation Metric for Open-Domain Generative Dialogue Systems [48.99561874529323]
  オープンドメイン生成対話システムの評価には3つの方法がある。 体系的な比較が欠如しているため、どの指標がより効果的であるかは明らかでない。 本稿では,人間の判断との相関性を大幅に改善できる,新しい,実現可能な学習基準を提案する。
  論文  参考訳（メタデータ） (2020-04-06T04:36:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。