論文の概要: Choose Your Explanation: A Comparison of SHAP and GradCAM in Human Activity Recognition

• arxiv url: http://arxiv.org/abs/2412.16003v1
• Date: Fri, 20 Dec 2024 15:53:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-23 16:21:33.881453
• Title: Choose Your Explanation: A Comparison of SHAP and GradCAM in Human Activity Recognition
• Title（参考訳）: 説明の選択:人間活動認識におけるSHAPとGradCAMの比較
• Authors: Felix Tempel, Daniel Groos, Espen Alexander F. Ihlen, Lars Adde, Inga Strümke,
• Abstract要約: 本研究は,Shapley Additive Explanations (SHAP) と Gradient-weighted Class Activation Mapping (GradCAM) を比較した。 本研究では,これらの手法を定量的かつ定量的に比較し,摂動実験による特徴重要度ランキング,解釈可能性,モデル感度に着目した。 我々の研究は、SHAPとGradCAMが相互に補完し、より解釈可能で実行可能なモデル説明を提供する方法を示している。
• 参考スコア（独自算出の注目度）: 0.13194391758295113
• License:
• Abstract: Explaining machine learning (ML) models using eXplainable AI (XAI) techniques has become essential to make them more transparent and trustworthy. This is especially important in high-stakes domains like healthcare, where understanding model decisions is critical to ensure ethical, sound, and trustworthy outcome predictions. However, users are often confused about which explanability method to choose for their specific use case. We present a comparative analysis of widely used explainability methods, Shapley Additive Explanations (SHAP) and Gradient-weighted Class Activation Mapping (GradCAM), within the domain of human activity recognition (HAR) utilizing graph convolutional networks (GCNs). By evaluating these methods on skeleton-based data from two real-world datasets, including a healthcare-critical cerebral palsy (CP) case, this study provides vital insights into both approaches' strengths, limitations, and differences, offering a roadmap for selecting the most appropriate explanation method based on specific models and applications. We quantitatively and quantitatively compare these methods, focusing on feature importance ranking, interpretability, and model sensitivity through perturbation experiments. While SHAP provides detailed input feature attribution, GradCAM delivers faster, spatially oriented explanations, making both methods complementary depending on the application's requirements. Given the importance of XAI in enhancing trust and transparency in ML models, particularly in sensitive environments like healthcare, our research demonstrates how SHAP and GradCAM could complement each other to provide more interpretable and actionable model explanations.
• Abstract（参考訳）: eXplainable AI(XAI)技術を用いた機械学習(ML)モデルの説明は、より透明で信頼性の高いものにするために不可欠である。 これは、倫理的、健全で信頼できる結果予測を保証するために、モデル決定を理解することが重要である、医療のような高度な領域において特に重要である。 しかし、ユーザーは特定のユースケースを選択するための説明可能性メソッドについて混乱することが多い。 本稿では, グラフ畳み込みネットワーク(GCN)を利用した人間活動認識(HAR)分野において, 広く使われている説明可能性法, シェープ付加説明法(SHAP)とグラディエント重み付きクラス活性化マッピング(GradCAM)の比較分析を行った。 本研究は、医療クリティカル脳性麻痺(CP)を含む2つの実世界のデータセットからの骨格データに基づくこれらの手法を評価することにより、両方のアプローチの強さ、限界、差異について重要な洞察を与え、特定のモデルやアプリケーションに基づいて最も適切な説明方法を選択するためのロードマップを提供する。 本研究では,これらの手法を定量的かつ定量的に比較し,摂動実験による特徴重要度ランキング,解釈可能性,モデル感度に着目した。 SHAPは詳細な入力機能の属性を提供するが、GradCAMはより高速で空間指向的な説明を提供する。 XAIがMLモデルの信頼性と透明性を高めることの重要性、特に医療などのセンシティブな環境では、SHAPとGradCAMが相互に補完し、より解釈可能で実行可能なモデル説明を提供することが示されています。

関連論文リスト

• Explaining the Unexplained: Revealing Hidden Correlations for Better Interpretability [1.8274323268621635]
  Real Explainer(RealExp)は、Shapley値を個々の特徴と特徴相関の重要度に分解する、解釈可能性の手法である。 RealExpは、個々の特徴とそれらの相互作用を正確に定量化することで、解釈可能性を高める。
  論文  参考訳（メタデータ） (2024-12-02T10:50:50Z)
• Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
  機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。 驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。 以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T23:13:23Z)
• Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
  2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。 そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-06-14T23:24:01Z)
• A Perspective on Explainable Artificial Intelligence Methods: SHAP and LIME [4.328967621024592]
  本稿では2つの広く使われているXAI手法の解釈のための枠組みを提案する。 モデル依存性やコリナリティの有無の観点から,これらの結果について議論する。 以上の結果から,SHAPとLIMEはMLモデルや特徴コリナリティーの影響を強く受けており,その使用法や解釈に注意を喚起している。
  論文  参考訳（メタデータ） (2023-05-03T10:04:46Z)
• A Concept and Argumentation based Interpretable Model in High Risk Domains [9.209499864585688]
  解釈可能性(interpretability)は、医療、銀行、セキュリティといったリスクの高い分野において、人工知能にとって重要なトピックとなっている。 人間の理解可能な概念を得るための新しい概念マイニング手法を含む概念と議論に基づくモデル(CAM)を提案する。 CAMは人間レベルの知識に基づく意思決定を提供し、推論プロセスは本質的に解釈可能である。
  論文  参考訳（メタデータ） (2022-08-17T08:29:02Z)
• MACE: An Efficient Model-Agnostic Framework for Counterfactual Explanation [132.77005365032468]
  MACE(Model-Agnostic Counterfactual Explanation)の新たな枠組みを提案する。 MACE法では, 優れた反実例を見つけるための新しいRL法と, 近接性向上のための勾配のない降下法を提案する。 公開データセットの実験は、有効性、空間性、近接性を向上して検証する。
  論文  参考訳（メタデータ） (2022-05-31T04:57:06Z)
• An Empirical Investigation of Commonsense Self-Supervision with Knowledge Graphs [67.23285413610243]
  大規模知識グラフから抽出した情報に基づく自己監督は、言語モデルの一般化を改善することが示されている。 本研究では,言語モデルに適用可能な合成データを生成するための知識サンプリング戦略とサイズの影響について検討する。
  論文  参考訳（メタデータ） (2022-05-21T19:49:04Z)
• Beyond Explaining: Opportunities and Challenges of XAI-Based Model Improvement [75.00655434905417]
  説明可能な人工知能(XAI)は、高度に複雑な機械学習(ML)モデルに透明性をもたらす新たな研究分野である。 本稿では,機械学習モデルの諸特性を改善するために,XAIを実用的に応用する手法を概観する。 実験では,モデル一般化能力や推論などの特性を改善する上で,説明がどのように役立つのかを,おもちゃと現実的な設定で実証的に示す。
  論文  参考訳（メタデータ） (2022-03-15T15:44:28Z)
• Explanation of Machine Learning Models Using Shapley Additive Explanation and Application for Real Data in Hospital [0.11470070927586014]
  本稿では,機械学習モデルの解釈可能性向上のための2つの新しい手法を提案する。 本稿では,A/G比が脳梗塞の重要な予後因子であることを示す。
  論文  参考訳（メタデータ） (2021-12-21T10:08:31Z)
• Evaluating Explainable Artificial Intelligence Methods for Multi-label Deep Learning Classification Tasks in Remote Sensing [0.0]
  ベンチマークデータセットで最先端のパフォーマンスを持つディープラーニングモデルを開発した。 モデル予測の理解と解釈に10のXAI手法が用いられた。 Occlusion、Grad-CAM、Limeは、最も解釈可能で信頼性の高いXAIメソッドでした。
  論文  参考訳（メタデータ） (2021-04-03T11:13:14Z)
• Interpretable Multi-dataset Evaluation for Named Entity Recognition [110.64368106131062]
  本稿では,名前付きエンティティ認識(NER)タスクに対する一般的な評価手法を提案する。 提案手法は,モデルとデータセットの違いと,それらの間の相互作用を解釈することを可能にする。 分析ツールを利用可能にすることで、将来の研究者が同様の分析を実行し、この分野の進歩を促進することができる。
  論文  参考訳（メタデータ） (2020-11-13T10:53:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。