論文の概要: Explaining Human Activity Recognition with SHAP: Validating Insights with Perturbation and Quantitative Measures
- arxiv url: http://arxiv.org/abs/2411.03714v1
- Date: Wed, 06 Nov 2024 07:28:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-07 19:23:30.143735
- Title: Explaining Human Activity Recognition with SHAP: Validating Insights with Perturbation and Quantitative Measures
- Title（参考訳）: SHAPによる人間の活動認識の解説:摂動と定量化による視点の検証
- Authors: Felix Tempel, Espen Alexander F. Ihlen, Lars Adde, Inga Strümke,
- Abstract要約: 本稿では SHapley Additive exPlanations を用いてグラフ畳み込みネットワーク(GCN)の意思決定プロセスを説明する。
我々は、脳性麻痺(CP)分類のための2つの実世界のデータセットと、広く使われているNTU RGB+D 60行動認識データセットについて、SHAPを用いて説明する。
どちらのデータセットでも、SHAPによって重要視されるボディキーポイントが、正確性、特異性、感度の指標に最も大きな影響を与えることが示されている。
- 参考スコア（独自算出の注目度）: 0.1398098625978622
- License:
- Abstract: In Human Activity Recognition (HAR), understanding the intricacy of body movements within high-risk applications is essential. This study uses SHapley Additive exPlanations (SHAP) to explain the decision-making process of Graph Convolution Networks (GCNs) when classifying activities with skeleton data. We employ SHAP to explain two real-world datasets: one for cerebral palsy (CP) classification and the widely used NTU RGB+D 60 action recognition dataset. To test the explanation, we introduce a novel perturbation approach that modifies the model's edge importance matrix, allowing us to evaluate the impact of specific body key points on prediction outcomes. To assess the fidelity of our explanations, we employ informed perturbation, targeting body key points identified as important by SHAP and comparing them against random perturbation as a control condition. This perturbation enables a judgment on whether the body key points are truly influential or non-influential based on the SHAP values. Results on both datasets show that body key points identified as important through SHAP have the largest influence on the accuracy, specificity, and sensitivity metrics. Our findings highlight that SHAP can provide granular insights into the input feature contribution to the prediction outcome of GCNs in HAR tasks. This demonstrates the potential for more interpretable and trustworthy models in high-stakes applications like healthcare or rehabilitation.
- Abstract（参考訳）: HAR(Human Activity Recognition)では、ハイリスクアプリケーションにおける身体の動きの複雑さを理解することが不可欠である。
本研究では SHAP (SHapley Additive exPlanations) を用いて, 骨格データを用いた活動分類におけるグラフ畳み込みネットワーク (GCN) の決定過程を説明する。
我々は、脳性麻痺(CP)分類のための2つの実世界のデータセットと、広く使われているNTU RGB+D 60行動認識データセットについて、SHAPを用いて説明する。
そこで本研究では,モデルのエッジ重要度行列を改良し,特定のボディキーポイントが予測結果に与える影響を評価する新しい摂動手法を提案する。
説明の忠実さを評価するために,情報摂動を用いて,SHAPが重要視する身体鍵点を目標とし,ランダム摂動を制御条件として比較した。
この摂動は、SHAP値に基づいて、ボディキーポイントが真に影響力があるか、非知能的であるかを判断することができる。
どちらのデータセットでも、SHAPによって重要視されるボディキーポイントが、正確性、特異性、感度の指標に最も大きな影響を与えることが示されている。
以上の結果から,HARタスクにおけるGCNの予測結果に対する入力特徴の寄与について,SHAPがより詳細な洞察を得られることが示唆された。
これは、医療やリハビリテーションのような高度なアプリケーションにおいて、より解釈可能で信頼できるモデルの可能性を示している。
関連論文リスト
- DEL-Ranking: Ranking-Correction Denoising Framework for Elucidating Molecular Affinities in DNA-Encoded Libraries [43.47251247740565]
DNAエンコードライブラリ(DEL)スクリーニングは、読み取りカウントによるタンパク質-リガンド相互作用の検出に革命をもたらした。
読み取りカウントのノイズは 特定の相互作用から生じる この探索プロセスを誤解させる可能性がある
DEL-Rankingは,これらの課題に対処する分布補正手法である。
論文 参考訳（メタデータ） (2024-10-19T02:32:09Z) - Physics Inspired Hybrid Attention for SAR Target Recognition [61.01086031364307]
本稿では,物理にヒントを得たハイブリットアテンション(PIHA)機構と,この問題に対処するためのOFA評価プロトコルを提案する。
PIHAは、物理的情報の高レベルなセマンティクスを活用して、ターゲットの局所的なセマンティクスを認識した特徴群を活性化し、誘導する。
提案手法は,ASCパラメータが同じ12のテストシナリオにおいて,他の最先端手法よりも優れている。
論文 参考訳（メタデータ） (2023-09-27T14:39:41Z) - QXAI: Explainable AI Framework for Quantitative Analysis in Patient
Monitoring Systems [9.29069202652354]
定量的分析のための説明可能なAI(QXAI)フレームワークは、回帰および分類タスクのポストホックモデル説明可能性と本質的な説明可能性によって提案される。
我々は,センサデータに基づく心拍数予測と身体活動の分類を行うために,人工ニューラルネットワーク (ANN) と注意に基づく双方向LSTM (BiLSTM) モデルを採用した。
論文 参考訳（メタデータ） (2023-09-19T03:50:30Z) - Explainable AI and Machine Learning Towards Human Gait Deterioration
Analysis [0.0]
歩行データを客観的に分析し,臨床関連バイオマーカーと所見を関連づける。
physioNet.orgデータセット毎の98% F1 sc の分類精度と、組み合わせたphysioNetデータセットの95.5% F1スコアを達成する。
論文 参考訳（メタデータ） (2023-06-12T14:53:00Z) - Bridging the Gap: Gaze Events as Interpretable Concepts to Explain Deep
Neural Sequence Models [0.7829352305480283]
本研究では,固定およびサケードに確立された視線事象検出アルゴリズムを用いる。
これらの事象が与える影響を定量的に評価し,その概念的影響を判断する。
論文 参考訳（メタデータ） (2023-04-12T10:15:31Z) - Dataset Bias in Human Activity Recognition [57.91018542715725]
このコントリビューションは、トレーニングデータを統計的にキュレートし、人間の身体的特性がHARのパフォーマンスにどの程度影響するかを評価する。
時系列HARのセンサ,アクティビティ,記録の異なる2つのHARデータセット上で,最先端の畳み込みニューラルネットワークの性能を評価する。
論文 参考訳（メタデータ） (2023-01-19T12:33:50Z) - Learning Neural Causal Models with Active Interventions [83.44636110899742]
本稿では,データ生成プロセスの根底にある因果構造を素早く識別する能動的介入ターゲット機構を提案する。
本手法は,ランダムな介入ターゲティングと比較して,要求される対話回数を大幅に削減する。
シミュレーションデータから実世界のデータまで,複数のベンチマークにおいて優れた性能を示す。
論文 参考訳（メタデータ） (2021-09-06T13:10:37Z) - Towards Unbiased Visual Emotion Recognition via Causal Intervention [63.74095927462]
本稿では,データセットバイアスによる負の効果を軽減するために,新しい感情認識ネットワーク(IERN)を提案する。
IERNの有効性を検証する一連の設計されたテストと、3つの感情ベンチマークの実験は、IERNが他の最先端のアプローチよりも優れていることを示した。
論文 参考訳（メタデータ） (2021-07-26T10:40:59Z) - How Knowledge Graph and Attention Help? A Quantitative Analysis into
Bag-level Relation Extraction [66.09605613944201]
バッグレベルの関係抽出(RE)における注意と知識グラフの効果を定量的に評価する。
その結果,(1)注目精度の向上は,エンティティ参照特徴を抽出するモデルの性能を損なう可能性があること,(2)注目性能は様々なノイズ分布パターンの影響が大きいこと,(3)KG強化された注目はRE性能を向上するが,その効果は注目度を向上させるだけでなく,先行するエンティティを組み込むことによっても改善することがわかった。
論文 参考訳（メタデータ） (2021-07-26T09:38:28Z) - Influence Functions in Deep Learning Are Fragile [52.31375893260445]
影響関数は、テスト時間予測におけるサンプルの効果を近似する。
影響評価は浅いネットワークでは かなり正確です
ヘッセン正則化は、高品質な影響推定を得るために重要である。
論文 参考訳（メタデータ） (2020-06-25T18:25:59Z) - Feature Importance Estimation with Self-Attention Networks [0.0]
ブラックボックスニューラルネットワークモデルは、産業や科学で広く使われているが、理解と解釈が難しい。
近年,ニューラルネットワークモデルの内部動作に関する洞察を提供するアテンションメカニズムが導入されている。
本稿では、命題(タブラル)データから得られたモデルを説明する手段として、注目に基づくニューラルネットワーク機構を用いて特徴重要度を推定する。
論文 参考訳（メタデータ） (2020-02-11T15:15:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。