論文の概要: From Movements to Metrics: Evaluating Explainable AI Methods in Skeleton-Based Human Activity Recognition

• arxiv url: http://arxiv.org/abs/2402.12790v1
• Date: Tue, 20 Feb 2024 07:58:04 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-21 16:36:21.345750
• Title: From Movements to Metrics: Evaluating Explainable AI Methods in Skeleton-Based Human Activity Recognition
• Title（参考訳）: 運動からメトリクスへ:骨格に基づく人間活動認識における説明可能なAI手法の評価
• Authors: Kimji N. Pellano, Inga Str\"umke, Espen Alexander F. Ihlen
• Abstract要約: 本稿では,骨格型HAR領域におけるXAI評価指標の適用性と信頼性の欠如に対処する。 CAM(Class Activation Mapping)とGrad-CAM(Grad-CAM)で確立されたXAIメトリクスを検証した。 以上の結果から, 有効GCNモデルなど特定の文脈において, テキストフェースフルネスは信頼性に欠ける可能性が示唆された。
• 参考スコア（独自算出の注目度）: 0.16385815610837165
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The advancement of deep learning in human activity recognition (HAR) using 3D skeleton data is critical for applications in healthcare, security, sports, and human-computer interaction. This paper tackles a well-known gap in the field, which is the lack of testing in the applicability and reliability of XAI evaluation metrics in the skeleton-based HAR domain. We have tested established XAI metrics namely faithfulness and stability on Class Activation Mapping (CAM) and Gradient-weighted Class Activation Mapping (Grad-CAM) to address this problem. The study also introduces a perturbation method that respects human biomechanical constraints to ensure realistic variations in human movement. Our findings indicate that \textit{faithfulness} may not be a reliable metric in certain contexts, such as with the EfficientGCN model. Conversely, stability emerges as a more dependable metric when there is slight input data perturbations. CAM and Grad-CAM are also found to produce almost identical explanations, leading to very similar XAI metric performance. This calls for the need for more diversified metrics and new XAI methods applied in skeleton-based HAR.
• Abstract（参考訳）: 3Dスケルトンデータを用いた人間の活動認識(HAR)における深層学習の進歩は、医療、セキュリティ、スポーツ、人間とコンピュータの相互作用における応用において重要である。 本稿では,骨格型HAR領域におけるXAI評価指標の適用性および信頼性試験の欠如を,この分野におけるよく知られたギャップに対処する。 我々は,クラスアクティベーションマッピング(CAM)とグラディエント重み付きクラスアクティベーションマッピング(Grad-CAM)の信頼性と安定性という,確立されたXAIメトリクスを検証した。 この研究は、人間の動きの現実的な変化を保証するために、人間の生体力学的制約を尊重する摂動法も導入した。 以上の結果から,高効率gcnモデルのような特定の文脈において,<textit{faithfulness} は信頼できる指標ではない可能性が示唆された。 逆に、わずかな入力データ摂動がある場合、安定性はより信頼できるメトリクスとして現れる。 CAMとGrad-CAMもほぼ同じ説明をしており、非常によく似たXAIメートル法のパフォーマンスをもたらす。 これにより、スケルトンベースのHARに適用された、より多様化したメトリクスと新しいXAIメソッドの必要性が要求される。

関連論文リスト

• Navigating the Maze of Explainable AI: A Systematic Approach to Evaluating Methods and Metrics [10.045644410833402]
  LATECは、20の異なる指標を用いて17の顕著なXAI手法を批判的に評価する大規模なベンチマークである。 信頼性の低いランキングに繋がるメトリクスの衝突リスクを実証し、その結果、より堅牢な評価手法を提案する。 LATECは将来のXAI研究における役割を強化し、326kのサリエンシマップと378kのメトリクススコアを(メタ評価)データセットとして公開している。
  論文  参考訳（メタデータ） (2024-09-25T09:07:46Z)
• Evaluating Explainable AI Methods in Deep Learning Models for Early Detection of Cerebral Palsy [0.13194391758295113]
  脳性麻痺(CP)の早期発見は効果的な介入とモニタリングに不可欠である。 本稿では,幼児の動きのビデオ記録から抽出した骨格データを解析し,CPを予測する深層学習法を用いて,説明可能なAI(XAI)手法の信頼性と適用性を検討した。
  論文  参考訳（メタデータ） (2024-08-14T00:27:09Z)
• Hyp-UML: Hyperbolic Image Retrieval with Uncertainty-aware Metric Learning [8.012146883983227]
  メトリクス学習は画像検索と分類の訓練において重要な役割を果たしている。 双曲的埋め込みは階層的なデータ構造を表現するのにより効果的である。 本稿では,一般的なコントラスト学習と従来のマージンに基づく距離学習の2種類の不確実性を考慮した距離学習を提案する。
  論文  参考訳（メタデータ） (2023-10-12T15:00:06Z)
• A Discrepancy Aware Framework for Robust Anomaly Detection [51.710249807397695]
  本稿では,DAF(Disdisrepancy Aware Framework)を提案する。 本手法は,デコーダの欠陥同定に外見に依存しないキューを利用して,その合成外観への依存を緩和する。 単純な合成戦略の下では,既存の手法を大きなマージンで上回り,また,最先端のローカライゼーション性能も達成している。
  論文  参考訳（メタデータ） (2023-10-11T15:21:40Z)
• Physics Inspired Hybrid Attention for SAR Target Recognition [61.01086031364307]
  本稿では,物理にヒントを得たハイブリットアテンション(PIHA)機構と,この問題に対処するためのOFA評価プロトコルを提案する。 PIHAは、物理的情報の高レベルなセマンティクスを活用して、ターゲットの局所的なセマンティクスを認識した特徴群を活性化し、誘導する。 提案手法は,ASCパラメータが同じ12のテストシナリオにおいて,他の最先端手法よりも優れている。
  論文  参考訳（メタデータ） (2023-09-27T14:39:41Z)
• An Experimental Investigation into the Evaluation of Explainability Methods [60.54170260771932]
  この研究は、9つの最先端XAI法と3つのダミー法(例えば、ランダム・サリエンシ・マップ)に適用された14の異なるメトリクスを比較した。 実験の結果、これらの指標のどれが高い相関関係を示し、潜在的な冗長性を示している。
  論文  参考訳（メタデータ） (2023-05-25T08:07:07Z)
• BASED-XAI: Breaking Ablation Studies Down for Explainable Artificial Intelligence [1.2948254191169823]
  様々な摂動が、潜在的に欠陥のある結論を避けるのにどのように役立つかを示す。 また,ホック後の説明可能性とアブレーション研究において,カテゴリー変数の扱いが重要であることも明らかにした。
  論文  参考訳（メタデータ） (2022-07-12T14:38:37Z)
• Adaptive Hierarchical Similarity Metric Learning with Noisy Labels [138.41576366096137]
  適応的階層的類似度メトリック学習法を提案する。 ノイズに敏感な2つの情報、すなわち、クラスワイドのばらつきとサンプルワイドの一貫性を考える。 提案手法は,現在の深層学習手法と比較して,最先端の性能を実現する。
  論文  参考訳（メタデータ） (2021-10-29T02:12:18Z)
• A Comparative Approach to Explainable Artificial Intelligence Methods in Application to High-Dimensional Electronic Health Records: Examining the Usability of XAI [0.0]
  XAIは、コミュニケーション手段によって人間に達成される信頼の実証的要因を生み出すことを目的としている。 機械を信頼して人間の生き方に向くというイデオロギーは倫理的な混乱を引き起こします。 XAIメソッドは、ローカルレベルとグローバルレベルの両方で出力される特定のモデルに対する機能貢献を視覚化します。
  論文  参考訳（メタデータ） (2021-03-08T18:15:52Z)
• Domain Adaptive Robotic Gesture Recognition with Unsupervised Kinematic-Visual Data Alignment [60.31418655784291]
  本稿では,マルチモダリティ知識,すなわちキネマティックデータとビジュアルデータを同時にシミュレータから実ロボットに伝達できる,教師なしドメイン適応フレームワークを提案する。 ビデオの時間的手がかりと、ジェスチャー認識に対するマルチモーダル固有の相関を用いて、トランスファー可能な機能を強化したドメインギャップを修復する。 その結果, 本手法は, ACCでは最大12.91%, F1scoreでは20.16%と, 実際のロボットではアノテーションを使わずに性能を回復する。
  論文  参考訳（メタデータ） (2021-03-06T09:10:03Z)
• GO FIGURE: A Meta Evaluation of Factuality in Summarization [131.1087461486504]
  本稿では,現実性評価指標を評価するメタ評価フレームワークGO FIGUREを紹介する。 10個の実測値のベンチマーク分析により、我々のフレームワークが堅牢で効率的な評価を提供することが明らかとなった。 また、QAメトリクスは、ドメイン間の事実性を測定する標準的なメトリクスよりも一般的に改善されているが、パフォーマンスは、質問を生成する方法に大きく依存していることも明らかにしている。
  論文  参考訳（メタデータ） (2020-10-24T08:30:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。