論文の概要: Identifying Confusion Trends in Concept-based XAI for Multi-Label Classification

• arxiv url: http://arxiv.org/abs/2608.15731v1
• Date: Sun, 16 Aug 2026 13:13:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-18 19:59:03.404125
• Title: Identifying Confusion Trends in Concept-based XAI for Multi-Label Classification
• Title（参考訳）: マルチラベル分類のための概念ベースXAIにおける融合傾向の同定
• Abstract要約: 概念ベースの説明可能なAI(CXAI)メソッドは、適用性と問題解決能力について評価する必要がある。 概念レベルの説明を生成するために2つのCXAI手法を適用し、全体的な評価について検討する。 本研究は,CXAIがモデル一般化可能性の理解を高め,データセットによるバイアスを診断する可能性を示すものである。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep Neural Networks (DNNs) deployed in high-risk domains, such as healthcare and autonomous driving, must be not only accurate but also understandable to ensure user trust. In real-world computer vision tasks, these models often operate on complex images containing background noise and are heavily annotated. To make such models explainable, Concept-based Explainable AI (CXAI) methods need to be assessed for their applicability and problem-solving capacity. In this work, we explore CXAI use cases in multi-label classification by training two DNNs, VGG16 and ResNet50, on the 20 most annotated labels in the MS-COCO dataset (Microsoft Common Objects in Context). We apply two CXAI methods, CRP (Concept Relevance Propagation) and CRAFT (Concept Recursive Activation FacTorization), to generate concept-level explanations and investigate the overall evaluations. Our analysis reveals three key findings: (1) CXAI highlights learning weaknesses in DNNs, (2) higher concept distinctiveness reduces label and concept confusion, and (3) environmental concepts expose dataset-induced biases. Our results demonstrate the potential of CXAI to enhance the understanding of model generalizability and to diagnose bias instigated by the dataset.
• Abstract（参考訳）: 医療や自動運転といったリスクの高いドメインにデプロイされるディープニューラルネットワーク(DNN)は、正確さだけでなく、ユーザの信頼を確保する上でも理解しなければなりません。 現実のコンピュータビジョンタスクでは、これらのモデルは背景雑音を含む複雑なイメージで動作し、注釈を付けることが多い。 このようなモデルを説明できるように、概念ベースの説明可能なAI(CXAI)メソッドは、適用性と問題解決能力について評価する必要がある。 そこで本研究では,MS-COCOデータセット(Microsoft Common Objects in Context)の20のアノテートラベルに対して,2つのDNNであるVGG16とResNet50をトレーニングすることで,マルチラベル分類におけるCXAIユースケースを検討する。 CXAIの2つの手法、CRP(Concept Relevance Propagation)とCRAFT(Concept Recursive Activation FacTorization)を適用し、概念レベルの説明を生成し、全体的な評価について検討する。 分析の結果,(1)CXAIはDNNにおける学習の弱点を強調し,(2)高い概念的特徴はラベルや概念の混乱を減らし,(3)環境的概念はデータセットによるバイアスを露呈することがわかった。 本研究は,CXAIがモデル一般化可能性の理解を高め,データセットによるバイアスを診断する可能性を示すものである。

関連論文リスト

• SCAN: Visual Explanations with Self-Confidence and Analysis Networks [0.764671395172401]
  自己信頼と分析ネットワーク(SCAN)は、畳み込みニューラルネットワークとトランスフォーマーアーキテクチャの両方の制限を克服する、新しいユニバーサルフレームワークである。 SCANは、AUC-D、Negative AUC、Drop%、Win%など、さまざまな定量的メトリクスにおいて、一貫して優れたパフォーマンスを実現している。 既存の方法よりも明らかに、オブジェクトに焦点を当てた説明が得られます。
  論文  参考訳（メタデータ） (2026-03-04T17:17:40Z)
• Knowledge-Informed Neural Network for Complex-Valued SAR Image Recognition [51.03674130115878]
  本稿では,新しい「圧縮集約圧縮」アーキテクチャ上に構築された軽量なフレームワークであるKnowledge-Informed Neural Network(KINN)を紹介する。 KINNはパラメータ効率の認識における最先端を確立し、データスカースとアウト・オブ・ディストリビューションのシナリオにおいて例外的な一般化を提供する。
  論文  参考訳（メタデータ） (2025-10-23T07:12:26Z)
• Concept-Guided Interpretability via Neural Chunking [64.6429903327095]
  ニューラルネットワークは、トレーニングデータの規則性を反映した生の集団活動のパターンを示す。 神経集団レベルで繰り返しチャンクを抽出する3つの方法を提案する。 私たちの研究は、認知原則と自然主義的データの構造の両方を活用する、解釈可能性の新しい方向性を指し示しています。
  論文  参考訳（メタデータ） (2025-05-16T13:49:43Z)
• Understanding the (Extra-)Ordinary: Validating Deep Model Decisions with Prototypical Concept-based Explanations [13.60538902487872]
  本稿では, 実例的(地域的)かつクラス的(グローバル的)な意思決定戦略をプロトタイプを通じて伝達する, ポストホックなコンセプトベースXAIフレームワークを提案する。 我々は,3つのデータセットにまたがるアウト・オブ・ディストリビューション・サンプル,突発的なモデル行動,データ品質問題同定におけるアプローチの有効性を実証する。
  論文  参考訳（メタデータ） (2023-11-28T10:53:26Z)
• Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
  2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。 そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-06-14T23:24:01Z)
• Explain Any Concept: Segment Anything Meets Concept-Based Explanation [11.433807960637685]
  Segment Anything Model (SAM)は、正確で包括的なインスタンスセグメンテーションを実行するための強力なフレームワークとして実証されている。 我々は、効果的で柔軟な概念に基づく説明方法、すなわち Explain Any Concept (EAC) を提供する。 そこで我々は,Surrogateモデルによる効率的な説明を可能にする軽量なPIE方式を提案する。
  論文  参考訳（メタデータ） (2023-05-17T15:26:51Z)
• Neural Causal Models for Counterfactual Identification and Estimation [62.30444687707919]
  本稿では,ニューラルモデルによる反事実文の評価について検討する。 まず、神経因果モデル(NCM)が十分に表現可能であることを示す。 第2に,反事実分布の同時同定と推定を行うアルゴリズムを開発する。
  論文  参考訳（メタデータ） (2022-09-30T18:29:09Z)
• Interpretable part-whole hierarchies and conceptual-semantic relationships in neural networks [4.153804257347222]
  本稿では、視覚的手がかりから部分全体階層を表現できるフレームワークであるAgglomeratorについて述べる。 本研究では,SmallNORB,MNIST,FashionMNIST,CIFAR-10,CIFAR-100などの共通データセットを用いて評価を行った。
  論文  参考訳（メタデータ） (2022-03-07T10:56:13Z)
• A Minimalist Dataset for Systematic Generalization of Perception, Syntax, and Semantics [131.93113552146195]
  我々は,機械が一般化可能な概念を学習する能力を調べるため,新しいデータセットであるHINT(Hand written arithmetic with INTegers)を提案する。 HINTでは、イメージなどの生信号から概念がどのように認識されるかを学ぶことが機械のタスクである。 我々は、RNN、Transformer、GPT-3など、様々なシーケンス・ツー・シーケンスモデルで広範囲に実験を行った。
  論文  参考訳（メタデータ） (2021-03-02T01:32:54Z)
• Probabilistic Graph Attention Network with Conditional Kernels for Pixel-Wise Prediction [158.88345945211185]
  本稿では,画素レベルの予測を基本的側面,すなわち,技術の現状を推し進める新たなアプローチを提案する。 構造化されたマルチスケール機能学習と融合。 本論文では,マルチスケール表現を原理的に学習・融合するための新しいアテンテンションゲート条件ランダムフィールド(AG-CRFs)モデルに基づく確率的グラフアテンションネットワーク構造を提案する。
  論文  参考訳（メタデータ） (2021-01-08T04:14:29Z)
• Ground Truth Evaluation of Neural Network Explanations with CLEVR-XAI [12.680653816836541]
  我々は,CLEVR視覚質問応答タスクに基づくXAI手法の基盤的真理に基づく評価フレームワークを提案する。 本フレームワークは,(1)選択的,(2)制御,(3)リアルなテストベッドをニューラルネットワークの説明評価のために提供する。
  論文  参考訳（メタデータ） (2020-03-16T14:43:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。