論文の概要: Explaining AI-based Decision Support Systems using Concept Localization Maps

• arxiv url: http://arxiv.org/abs/2005.01399v1
• Date: Mon, 4 May 2020 11:33:00 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-07 00:11:26.113343
• Title: Explaining AI-based Decision Support Systems using Concept Localization Maps
• Title（参考訳）: 概念ローカライゼーションマップを用いたAIに基づく意思決定支援システムの解説
• Authors: Adriano Lucieri, Muhammad Naseer Bajwa, Andreas Dengel and Sheraz Ahmed
• Abstract要約: 概念ローカライゼーションマップ(CLMs)は、決定支援システム(DSS)として使用される説明可能な画像分類器に対する新しいアプローチである。 CLMは、訓練された画像分類器の潜在空間において、学習された概念に対応する重要な領域を特定することで、概念活性化ベクトル(CAV)を拡張する。 私たちはSimple Concept DataBase(SCDB)という新しい合成データセットを作成しました。 SCDB上でSE-ResNeXt-50を用いて,最も関連する概念に対して80%以上のローカライズリコール,およびすべての概念に対して60%以上の平均リコールを実現した。
• 参考スコア（独自算出の注目度）: 4.9449660544238085
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Human-centric explainability of AI-based Decision Support Systems (DSS) using visual input modalities is directly related to reliability and practicality of such algorithms. An otherwise accurate and robust DSS might not enjoy trust of experts in critical application areas if it is not able to provide reasonable justification of its predictions. This paper introduces Concept Localization Maps (CLMs), which is a novel approach towards explainable image classifiers employed as DSS. CLMs extend Concept Activation Vectors (CAVs) by locating significant regions corresponding to a learned concept in the latent space of a trained image classifier. They provide qualitative and quantitative assurance of a classifier's ability to learn and focus on similar concepts important for humans during image recognition. To better understand the effectiveness of the proposed method, we generated a new synthetic dataset called Simple Concept DataBase (SCDB) that includes annotations for 10 distinguishable concepts, and made it publicly available. We evaluated our proposed method on SCDB as well as a real-world dataset called CelebA. We achieved localization recall of above 80% for most relevant concepts and average recall above 60% for all concepts using SE-ResNeXt-50 on SCDB. Our results on both datasets show great promise of CLMs for easing acceptance of DSS in practice.
• Abstract（参考訳）: 視覚的入力モダリティを用いたAIベースの意思決定支援システム(DSS)の人間中心的説明性は、そのようなアルゴリズムの信頼性と実用性に直接関係している。 さもなければ正確で堅牢なdssは、その予測を合理的に正当化できない場合、重要なアプリケーション分野の専門家の信頼を享受できないかもしれない。 本稿では,dssとして用いる画像分類器に対する新しいアプローチである概念局在マップ(clms)を提案する。 CLMは、訓練された画像分類器の潜在空間において、学習された概念に対応する重要な領域を特定することで、概念活性化ベクトル(CAV)を拡張する。 これらは、画像認識中に人間にとって重要な類似概念を学習し集中する分類器の能力の質的かつ定量的な保証を提供する。 提案手法の有効性をよりよく理解するために,10の識別可能な概念に対するアノテーションを含む,Simple Concept DataBase (SCDB) と呼ばれる新しい合成データセットを作成し,公開した。 提案手法をSCDBおよびCelebAと呼ばれる実世界のデータセット上で評価した。 SCDB上でSE-ResNeXt-50を用いて,最も関連する概念の80%以上をローカライズリコールし,すべての概念の60%以上を平均リコールした。 両データセットの結果から,実際にDSSの受け入れを緩和するCLMの有望性が確認された。

関連論文リスト

• Visual-TCAV: Concept-based Attribution and Saliency Maps for Post-hoc Explainability in Image Classification [3.9626211140865464]
  近年,畳み込みニューラルネットワーク(CNN)のパフォーマンスが大幅に向上している。 しかし、そのサイズと複雑さのため、ブラックボックスとして機能し、透明性の懸念につながります。 本稿では,これらの手法間のギャップを埋めることを目的とした,ポストホックな説明可能性フレームワークであるVisual-TCAVを紹介する。
  論文  参考訳（メタデータ） (2024-11-08T16:52:52Z)
• Decoding Dark Matter: Specialized Sparse Autoencoders for Interpreting Rare Concepts in Foundation Models [26.748765050034876]
  特殊スパースオートエンコーダ(SSAE)は、特定の点に注目して、暗黒物質の特徴を照らす。 SSAEは,汎用SAEの能力を超越して,サブドメインのテール概念を効果的に捉えていることを示す。 SSAEs の実用性について,Bias in Bios データセットのケーススタディで紹介し,SSAEs が有意な性別情報を除去するために適用した場合,最悪のグループ分類精度が 12.5% 向上することを示した。
  論文  参考訳（メタデータ） (2024-11-01T17:09:34Z)
• Discover-then-Name: Task-Agnostic Concept Bottlenecks via Automated Concept Discovery [52.498055901649025]
  ディープニューラルネットワークの「ブラックボックス」問題に対処するために、概念ボトルネックモデル(CBM)が提案されている。 本稿では,典型的なパラダイムを逆転させる新しいCBMアプローチであるDiscover-then-Name-CBM(DN-CBM)を提案する。 我々の概念抽出戦略は、下流のタスクに非依存であり、既にそのモデルに知られている概念を使用するため、効率的である。
  論文  参考訳（メタデータ） (2024-07-19T17:50:11Z)
• Interpretable Prognostics with Concept Bottleneck Models [5.939858158928473]
  概念ボトルネックモデル(Concept Bottleneck Models, CBM)は、概念的説明に基づいて本質的に解釈可能なニューラルネットワークアーキテクチャである。 CBMはドメインの専門家がテスト時にコンセプトアクティベーションに介入できるようにする。 ケーススタディでは,CBMの性能がブラックボックスモデルと同等か優れていることが示されている。
  論文  参考訳（メタデータ） (2024-05-27T18:15:40Z)
• Knowledge graphs for empirical concept retrieval [1.06378109904813]
  概念に基づく説明可能なAIは、あるユーザの前提における複雑なモデルの理解を改善するツールとして期待されている。 本稿では,テキスト領域と画像領域の両方でユーザ主導のデータ収集を行うワークフローを提案する。 我々は,概念アクティベーションベクトル(CAV)と概念アクティベーション領域(CAR)の2つの概念ベース説明可能性手法を用いて,検索した概念データセットをテストする。
  論文  参考訳（メタデータ） (2024-04-10T13:47:22Z)
• Evaluating the Stability of Semantic Concept Representations in CNNs for Robust Explainability [0.0]
  本稿では,コンピュータビジョンCNNにおける概念表現を扱う際の2つの安定性目標について述べる。 ガイドとなるユースケースは、オブジェクト検出CNNのためのポストホックな説明可能性フレームワークである。 本稿では,概念分離と一貫性の両面を考慮した新しい計量法を提案する。
  論文  参考訳（メタデータ） (2023-04-28T14:14:00Z)
• Visual Recognition with Deep Nearest Centroids [57.35144702563746]
  我々は、概念的にエレガントで驚くほど効果的な大規模視覚認識ネットワークである深部セントロイド(DNC)を考案した。 パラメトリックと比較すると、DNCは画像分類(CIFAR-10, ImageNet)に優れ、画像認識(ADE20K, Cityscapes)を大いに起動する。
  論文  参考訳（メタデータ） (2022-09-15T15:47:31Z)
• Impact of a DCT-driven Loss in Attention-based Knowledge-Distillation for Scene Recognition [64.29650787243443]
  本稿では, アクティベーションマップの2次元周波数変換を転送前に提案し, 解析する。 この戦略は、シーン認識などのタスクにおける知識伝達可能性を高める。 我々は、この論文で使われているトレーニングおよび評価フレームワークを、http://www.vpu.eps.uam.es/publications/DCTBasedKDForSceneRecognitionで公開しています。
  論文  参考訳（メタデータ） (2022-05-04T11:05:18Z)
• Evaluation of Self-taught Learning-based Representations for Facial Emotion Recognition [62.30451764345482]
  この研究は、顔の感情認識のための自己学習の概念を通じて得られた教師なし表現を生成するための様々な戦略を記述する。 このアイデアは、オートエンコーダの初期化、アーキテクチャ、トレーニングデータを変化させることで、多様性を促進する補完的な表現を作ることである。 Jaffe と Cohn-Kanade のデータセットに対する残余のサブジェクトアウトプロトコルによる実験結果から,提案した多種多様な表現に基づく FER 手法が最先端のアプローチと好適に比較できることが示唆された。
  論文  参考訳（メタデータ） (2022-04-26T22:48:15Z)
• Inter-class Discrepancy Alignment for Face Recognition [55.578063356210144]
  IA(Inter-class DiscrepancyAlignment)という統合フレームワークを提案する。 IDA-DAOは、画像と隣人の相違を考慮した類似度スコアの整合に使用される。 IDA-SSEは、GANで生成された仮想候補画像を導入することで、説得力のあるクラス間隣人を提供できます。
  論文  参考訳（メタデータ） (2021-03-02T08:20:08Z)
• Identity-Aware Attribute Recognition via Real-Time Distributed Inference in Mobile Edge Clouds [53.07042574352251]
  我々は、MEC対応カメラ監視システムにおいて、re-IDを用いた歩行者属性認識のための新しいモデルの設計を行う。 本稿では,属性認識と人物再IDを協調的に考慮し,分散モジュールの集合を持つ新しい推論フレームワークを提案する。 そこで我々は,提案した分散推論フレームワークのモジュール分布の学習に基づくアルゴリズムを考案した。
  論文  参考訳（メタデータ） (2020-08-12T12:03:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。