論文の概要: PACE: Posthoc Architecture-Agnostic Concept Extractor for Explaining CNNs

• arxiv url: http://arxiv.org/abs/2108.13828v1
• Date: Tue, 31 Aug 2021 13:36:15 GMT
• ステータス: 処理完了
• システム内更新日: 2021-09-01 14:38:04.748731
• Title: PACE: Posthoc Architecture-Agnostic Concept Extractor for Explaining CNNs
• Title（参考訳）: PACE: ポストホックアーキテクチャ-CNNの説明のための非依存概念エクストラクタ
• Authors: Vidhya Kamakshi, Uday Gupta and Narayanan C Krishnan
• Abstract要約: 画像の小さな部分領域を自動的に抽出するPosthoc Architecture-Agnostic Concept Extractor (PACE)を導入する。 PACEは、説明フレームワークの忠実さをブラックボックスモデルに密に統合する。 これらの実験の結果、PACEによって抽出された概念の72%以上が人間の解釈可能であることが示唆された。
• 参考スコア（独自算出の注目度）: 3.0724051098062097
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Deep CNNs, though have achieved the state of the art performance in image classification tasks, remain a black-box to a human using them. There is a growing interest in explaining the working of these deep models to improve their trustworthiness. In this paper, we introduce a Posthoc Architecture-agnostic Concept Extractor (PACE) that automatically extracts smaller sub-regions of the image called concepts relevant to the black-box prediction. PACE tightly integrates the faithfulness of the explanatory framework to the black-box model. To the best of our knowledge, this is the first work that extracts class-specific discriminative concepts in a posthoc manner automatically. The PACE framework is used to generate explanations for two different CNN architectures trained for classifying the AWA2 and Imagenet-Birds datasets. Extensive human subject experiments are conducted to validate the human interpretability and consistency of the explanations extracted by PACE. The results from these experiments suggest that over 72% of the concepts extracted by PACE are human interpretable.
• Abstract（参考訳）: ディープCNNは、画像分類タスクにおけるアートパフォーマンスの状態を達成しているが、それを用いた人間のブラックボックスのままである。 信頼度を改善するために、これらの深層モデルの作業を説明することへの関心が高まっている。 本稿では,ブラックボックス予測に関連する概念と呼ばれる,画像の小さな部分領域を自動的に抽出するPosthoc Architecture-Agnostic Concept Extractor (PACE)を提案する。 PACEは、説明フレームワークの忠実さをブラックボックスモデルに密に統合する。 私たちの知る限りでは、これはクラス固有の差別概念をポストホックな方法で自動的に抽出する最初の作品です。 PACEフレームワークは、AWA2とImagenet-Birdsデータセットの分類のために訓練された2つの異なるCNNアーキテクチャの説明を生成するために使用される。 PACEによって抽出された説明の人間の解釈可能性と一貫性を検証するために、広範囲にわたる人体実験を行った。 これらの実験の結果、PACEによって抽出された概念の72%以上が人間の解釈可能であることが示唆された。

関連論文リスト

• Discover-then-Name: Task-Agnostic Concept Bottlenecks via Automated Concept Discovery [52.498055901649025]
  ディープニューラルネットワークの「ブラックボックス」問題に対処するために、概念ボトルネックモデル(CBM)が提案されている。 本稿では,典型的なパラダイムを逆転させる新しいCBMアプローチであるDiscover-then-Name-CBM(DN-CBM)を提案する。 我々の概念抽出戦略は、下流のタスクに非依存であり、既にそのモデルに知られている概念を使用するため、効率的である。
  論文  参考訳（メタデータ） (2024-07-19T17:50:11Z)
• Understanding Multimodal Deep Neural Networks: A Concept Selection View [29.08342307127578]
  概念に基づくモデルは、ディープニューラルネットワークによって抽出されたブラックボックスの視覚表現を、人間の理解可能な概念のセットにマッピングする。 人間の先入観を導入することなくコア概念をマイニングするための2段階概念選択モデル(CSM)を提案する。 提案手法は,エンドツーエンドのブラックボックスモデルに匹敵する性能を実現する。
  論文  参考訳（メタデータ） (2024-04-13T11:06:49Z)
• Feature CAM: Interpretable AI in Image Classification [2.4409988934338767]
  セキュリティ、金融、健康、製造業など、重要かつ高精度な分野で人工知能を使用するという信頼の欠如がある。 本稿では,摂動・活性化の組み合わせに該当する特徴CAM(Feature CAM)を提案する。 その結果, ABMの3～4倍の精度が得られた。
  論文  参考訳（メタデータ） (2024-03-08T20:16:00Z)
• Identifying Interpretable Subspaces in Image Representations [54.821222487956355]
  コントラスト概念(FALCON)を用いて画像表現の特徴を説明する枠組みを提案する。 ターゲット機能として、FALCONは、大きなキャプションデータセットとCLIPのようなトレーニング済みの視覚言語モデルを使用して、高機能なトリミング画像をキャプションする。 キャプション内の各単語は、少数の共有された人間の理解可能な概念に導かれ、ランク付けされる。
  論文  参考訳（メタデータ） (2023-07-20T00:02:24Z)
• Concept Activation Regions: A Generalized Framework For Concept-Based Explanations [95.94432031144716]
  既存の手法では、概念を説明する例は、ディープニューラルネットワークの潜伏空間の一定の方向にマッピングされていると仮定している。 そこで本研究では,DNNの潜在空間において,異なるクラスタに分散した概念例を提案する。 この概念活性化領域(CAR)は、グローバルな概念に基づく説明と局所的な概念に基づく特徴の重要性をもたらす。
  論文  参考訳（メタデータ） (2022-09-22T17:59:03Z)
• ConceptDistil: Model-Agnostic Distillation of Concept Explanations [4.462334751640166]
  概念に基づく説明は、非技術的人間のためのモデルの解釈可能性ギャップを埋めることを目的としている。 知識蒸留を用いたブラックボックス分類器に概念記述をもたらす方法であるConceptDistilを提案する。 実世界のユースケースでConceptDistilを検証することで、両方のタスクを最適化できることを示す。
  論文  参考訳（メタデータ） (2022-05-07T08:58:54Z)
• FALCON: Fast Visual Concept Learning by Integrating Images, Linguistic descriptions, and Conceptual Relations [99.54048050189971]
  自然に発生する複数のデータストリームによってガイドされる新しい視覚概念を素早く学習するフレームワークを提案する。 学習された概念は、未知の画像について推論することで質問に答えるなど、下流のアプリケーションをサポートする。 合成と実世界の両方のデータセットにおけるモデルの有効性を実証する。
  論文  参考訳（メタデータ） (2022-03-30T19:45:00Z)
• CX-ToM: Counterfactual Explanations with Theory-of-Mind for Enhancing Human Trust in Image Recognition Models [84.32751938563426]
  我々は、深層畳み込みニューラルネットワーク(CNN)による決定を説明するための、新しい説明可能なAI(XAI)フレームワークを提案する。 単発応答として説明を生成するXAIの現在の手法とは対照的に,我々は反復的な通信プロセスとして説明を行う。 本フレームワークは,機械の心と人間の心の相違を媒介し,対話における説明文のシーケンスを生成する。
  論文  参考訳（メタデータ） (2021-09-03T09:46:20Z)
• This is not the Texture you are looking for! Introducing Novel Counterfactual Explanations for Non-Experts using Generative Adversarial Learning [59.17685450892182]
  反実用説明システムは、入力画像を変更して反実用推論を可能にする。 本稿では, 対向画像から画像への変換技術に基づく, 対向画像の説明を新たに生成する手法を提案する。 その結果,我々のアプローチは,2つの最先端技術システムよりも,メンタルモデル,説明満足度,信頼度,感情,自己効力に関して有意に優れた結果をもたらすことがわかった。
  論文  参考訳（メタデータ） (2020-12-22T10:08:05Z)
• MACE: Model Agnostic Concept Extractor for Explaining Image Classification Networks [10.06397994266945]
  MACE: Model Agnostic Concept Extractorを提案し、より小さな概念を通じて畳み込みネットワークの動作を説明する。 VGG16やResNet50 CNNアーキテクチャ、Animals With Attributes 2(AWA2)やPlaces365といったデータセットを使って、私たちのフレームワークを検証する。
  論文  参考訳（メタデータ） (2020-11-03T04:40:49Z)
• Black Box Explanation by Learning Image Exemplars in the Latent Feature Space [20.16179026989117]
  画像分類のためのブラックボックスモデルの決定について説明する。 本手法は,対向オートエンコーダを用いて学習した潜在特徴空間を利用する。 提案手法は, 忠実度, 妥当性, 一貫性, 安定性の観点から, 既存の説明よりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-01-27T15:42:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。