論文の概要: A Unified Concept-Based System for Local, Global, and Misclassification
Explanations
- arxiv url: http://arxiv.org/abs/2306.03531v2
- Date: Wed, 4 Oct 2023 10:39:47 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-05 21:37:44.841832
- Title: A Unified Concept-Based System for Local, Global, and Misclassification
Explanations
- Title(参考訳): 地域, グローバル, 誤分類説明のための統一概念ベースシステム
- Authors: Fatemeh Aghaeipoor, Dorsa Asgarian, Mohammad Sabokrou
- Abstract要約: 地域概念とグローバル概念の両方を教師なしで学習するための統合された概念ベースシステムを提案する。
我々の主な目的は、代理説明ネットワークを訓練することで、各データカテゴリの根底にある本質的な概念を明らかにすることである。
我々のアプローチは、正確な予測と誤予測の両方を説明するのに役立ちます。
- 参考スコア(独自算出の注目度): 13.321794212377949
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Explainability of Deep Neural Networks (DNNs) has been garnering increasing
attention in recent years. Of the various explainability approaches,
concept-based techniques stand out for their ability to utilize
human-meaningful concepts instead of focusing solely on individual pixels.
However, there is a scarcity of methods that consistently provide both local
and global explanations. Moreover, most of the methods have no offer to explain
misclassification cases. Considering these challenges, we present a unified
concept-based system for unsupervised learning of both local and global
concepts. Our primary objective is to uncover the intrinsic concepts underlying
each data category by training surrogate explainer networks to estimate the
importance of the concepts. Our experimental results substantiated the efficacy
of the discovered concepts through diverse quantitative and qualitative
assessments, encompassing faithfulness, completeness, and generality.
Furthermore, our approach facilitates the explanation of both accurate and
erroneous predictions, rendering it a valuable tool for comprehending the
characteristics of the target objects and classes.
- Abstract(参考訳): 近年,Deep Neural Networks(DNN)が注目されている。
様々な説明可能性のアプローチの中で、概念に基づく手法は、個々のピクセルのみに焦点をあてるのではなく、人間に意味のある概念を活用できる能力で際立っている。
しかし、局所的な説明とグローバルな説明を一貫して提供する手法は乏しい。
さらに、ほとんどのメソッドには、誤分類ケースを説明する提案がない。
これらの課題を考慮し,地域概念とグローバル概念の教師なし学習のための統一概念ベースシステムを提案する。
私たちの主な目的は、概念の重要性を推定するために説明ネットワークを訓練することで、各データカテゴリの基礎となる本質的な概念を明らかにすることです。
実験結果は, 多様な量的, 質的評価, 忠実性, 完全性, 汎用性を通じて, 発見概念の有効性を実証した。
さらに,提案手法は,正確な予測と誤った予測の双方の説明を容易にし,対象オブジェクトとクラスの特徴を理解する上で有用なツールである。
関連論文リスト
- Do Concept Bottleneck Models Obey Locality? [16.141263815153206]
概念に基づく学習は、人間の理解可能な概念を通して予測を説明することによって、深層学習モデルの解釈可能性を改善する。
最近の研究は、この仮定がConcept Bottleneck Models(CBM)で成り立たないことを強く示唆している。
CBMは、そのような概念が空間的にも意味的にも局所化されているとき、概念間の条件独立の度合いを捉えている。
その結果,CBMが学習した概念表現の質に疑問を呈し,概念に基づく説明は地域外の変化に対して脆弱である可能性が強く示唆された。
論文 参考訳(メタデータ) (2024-01-02T16:05:23Z) - Understanding Distributed Representations of Concepts in Deep Neural
Networks without Supervision [25.449397570387802]
本稿では,ニューロンの主部分集合を選択することによって,概念の分散表現を発見する教師なし手法を提案する。
我々の経験から、類似のニューロン活性化状態のインスタンスはコヒーレントな概念を共有する傾向があることが示されている。
データ内のラベルなしサブクラスを特定し、誤分類の原因を検出するために利用することができる。
論文 参考訳(メタデータ) (2023-12-28T07:33:51Z) - Interpreting Pretrained Language Models via Concept Bottlenecks [55.47515772358389]
事前訓練された言語モデル(PLM)は、様々な自然言語処理タスクにおいて大きな進歩を遂げてきた。
ブラックボックスの性質による解釈可能性の欠如は、責任ある実装に課題をもたらす。
本研究では,人間にとって理解しやすい高レベルで有意義な概念を用いて,PLMを解釈する新しい手法を提案する。
論文 参考訳(メタデータ) (2023-11-08T20:41:18Z) - Uncovering Unique Concept Vectors through Latent Space Decomposition [0.0]
概念に基づく説明は、特徴帰属推定よりも解釈可能な優れたアプローチとして現れてきた。
本稿では,訓練中に深層モデルから学んだ概念を自動的に発見するポストホックな教師なし手法を提案する。
実験の結果、我々の概念の大部分は、人間にとって容易に理解でき、一貫性を示し、目の前の課題に関連があることが判明した。
論文 参考訳(メタデータ) (2023-07-13T17:21:54Z) - Intrinsic Physical Concepts Discovery with Object-Centric Predictive
Models [86.25460882547581]
PHYsical Concepts Inference NEtwork (PHYCINE) は、異なる抽象レベルの物理概念を監督なしで推論するシステムである。
物理概念変数を含むオブジェクト表現は因果推論タスクの性能向上に有効であることを示す。
論文 参考訳(メタデータ) (2023-03-03T11:52:21Z) - From Attribution Maps to Human-Understandable Explanations through
Concept Relevance Propagation [16.783836191022445]
eXplainable Artificial Intelligence(XAI)の分野は、今日の強力だが不透明なディープラーニングモデルに透明性をもたらすことを目指している。
局所的なXAI手法は属性マップの形で個々の予測を説明するが、グローバルな説明手法はモデルが一般的にエンコードするために学んだ概念を視覚化する。
論文 参考訳(メタデータ) (2022-06-07T12:05:58Z) - Human-Centered Concept Explanations for Neural Networks [47.71169918421306]
概念活性化ベクトル(Concept Activation Vectors, CAV)のクラスを含む概念的説明を紹介する。
次に、自動的に概念を抽出するアプローチと、それらの注意事項に対処するアプローチについて議論する。
最後に、このような概念に基づく説明が、合成設定や実世界の応用において有用であることを示すケーススタディについて論じる。
論文 参考訳(メタデータ) (2022-02-25T01:27:31Z) - Translational Concept Embedding for Generalized Compositional Zero-shot
Learning [73.60639796305415]
一般合成ゼロショット学習は、ゼロショット方式で属性オブジェクト対の合成概念を学習する手段である。
本稿では,これら2つの課題を統一的なフレームワークで解決するために,翻訳概念の埋め込み(translational concept embedded)という新しいアプローチを提案する。
論文 参考訳(メタデータ) (2021-12-20T21:27:51Z) - Unsupervised Learning of Compositional Energy Concepts [70.11673173291426]
本稿では,概念を別個のエネルギー関数として発見し,表現するCOMETを提案する。
Cometは、統一されたフレームワークの下でのオブジェクトだけでなく、グローバルな概念も表現します。
論文 参考訳(メタデータ) (2021-11-04T17:46:12Z) - Cause and Effect: Concept-based Explanation of Neural Networks [3.883460584034766]
ニューロンの内部表現や概念に対するニューロンの活性化を調べることで、ニューラルネットワークの解釈可能性の一歩を踏み出します。
概念(またはその否定)とタスククラスの間の因果関係の存在を確認するためのフレームワークを提案する。
論文 参考訳(メタデータ) (2021-05-14T18:54:17Z) - Concept Learners for Few-Shot Learning [76.08585517480807]
本研究では,人間の解釈可能な概念次元に沿って学習することで,一般化能力を向上させるメタ学習手法であるCOMETを提案する。
我々は,細粒度画像分類,文書分類,セルタイプアノテーションなど,さまざまな領域からの少数ショットタスクによるモデルの評価を行った。
論文 参考訳(メタデータ) (2020-07-14T22:04:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。