論文の概要: Explaining AI-based Decision Support Systems using Concept Localization
Maps
- arxiv url: http://arxiv.org/abs/2005.01399v1
- Date: Mon, 4 May 2020 11:33:00 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-07 00:11:26.113343
- Title: Explaining AI-based Decision Support Systems using Concept Localization
Maps
- Title(参考訳): 概念ローカライゼーションマップを用いたAIに基づく意思決定支援システムの解説
- Authors: Adriano Lucieri, Muhammad Naseer Bajwa, Andreas Dengel and Sheraz
Ahmed
- Abstract要約: 概念ローカライゼーションマップ(CLMs)は、決定支援システム(DSS)として使用される説明可能な画像分類器に対する新しいアプローチである。
CLMは、訓練された画像分類器の潜在空間において、学習された概念に対応する重要な領域を特定することで、概念活性化ベクトル(CAV)を拡張する。
私たちはSimple Concept DataBase(SCDB)という新しい合成データセットを作成しました。
SCDB上でSE-ResNeXt-50を用いて,最も関連する概念に対して80%以上のローカライズリコール,およびすべての概念に対して60%以上の平均リコールを実現した。
- 参考スコア(独自算出の注目度): 4.9449660544238085
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Human-centric explainability of AI-based Decision Support Systems (DSS) using
visual input modalities is directly related to reliability and practicality of
such algorithms. An otherwise accurate and robust DSS might not enjoy trust of
experts in critical application areas if it is not able to provide reasonable
justification of its predictions. This paper introduces Concept Localization
Maps (CLMs), which is a novel approach towards explainable image classifiers
employed as DSS. CLMs extend Concept Activation Vectors (CAVs) by locating
significant regions corresponding to a learned concept in the latent space of a
trained image classifier. They provide qualitative and quantitative assurance
of a classifier's ability to learn and focus on similar concepts important for
humans during image recognition. To better understand the effectiveness of the
proposed method, we generated a new synthetic dataset called Simple Concept
DataBase (SCDB) that includes annotations for 10 distinguishable concepts, and
made it publicly available. We evaluated our proposed method on SCDB as well as
a real-world dataset called CelebA. We achieved localization recall of above
80% for most relevant concepts and average recall above 60% for all concepts
using SE-ResNeXt-50 on SCDB. Our results on both datasets show great promise of
CLMs for easing acceptance of DSS in practice.
- Abstract(参考訳): 視覚的入力モダリティを用いたAIベースの意思決定支援システム(DSS)の人間中心的説明性は、そのようなアルゴリズムの信頼性と実用性に直接関係している。
さもなければ正確で堅牢なdssは、その予測を合理的に正当化できない場合、重要なアプリケーション分野の専門家の信頼を享受できないかもしれない。
本稿では,dssとして用いる画像分類器に対する新しいアプローチである概念局在マップ(clms)を提案する。
CLMは、訓練された画像分類器の潜在空間において、学習された概念に対応する重要な領域を特定することで、概念活性化ベクトル(CAV)を拡張する。
これらは、画像認識中に人間にとって重要な類似概念を学習し集中する分類器の能力の質的かつ定量的な保証を提供する。
提案手法の有効性をよりよく理解するために,10の識別可能な概念に対するアノテーションを含む,Simple Concept DataBase (SCDB) と呼ばれる新しい合成データセットを作成し,公開した。
提案手法をSCDBおよびCelebAと呼ばれる実世界のデータセット上で評価した。
SCDB上でSE-ResNeXt-50を用いて,最も関連する概念の80%以上をローカライズリコールし,すべての概念の60%以上を平均リコールした。
両データセットの結果から,実際にDSSの受け入れを緩和するCLMの有望性が確認された。
関連論文リスト
- Understanding the (Extra-)Ordinary: Validating Deep Model Decisions with
Prototypical Concept-based Explanations [14.86291010519662]
本稿では, 実例的(地域的)かつクラス的(グローバル的)な意思決定戦略をプロトタイプを通じて伝達する, ポストホックなコンセプトベースXAIフレームワークを提案する。
我々は,3つのデータセットにまたがるアウト・オブ・ディストリビューション・サンプル,突発的なモデル行動,データ品質問題同定におけるアプローチの有効性を実証する。
論文 参考訳(メタデータ) (2023-11-28T10:53:26Z) - Deep Concept Removal [29.65899467379793]
ディープニューラルネットワークにおける概念除去の問題に対処する。
本稿では,概念データセットに基づいて学習した逆線形分類器に基づく新しい手法を提案する。
また,逆行訓練に伴う課題に対処するために,暗黙の勾配に基づく手法を導入する。
論文 参考訳(メタデータ) (2023-10-09T14:31:03Z) - Evaluating the Stability of Semantic Concept Representations in CNNs for
Robust Explainability [0.0]
本稿では,コンピュータビジョンCNNにおける概念表現を扱う際の2つの安定性目標について述べる。
ガイドとなるユースケースは、オブジェクト検出CNNのためのポストホックな説明可能性フレームワークである。
本稿では,概念分離と一貫性の両面を考慮した新しい計量法を提案する。
論文 参考訳(メタデータ) (2023-04-28T14:14:00Z) - Revealing Hidden Context Bias in Segmentation and Object Detection
through Concept-specific Explanations [14.77637281844823]
提案手法は,モデルが推論時に学習し,認識し,使用した関連概念を自動的に識別し,視覚化し,入力空間内で正確に特定する,ポストホックなeXplainable Artificial Intelligence法であるL-CRPを提案する。
提案手法の信頼性を,異なる概念帰属法を定量的に比較して検証し,CityScapes, Pascal VOC, MS COCO 2017などの一般的なデータセットに対する説明複雑性への影響について検討する。
論文 参考訳(メタデータ) (2022-11-21T13:12:23Z) - Visual Recognition with Deep Nearest Centroids [57.35144702563746]
我々は、概念的にエレガントで驚くほど効果的な大規模視覚認識ネットワークである深部セントロイド(DNC)を考案した。
パラメトリックと比較すると、DNCは画像分類(CIFAR-10, ImageNet)に優れ、画像認識(ADE20K, Cityscapes)を大いに起動する。
論文 参考訳(メタデータ) (2022-09-15T15:47:31Z) - ECLAD: Extracting Concepts with Local Aggregated Descriptors [6.470466745237234]
そこで本研究では,CNNアクティベーションマップの画素ワイドアグリゲーションから得られた表現に基づいて,概念の自動抽出とローカライズを行う手法を提案する。
本稿では,主成分の画素単位のアノテーションを用いた合成データセットに基づく概念抽出手法の検証手法を提案する。
論文 参考訳(メタデータ) (2022-06-09T14:25:23Z) - Impact of a DCT-driven Loss in Attention-based Knowledge-Distillation
for Scene Recognition [64.29650787243443]
本稿では, アクティベーションマップの2次元周波数変換を転送前に提案し, 解析する。
この戦略は、シーン認識などのタスクにおける知識伝達可能性を高める。
我々は、この論文で使われているトレーニングおよび評価フレームワークを、http://www.vpu.eps.uam.es/publications/DCTBasedKDForSceneRecognitionで公開しています。
論文 参考訳(メタデータ) (2022-05-04T11:05:18Z) - Evaluation of Self-taught Learning-based Representations for Facial
Emotion Recognition [62.30451764345482]
この研究は、顔の感情認識のための自己学習の概念を通じて得られた教師なし表現を生成するための様々な戦略を記述する。
このアイデアは、オートエンコーダの初期化、アーキテクチャ、トレーニングデータを変化させることで、多様性を促進する補完的な表現を作ることである。
Jaffe と Cohn-Kanade のデータセットに対する残余のサブジェクトアウトプロトコルによる実験結果から,提案した多種多様な表現に基づく FER 手法が最先端のアプローチと好適に比較できることが示唆された。
論文 参考訳(メタデータ) (2022-04-26T22:48:15Z) - Spatial Likelihood Voting with Self-Knowledge Distillation for Weakly
Supervised Object Detection [54.24966006457756]
自己知識蒸留ネットワーク(SLV-SDネット)を用いたWSODフレームワークを提案する。
SLV-SD Netは、境界ボックスアノテーションなしで領域提案のローカライゼーションを収束させる。
PASCAL VOC 2007/2012およびMS-COCOデータセットの実験は、SLV-SD Netの優れた性能を示している。
論文 参考訳(メタデータ) (2022-04-14T11:56:19Z) - Inter-class Discrepancy Alignment for Face Recognition [55.578063356210144]
IA(Inter-class DiscrepancyAlignment)という統合フレームワークを提案する。
IDA-DAOは、画像と隣人の相違を考慮した類似度スコアの整合に使用される。
IDA-SSEは、GANで生成された仮想候補画像を導入することで、説得力のあるクラス間隣人を提供できます。
論文 参考訳(メタデータ) (2021-03-02T08:20:08Z) - Identity-Aware Attribute Recognition via Real-Time Distributed Inference
in Mobile Edge Clouds [53.07042574352251]
我々は、MEC対応カメラ監視システムにおいて、re-IDを用いた歩行者属性認識のための新しいモデルの設計を行う。
本稿では,属性認識と人物再IDを協調的に考慮し,分散モジュールの集合を持つ新しい推論フレームワークを提案する。
そこで我々は,提案した分散推論フレームワークのモジュール分布の学習に基づくアルゴリズムを考案した。
論文 参考訳(メタデータ) (2020-08-12T12:03:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。