論文の概要: GLANCE: Global to Local Architecture-Neutral Concept-based Explanations

• arxiv url: http://arxiv.org/abs/2207.01917v1
• Date: Tue, 5 Jul 2022 09:52:09 GMT
• ステータス: 処理完了
• システム内更新日: 2022-07-07 00:14:41.733138
• Title: GLANCE: Global to Local Architecture-Neutral Concept-based Explanations
• Title（参考訳）: GLANCE:グローバルからローカルアーキテクチャ-ニュートラル概念に基づく説明
• Authors: Avinash Kori, Ben Glocker, Francesca Toni
• Abstract要約: 本稿では,任意のCNN画像分類器が行う決定を説明するために,新しいツインサロゲート説明可能性フレームワークを提案する。 最初に分類器から潜伏した特徴を取り除き、次にこれらの特徴を観察/人間の定義した文脈の特徴に整列する。 これらのアライメントは意味論的に意味のある概念を形成し、知覚されたデータ生成プロセスを表す因果グラフを抽出する。 我々は、潜在空間における特徴間の相互作用の効果を可視化し、局所的な説明として特徴を重要視するジェネレータを提供する。
• 参考スコア（独自算出の注目度）: 26.76139301708958
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Most of the current explainability techniques focus on capturing the importance of features in input space. However, given the complexity of models and data-generating processes, the resulting explanations are far from being `complete', in that they lack an indication of feature interactions and visualization of their `effect'. In this work, we propose a novel twin-surrogate explainability framework to explain the decisions made by any CNN-based image classifier (irrespective of the architecture). For this, we first disentangle latent features from the classifier, followed by aligning these features to observed/human-defined `context' features. These aligned features form semantically meaningful concepts that are used for extracting a causal graph depicting the `perceived' data-generating process, describing the inter- and intra-feature interactions between unobserved latent features and observed `context' features. This causal graph serves as a global model from which local explanations of different forms can be extracted. Specifically, we provide a generator to visualize the `effect' of interactions among features in latent space and draw feature importance therefrom as local explanations. Our framework utilizes adversarial knowledge distillation to faithfully learn a representation from the classifiers' latent space and use it for extracting visual explanations. We use the styleGAN-v2 architecture with an additional regularization term to enforce disentanglement and alignment. We demonstrate and evaluate explanations obtained with our framework on Morpho-MNIST and on the FFHQ human faces dataset. Our framework is available at \url{https://github.com/koriavinash1/GLANCE-Explanations}.
• Abstract（参考訳）: 現在の説明可能性技術のほとんどは、入力空間における特徴の重要性を捉えることに焦点を当てている。 しかし、モデルとデータ生成プロセスの複雑さを考えると、結果として得られる説明は‘完全’ではない。 本研究では,CNN ベースの画像分類器 (アーキテクチャを無視する) による決定を説明するために,新しいツインサロゲート説明可能性フレームワークを提案する。 このために、まず分類器から潜在機能を取り除き、次にこれらの特徴を観察/人間の定義した「コンテキスト」特徴に整列する。 これらのアライメントは意味論的に意味のある概念を形成し、"知覚"データ生成プロセスを表す因果グラフを抽出し、観測されていない潜在特徴と観察された"コンテキスト"特徴の間の機能間相互作用を記述する。 この因果グラフは、異なる形態の局所的な説明を抽出できるグローバルモデルとして機能する。 具体的には、潜在空間における特徴間の「効果」を可視化し、局所的な説明として特徴的重要性を引き出すジェネレータを提供する。 本フレームワークは,逆知識蒸留を用いて分類器の潜在空間から表現を忠実に学習し,視覚的説明の抽出に利用する。 スタイルGAN-v2アーキテクチャと追加の正規化項を用いて、絡み合いとアライメントを強制する。 本稿では,morpho-mnistとffhq human facesデータセットの枠組みを用いて得られた説明を実証し,評価する。 我々のフレームワークは \url{https://github.com/koriavinash1/GLANCE-Explanations} で利用可能です。

関連論文リスト

• Situational Scene Graph for Structured Human-centric Situation Understanding [15.91717913059569]
  本研究では,人的対象関係とそれに対応する意味特性の両方をエンコードするために,SSGというグラフベースの表現を提案する。 セマンティックディテールは、当初単一のアクションを表現するように設計された状況フレームにインスパイアされた、事前に定義された役割と値として表現される。 間もなくコードとデータセットをリリースします。
  論文  参考訳（メタデータ） (2024-10-30T09:11:25Z)
• Feature Accentuation: Revealing 'What' Features Respond to in Natural Images [4.4273123155989715]
  本稿では,任意の入力画像のどの位置と何にあるかが特徴の応答を誘導するかを伝達できる,解釈可能性ツールキット「Feature accentuation」に新たな手法を導入する。 パラメータ化,拡張,正規化の特別な組み合わせは,シード画像とターゲット特徴を同時に類似した自然な視覚化をもたらす。 我々は,Lucentの拡張であるFaccentライブラリとして,機能アクセントの正確な実装をコミュニティに提供する。
  論文  参考訳（メタデータ） (2024-02-15T16:01:59Z)
• KMF: Knowledge-Aware Multi-Faceted Representation Learning for Zero-Shot Node Classification [75.95647590619929]
  Zero-Shot Node Classification (ZNC)は、グラフデータ分析において、新しく重要なタスクである。 ラベルセマンティクスの豊かさを向上する知識認識型多面的フレームワーク(KMF)を提案する。 ノード情報集約によるプロトタイプドリフトの問題を軽減するために,新しい幾何学的制約を開発した。
  論文  参考訳（メタデータ） (2023-08-15T02:38:08Z)
• Identifying Interpretable Subspaces in Image Representations [54.821222487956355]
  コントラスト概念(FALCON)を用いて画像表現の特徴を説明する枠組みを提案する。 ターゲット機能として、FALCONは、大きなキャプションデータセットとCLIPのようなトレーニング済みの視覚言語モデルを使用して、高機能なトリミング画像をキャプションする。 キャプション内の各単語は、少数の共有された人間の理解可能な概念に導かれ、ランク付けされる。
  論文  参考訳（メタデータ） (2023-07-20T00:02:24Z)
• Conversational Semantic Parsing using Dynamic Context Graphs [68.72121830563906]
  汎用知識グラフ(KG)を用いた会話意味解析の課題を,数百万のエンティティと数千のリレーショナルタイプで検討する。 ユーザ発話を実行可能な論理形式にインタラクティブにマッピングできるモデルに焦点を当てる。
  論文  参考訳（メタデータ） (2023-05-04T16:04:41Z)
• Cross-modal Representation Learning for Zero-shot Action Recognition [67.57406812235767]
  我々は、ゼロショット動作認識(ZSAR)のためのビデオデータとテキストラベルを共同で符号化するクロスモーダルトランスフォーマーベースのフレームワークを提案する。 我々のモデルは概念的に新しいパイプラインを使用し、視覚的表現と視覚的意味的関連をエンドツーエンドで学習する。 実験結果から,本モデルはZSARの芸術的状況に大きく改善され,UCF101,HMDB51,ActivityNetベンチマークデータセット上でトップ1の精度が向上した。
  論文  参考訳（メタデータ） (2022-05-03T17:39:27Z)
• BSAL: A Framework of Bi-component Structure and Attribute Learning for Link Prediction [33.488229191263564]
  トポロジや特徴空間からの情報を適応的に活用する二成分構造・属性学習フレームワーク(BSAL)を提案する。 BSALはノード属性を介してセマンティックトポロジを構築し、セマンティックビューに関する埋め込みを取得する。 ノード属性が持つ情報を適応的に組み込む、フレキシブルで実装が容易なソリューションを提供する。
  論文  参考訳（メタデータ） (2022-04-18T03:12:13Z)
• GRAPHSHAP: Explaining Identity-Aware Graph Classifiers Through the Language of Motifs [11.453325862543094]
  GraphSHAPは、ID対応グラフ分類器のモチーフベースの説明を提供することができる。 簡単なカーネルが説明スコアを効率的に近似し,説明空間が大きいシナリオで GraphSHAP をスケールできるようにする方法を示す。 実験では,ブラックボックスモデルによって提供される分類が,いくつかのコネクトロミクスパターンによって効果的に説明できることを強調した。
  論文  参考訳（メタデータ） (2022-02-17T18:29:30Z)
• Semantic Disentangling Generalized Zero-Shot Learning [50.259058462272435]
  Generalized Zero-Shot Learning (GZSL)は、目に見えないカテゴリと見えないカテゴリの両方から画像を認識することを目的としている。 本稿では,エンコーダ・デコーダアーキテクチャに基づく新しい特徴分割手法を提案する。 提案モデルは,視像の固有特徴をキャプチャする品質意味一貫性表現を蒸留することを目的としている。
  論文  参考訳（メタデータ） (2021-01-20T05:46:21Z)
• Towards Efficient Scene Understanding via Squeeze Reasoning [71.1139549949694]
  我々はSqueeze Reasoningと呼ばれる新しいフレームワークを提案する。 空間地図上の情報を伝播するのではなく、まず入力特徴をチャネルワイドなグローバルベクトルに絞ることを学ぶ。 提案手法はエンドツーエンドのトレーニングブロックとしてモジュール化可能であり,既存のネットワークに簡単に接続可能であることを示す。
  論文  参考訳（メタデータ） (2020-11-06T12:17:01Z)
• Improving Coreference Resolution by Leveraging Entity-Centric Features with Graph Neural Networks and Second-order Inference [12.115691569576345]
  Coreferentの言及は通常、テキスト全体においてはるかに分散しており、エンティティレベルの機能を組み込むのが困難である。 本稿では,エンティティ中心の情報をキャプチャ可能なグラフニューラルネットワークに基づくコア参照分解法を提案する。 グローバル推論アルゴリズムは、クラスタの参照を一貫したグループに最適化する。
  論文  参考訳（メタデータ） (2020-09-10T02:22:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。