Fugu-MT 論文翻訳(概要): Unsupervised Causal Binary Concepts Discovery with VAE for Black-box Model Explanation

論文の概要: Unsupervised Causal Binary Concepts Discovery with VAE for Black-box Model Explanation

arxiv url: http://arxiv.org/abs/2109.04518v1
Date: Thu, 9 Sep 2021 19:06:53 GMT
ステータス: 処理完了
システム内更新日: 2021-09-14 04:53:49.736681
Title: Unsupervised Causal Binary Concepts Discovery with VAE for Black-box Model Explanation
Title（参考訳）: ブラックボックスモデル記述のためのVAEを用いた教師なし因果関係概念発見
Authors: Thien Q. Tran, Kazuto Fukuchi, Youhei Akimoto, Jun Sakuma
Abstract要約: データ X がクラス Y に分類されるのは、X textithas A, B と textitdoes が C を持っていないからである。
参考スコア（独自算出の注目度）: 28.990604269473657
License: http://creativecommons.org/licenses/by/4.0/
Abstract: We aim to explain a black-box classifier with the form: `data X is classified as class Y because X \textit{has} A, B and \textit{does not have} C' in which A, B, and C are high-level concepts. The challenge is that we have to discover in an unsupervised manner a set of concepts, i.e., A, B and C, that is useful for the explaining the classifier. We first introduce a structural generative model that is suitable to express and discover such concepts. We then propose a learning process that simultaneously learns the data distribution and encourages certain concepts to have a large causal influence on the classifier output. Our method also allows easy integration of user's prior knowledge to induce high interpretability of concepts. Using multiple datasets, we demonstrate that our method can discover useful binary concepts for explanation.
Abstract（参考訳）: X は A, B, C が高レベルな概念であるような X \textit{has} A, B および \textit{does not have} C' であるため、クラス Y に分類される。課題は、分類器の説明に有用な概念、すなわちA、B、Cの集合を教師なしの方法で発見する必要があることである。まず,そのような概念の表現と発見に適した構造生成モデルを提案する。次に,データ分布を同時に学習し,特定の概念が分類器出力に大きな因果影響を持つように促す学習プロセスを提案する。また,ユーザの事前知識の統合が容易になり,概念の解釈性が向上する。複数のデータセットを用いて,提案手法が説明に有用なバイナリ概念を発見できることを実証する。

関連論文リスト

Discover-then-Name: Task-Agnostic Concept Bottlenecks via Automated Concept Discovery [52.498055901649025]
ディープニューラルネットワークの「ブラックボックス」問題に対処するために、概念ボトルネックモデル(CBM)が提案されている。本稿では,典型的なパラダイムを逆転させる新しいCBMアプローチであるDiscover-then-Name-CBM(DN-CBM)を提案する。我々の概念抽出戦略は、下流のタスクに非依存であり、既にそのモデルに知られている概念を使用するため、効率的である。
論文参考訳（メタデータ） (2024-07-19T17:50:11Z)
Knowledge graphs for empirical concept retrieval [1.06378109904813]
概念に基づく説明可能なAIは、あるユーザの前提における複雑なモデルの理解を改善するツールとして期待されている。本稿では,テキスト領域と画像領域の両方でユーザ主導のデータ収集を行うワークフローを提案する。我々は,概念アクティベーションベクトル(CAV)と概念アクティベーション領域(CAR)の2つの概念ベース説明可能性手法を用いて,検索した概念データセットをテストする。
論文参考訳（メタデータ） (2024-04-10T13:47:22Z)
Explaining Explainability: Understanding Concept Activation Vectors [35.37586279472797]
最近の解釈可能性法では、概念に基づく説明を用いて、ディープラーニングモデルの内部表現を、人間が慣れ親しんだ言語に翻訳する。これは、ニューラルネットワークの表現空間にどの概念が存在するかを理解する必要がある。本研究では,概念活性化ベクトル(Concept Activation Vectors, CAV)の3つの特性について検討する。本研究では,これらの特性の存在を検出するためのツールを導入し,それらが引き起こした説明にどのように影響するかを把握し,その影響を最小限に抑えるための推奨事項を提供する。
論文参考訳（メタデータ） (2024-04-04T17:46:20Z)
Concept2Box: Joint Geometric Embeddings for Learning Two-View Knowledge Graphs [77.10299848546717]
Concept2Boxは、KGの2つのビューを共同で埋め込む新しいアプローチである。ボックス埋め込みは、それら間の重複や解離のような階層構造と複雑な関係を学習する。本稿では,新しいベクトル-ボックス間距離測定法を提案し,両者の埋め込みを共同で学習する。
論文参考訳（メタデータ） (2023-07-04T21:37:39Z)
Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
論文参考訳（メタデータ） (2023-06-14T23:24:01Z)
Dynamic Clue Bottlenecks: Towards Interpretable-by-Design Visual Question Answering [58.64831511644917]
本稿では, モデル決定を中間的人間法的な説明に分解する設計モデルを提案する。我々は、我々の本質的に解釈可能なシステムは、推論に焦点をあてた質問において、同等のブラックボックスシステムよりも4.64%改善できることを示した。
論文参考訳（メタデータ） (2023-05-24T08:33:15Z)
Concept-Based Explanations for Tabular Data [0.0]
ディープニューラルネットワーク(DNN)のための概念に基づく説明可能性を提案する。本研究では,人間レベルの直観に合致する解釈可能性を示す手法の有効性を示す。また,DNNのどの層がどの層を学習したのかを定量化したTCAVに基づく公平性の概念を提案する。
論文参考訳（メタデータ） (2022-09-13T02:19:29Z)
Overlooked factors in concept-based explanations: Dataset choice, concept learnability, and human capability [25.545486537295144]
概念に基づく解釈可能性法は、事前に定義されたセマンティック概念のセットを使用して、ディープニューラルネットワークモデル予測を説明することを目的としている。その人気にもかかわらず、文学によって十分に理解され、明瞭化されていない限界に悩まされている。概念に基づく説明において、よく見過ごされる3つの要因を分析した。
論文参考訳（メタデータ） (2022-07-20T01:59:39Z)
DISSECT: Disentangled Simultaneous Explanations via Concept Traversals [33.65478845353047]
DISSECTは、ディープラーニングモデル推論を説明するための新しいアプローチである。 DISSECTは、分類器の信号から生成モデルを訓練することにより、異なる概念の分類器固有の「名詞」を発見する方法を提供する。 DISSECTは,複数の概念を分離し,共同訓練による推論と結合したCTを生成する。
論文参考訳（メタデータ） (2021-05-31T17:11:56Z)
Contrastive Explanations for Model Interpretability [77.92370750072831]
分類モデルの対照的説明を生成する手法を提案する。本手法は潜在空間へのモデル表現の投影に基づいている。本研究は,モデル決定のより正確できめ細かな解釈性を提供するためのラベルコントラスト的説明の能力に光を当てた。
論文参考訳（メタデータ） (2021-03-02T00:36:45Z)
This is not the Texture you are looking for! Introducing Novel Counterfactual Explanations for Non-Experts using Generative Adversarial Learning [59.17685450892182]
反実用説明システムは、入力画像を変更して反実用推論を可能にする。本稿では, 対向画像から画像への変換技術に基づく, 対向画像の説明を新たに生成する手法を提案する。その結果,我々のアプローチは,2つの最先端技術システムよりも,メンタルモデル,説明満足度,信頼度,感情,自己効力に関して有意に優れた結果をもたらすことがわかった。
論文参考訳（メタデータ） (2020-12-22T10:08:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。