論文の概要: Expanding Explainability Horizons: A Unified Concept-Based System for Local, Global, and Misclassification Explanations

• arxiv url: http://arxiv.org/abs/2306.03531v1
• Date: Tue, 6 Jun 2023 09:28:37 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-07 16:12:53.603172
• Title: Expanding Explainability Horizons: A Unified Concept-Based System for Local, Global, and Misclassification Explanations
• Title（参考訳）: 説明可能性のホライズンの拡張:地域・グローバル・誤分類記述のための統一概念ベースシステム
• Authors: Fatemeh Aghaeipoor, Dorsa Asgarian, Mohammad Sabokrou
• Abstract要約: 本稿では,複数の超画素画像をネットワークに入力する統合概念ベースシステムを提案する。 この方法は、局所的およびグローバルな概念を学習し、得点し、抽出する。 実験の結果,性能の向上に加えて,モデルが予測の深い洞察を与え,誤分類を解明できることが判明した。
• 参考スコア（独自算出の注目度）: 11.376493046450268
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Explainability of intelligent models has been garnering increasing attention in recent years. Of the various explainability approaches, concept-based techniques are notable for utilizing a set of human-meaningful concepts instead of focusing on individual pixels. However, there is a scarcity of methods that consistently provide both local and global explanations. Moreover, most of the methods have no offer to explain misclassification cases. To address these challenges, our study follows a straightforward yet effective approach. We propose a unified concept-based system, which inputs a number of super-pixelated images into the networks, allowing them to learn better representations of the target's objects as well as the target's concepts. This method automatically learns, scores, and extracts local and global concepts. Our experiments revealed that, in addition to enhancing performance, the models could provide deeper insights into predictions and elucidate false classifications.
• Abstract（参考訳）: 近年,インテリジェントモデルの説明可能性に注目が集まっている。 様々な説明可能性のアプローチの中で、概念に基づく手法は、個々のピクセルに焦点をあてるのではなく、人間に意味のある概念の集合を利用するのが特徴である。 しかし、局所的な説明とグローバルな説明を一貫して提供する手法は乏しい。 さらに、ほとんどのメソッドには、誤分類ケースを説明する提案がない。 これらの課題に対処するため、研究は単純かつ効果的なアプローチに従っています。 本稿では,複数の超画素イメージをネットワークに入力し,対象のオブジェクトの表現や対象のコンセプトをより良く学習する,統一された概念ベースシステムを提案する。 この方法は、局所的およびグローバルな概念を学習し、得点し、抽出する。 実験の結果,性能の向上に加えて,モデルが予測の深い洞察を与え,誤分類を解明できることが判明した。

関連論文リスト

• Coding for Intelligence from the Perspective of Category [66.14012258680992]
  符号化の対象はデータの圧縮と再構成、インテリジェンスである。 最近の傾向は、これらの2つの分野の潜在的均一性を示している。 本稿では,カテゴリ理論の観点から,インテリジェンスのためのコーディングの新たな問題を提案する。
  論文  参考訳（メタデータ） (2024-07-01T07:05:44Z)
• A Self-explaining Neural Architecture for Generalizable Concept Learning [29.932706137805713]
  現在,SOTA の概念学習アプローチは,概念の忠実さの欠如と,概念の相互運用の限界という2つの大きな問題に悩まされている。 ドメイン間の概念学習のための新しい自己説明型アーキテクチャを提案する。 提案手法は,現在広く使われている4つの実世界のデータセットに対するSOTA概念学習手法に対して有効であることを示す。
  論文  参考訳（メタデータ） (2024-05-01T06:50:18Z)
• Evaluating Readability and Faithfulness of Concept-based Explanations [35.48852504832633]
  概念に基づく説明は、大規模言語モデルによって学習された高レベルのパターンを説明するための有望な道として現れます。 現在の手法は、統一的な形式化を欠いた異なる視点から概念にアプローチする。 これにより、概念の中核となる尺度、すなわち忠実さや可読性を評価するのが難しくなります。
  論文  参考訳（メタデータ） (2024-04-29T09:20:25Z)
• A survey on Concept-based Approaches For Model Improvement [2.1516043775965565]
  概念は人間の思考基盤として知られている。 ディープニューラルネットワーク(DNN)における様々な概念表現とその発見アルゴリズムの体系的レビューと分類について述べる。 また,これらの手法を総合的に調査した最初の論文として,概念に基づくモデル改善文献について詳述する。
  論文  参考訳（メタデータ） (2024-03-21T17:09:20Z)
• Understanding Distributed Representations of Concepts in Deep Neural Networks without Supervision [25.449397570387802]
  本稿では,ニューロンの主部分集合を選択することによって,概念の分散表現を発見する教師なし手法を提案する。 我々の経験から、類似のニューロン活性化状態のインスタンスはコヒーレントな概念を共有する傾向があることが示されている。 データ内のラベルなしサブクラスを特定し、誤分類の原因を検出するために利用することができる。
  論文  参考訳（メタデータ） (2023-12-28T07:33:51Z)
• Interpreting Pretrained Language Models via Concept Bottlenecks [55.47515772358389]
  事前訓練された言語モデル(PLM)は、様々な自然言語処理タスクにおいて大きな進歩を遂げてきた。 ブラックボックスの性質による解釈可能性の欠如は、責任ある実装に課題をもたらす。 本研究では,人間にとって理解しやすい高レベルで有意義な概念を用いて,PLMを解釈する新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-08T20:41:18Z)
• Intrinsic Physical Concepts Discovery with Object-Centric Predictive Models [86.25460882547581]
  PHYsical Concepts Inference NEtwork (PHYCINE) は、異なる抽象レベルの物理概念を監督なしで推論するシステムである。 物理概念変数を含むオブジェクト表現は因果推論タスクの性能向上に有効であることを示す。
  論文  参考訳（メタデータ） (2023-03-03T11:52:21Z)
• Human-Centered Concept Explanations for Neural Networks [47.71169918421306]
  概念活性化ベクトル(Concept Activation Vectors, CAV)のクラスを含む概念的説明を紹介する。 次に、自動的に概念を抽出するアプローチと、それらの注意事項に対処するアプローチについて議論する。 最後に、このような概念に基づく説明が、合成設定や実世界の応用において有用であることを示すケーススタディについて論じる。
  論文  参考訳（メタデータ） (2022-02-25T01:27:31Z)
• Translational Concept Embedding for Generalized Compositional Zero-shot Learning [73.60639796305415]
  一般合成ゼロショット学習は、ゼロショット方式で属性オブジェクト対の合成概念を学習する手段である。 本稿では,これら2つの課題を統一的なフレームワークで解決するために,翻訳概念の埋め込み(translational concept embedded)という新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2021-12-20T21:27:51Z)
• Cause and Effect: Concept-based Explanation of Neural Networks [3.883460584034766]
  ニューロンの内部表現や概念に対するニューロンの活性化を調べることで、ニューラルネットワークの解釈可能性の一歩を踏み出します。 概念(またはその否定)とタスククラスの間の因果関係の存在を確認するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-05-14T18:54:17Z)
• Concept Learners for Few-Shot Learning [76.08585517480807]
  本研究では,人間の解釈可能な概念次元に沿って学習することで,一般化能力を向上させるメタ学習手法であるCOMETを提案する。 我々は,細粒度画像分類,文書分類,セルタイプアノテーションなど,さまざまな領域からの少数ショットタスクによるモデルの評価を行った。
  論文  参考訳（メタデータ） (2020-07-14T22:04:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。