論文の概要: A Unifying Framework of Concept-based Explainable AI with Completeness Guarantees

• arxiv url: http://arxiv.org/abs/2609.34750v1
• Date: Mon, 28 Sep 2026 09:41:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 03:10:17.15925
• Title: A Unifying Framework of Concept-based Explainable AI with Completeness Guarantees
• Title（参考訳）: 完全性保証を備えた概念ベース説明可能なAIの統一フレームワーク
• Abstract要約: 概念に基づく説明は、概念と呼ばれる入力の人間の理解可能な特性を通してニューラルネットワークの予測を記述する。 我々はこれらのアプローチを共通の数学的言語で記述する理論的枠組みを導入する。
• 参考スコア（独自算出の注目度）: 5.022314014591091
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Concept-based explanations describe neural network predictions through human-understandable properties of inputs called concepts. The field encompasses approaches that differ in how they define and represent concepts and connect them to model predictions. We introduce a theoretical framework that describes these approaches in a common mathematical language and supports a shared analysis of their properties. For concept discovery, which identifies concepts automatically within a latent space of a trained model, we employ a concept autoencoder view. An encoder extracts concept representations from the model's latent space, and a decoder uses them to reconstruct the original latent representation. The autoencoder's reconstruction error measures how accurately its decoder recovers the original latent representation. We revisit model completeness: how well the concepts can reproduce the model's outputs. We show that model incompleteness of the concepts can be bounded by the autoencoder's reconstruction error. The autoencoder view also provides a common way to define individual concept attributions, which measure each concept's contribution to a prediction. We establish when these attributions sum to the model's prediction, and bound the discrepancy otherwise, thus providing attribution completeness guarantees.
• Abstract（参考訳）: 概念に基づく説明は、概念と呼ばれる入力の人間の理解可能な特性を通してニューラルネットワークの予測を記述する。 この分野は、概念の定義と表現の仕方が異なるアプローチを含み、それらをモデル予測に結びつける。 本稿では,これらの手法を共通な数学的言語で記述し,それらの特性の共有分析を支援する理論的枠組みを提案する。 学習モデルの潜在空間内で自動的に概念を識別する概念発見には,概念オートエンコーダビューを用いる。 エンコーダはモデルの潜在空間から概念表現を抽出し、デコーダはそれらを元の潜在空間を再構成する。 オートエンコーダの再構成誤差は、そのデコーダが元の潜在表現をどれだけ正確に回復するかを測定する。 モデル完全性 - 概念がモデルの出力をどの程度うまく再現できるか。 モデル不完全性は自己エンコーダの再構成誤差によって制限できることを示す。 オートエンコーダビューはまた、個々の概念の属性を定義する共通の方法を提供し、各概念の予測への貢献を測定する。 これらの属性がモデルの予測に一致するときに確立し、それ以外は不一致を拘束することで、帰属完全性を保証する。

関連論文リスト

• Explaining CLIP Zero-shot Predictions Through Concepts [54.05282304471016]
  EZPCを導入し,CLIPのゼロショット予測を人間に理解可能な概念で説明する。 本手法は,言語記述から学習した概念空間にCLIPの合同画像テキスト埋め込みを投影する。 提案手法は,CLIPの強いゼロショット分類精度を維持しつつ,意味のある概念レベルの説明を提供する。
  論文  参考訳（メタデータ） (2026-03-30T09:31:33Z)
• Insight: Interpretable Semantic Hierarchies in Vision-Language Encoders [52.94006363830628]
  言語対応の視覚基盤モデルは、下流の様々なタスクで強く機能する。 近年の研究では、これらの表現を人間の解釈可能な概念に分解するが、空間的接地が乏しく、画像分類に限られている。 入力画像に人間が解釈可能で空間的に接地した、きめ細かい概念を提供する言語対応概念基盤モデルであるInsightを提案する。
  論文  参考訳（メタデータ） (2026-01-20T09:57:26Z)
• FaCT: Faithful Concept Traces for Explaining Neural Network Decisions [56.796533084868884]
  ディープネットワークは、幅広いタスクで顕著なパフォーマンスを示しているが、それらの機能に関するグローバルな概念レベルの理解は、依然として重要な課題である。 本稿では,概念に基づく説明の忠実さを強調し,モデル独立な機械的概念説明を用いた新しいモデルを提案する。 私たちの概念はクラス間で共有され、あらゆるレイヤから、ロジットへの貢献と入力-視覚化を忠実にトレースすることができます。
  論文  参考訳（メタデータ） (2025-10-29T13:35:46Z)
• Concept Bottleneck Models Without Predefined Concepts [26.156636891713745]
  入力に依存した概念選択機構を導入し、すべてのクラスで小さな概念のサブセットが使用されることを保証します。 提案手法は, ダウンストリーム性能を改善し, ブラックボックスモデルの性能ギャップを狭めるものである。
  論文  参考訳（メタデータ） (2024-07-04T13:34:50Z)
• Can we Constrain Concept Bottleneck Models to Learn Semantically Meaningful Input Features? [0.6401548653313325]
  概念ボトルネックモデル(CBM)は、人間の定義した概念の集合を最初に予測するため、本質的に解釈可能であるとみなされる。 現在の文献では、概念予測は無関係な入力特徴に依存することが多いことを示唆している。 本稿では,CBMが概念を意味的に意味のある入力特徴にマッピングできることを実証する。
  論文  参考訳（メタデータ） (2024-02-01T10:18:43Z)
• Do Concept Bottleneck Models Respect Localities? [14.77558378567965]
  概念に基づく説明可能性法は、人間の理解可能な仲介者を用いて機械学習モデルの説明を生成する。 我々は、概念予測者が「関連」機能を利用して予測を行うかどうかを評価する。 概念予測器は必ずしも明確な概念を区別できないため、実際には多くの概念ベースモデルは局所性を尊重しない。
  論文  参考訳（メタデータ） (2024-01-02T16:05:23Z)
• Concept Gradient: Concept-based Interpretation Without Linear Assumption [77.96338722483226]
  概念活性化ベクトル(Concept Activation Vector, CAV)は、与えられたモデルと概念の潜在表現の間の線形関係を学習することに依存する。 我々は、線形概念関数を超えて概念に基づく解釈を拡張する概念グラディエント(CG)を提案した。 我々は、CGがおもちゃの例と実世界のデータセットの両方でCAVより優れていることを実証した。
  論文  参考訳（メタデータ） (2022-08-31T17:06:46Z)
• ConceptDistil: Model-Agnostic Distillation of Concept Explanations [4.462334751640166]
  概念に基づく説明は、非技術的人間のためのモデルの解釈可能性ギャップを埋めることを目的としている。 知識蒸留を用いたブラックボックス分類器に概念記述をもたらす方法であるConceptDistilを提案する。 実世界のユースケースでConceptDistilを検証することで、両方のタスクを最適化できることを示す。
  論文  参考訳（メタデータ） (2022-05-07T08:58:54Z)
• Translational Concept Embedding for Generalized Compositional Zero-shot Learning [73.60639796305415]
  一般合成ゼロショット学習は、ゼロショット方式で属性オブジェクト対の合成概念を学習する手段である。 本稿では,これら2つの課題を統一的なフレームワークで解決するために,翻訳概念の埋め込み(translational concept embedded)という新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2021-12-20T21:27:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。