論文の概要: Contrastive Concept Importance: Explaining Pairwise Class Decisions Through Automatically Extracted Concept Representations
- arxiv url: http://arxiv.org/abs/2607.27904v1
- Date: Thu, 30 Jul 2026 09:19:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-31 21:37:00.483123
- Title: Contrastive Concept Importance: Explaining Pairwise Class Decisions Through Automatically Extracted Concept Representations
- Title（参考訳）: コントラスト概念の重要性: 自動抽出概念表現によるペアワイズクラス決定の説明
- Abstract要約: 比較概念重要度 (CCI) を導入し, 対象クラスと対象クラスの間のロジットマージン, あるいはホイルを概念とみなす。
CRAFTスタイルの概念ベース,挿入と削除曲線,ロジットワイズ分解解析,セマンティッククラス階層を用いて,ImageNetクラスペアの手法を評価する。
- 参考スコア（独自算出の注目度）: 6.466389033890039
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Concept-based explanations are a prevalent way to explain the decisions of complex black-box methods through semantically meaningful, human-interpretable concepts. To attribute the contribution of such concepts to a model's decisions, feature attribution methods are used to quantify how strongly each concept contributes to a model output. These attributions are typically computed for a single output class and therefore answer a non-contrastive "why P?" question. In many situations, however, such as cases of misclassification, class confusion, and low-margin predictions, the more natural question to ask is "why P rather than Q?". We introduce contrastive concept importance (CCI), which attributes the logit margin between a target class and a contrast, or foil, class to concepts in an automatically extracted visual concept basis. The resulting scores are signed, indicating whether a concept supports the target over the foil or the foil over the target, and can be decomposed into target-logit and foil-logit effects. This makes it possible to distinguish globally important concepts from concepts that specifically influence a class-pair distinction, including whether their effect is shared, one-sided, or directly contrastive. We evaluate the method on ImageNet class pairs using CRAFT-style concept bases, insertion and deletion curves, logit-wise decomposition analysis, and semantic class hierarchy. The results show that contrastive concept importance reveals class-pair-specific model behavior that is not captured by ordinary concept importance alone, and that highly contrastive concepts can be evaluated against semantic superclass structure to assess whether they affect fine-grained distinctions rather than broad category evidence.
- Abstract（参考訳）: 概念に基づく説明は、意味論的に意味があり、人間の解釈可能な概念を通して複雑なブラックボックス法の決定を説明する一般的な方法である。
このような概念の寄与をモデルの決定に当てはめるために、各概念がモデル出力にどれだけ強く寄与するかを定量化する特徴属性法が用いられる。
これらの属性は通常、1つの出力クラスに対して計算されるので、非競合的な「なぜP?」質問に答える。
しかし、多くの状況では、誤分類、階級混乱、低マージンの予測など、より自然に問うべき質問は「なぜQよりもPなのか?」である。
対象のクラスとコントラストの対ロジットマージン,すなわちホイルの対ロジットマージンを,自動抽出された視覚的概念ベースで概念に属性付けるコントラッシブ・コンセプト・プライオリティ(CCI)を導入する。
結果のスコアは署名され、概念がホイル上のターゲットをサポートするか、またはホイルがターゲット上のターゲットをサポートするかが示され、ターゲット-ロジットとホイル-ロジットのエフェクトに分解される。
これにより、国際的に重要な概念と、クラスペアの区別に特に影響を及ぼす概念を区別することができる。
CRAFTスタイルの概念ベース,挿入と削除曲線,ロジットワイズ分解解析,セマンティッククラス階層を用いて,ImageNetクラスペアの手法を評価する。
その結果, コントラスト的概念の重要性は, 通常の概念的重要度だけでは捉えられないクラスペア固有のモデル行動を明らかにし, 高いコントラスト的概念を意味的スーパークラス構造に対して評価することにより, より広いカテゴリの証拠ではなく, きめ細かい区別に影響を及ぼすかどうかを評価することができることがわかった。
関連論文リスト
- Beyond Heuristic Prompting: A Concept-Guided Bayesian Framework for Zero-Shot Image Recognition [81.2779530670268]
VLM(Vision-Language Models)は、ゼロショット画像認識を著しく進歩させたモデルである。
本稿では、クラス固有の概念を取り入れることで、プロンプトを強化する。
我々の手法は一貫して最先端の手法より優れている。
論文 参考訳（メタデータ） (2026-03-09T03:11:11Z) - Insight: Interpretable Semantic Hierarchies in Vision-Language Encoders [52.94006363830628]
言語対応の視覚基盤モデルは、下流の様々なタスクで強く機能する。
近年の研究では、これらの表現を人間の解釈可能な概念に分解するが、空間的接地が乏しく、画像分類に限られている。
入力画像に人間が解釈可能で空間的に接地した、きめ細かい概念を提供する言語対応概念基盤モデルであるInsightを提案する。
論文 参考訳（メタデータ） (2026-01-20T09:57:26Z) - FaCT: Faithful Concept Traces for Explaining Neural Network Decisions [56.796533084868884]
ディープネットワークは、幅広いタスクで顕著なパフォーマンスを示しているが、それらの機能に関するグローバルな概念レベルの理解は、依然として重要な課題である。
本稿では,概念に基づく説明の忠実さを強調し,モデル独立な機械的概念説明を用いた新しいモデルを提案する。
私たちの概念はクラス間で共有され、あらゆるレイヤから、ロジットへの貢献と入力-視覚化を忠実にトレースすることができます。
論文 参考訳（メタデータ） (2025-10-29T13:35:46Z) - Concept Bottleneck with Visual Concept Filtering for Explainable Medical
Image Classification [16.849592713393896]
概念ボトルネックモデル(CBM)は、人間の理解可能な概念を中間目標として利用することにより、解釈可能な画像分類を可能にする。
視覚的アクティベーションスコアは,視覚的手がかりを含むか否かを測定する。
計算された視覚的アクティベーションスコアは、見えない概念をフィルタリングするために使用され、結果として視覚的に意味のある概念がセットされる。
論文 参考訳（メタデータ） (2023-08-23T05:04:01Z) - Statistically Significant Concept-based Explanation of Image Classifiers
via Model Knockoffs [22.576922942465142]
概念に基づく説明は、非関連概念を予測タスクにとって重要であると誤解する偽陽性を引き起こす可能性がある。
深層学習モデルを用いて画像概念を学習し,Knockoffサンプルを用いて予測のための重要な概念を選択する手法を提案する。
論文 参考訳（メタデータ） (2023-05-27T05:40:05Z) - Concept Gradient: Concept-based Interpretation Without Linear Assumption [77.96338722483226]
概念活性化ベクトル(Concept Activation Vector, CAV)は、与えられたモデルと概念の潜在表現の間の線形関係を学習することに依存する。
我々は、線形概念関数を超えて概念に基づく解釈を拡張する概念グラディエント(CG)を提案した。
我々は、CGがおもちゃの例と実世界のデータセットの両方でCAVより優れていることを実証した。
論文 参考訳（メタデータ） (2022-08-31T17:06:46Z) - Translational Concept Embedding for Generalized Compositional Zero-shot
Learning [73.60639796305415]
一般合成ゼロショット学習は、ゼロショット方式で属性オブジェクト対の合成概念を学習する手段である。
本稿では,これら2つの課題を統一的なフレームワークで解決するために,翻訳概念の埋め込み(translational concept embedded)という新しいアプローチを提案する。
論文 参考訳（メタデータ） (2021-12-20T21:27:51Z) - Is Disentanglement all you need? Comparing Concept-based &
Disentanglement Approaches [24.786152654589067]
概念に基づく説明と非絡み合いのアプローチの概要を述べる。
両クラスからの最先端のアプローチは、データ非効率、分類/回帰タスクの特定の性質に敏感、あるいは採用した概念表現に敏感であることを示す。
論文 参考訳（メタデータ） (2021-04-14T15:06:34Z) - Contrastive Explanations for Model Interpretability [77.92370750072831]
分類モデルの対照的説明を生成する手法を提案する。
本手法は潜在空間へのモデル表現の投影に基づいている。
本研究は,モデル決定のより正確できめ細かな解釈性を提供するためのラベルコントラスト的説明の能力に光を当てた。
論文 参考訳（メタデータ） (2021-03-02T00:36:45Z) - CURI: A Benchmark for Productive Concept Learning Under Uncertainty [33.83721664338612]
我々は、新しい数ショットメタラーニングベンチマーク、コンポジション推論を不確実性の下で導入する(CURI)。
CURIは、疎結合、生産的一般化、学習操作、変数バインディングなどの抽象的な理解を含む、生産的および体系的な一般化の異なる側面を評価します。
また、モデルに依存しない「構成性ギャップ」を定義し、それぞれの軸に沿って分布外分布を一般化することの難しさを評価する。
論文 参考訳（メタデータ） (2020-10-06T16:23:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。