論文の概要: Beyond Heatmaps: Unsupervised Concept-Graph Reasoning for Interpretable Visual Explanation
- arxiv url: http://arxiv.org/abs/2607.01416v1
- Date: Wed, 01 Jul 2026 19:21:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-03 19:45:08.576205
- Title: Beyond Heatmaps: Unsupervised Concept-Graph Reasoning for Interpretable Visual Explanation
- Title（参考訳）: Beyond Heatmaps: 解釈可能なビジュアル説明のための教師なしの概念グラフ推論
- Abstract要約: 概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、ポストホックな説明に対して本質的に解釈可能な代替手段を提供する。
非負行列因子化(NMF)による教師なし概念発見を行うグラフベース概念ボトルネックモデル(G-CBM)を提案する。
グラフ注意ネットワーク(GAT)はノード間の非線形依存関係をモデル化して概念レベルの推論を行う。
- 参考スコア（独自算出の注目度）: 3.345351272944198
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Concept Bottleneck Models (CBMs) provide an intrinsically interpretable alternative to post-hoc explanations. However, existing CBMs often rely on predefined concept vocabularies or supervised annotations, lack explicit concept grounding, and summarize each concept with a single image-level score -- discarding spatial recurrence and inter-concept dependencies. We propose a Graph-based Concept Bottleneck Model (G-CBM), an intrinsically interpretable framework that performs unsupervised concept discovery via Non-negative Matrix Factorization (NMF) and represents the discovered concepts as nodes in a per-image concept-graph representation. G-CBM matches region-level features to these concept nodes -- providing concept grounding and capturing concept recurrence across the image -- and applies a \emph{tunable concept filtering threshold} $τ$ to suppress weak region-level features. A Graph Attention Network (GAT) then performs concept-level reasoning by modeling nonlinear dependencies across nodes. Across ImageNet, HAM10000, PH2, and Derm7pt, G-CBM achieves an average relative AUC improvement of 3.7\% over a ResNet-50 baseline. Concept filtering frequently improves predictive performance while inducing selective concept use, achieving peak AUC of $0.96$ on PH2 with only 2 of 10 concepts and 0.92 on HAM10000 with 3.8 of 9 concepts. On dermoscopy benchmarks, G-CBM is competitive with supervised approaches requiring external annotations. Deletion/insertion analyses with random ablation controls show that the learned concept ranking faithfully reflects model predictions.
- Abstract（参考訳）: 概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、ポストホックな説明に対して本質的に解釈可能な代替手段を提供する。
しかし、既存のCBMは、しばしば事前に定義された概念語彙や教師付きアノテーションに依存し、明示的な概念基盤を欠き、各概念を単一のイメージレベルスコアで要約する。
非負行列因子化(NMF)による教師なし概念発見を本質的に解釈可能なフレームワークであるGraph-based Concept Bottleneck Model (G-CBM)を提案する。
G-CBMは、これらのコンセプトノードにリージョンレベルの機能 – イメージ全体にわたって概念をグラウンディングし、キャプチャする – と一致し、弱いリージョンレベルの機能を抑制するために、 \emph{tunable concept filtering threshold} $τ$を適用している。
グラフ注意ネットワーク(GAT)はノード間の非線形依存関係をモデル化して概念レベルの推論を行う。
ImageNet、HAM10000、PH2、Derm7pt全体で、G-CBMはResNet-50ベースラインよりも平均3.7\%のAUC改善を実現している。
概念フィルタリングは選択的な概念の使用を誘導しながら予測性能を向上し、10つの概念のうち2つしか持たないPH2では0.96ドル、9つの概念のうち3.8つでHAM10000では0.92ドルを達成する。
ダーモスコープのベンチマークでは、G-CBMは外部アノテーションを必要とする教師付きアプローチと競合する。
ランダムアブレーション制御による削除/挿入分析は,学習概念のランク付けがモデル予測を忠実に反映していることを示す。
関連論文リスト
- Concept Flow Models: Anchoring Concept-Based Reasoning with Hierarchical Bottlenecks [4.944427102119257]
概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、学習した機能を人間の理解可能な概念空間に投影することで、解釈可能性を高める。
最近のアプローチでは、視覚言語モデルを利用して概念埋め込みを生成し、手動の概念アノテーションの必要性を減らす。
本稿では,フラットボトルネックを階層的な概念駆動決定木に置き換える概念フローモデル(CFM)を提案する。
論文 参考訳（メタデータ） (2026-06-17T18:27:17Z) - Explaining CLIP Zero-shot Predictions Through Concepts [54.05282304471016]
EZPCを導入し,CLIPのゼロショット予測を人間に理解可能な概念で説明する。
本手法は,言語記述から学習した概念空間にCLIPの合同画像テキスト埋め込みを投影する。
提案手法は,CLIPの強いゼロショット分類精度を維持しつつ,意味のある概念レベルの説明を提供する。
論文 参考訳（メタデータ） (2026-03-30T09:31:33Z) - Rethinking Concept Bottleneck Models: From Pitfalls to Solutions [53.84388497227224]
概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念の基底予測である。
CBM-Suiteはこれらの課題に対処するための方法論的なフレームワークである。
論文 参考訳（メタデータ） (2026-03-05T19:37:49Z) - Hierarchical Concept-based Interpretable Models [23.16720677779406]
概念埋め込みモデル(CEM)は、入力を人間の解釈可能な概念表現にマッピングし、タスクを予測できる。
しかし、CEMは概念間の関係を表現できず、トレーニング中に異なる粒度で概念アノテーションを必要とする。
階層的概念埋め込みモデル(HiCEM)は,階層的構造を通じて概念関係を明示的にモデル化するCEMの新しいファミリーである。
論文 参考訳（メタデータ） (2026-02-27T11:49:56Z) - Concepts from Representations: Post-hoc Concept Bottleneck Models via Sparse Decomposition of Visual Representations [20.859723044900154]
本稿では,PCBM-ReDについて述べる。PCBM-ReDは,事前学習した不透明なモデルに解釈性を再現する新しいパイプラインである。
最先端の精度を実現し、エンドツーエンドモデルのパフォーマンスギャップを狭め、より優れた解釈性を示す。
論文 参考訳（メタデータ） (2026-01-18T08:01:44Z) - FaCT: Faithful Concept Traces for Explaining Neural Network Decisions [56.796533084868884]
ディープネットワークは、幅広いタスクで顕著なパフォーマンスを示しているが、それらの機能に関するグローバルな概念レベルの理解は、依然として重要な課題である。
本稿では,概念に基づく説明の忠実さを強調し,モデル独立な機械的概念説明を用いた新しいモデルを提案する。
私たちの概念はクラス間で共有され、あらゆるレイヤから、ロジットへの貢献と入力-視覚化を忠実にトレースすることができます。
論文 参考訳（メタデータ） (2025-10-29T13:35:46Z) - Towards more holistic interpretability: A lightweight disentangled Concept Bottleneck Model [5.700536552863068]
概念ボトルネックモデル(CBM)は、人間の理解可能な概念を中間表現として予測することにより、解釈可能性を高める。
本稿では,視覚的特徴を意味論的に意味のある構成要素に自動的に分類する軽量なDECBMを提案する。
3つの多様なデータセットの実験により、LCDBMはより高い概念とクラス精度を達成し、解釈可能性と分類性能の両方において従来のCBMよりも優れていたことが示されている。
論文 参考訳（メタデータ） (2025-10-17T15:59:30Z) - Graph Concept Bottleneck Models [26.57626285653119]
概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、概念を通したディープニューラルネットワークの明確な解釈を提供する。
提案するグラフCBMは,潜在概念グラフを構築することで概念関係を容易にするCBMの新たな変種である。
論文 参考訳（メタデータ） (2025-08-19T20:23:18Z) - Interpretable Few-Shot Image Classification via Prototypical Concept-Guided Mixture of LoRA Experts [79.18608192761512]
自己説明可能なモデル(SEM)は、視覚認識プロセスをより解釈可能なものにするために、プロトタイプ概念学習(PCL)に依存している。
パラメトリック不均衡と表現の不整合という2つの重要な課題を緩和するFew-Shotプロトタイプ概念分類フレームワークを提案する。
我々のアプローチは、既存のSEMを顕著な差で常に上回っており、5-way 5-shot分類では4.2%-8.7%の相対的な利得がある。
論文 参考訳（メタデータ） (2025-06-05T06:39:43Z) - Fine-Grained Erasure in Text-to-Image Diffusion-based Foundation Models [56.35484513848296]
FADE(Fine grained Attenuation for Diffusion Erasure)は、テキストから画像への生成モデルのための非学習アルゴリズムである。
関連する概念に最小限の影響で目標概念を排除し、最先端の手法よりも保持性能が12%向上した。
論文 参考訳（メタデータ） (2025-03-25T15:49:48Z) - Discover-then-Name: Task-Agnostic Concept Bottlenecks via Automated Concept Discovery [52.498055901649025]
ディープニューラルネットワークの「ブラックボックス」問題に対処するために、概念ボトルネックモデル(CBM)が提案されている。
本稿では,典型的なパラダイムを逆転させる新しいCBMアプローチであるDiscover-then-Name-CBM(DN-CBM)を提案する。
我々の概念抽出戦略は、下流のタスクに非依存であり、既にそのモデルに知られている概念を使用するため、効率的である。
論文 参考訳（メタデータ） (2024-07-19T17:50:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。