論文の概要: Prototype-Grounded Concept Models for Verifiable Concept Alignment

• arxiv url: http://arxiv.org/abs/2604.16076v1
• Date: Fri, 17 Apr 2026 14:04:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-20 22:00:19.943268
• Title: Prototype-Grounded Concept Models for Verifiable Concept Alignment
• Title（参考訳）: 検証可能な概念アライメントのためのプロトタイプ・グラウンド概念モデル
• Authors: Stefano Colamonaco, David Debot, Pietro Barbiero, Giuseppe Marra,
• Abstract要約: 概念ボトルネックモデル(Concept Bottleneck Models, CBM)は、人間の理解可能な概念を通じて予測を構造化することにより、ディープラーニングにおける解釈可能性を改善することを目的としている。 本稿では,学習された視覚的プロトタイプの基盤となる概念モデル(PGCM)を紹介する。 PGCMは最先端のCBMの予測性能と一致し、透明性、解釈可能性、インターベンタビリティを大幅に改善する。
• 参考スコア（独自算出の注目度）: 21.877856489908797
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Concept Bottleneck Models (CBMs) aim to improve interpretability in Deep Learning by structuring predictions through human-understandable concepts, but they provide no way to verify whether learned concepts align with the human's intended meaning, hurting interpretability. We introduce Prototype-Grounded Concept Models (PGCMs), which ground concepts in learned visual prototypes: image parts that serve as explicit evidence for the concepts. This grounding enables direct inspection of concept semantics and supports targeted human intervention at the prototype level to correct misalignments. Empirically, PGCMs match the predictive performance of state-of-the-art CBMs while substantially improving transparency, interpretability, and intervenability.
• Abstract（参考訳）: 概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念を通して予測を構造化することで、ディープラーニングにおける解釈可能性を改善することを目的としているが、学習された概念が人間の意図した意味と一致し、解釈可能性を傷つけるかどうかを検証する手段はない。 本稿では,概念の明示的な証拠となるイメージパーツという,学習された視覚的プロトタイプにおける概念の基礎となる概念モデル(PGCM)を紹介する。 この基盤は、概念意味論の直接検査を可能にし、プロトタイプレベルでの人間の介入を目標とし、誤認識の修正を支援する。 PGCMは、最先端のCBMの予測性能に匹敵すると同時に、透明性、解釈可能性、インターベンタビリティを大幅に改善する。

関連論文リスト

• Explaining CLIP Zero-shot Predictions Through Concepts [54.05282304471016]
  EZPCを導入し,CLIPのゼロショット予測を人間に理解可能な概念で説明する。 本手法は,言語記述から学習した概念空間にCLIPの合同画像テキスト埋め込みを投影する。 提案手法は,CLIPの強いゼロショット分類精度を維持しつつ,意味のある概念レベルの説明を提供する。
  論文  参考訳（メタデータ） (2026-03-30T09:31:33Z)
• Rethinking Concept Bottleneck Models: From Pitfalls to Solutions [53.84388497227224]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念の基底予測である。 CBM-Suiteはこれらの課題に対処するための方法論的なフレームワークである。
  論文  参考訳（メタデータ） (2026-03-05T19:37:49Z)
• Towards more holistic interpretability: A lightweight disentangled Concept Bottleneck Model [5.700536552863068]
  概念ボトルネックモデル(CBM)は、人間の理解可能な概念を中間表現として予測することにより、解釈可能性を高める。 本稿では,視覚的特徴を意味論的に意味のある構成要素に自動的に分類する軽量なDECBMを提案する。 3つの多様なデータセットの実験により、LCDBMはより高い概念とクラス精度を達成し、解釈可能性と分類性能の両方において従来のCBMよりも優れていたことが示されている。
  論文  参考訳（メタデータ） (2025-10-17T15:59:30Z)
• Adaptive Test-Time Intervention for Concept Bottleneck Models [6.31833744906105]
  概念ボトルネックモデル(CBM)は、人間レベルの「概念」を予測することによってモデルの解釈可能性を改善することを目的としている 我々は,2成分蒸留(BD)を得るためにFIGS(Fast Interpretable Greedy Sum-Trees)を提案する。 FIGS-BDは、CBMのバイナリ拡張されたコンセプト・トゥ・ターゲット部分を解釈可能なツリーベースモデルに蒸留する。
  論文  参考訳（メタデータ） (2025-03-09T19:03:48Z)
• Improving Intervention Efficacy via Concept Realignment in Concept Bottleneck Models [57.86303579812877]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念に基づいて、解釈可能なモデル決定を可能にする画像分類である。 既存のアプローチは、強いパフォーマンスを達成するために、画像ごとに多数の人間の介入を必要とすることが多い。 本稿では,概念関係を利用した学習型概念認識介入モジュールについて紹介する。
  論文  参考訳（メタデータ） (2024-05-02T17:59:01Z)
• Interpretable Neural-Symbolic Concept Reasoning [7.1904050674791185]
  概念に基づくモデルは、人間の理解可能な概念のセットに基づいてタスクを学習することでこの問題に対処することを目的としている。 本稿では,概念埋め込みに基づく最初の解釈可能な概念ベースモデルであるDeep Concept Reasoner (DCR)を提案する。
  論文  参考訳（メタデータ） (2023-04-27T09:58:15Z)
• Concept Gradient: Concept-based Interpretation Without Linear Assumption [77.96338722483226]
  概念活性化ベクトル(Concept Activation Vector, CAV)は、与えられたモデルと概念の潜在表現の間の線形関係を学習することに依存する。 我々は、線形概念関数を超えて概念に基づく解釈を拡張する概念グラディエント(CG)を提案した。 我々は、CGがおもちゃの例と実世界のデータセットの両方でCAVより優れていることを実証した。
  論文  参考訳（メタデータ） (2022-08-31T17:06:46Z)
• GlanceNets: Interpretabile, Leak-proof Concept-based Models [23.7625973884849]
  概念ベースモデル(CBM)は、高レベルの概念の語彙の獲得と推論によって、ハイパフォーマンスと解釈可能性を組み合わせる。 我々は、モデル表現と基礎となるデータ生成プロセスとの整合性の観点から、解釈可能性を明確に定義する。 GlanceNetsは不整合表現学習とオープンセット認識の技法を利用してアライメントを実現する新しいCBMである。
  論文  参考訳（メタデータ） (2022-05-31T08:53:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。