論文の概要: When Are Concept Bottleneck Model Explanations Faithful and Compact?

• arxiv url: http://arxiv.org/abs/2610.06285v1
• Date: Mon, 05 Oct 2026 13:12:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-09 09:33:15.696262
• Title: When Are Concept Bottleneck Model Explanations Faithful and Compact?
• Title（参考訳）: 概念ボトルネックモデルの説明はいつ忠実でコンパクトか?
• Abstract要約: 概念ボトルネックモデル(CBM)は、その決定を高レベルな概念を通じて説明することができる。 形式的な説明可能性に基づいて、我々はそれらもまた忠実であるべきだ、すなわち、どの概念が実際に重要なのかを誤って報告するべきではない、と論じる。 近年のVLMに基づく変種を含む幅広いCBMアーキテクチャにおいて、忠実な説明はボトルネックにすべての概念を含まなければならない。
• 参考スコア（独自算出の注目度）: 22.398670536552135
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Concept bottleneck models (CBMs) are neural classifiers that allow to explain their decisions via high-level concepts, potentially enabling understanding, steering and debugging. However, their explanations are often derived heuristically. Building on formal explainability, we argue they should also be faithful, i.e., not misreport which concepts actually matter. We show that, for widespread CBM architectures, including recent VLM-based variants, faithful explanations must include all concepts in the bottleneck, compromising interpretability when this is large. This result applies to both heuristic and faithful-by-construction formal explanations. To encourage the existence of compact faithful explanations, we suggest i) modeling concepts probabilistically as binary or categorical random variables (rather than logits), and ii) employing per-concept training-time sparsification via group lasso (rather than regular elastic net). We also extend algorithms from formal explainability to CBMs, and show they outperform natural heuristics in terms of guarantees and explanation size. Overall, our work warns against naive interpretability claims and provides formal conditions and practical strategies for ensuring CBMs are as interpretable as advertised.
• Abstract（参考訳）: 概念ボトルネックモデル(コンセプションボトルネックモデル、CBM)は、神経分類器で、ハイレベルな概念を通じて意思決定を説明し、理解、ステアリング、デバッギングを可能にする。 しかし、その説明はしばしばヒューリスティックに導かれる。 形式的な説明可能性に基づいて、我々はそれらもまた忠実であるべきだ、すなわち、どの概念が実際に重要なのかを誤報告するべきではない、と論じる。 近年のVLMをベースとした変種を含む広範なCBMアーキテクチャでは,ボトルネックにおけるすべての概念を忠実に説明しなければならない。 この結果は、ヒューリスティック・バイ・コンストラクションの形式的説明の両方に当てはまる。 コンパクトな忠実な説明の存在を促進するために、我々は提案する。 一 二分的又は分類的ランダム変数(ロケットではなく)として確率論的に概念をモデル化すること。 二 グループラッソ(通常の弾性ネットではなく)を介して、概念ごとの訓練時間間隔を充てること。 また、アルゴリズムを形式的な説明可能性からCBMまで拡張し、保証や説明サイズの点で自然ヒューリスティックよりも優れていることを示す。 全体として、当社の作業は、説明責任主張の否定を警告し、CBMが宣伝通りに解釈可能であることを保証するための形式的条件と実践的戦略を提供する。

関連論文リスト

• Think in Latent, Explain in Language: Self-Explainable Latent Reasoning [60.882997917270934]
  自己説明可能な潜在推論(SELR)のための統合フレームワークを提案する。 SELRは1つのモデルを訓練し、効率的で本質的に説明可能な潜在推論を行う。 この設計により、生成された潜在表現がタスク効果と意味論的に解釈可能であることが保証される。
  論文  参考訳（メタデータ） (2026-07-01T16:11:00Z)
• A Geometric Unification of Concept Learning with Concept Cones [58.70836885177496]
  解釈可能性の2つの伝統は、並べて進化してきたが、互いに話すことはめったにない:概念ボトルネックモデル(CBM)とスパースオートエンコーダ(SAE)。 両パラダイムが同じ幾何学的構造をインスタンス化することを示す。 CBMは人間の定義した参照ジオメトリを提供するが、SAEは学習した円錐がCBMをどの程度よく近似するか、あるいは包含しているかによって評価することができる。
  論文  参考訳（メタデータ） (2025-12-08T09:51:46Z)
• A Framework for Causal Concept-based Model Explanations [0.0]
  本研究は、因果概念に基づくポストホック説明可能な人工知能(XAI)の概念的枠組みを提示する。 非解釈可能なモデルに対する説明は、説明されているモデルに忠実であるだけでなく、理解可能であるべきであるという要求に基づいている。
  論文  参考訳（メタデータ） (2025-12-02T13:19:53Z)
• I Predict Therefore I Am: Is Next Token Prediction Enough to Learn Human-Interpretable Concepts from Data? [76.15163242945813]
  大規模言語モデル (LLM) は、多くの人が知能の形式を示すと結論づけている。 本稿では,潜在離散変数として表現される人間解釈可能な概念に基づいてトークンを生成する新しい生成モデルを提案する。
  論文  参考訳（メタデータ） (2025-03-12T01:21:17Z)
• DiConStruct: Causal Concept-based Explanations through Black-Box Distillation [9.735426765564474]
  本稿では,概念ベースと因果性の両方を考慮した説明手法であるDiConStructを提案する。 本報告では, ブラックボックス機械学習モデルに対する蒸留モデルとして, その予測を近似し, それぞれの説明を生成する。
  論文  参考訳（メタデータ） (2024-01-16T17:54:02Z)
• Explainability for Large Language Models: A Survey [59.67574757137078]
  大規模言語モデル(LLM)は、自然言語処理における印象的な能力を示している。 本稿では,トランスフォーマーに基づく言語モデルを記述する手法について,説明可能性の分類法を紹介した。
  論文  参考訳（メタデータ） (2023-09-02T22:14:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。