論文の概要: On the Faithfulness of Post-Hoc Concept Bottleneck Models

• arxiv url: http://arxiv.org/abs/2606.30498v1
• Date: Mon, 29 Jun 2026 16:02:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:16.32488
• Title: On the Faithfulness of Post-Hoc Concept Bottleneck Models
• Title（参考訳）: ポストホック概念ボトルネックモデルの忠実性について
• Abstract要約: ポストホック概念ボトルネックモデル(ポストホックCBM)の検討 CBMは補助的なデータセットや視覚言語モデルを使用して解釈可能な概念空間に潜在する。 例えば、ランダムな概念射影は意味的に意味がないにもかかわらず、競争精度を達成することができる。
• 参考スコア（独自算出の注目度）: 7.774981803358894
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Human decision-making interprets the world through high-level concepts, such as recognizing a bird by its belly color. To bridge the gap between opaque deep learning representations and human understanding, Post-Hoc Concept Bottleneck Models (post-hoc CBMs) project latent features onto interpretable concept spaces using auxiliary datasets or vision-language models. However, relying on target task accuracy as the primary measure of post-hoc CBM success obscures whether the learned concepts are semantically meaningful or merely predictive artifacts. For example, random concept projections can achieve competitive accuracy despite being semantically meaningless. In this work, we analyze the learned projections directly and identify two failure cases: First, for concept projections learned from auxiliary data, covariate shifts can lead to unfaithful concept representations for the target task. In particular, we provide an upper bound on the error introduced by this shift. Second, systematic label noise in surrogate concept labels generated by vision-language models leads to unfaithful projections. After formalizing these failure modes, we introduce novel metrics that decouple concept faithfulness from predictive accuracy. Our empirical results across real-world and synthetic benchmarks confirm that these metrics identify unfaithful behaviors that standard accuracy-based evaluation fails to detect.
• Abstract（参考訳）: 人間の意思決定は、鳥を腹の色で認識するなど、高レベルの概念を通じて世界を解釈する。 不透明なディープラーニング表現と人間の理解のギャップを埋めるために、Post-Hoc Concept Bottleneck Models (ポストホックCBM)は、補助データセットまたはビジョン言語モデルを使用して、解釈可能な概念空間に潜在機能をプロジェクトする。 しかし、ポストホックCBMの成功の主要因として、目標タスクの精度に依存することは、学習概念が意味論的に意味的であるか、単に予測的アーティファクトなのかを明らかにしない。 例えば、ランダムな概念射影は意味的に意味がないにもかかわらず、競争精度を達成することができる。 本研究では、学習した予測を直接分析し、2つの障害事例を同定する。 まず、補助データから学んだ概念予測に対して、共変量シフトは、目標タスクに対する不誠実な概念表現につながる。 特に、このシフトによって導入された誤差に上限を与える。 第二に、視覚言語モデルが生成するサロゲート概念ラベルのシステマティックなラベルノイズは、不誠実な投影をもたらす。 これらの障害モードを形式化した上で,概念の忠実性を予測精度から切り離す新しい指標を導入する。 実世界および合成ベンチマークにおける実験結果から、これらの指標が標準精度に基づく評価では検出できない不信な行動を特定することが確認された。

関連論文リスト

• Assessing Reliability of Symbol Detection in Concept Bottleneck Models [3.0509197593879853]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の解釈可能なシンボルを通じて予測を行う。 高いタスク精度は、これらのシンボルが忠実に検出されることを保証するものではない。 本研究では,独立に訓練された概念検出器と分類ヘッドを交換することで,概念検出の信頼性について検討する。
  論文  参考訳（メタデータ） (2026-06-15T10:38:49Z)
• Towards Fine-Grained and Verifiable Concept Bottleneck Models [11.236280871580155]
  Concept Bottleneck Models (CBM) はブラックボックス予測器の解釈可能な代替手段を提供する。 既存のCBMは、予測された概念が正しい視覚的証拠に対応するかどうかを検証するのに苦労している。 局所的な視覚的エビデンスに各概念を根ざしたきめ細かいCBMフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-05-14T00:08:09Z)
• Credal Concept Bottleneck Models for Epistemic-Aleatoric Uncertainty Decomposition [22.644661427062726]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の解釈可能な概念によって予測される。 CBMは典型的に、てんかんの不確実性とアレタリック不確実性を説明する点概念の確率を出力する。 我々は,概念の不確実性を構築によって分解するフレームワークであるCREDENCEを紹介する。
  論文  参考訳（メタデータ） (2026-04-27T08:27:50Z)
• Explaining CLIP Zero-shot Predictions Through Concepts [54.05282304471016]
  EZPCを導入し,CLIPのゼロショット予測を人間に理解可能な概念で説明する。 本手法は,言語記述から学習した概念空間にCLIPの合同画像テキスト埋め込みを投影する。 提案手法は,CLIPの強いゼロショット分類精度を維持しつつ,意味のある概念レベルの説明を提供する。
  論文  参考訳（メタデータ） (2026-03-30T09:31:33Z)
• Rethinking Concept Bottleneck Models: From Pitfalls to Solutions [53.84388497227224]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念の基底予測である。 CBM-Suiteはこれらの課題に対処するための方法論的なフレームワークである。
  論文  参考訳（メタデータ） (2026-03-05T19:37:49Z)
• A Geometric Unification of Concept Learning with Concept Cones [58.70836885177496]
  解釈可能性の2つの伝統は、並べて進化してきたが、互いに話すことはめったにない:概念ボトルネックモデル(CBM)とスパースオートエンコーダ(SAE)。 両パラダイムが同じ幾何学的構造をインスタンス化することを示す。 CBMは人間の定義した参照ジオメトリを提供するが、SAEは学習した円錐がCBMをどの程度よく近似するか、あるいは包含しているかによって評価することができる。
  論文  参考訳（メタデータ） (2025-12-08T09:51:46Z)
• FaCT: Faithful Concept Traces for Explaining Neural Network Decisions [56.796533084868884]
  ディープネットワークは、幅広いタスクで顕著なパフォーマンスを示しているが、それらの機能に関するグローバルな概念レベルの理解は、依然として重要な課題である。 本稿では,概念に基づく説明の忠実さを強調し,モデル独立な機械的概念説明を用いた新しいモデルを提案する。 私たちの概念はクラス間で共有され、あらゆるレイヤから、ロジットへの貢献と入力-視覚化を忠実にトレースすることができます。
  論文  参考訳（メタデータ） (2025-10-29T13:35:46Z)
• On the Fairness, Diversity and Reliability of Text-to-Image Generative Models [68.62012304574012]
  マルチモーダル生成モデルは 信頼性 公正性 誤用の可能性について 批判的な議論を巻き起こしました 埋め込み空間におけるグローバルおよびローカルな摂動に対する応答を解析し、モデルの信頼性を評価するための評価フレームワークを提案する。 提案手法は, 信頼できない, バイアス注入されたモデルを検出し, 組込みバイアスの証明をトレースするための基礎となる。
  論文  参考訳（メタデータ） (2024-11-21T09:46:55Z)
• Do Concept Bottleneck Models Respect Localities? [14.77558378567965]
  概念に基づく説明可能性法は、人間の理解可能な仲介者を用いて機械学習モデルの説明を生成する。 我々は、概念予測者が「関連」機能を利用して予測を行うかどうかを評価する。 概念予測器は必ずしも明確な概念を区別できないため、実際には多くの概念ベースモデルは局所性を尊重しない。
  論文  参考訳（メタデータ） (2024-01-02T16:05:23Z)
• Interpreting Pretrained Language Models via Concept Bottlenecks [55.47515772358389]
  事前訓練された言語モデル(PLM)は、様々な自然言語処理タスクにおいて大きな進歩を遂げてきた。 ブラックボックスの性質による解釈可能性の欠如は、責任ある実装に課題をもたらす。 本研究では,人間にとって理解しやすい高レベルで有意義な概念を用いて,PLMを解釈する新しい手法を提案する。
  論文  参考訳（メタデータ） (2023-11-08T20:41:18Z)
• Uncovering Unique Concept Vectors through Latent Space Decomposition [0.0]
  概念に基づく説明は、特徴帰属推定よりも解釈可能な優れたアプローチとして現れてきた。 本稿では,訓練中に深層モデルから学んだ概念を自動的に発見するポストホックな教師なし手法を提案する。 実験の結果、我々の概念の大部分は、人間にとって容易に理解でき、一貫性を示し、目の前の課題に関連があることが判明した。
  論文  参考訳（メタデータ） (2023-07-13T17:21:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。