論文の概要: Assessing Reliability of Symbol Detection in Concept Bottleneck Models

• arxiv url: http://arxiv.org/abs/2606.16535v1
• Date: Mon, 15 Jun 2026 10:38:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-16 16:21:34.459534
• Title: Assessing Reliability of Symbol Detection in Concept Bottleneck Models
• Title（参考訳）: 概念ボトルネックモデルにおけるシンボル検出の信頼性の評価
• Authors: Javier Fumanal-Idocin, Javier Andreu-Perez,
• Abstract要約: 概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の解釈可能なシンボルを通じて予測を行う。 高いタスク精度は、これらのシンボルが忠実に検出されることを保証するものではない。 本研究では,独立に訓練された概念検出器と分類ヘッドを交換することで,概念検出の信頼性について検討する。
• 参考スコア（独自算出の注目度）: 3.0509197593879853
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Concept Bottleneck Models (CBMs) are a relevant tool for explainable Artificial Intelligence because they make their predictions through human-interpretable symbols. However, high task accuracy does not guarantee that these symbols are detected faithfully: jointly trained CBMs may encode task-specific shortcuts in the bottleneck, making their explanations unreliable. In this paper, we study concept-detection reliability by swapping independently trained concept detectors and classification heads that share the same symbolic vocabulary. We use the resulting performance degradation, concept-level metrics, and symbol-wise uncertainty estimates to identify concepts that are especially prone to spurious firing. Finally, we propose a reliability-aware training strategy in which a shared concept detector is optimized with multiple classification heads and penalized for relying on globally or instance-wise unreliable symbols. On CUB-200-2011 with full concept supervision, detectors and heads are almost freely interchangeable (swap drop below one accuracy point, relative retention above $99\%$, and no concept detected below chance), whereas on a controlled synthetic task we show that, as the concept-supervision weight is reduced, models keep near-perfect task accuracy while swapped accuracy and agreement with the ground-truth concepts collapse to chance. Our reliability-aware training substantially mitigates this leakage, roughly doubling swap accuracy in the leaky regime.
• Abstract（参考訳）: 概念ボトルネックモデル(Concept Bottleneck Models、CBM)は、人間の解釈可能なシンボルを通じて予測を行うため、説明可能な人工知能の関連ツールである。 しかし、高いタスク精度は、これらのシンボルが忠実に検出されることを保証するものではない。共同で訓練されたCBMは、ボトルネックの中でタスク固有のショートカットを符号化し、それらの説明を信頼できないようにする。 本稿では,同じシンボル語彙を持つ独立に訓練された概念検出器と分類ヘッドを交換することで,概念検出の信頼性について検討する。 結果のパフォーマンス低下、概念レベルのメトリクス、シンボルワイドの不確実性見積を使用して、特に急激な発火の傾向にある概念を特定します。 最後に、共有概念検出器を複数の分類ヘッドで最適化し、グローバルまたはインスタンス的に信頼性の低いシンボルに依存するようペナル化する信頼性を考慮したトレーニング戦略を提案する。 完全な概念監督を伴うCUB-200-2011では、検出器とヘッドは、ほぼ自由に交換可能である(1つの精度ポイント以下、99\%以上の相対的保持、そしてチャンス以下で検出される概念)。 信頼性に配慮したトレーニングは、このリークを著しく軽減し、リーク状態のスワップ精度をほぼ2倍にします。

関連論文リスト

• Credal Concept Bottleneck Models for Epistemic-Aleatoric Uncertainty Decomposition [22.644661427062726]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の解釈可能な概念によって予測される。 CBMは典型的に、てんかんの不確実性とアレタリック不確実性を説明する点概念の確率を出力する。 我々は,概念の不確実性を構築によって分解するフレームワークであるCREDENCEを紹介する。
  論文  参考訳（メタデータ） (2026-04-27T08:27:50Z)
• Towards Faithful Multimodal Concept Bottleneck Models [0.07329200485567826]
  概念ボトルネックモデル(Concept Bottleneck Models、CBM)は、人間の解釈可能な概念の層を通して予測をルーティングする解釈可能なモデルである。 本稿では,概念検出と漏洩軽減を共同で狙う視覚言語バックボーン上に構築されたマルチモーダルCBMフレームワークであるf-CBMを紹介する。 実験により、f-CBMはタスク精度、概念検出、リーク低減の最良のトレードオフを実現することが示された。
  論文  参考訳（メタデータ） (2026-03-13T16:56:08Z)
• Rethinking Concept Bottleneck Models: From Pitfalls to Solutions [53.84388497227224]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念の基底予測である。 CBM-Suiteはこれらの課題に対処するための方法論的なフレームワークである。
  論文  参考訳（メタデータ） (2026-03-05T19:37:49Z)
• Thinking by Subtraction: Confidence-Driven Contrastive Decoding for LLM Reasoning [58.331709210563616]
  サブトラクションによる思考は、信頼主導のコントラスト的デコーディングアプローチである。 低信頼トークンの小さなサブセットは、誤りの推論と不要な出力拡大に不当に寄与する。 信頼駆動型コントラストデコーディング(Confidence-Driven Contrastive Decoding)は,デコーディング中の低信頼トークンを検出し,それらの位置で介入する。
  論文  参考訳（メタデータ） (2026-02-20T14:13:22Z)
• Concepts' Information Bottleneck Models [9.435622803973898]
  概念ボトルネックモデル(Concept Bottleneck Models、CBM)は、人間の理解可能な概念層を通じて決定をルーティングすることで解釈可能な予測を提供することを目的としている。 I(C;Y)$でタスク関連情報を保存しながら$I(X;C)$をペナライズする概念層上に、明示的なInformation Bottleneck正規化器を導入し、最小限のコンセプト表現を奨励する。
  論文  参考訳（メタデータ） (2026-02-16T10:33:20Z)
• Semi-supervised Concept Bottleneck Models [11.84762087954844]
  SSCBM(Seemi-supervised Concept Bottleneck Model)と呼ばれる新しいフレームワークを提案する。 我々のSCBMは、注釈付きデータが不足している現実的な状況に適しています。 ラベル付きデータの10%に過ぎず、4つのデータセットの平均的な概念とタスク精度はそれぞれ2.44%と3.93%以下である。
  論文  参考訳（メタデータ） (2024-06-27T08:33:35Z)
• Gaussian Mixture Models for Affordance Learning using Bayesian Networks [50.18477618198277]
  Affordancesはアクション、オブジェクト、エフェクト間の関係の基本的な記述である。 本稿では,世界を探究し,その感覚経験から自律的にこれらの余裕を学習するエンボディエージェントの問題にアプローチする。
  論文  参考訳（メタデータ） (2024-02-08T22:05:45Z)
• Enhancing Multiple Reliability Measures via Nuisance-extended Information Bottleneck [77.37409441129995]
  トレーニングデータに制限がある現実的なシナリオでは、データ内の多くの予測信号は、データ取得のバイアスからより多く得る。 我々は,相互情報制約の下で,より広い範囲の摂動をカバーできる敵の脅威モデルを考える。 そこで本研究では,その目的を実現するためのオートエンコーダベーストレーニングと,提案したハイブリッド識別世代学習を促進するための実用的なエンコーダ設計を提案する。
  論文  参考訳（メタデータ） (2023-03-24T16:03:21Z)
• CertainNet: Sampling-free Uncertainty Estimation for Object Detection [65.28989536741658]
  ニューラルネットワークの不確実性を推定することは、安全クリティカルな設定において基本的な役割を果たす。 本研究では,オブジェクト検出のための新しいサンプリング不要不確実性推定法を提案する。 私たちはそれをCertainNetと呼び、各出力信号に対して、オブジェクト性、クラス、位置、サイズという、別の不確実性を提供するのは、これが初めてです。
  論文  参考訳（メタデータ） (2021-10-04T17:59:31Z)
• Robust Pre-Training by Adversarial Contrastive Learning [120.33706897927391]
  近年の研究では、敵の訓練と統合されると、自己監督型事前訓練が最先端の堅牢性につながることが示されている。 我々は,データ強化と対向的摂動の両面に整合した学習表現により,ロバストネスを意識した自己指導型事前学習を改善する。
  論文  参考訳（メタデータ） (2020-10-26T04:44:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。