論文の概要: On the Concept Trustworthiness in Concept Bottleneck Models

• arxiv url: http://arxiv.org/abs/2403.14349v1
• Date: Thu, 21 Mar 2024 12:24:53 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-22 14:28:30.310481
• Title: On the Concept Trustworthiness in Concept Bottleneck Models
• Title（参考訳）: 概念ボトルネックモデルにおける信頼性の概念について
• Authors: Qihan Huang, Jie Song, Jingwen Hu, Haofei Zhang, Yong Wang, Mingli Song,
• Abstract要約: 概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、推論プロセスを、概念マッピングと概念ラベル予測に分解する。 概念からラベルへの予測の透明性にもかかわらず、入力から中間概念へのマッピングはブラックボックスのままである。 概念が関連する領域から導出されているかどうかを評価するために、概念信頼性スコアと呼ばれる先駆的な指標が提案されている。 拡張されたCBMを導入し、特徴マップの異なる部分から概念予測を具体的に行えるようにした。
• 参考スコア（独自算出の注目度）: 39.928868605678744
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Concept Bottleneck Models (CBMs), which break down the reasoning process into the input-to-concept mapping and the concept-to-label prediction, have garnered significant attention due to their remarkable interpretability achieved by the interpretable concept bottleneck. However, despite the transparency of the concept-to-label prediction, the mapping from the input to the intermediate concept remains a black box, giving rise to concerns about the trustworthiness of the learned concepts (i.e., these concepts may be predicted based on spurious cues). The issue of concept untrustworthiness greatly hampers the interpretability of CBMs, thereby hindering their further advancement. To conduct a comprehensive analysis on this issue, in this study we establish a benchmark to assess the trustworthiness of concepts in CBMs. A pioneering metric, referred to as concept trustworthiness score, is proposed to gauge whether the concepts are derived from relevant regions. Additionally, an enhanced CBM is introduced, enabling concept predictions to be made specifically from distinct parts of the feature map, thereby facilitating the exploration of their related regions. Besides, we introduce three modules, namely the cross-layer alignment (CLA) module, the cross-image alignment (CIA) module, and the prediction alignment (PA) module, to further enhance the concept trustworthiness within the elaborated CBM. The experiments on five datasets across ten architectures demonstrate that without using any concept localization annotations during training, our model improves the concept trustworthiness by a large margin, meanwhile achieving superior accuracy to the state-of-the-arts. Our code is available at https://github.com/hqhQAQ/ProtoCBM.
• Abstract（参考訳）: CBM(Concept Bottleneck Models)は、推論過程をインプット・トゥ・コンセプトマッピングとコンセプト・トゥ・ラベルの予測に分解し、解釈可能な概念ボトルネックによって達成された顕著な解釈可能性により、大きな注目を集めている。 しかし、概念とラベル間の予測の透明性にもかかわらず、入力から中間概念へのマッピングはブラックボックスのままであり、学習された概念の信頼性に関する懸念を引き起こす(すなわち、これらの概念は刺激的な手がかりに基づいて予測される)。 概念の不信の問題はCBMの解釈可能性を大幅に損なうため、さらなる進歩を妨げることになる。 そこで本研究では,CBMにおける概念の信頼性を評価するためのベンチマークを構築した。 概念が関連する領域から導出されているかどうかを評価するために、概念信頼性スコアと呼ばれる先駆的な指標が提案されている。 さらに、拡張されたCBMを導入し、特徴マップの異なる部分から概念予測を具体的に作成できるようにし、それらの領域の探索を容易にする。 さらに, クロスレイヤアライメント (CLA) モジュール, クロスイメージアライメント (CIA) モジュール, 予測アライメント (PA) モジュールの3つのモジュールを導入し, より精巧なCBMにおける概念の信頼性を高める。 10のアーキテクチャにまたがる5つのデータセットの実験では、トレーニング中にローカライゼーションアノテーションを使わずに、我々のモデルは、最先端技術に優れた精度を達成しつつ、大きなマージンで概念の信頼性を向上することを示した。 私たちのコードはhttps://github.com/hqhQAQ/ProtoCBMで利用可能です。

関連論文リスト

• MulCPred: Learning Multi-modal Concepts for Explainable Pedestrian Action Prediction [57.483718822429346]
  MulCPredは、トレーニングサンプルで表されるマルチモーダルな概念に基づいて、その予測を説明する。 MulCPredは複数のデータセットとタスクで評価される。
  論文  参考訳（メタデータ） (2024-09-14T14:15:28Z)
• Evidential Concept Embedding Models: Towards Reliable Concept Explanations for Skin Disease Diagnosis [24.946148305384202]
  CBM(Concept Bottleneck Models)は、人間の解釈可能な概念を意思決定に取り入れた、アクティブな解釈可能なフレームワークとして登場した。 本研究では,概念の不確かさをモデル化するために明らかな学習を利用する概念埋め込みモデル(evi-CEM)を提案する。 本評価は,evi-CEMが概念予測において優れた性能を発揮することを示す。
  論文  参考訳（メタデータ） (2024-06-27T12:29:50Z)
• Improving Intervention Efficacy via Concept Realignment in Concept Bottleneck Models [57.86303579812877]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念に基づいて、解釈可能なモデル決定を可能にする画像分類である。 既存のアプローチは、強いパフォーマンスを達成するために、画像ごとに多数の人間の介入を必要とすることが多い。 本稿では,概念関係を利用した学習型概念認識介入モジュールについて紹介する。
  論文  参考訳（メタデータ） (2024-05-02T17:59:01Z)
• Incremental Residual Concept Bottleneck Models [29.388549499546556]
  Concept Bottleneck Models (CBM) は、ディープニューラルネットワークによって抽出されたブラックボックスの視覚表現を、解釈可能な概念のセットにマッピングする。 本稿では,概念完全性の課題を解決するために,インクリメンタル・Residual Concept Bottleneck Model (Res-CBM)を提案する。 提案手法は,任意のCBMの性能向上を目的としたポストホック処理法として,ユーザ定義の概念バンクに適用できる。
  論文  参考訳（メタデータ） (2024-04-13T12:02:19Z)
• ConcEPT: Concept-Enhanced Pre-Training for Language Models [57.778895980999124]
  ConcEPTは、概念知識を事前訓練された言語モデルに注入することを目的としている。 これは、事前訓練されたコンテキストで言及されたエンティティの概念を予測するために、外部エンティティの概念予測を利用する。 実験の結果,ConcEPTは概念強化事前学習により概念知識を向上することがわかった。
  論文  参考訳（メタデータ） (2024-01-11T05:05:01Z)
• Do Concept Bottleneck Models Respect Localities? [14.77558378567965]
  概念に基づく手法は、人間の理解可能な概念を用いてモデル予測を説明する。 ローカリティ(Localities)とは、概念の価値を予測する際に、関連する機能のみを使用することである。 CBMは、独立概念が重複しない特徴部分集合に局所化されている場合でも、局所性を捉えない。
  論文  参考訳（メタデータ） (2024-01-02T16:05:23Z)
• Probabilistic Concept Bottleneck Models [26.789507935869107]
  解釈可能なモデルは、人間の解釈可能な方法で決定を下すように設計されている。 本研究では,信頼性を損なうようなあいまいさの問題に対処する。 確率論的概念ボトルネックモデル(ProbCBM)を提案する。
  論文  参考訳（メタデータ） (2023-06-02T14:38:58Z)
• I saw, I conceived, I concluded: Progressive Concepts as Bottlenecks [2.9398911304923447]
  概念ボトルネックモデル(CBM)は、予測中間概念の修正による推論時の説明可能性と介入を提供する。 これにより、CBMは高い意思決定に魅力的なものとなる。 胎児超音波検査の品質評価を,医療におけるCBM意思決定支援の現実的ユースケースとして捉えた。
  論文  参考訳（メタデータ） (2022-11-19T09:31:19Z)
• Concept Activation Regions: A Generalized Framework For Concept-Based Explanations [95.94432031144716]
  既存の手法では、概念を説明する例は、ディープニューラルネットワークの潜伏空間の一定の方向にマッピングされていると仮定している。 そこで本研究では,DNNの潜在空間において,異なるクラスタに分散した概念例を提案する。 この概念活性化領域(CAR)は、グローバルな概念に基づく説明と局所的な概念に基づく特徴の重要性をもたらす。
  論文  参考訳（メタデータ） (2022-09-22T17:59:03Z)
• Concept Gradient: Concept-based Interpretation Without Linear Assumption [77.96338722483226]
  概念活性化ベクトル(Concept Activation Vector, CAV)は、与えられたモデルと概念の潜在表現の間の線形関係を学習することに依存する。 我々は、線形概念関数を超えて概念に基づく解釈を拡張する概念グラディエント(CG)を提案した。 我々は、CGがおもちゃの例と実世界のデータセットの両方でCAVより優れていることを実証した。
  論文  参考訳（メタデータ） (2022-08-31T17:06:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。