論文の概要: Are Concept Bottleneck Models Effective as Decision-Support Systems?

• arxiv url: http://arxiv.org/abs/2608.25581v1
• Date: Wed, 26 Aug 2026 09:42:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-27 14:15:15.723615
• Title: Are Concept Bottleneck Models Effective as Decision-Support Systems?
• Title（参考訳）: 概念ボトルネックモデルは意思決定支援システムとして有効か?
• Abstract要約: 概念ボトルネックモデル(Concept Bottleneck Models, CBM)は、人間の理解可能な概念を入力から検出し、それらを使用して予測を生成する、解釈可能なニューラルネットワークである。 本稿では,モデルの概念に対する概念に基づく説明とユーザ介入が,人間-AIチームのパフォーマンスにどのように影響するかを評価する。 以上の結果から,CBMは非解釈型AIサポートによる人的パフォーマンスとパフォーマンスの両方に対して,人間-AIチームの精度を向上できることが示された。
• 参考スコア（独自算出の注目度）: 48.16053753967562
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Concept Bottleneck Models (CBMs) are interpretable-by-design neural networks that detect human-understandable concepts from the input and use them to generate predictions. By allowing users to inspect the concepts underlying a prediction and explore how predictions change under alternative concept configurations, CBMs have emerged as one of the most prominent approaches to supporting human-AI collaboration. However, user studies investigating their actual effectiveness as decision-support systems remain limited. We present two large-scale user studies (N participants = 705, N observations = 6,959) evaluating how concept-based explanations and user interventions on the model's concepts affect the performance of the human-AI team in two distinct binary classification tasks. Our results show that CBMs, and particularly their interactive component, can improve human-AI team accuracy relative to both unaided human performance and performance with non-interpretable AI support. However, these benefits emerge only under certain conditions: classification tasks perceived as difficult, easily identifiable concepts, and active interaction with the model. We also discuss how inaccurate concept detection may undermine users' trust in the model. Overall, this work provides practical guidance for the deployment of CBMs as effective decision-support tools.
• Abstract（参考訳）: 概念ボトルネックモデル(Concept Bottleneck Models, CBM)は、人間の理解可能な概念を入力から検出し、それらを使用して予測を生成する、解釈可能なニューラルネットワークである。 ユーザは予測の根底にある概念を検査し、代替的な概念構成の下で予測がどのように変化するかを調べることで、CBMは人間とAIのコラボレーションをサポートするための最も顕著なアプローチの1つとして現れました。 しかし、意思決定支援システムとしての実際の効果を調査するユーザ研究は依然として限られている。 モデルの概念に対する概念に基づく説明とユーザ介入が,2つの異なるバイナリ分類タスクにおける人間-AIチームのパフォーマンスにどのように影響するかを,2つの大規模ユーザスタディ(N値=705,N値=6,959)で評価した。 以上の結果から,CBM,特に対話的コンポーネントは,非解釈不能なAIサポートによる人的パフォーマンスとパフォーマンスの両方に対して,人間とAIのチームの精度を向上させることができることがわかった。 しかし、これらの利点は特定の条件下でのみ現れる: 分類タスクは困難と認識され、容易に識別できる概念であり、モデルとの活発な相互作用である。 また,不正確な概念検出がモデルに対するユーザの信頼を損なう可能性についても論じる。 全体として、この研究は、効果的な意思決定支援ツールとしてCBMを配備するための実践的なガイダンスを提供する。

関連論文リスト

• Rethinking Concept Bottleneck Models: From Pitfalls to Solutions [53.84388497227224]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念の基底予測である。 CBM-Suiteはこれらの課題に対処するための方法論的なフレームワークである。
  論文  参考訳（メタデータ） (2026-03-05T19:37:49Z)
• The Impact of Concept Explanations and Interventions on Human-Machine Collaboration [0.03999851878220877]
  CBM(Concept Bottleneck Models)は、タスクラベルを予測するための中間ステップとして、人間定義の概念を予測するために導入された。 CBMは標準的なディープニューラルネットワーク(DNN)と比較して解釈性を改善する しかし、このアライメントの増加はタスクの精度を大幅に向上させるには至らなかった。
  論文  参考訳（メタデータ） (2025-10-19T16:44:24Z)
• Interpretable Reward Modeling with Active Concept Bottlenecks [54.00085739303773]
  本稿では,解釈可能な嗜好学習を可能にする報酬モデリングフレームワークであるConcept Bottleneck Reward Models (CB-RM)を紹介する。 不透明報酬関数に依存する標準的なRLHF法とは異なり、CB-RMは報酬予測を人間の解釈可能な概念に分解する。 我々は,最も情報性の高い概念ラベルを動的に取得する能動的学習戦略を定式化する。
  論文  参考訳（メタデータ） (2025-07-07T06:26:04Z)
• DeCoDe: Defer-and-Complement Decision-Making via Decoupled Concept Bottleneck Models [37.118479480792416]
  我々は人間-AI協調のための概念駆動型フレームワークを提案する。 DeCoDeは人間解釈可能な概念表現に基づいて戦略決定を行う。 自律的なAI予測、人間への延期、人間とAIの協調的な相補性という3つのモードをサポートする。
  論文  参考訳（メタデータ） (2025-05-25T16:34:45Z)
• V-CEM: Bridging Performance and Intervenability in Concept-based Models [6.617167508694296]
  概念ベースのAI(C-XAI)は、中間的、人間の理解可能な概念を活用することにより、AIモデルの解釈可能性を高める、急速に成長する研究分野である。 CBMは最終決定の前に概念を明示的に予測し、介入が誤分類された概念を修正できるようにする。 CBMは介入を伴うOF-Distribution(OOD)設定でも有効であるが、ブラックボックスモデルのパフォーマンスに匹敵する。 本稿では,CEMの介入応答性を改善するために,変分推論を利用する変分概念埋め込みモデルを提案する。
  論文  参考訳（メタデータ） (2025-04-04T22:43:04Z)
• Adaptive Test-Time Intervention for Concept Bottleneck Models [6.31833744906105]
  概念ボトルネックモデル(CBM)は、人間レベルの「概念」を予測することによってモデルの解釈可能性を改善することを目的としている 我々は,2成分蒸留(BD)を得るためにFIGS(Fast Interpretable Greedy Sum-Trees)を提案する。 FIGS-BDは、CBMのバイナリ拡張されたコンセプト・トゥ・ターゲット部分を解釈可能なツリーベースモデルに蒸留する。
  論文  参考訳（メタデータ） (2025-03-09T19:03:48Z)
• Improving Intervention Efficacy via Concept Realignment in Concept Bottleneck Models [57.86303579812877]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念に基づいて、解釈可能なモデル決定を可能にする画像分類である。 既存のアプローチは、強いパフォーマンスを達成するために、画像ごとに多数の人間の介入を必要とすることが多い。 本稿では,概念関係を利用した学習型概念認識介入モジュールについて紹介する。
  論文  参考訳（メタデータ） (2024-05-02T17:59:01Z)
• Learning to Receive Help: Intervention-Aware Concept Embedding Models [44.1307928713715]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、高レベルの概念セットを使用して予測を構築し、説明することによって、ニューラルネットワークの不透明さに対処する。 近年の研究では、介入効果は概念が介入される順序に大きく依存していることが示されている。 IntCEM(Intervention-Aware Concept Embedding Model)は,テスト時間介入に対するモデルの受容性を改善する新しいCBMアーキテクチャとトレーニングパラダイムである。
  論文  参考訳（メタデータ） (2023-09-29T02:04:24Z)
• Human Trajectory Forecasting with Explainable Behavioral Uncertainty [63.62824628085961]
  人間の軌道予測は人間の行動を理解し予測し、社会ロボットから自動運転車への応用を可能にする。 モデルフリー手法は予測精度が優れているが説明可能性に欠ける一方、モデルベース手法は説明可能性を提供するが、よく予測できない。 BNSP-SFMは,11種類の最先端手法と比較して,予測精度を最大50%向上することを示す。
  論文  参考訳（メタデータ） (2023-07-04T16:45:21Z)
• Explaining Explainability: Towards Deeper Actionable Insights into Deep Learning through Second-order Explainability [70.60433013657693]
  2階説明可能なAI(SOXAI)は、最近インスタンスレベルからデータセットレベルまで説明可能なAI(XAI)を拡張するために提案されている。 そこで本研究では,SOXAIの動作可能な洞察に基づくトレーニングセットから無関係な概念を除外することで,モデルの性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2023-06-14T23:24:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。