論文の概要: CB-SLICE: Concept-Based Interpretable Error Slice Discovery
- arxiv url: http://arxiv.org/abs/2605.29836v1
- Date: Thu, 28 May 2026 12:16:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-30 02:45:56.227524
- Title: CB-SLICE: Concept-Based Interpretable Error Slice Discovery
- Title（参考訳）: CB-SLICE:概念に基づく解釈可能なエラースライス発見
- Authors: Yael Konforti, Mateo Espinosa Zarlenga, Elaf Almahmoud, Mateja Jamnik,
- Abstract要約: ディープラーニングモデルは、しばしば、エラースライスとして知られる特定の集団の体系的なエラーを示す。
CB-SLICE(CB-SLICE)は,SDM(Slice Discovery Methods)の一種で,サンプルを共有概念予測エラーでグループ化し,各スライスの障害モードに最も責任があるキーワード概念を識別する。
CB-SLICEは、モデルエラーのより豊かで忠実な説明を提供しながら、よく知られたバイアスを明らかにする上で、最先端の手法よりも優れていることを示す。
- 参考スコア（独自算出の注目度）: 22.082043372942138
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Despite strong average-case performance, deep learning models often exhibit systematic errors on specific population groups, known as error slices. Identifying these groups and the root causes of their failures is critical for model debugging and bias mitigation. However, existing error Slice Discovery Methods (SDMs) typically generate explanations disconnected from the model's inference process, thus only approximating the underlying error source and may be inaccurate. We address this limitation by leveraging Concept Bottleneck Models (CBMs), whose predictions are directly dependent on human-understandable semantic concepts. Since downstream task failures in CBMs commonly arise from concept mispredictions, concept representations provide a strong candidate for error slice identification, offering fine-grained explanations directly linked to the error source. Building on this insight, we introduce CB-SLICE, a concept-based SDM that groups samples with shared concept prediction failures and identifies the keyword concepts most responsible for each slice's failure mode. Across multiple benchmarks, we show that CB-SLICE outperforms state-of-the-art methods in uncovering well-known biases while providing richer and more faithful explanations of model errors.
- Abstract（参考訳）: 高い平均ケース性能にもかかわらず、ディープラーニングモデルは、しばしばエラースライスとして知られる特定の集団の体系的なエラーを示す。
これらのグループとその失敗の根本原因を特定することは、モデルのデバッグとバイアス軽減に不可欠である。
しかしながら、既存のSDM(Slice Discovery Methods)は一般的にモデルの推論プロセスから切り離された説明を生成するため、基礎となるエラーソースを近似するだけで不正確な可能性がある。
我々は,人間の理解可能なセマンティック概念に直接依存する概念ボトルネックモデル(CBM)を活用することで,この制限に対処する。
CBMのダウンストリームタスク障害は、一般的に概念的誤予測から生じるため、概念表現はエラースライス識別の強い候補を提供し、エラーソースに直接リンクしたきめ細かい説明を提供する。
この知見に基づいて、CB-SLICEという概念ベースのSDMを導入し、共有概念予測失敗のサンプルをグループ化し、各スライスの障害モードに最も責任があるキーワード概念を識別する。
複数のベンチマークにおいて、CB-SLICEは、モデルエラーのより豊かで忠実な説明を提供しながら、よく知られたバイアスを明らかにするために最先端の手法よりも優れていることを示す。
関連論文リスト
- Probabilistic Concept Graph Reasoning for Multimodal Misinformation Detection [50.08054676999716]
確率論的概念グラフ推論(PCGR)は,マルチモーダルな誤情報検出を構造化および概念ベース推論として再構成する,解釈可能かつ進化可能なフレームワークである。
PCGRは、最先端のMDD精度と、新たな操作タイプに対する堅牢性を達成し、粗い検出ときめ細かい操作認識の両方において、先行手法より優れている。
論文 参考訳（メタデータ） (2026-03-26T09:08:31Z) - Rethinking Concept Bottleneck Models: From Pitfalls to Solutions [53.84388497227224]
概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念の基底予測である。
CBM-Suiteはこれらの課題に対処するための方法論的なフレームワークである。
論文 参考訳（メタデータ） (2026-03-05T19:37:49Z) - Debugging Concept Bottleneck Models through Removal and Retraining [11.162969587770094]
概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の解釈可能な概念のセットを用いて最終タスクラベルを予測する。
これらの介入は、CBMと専門家の推論の体系的な不一致に対処することができない。
本稿では,CBMの2段階の除去・再訓練プロセスに追従する一般的な解釈可能なフレームワークを提案する。
論文 参考訳（メタデータ） (2025-09-23T18:32:46Z) - MulCPred: Learning Multi-modal Concepts for Explainable Pedestrian Action Prediction [57.483718822429346]
MulCPredは、トレーニングサンプルで表されるマルチモーダルな概念に基づいて、その予測を説明する。
MulCPredは複数のデータセットとタスクで評価される。
論文 参考訳（メタデータ） (2024-09-14T14:15:28Z) - Cycles of Thought: Measuring LLM Confidence through Stable Explanations [53.15438489398938]
大規模言語モデル(LLM)は、様々なベンチマークで人間レベルの精度に到達し、さらに超えることができるが、不正確な応答における過度な自信は、依然として十分に文書化された障害モードである。
本稿では,LLMの不確実性を測定するためのフレームワークを提案する。
論文 参考訳（メタデータ） (2024-06-05T16:35:30Z) - Sparse Linear Concept Discovery Models [11.138948381367133]
概念ボトルネックモデル(Concept Bottleneck Models, CBM)は、隠蔽層が人間の理解可能な概念に結びついている一般的なアプローチである。
本稿では,Contrastive Language Imageモデルと単一スパース線形層に基づく,シンプルかつ直感的に解釈可能なフレームワークを提案する。
実験により、我々のフレームワークは、最近のCBMアプローチを精度的に上回るだけでなく、一例あたりの疎度も高いことを示す。
論文 参考訳（メタデータ） (2023-08-21T15:16:19Z) - Explanation Method for Anomaly Detection on Mixed Numerical and
Categorical Spaces [0.9543943371833464]
EADMNC (混合数値およびカテゴリー空間における説明可能な異常検出)
これは、元のモデルで得られた予測に説明可能性を追加する。
本稿では,大規模な実世界のデータ,特にネットワーク侵入検出領域における実験結果について報告する。
論文 参考訳（メタデータ） (2022-09-09T08:20:13Z) - Interpretable Data-Based Explanations for Fairness Debugging [7.266116143672294]
Gopherは、バイアスや予期せぬモデルの振る舞いに関するコンパクトで解釈可能な、因果的な説明を生成するシステムである。
我々は,学習データに介入する程度を,サブセットの削除や更新によって定量化する因果責任の概念を導入し,バイアスを解消する。
この概念に基づいて、モデルバイアスを説明するトップkパターンを生成するための効率的なアプローチを開発する。
論文 参考訳（メタデータ） (2021-12-17T20:10:00Z) - Meaningfully Explaining a Model's Mistakes [16.521189362225996]
本稿では,概念的説明スコア (CES) の体系的アプローチを提案する。
CESでは、分類器が特定のテストサンプルに対して、人間の理解可能な概念で間違いを犯す理由を説明している。
また、意図的かつ既知の刺激的な相関関係を持つ新しいモデルをトレーニングしています。
論文 参考訳（メタデータ） (2021-06-24T01:49:55Z) - Predicting Unreliable Predictions by Shattering a Neural Network [145.3823991041987]
線形ニューラルネットワークは、サブファンクションに分割することができる。
サブファンクションは、独自のアクティベーションパターン、ドメイン、経験的エラーを持っている。
完全なネットワークに対する経験的エラーは、サブファンクションに対する期待として記述できる。
論文 参考訳（メタデータ） (2021-06-15T18:34:41Z) - Beyond Trivial Counterfactual Explanations with Diverse Valuable
Explanations [64.85696493596821]
コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。
本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。
このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
論文 参考訳（メタデータ） (2021-03-18T12:57:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。