論文の概要: Interpretable but Fragile? Robustness of Concept Bottlenecks under Geometric-Semantic Perturbations
- arxiv url: http://arxiv.org/abs/2609.38625v1
- Date: Tue, 29 Sep 2026 22:35:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:26.813222
- Title: Interpretable but Fragile? Robustness of Concept Bottlenecks under Geometric-Semantic Perturbations
- Title（参考訳）: 解釈は可能か? 幾何学的・意味的摂動下における概念ボトルネックのロバスト性
- Abstract要約: 概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、解釈可能な中間表現を提供するように設計されている。
我々は、不一致は異なる堅牢性の概念と摂動体制を混同することによって生じると論じる。
- 参考スコア（独自算出の注目度）: 15.406989753867604
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Concept Bottleneck Models (CBMs) are designed to provide interpretable intermediate representations, yet how such bottlenecks affect robustness remains unclear, with existing studies reporting mixed and sometimes contradictory findings. We argue that these discrepancies arise from conflating different robustness notions and perturbation regimes, rather than from fundamental disagreements about CBMs themselves. To disentangle these factors, we introduce a generator-based evaluation framework that enables controlled comparisons between standard classifiers and CBMs under two distinct perturbation types: continuous geometric perturbations in latent space and discrete semantic interventions in concept space. Within this framework, we evaluate robustness both empirically, via prediction and concept-level sensitivity metrics, and certifiably, using randomized smoothing in latent and concept spaces. Across experiments, we reconcile previously conflicting findings by clarifying when, and in what sense, concept bottlenecks do or do not improve robustness. By further analyzing robustness under varying task conditions, including class semantic similarity and concept vocabulary size, we show that interpretability does not inherently confer robustness. Instead, concept bottlenecks shift where and how sensitivity manifests, revealing a nuanced interpretability robustness trade off that depends critically on the perturbation regime and task structure. Together, our results show that interpretability and robustness are distinct objectives: interpretable intermediate representations do not uniformly improve robustness, but instead redistribute sensitivity across perturbation spaces and model families.
- Abstract（参考訳）: 概念ボトルネックモデル(英語版)(CBM)は解釈可能な中間表現を提供するように設計されているが、そのようなボトルネックが頑健性にどのように影響するかは未だ不明であり、既存の研究では混在する、時には矛盾する発見を報告している。
これらの相違は、CBM自体に関する根本的な意見の相違からではなく、異なる堅牢性の概念と摂動体制を混同することによるものである、と我々は主張する。
これらの要因を解消するために、我々は標準分類器とCBMの制御された比較を可能にするジェネレータベースの評価フレームワークを導入する。
このフレームワーク内では,予測と概念レベルの感度指標を用いて,実証的および実証的にロバスト性を評価し,潜在空間と概念空間のランダムな平滑化を用いて検証する。
実験全体では、これまで相反する発見を、概念ボトルネックがいつ、何故、いつ、どのように、堅牢性を改善するのかを明確にすることで、一致させます。
クラス意味的類似性や概念語彙サイズなど,様々なタスク条件下でのロバスト性をさらに分析することにより,解釈可能性が本質的にロバスト性を示すものではないことを示す。
代わりに、概念のボトルネックは、感度がどのように現れるか、どのように変化するかを変え、摂動体制やタスク構造に大きく依存する、微妙な解釈可能性の堅牢さが引き離される。
解釈可能な中間表現は、頑健さを均一に改善するのではなく、摂動空間やモデルファミリー間での感度を再分配する。
関連論文リスト
- Interpreting Object-Dependent Concept Brittleness in Text-to-Image Diffusion Models [105.53190946111586]
我々はこの現象をオブジェクト依存概念の脆さと呼ぶ。
これらの障害を監査し、最小限に修正する、解釈可能性指向のフレームワークを提案する。
複数の拡散バックボーンにまたがるスタイルと属性の故障事例について,提案手法の評価を行った。
論文 参考訳（メタデータ） (2026-09-09T09:07:40Z) - ReCBM: Uncertainty-Gated Relational Reasoning for Concept Bottleneck Models [16.64288013782432]
概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解できない概念の予測を基礎として解釈可能なフレームワークを提供する。
近年の変種は、よりリッチな概念表現、不確実性推定、依存性モデリングを通じてCBMを改善している。
CBMのための不確実性付き関係推論フレームワークであるReCBMを提案する。
論文 参考訳（メタデータ） (2026-08-07T19:59:47Z) - Aligning LLM Uncertainty with Human Disagreement in Subjectivity Analysis [57.78407973423517]
我々は、モデルが人間の不一致を反映した不確実性を表現しながら予測する不確実性を考慮した主観性分析を提唱する。
この視点を運用するために,二相認識と不確実性アライメントの枠組みを提案する。
3つの主観的分析課題の実験は、DPUAが人間の不一致とモデルの不確実性をよりよく整合させながら、タスク性能を保っていることを示している。
論文 参考訳（メタデータ） (2026-05-11T11:52:58Z) - Rethinking Concept Bottleneck Models: From Pitfalls to Solutions [53.84388497227224]
概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念の基底予測である。
CBM-Suiteはこれらの課題に対処するための方法論的なフレームワークである。
論文 参考訳（メタデータ） (2026-03-05T19:37:49Z) - Same Answer, Different Representations: Hidden instability in VLMs [65.36933543377346]
本稿では,内部埋め込みドリフト,スペクトル感度,構造的滑らかさを計測する表現認識・周波数認識評価フレームワークを提案する。
このフレームワークを,SEEDBench,MMMU,POPEデータセットを対象とする最新のビジョン言語モデル(VLM)に適用する。
論文 参考訳（メタデータ） (2026-02-06T12:24:26Z) - From Isolation to Entanglement: When Do Interpretability Methods Identify and Disentangle Known Concepts? [28.267480861600784]
スパースオートエンコーダ (SAEs) やスパースプローブ (sparse probes) を含む一般的なデファチュアライズ手法がこれらの概念の非絡み合い表現を復元するかどうかは不明である。
まず,各概念の絡み合った表現を,相関関係の強みを増すことによって学習できる程度の評価を行った。
次に、各概念が独立して操作可能であるかどうかを測定するステアリング実験を行う。
論文 参考訳（メタデータ） (2025-12-17T06:54:08Z) - Benchmarking Corruption Robustness of LVLMs: A Discriminative Benchmark and Robustness Alignment Metric [49.393713730706445]
汚損の堅牢性を評価するための識別サンプルを強調したベンチマークであるBench-Cを紹介する。
本稿では,ロバストネスアライメントスコア(RAS)を提案する。
論文 参考訳（メタデータ） (2025-11-24T12:07:56Z) - An Analysis of Concept Bottleneck Models: Measuring, Understanding, and Mitigating the Impact of Noisy Annotations [5.1407074797284285]
概念ボトルネックモデル(CBM)は、予測を人間の解釈可能な概念に分解することで、解釈可能性を保証する。
しかし、この透明性を実現するためのCBMのトレーニングに使用されるアノテーションは、しばしばうるさくなります。
適度な腐敗でさえ、予測性能、解釈可能性、介入効果を同時に損なう。
論文 参考訳（メタデータ） (2025-05-22T14:06:55Z) - Towards Robust and Reliable Concept Representations: Reliability-Enhanced Concept Embedding Model [22.865870813626316]
概念ボトルネックモデル(Concept Bottleneck Models, CBM)は、人間の理解可能な概念を意思決定の中間体として予測することにより、解釈可能性を高めることを目的としている。
概念に関係のない特徴に対する感受性と、異なるサンプルの同じ概念に対する意味的一貫性の欠如である。
本稿では,Reliability-Enhanced Concept Embedding Model (RECEM) を提案する。Reliability-Enhanced Concept Embedding Model (RECEM) は2つの戦略を導入する。
論文 参考訳（メタデータ） (2025-02-03T09:29:39Z) - Dive into Ambiguity: Latent Distribution Mining and Pairwise Uncertainty
Estimation for Facial Expression Recognition [59.52434325897716]
DMUE(DMUE)という,アノテーションのあいまいさを2つの視点から解決するソリューションを提案する。
前者に対しては,ラベル空間における潜伏分布をよりよく記述するために,補助的マルチブランチ学習フレームワークを導入する。
後者の場合、インスタンス間の意味的特徴のペアワイズ関係を完全に活用して、インスタンス空間のあいまいさの程度を推定する。
論文 参考訳（メタデータ） (2021-04-01T03:21:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。