論文の概要: Concept Flow Models: Anchoring Concept-Based Reasoning with Hierarchical Bottlenecks
- arxiv url: http://arxiv.org/abs/2606.19489v1
- Date: Wed, 17 Jun 2026 18:27:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-19 18:23:39.481412
- Title: Concept Flow Models: Anchoring Concept-Based Reasoning with Hierarchical Bottlenecks
- Title（参考訳）: 概念フローモデル:階層型ボトルネックを用いた概念ベース推論
- Authors: Ya Wang, Adrian Paschke,
- Abstract要約: 概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、学習した機能を人間の理解可能な概念空間に投影することで、解釈可能性を高める。
最近のアプローチでは、視覚言語モデルを利用して概念埋め込みを生成し、手動の概念アノテーションの必要性を減らす。
本稿では,フラットボトルネックを階層的な概念駆動決定木に置き換える概念フローモデル(CFM)を提案する。
- 参考スコア（独自算出の注目度）: 4.944427102119257
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Concept Bottleneck Models (CBMs) enhance interpretability by projecting learned features into a human-understandable concept space. Recent approaches leverage vision-language models to generate concept embeddings, reducing the need for manual concept annotations. However, these models suffer from a critical limitation: as the number of concepts approaches the embedding dimension, information leakage increases, enabling the model to exploit spurious or semantically irrelevant correlations and undermining interpretability. In this work, we propose Concept Flow Models (CFMs), which replace the flat bottleneck with a hierarchical, concept-driven decision tree. Each internal node in the hierarchy focuses on a localized subset of discriminative concepts, progressively narrowing the prediction scope. Our framework constructs decision hierarchies from visual embeddings, distributes semantic concepts at each hierarchy level, and trains differentiable concept weights through probabilistic tree traversal. Extensive experiments on diverse benchmarks demonstrate that CFMs match the predictive performance of flat CBMs, while substantially mitigating information leakage by reducing effective concept usage. Furthermore, CFMs yield stepwise decision flows that enable transparent and auditable model reasoning with hierarchical class structures.
- Abstract（参考訳）: 概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、学習した機能を人間の理解可能な概念空間に投影することで、解釈可能性を高める。
最近のアプローチでは、視覚言語モデルを利用して概念埋め込みを生成し、手動の概念アノテーションの必要性を減らす。
しかし、これらのモデルには限界があり、多くの概念が埋め込み次元に近づくにつれて、情報漏洩が増加し、モデルが素早いあるいは意味的に無関係な相関を活用でき、解釈可能性の損なうことができる。
本研究では,フラットボトルネックを階層的,概念駆動型決定木に置き換える概念フローモデル(CFM)を提案する。
階層内の各内部ノードは、識別的概念の局所化されたサブセットに焦点を当て、予測範囲を徐々に狭めている。
本フレームワークは,視覚的埋め込みから決定階層を構築し,各階層レベルで意味論的概念を分散し,確率的ツリートラバーサルを通じて微分可能概念重みを訓練する。
多様なベンチマーク実験により、CFMはフラットなCBMの予測性能と一致し、効果的な概念利用を減らすことで情報漏洩を著しく軽減することを示した。
さらに、CFMは階層的なクラス構造を持つ透明で監査可能なモデル推論を可能にする段階的な決定フローを得る。
関連論文リスト
- Rethinking Concept Bottleneck Models: From Pitfalls to Solutions [53.84388497227224]
概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念の基底予測である。
CBM-Suiteはこれらの課題に対処するための方法論的なフレームワークである。
論文 参考訳（メタデータ） (2026-03-05T19:37:49Z) - FaCT: Faithful Concept Traces for Explaining Neural Network Decisions [56.796533084868884]
ディープネットワークは、幅広いタスクで顕著なパフォーマンスを示しているが、それらの機能に関するグローバルな概念レベルの理解は、依然として重要な課題である。
本稿では,概念に基づく説明の忠実さを強調し,モデル独立な機械的概念説明を用いた新しいモデルを提案する。
私たちの概念はクラス間で共有され、あらゆるレイヤから、ロジットへの貢献と入力-視覚化を忠実にトレースすることができます。
論文 参考訳（メタデータ） (2025-10-29T13:35:46Z) - Towards more holistic interpretability: A lightweight disentangled Concept Bottleneck Model [5.700536552863068]
概念ボトルネックモデル(CBM)は、人間の理解可能な概念を中間表現として予測することにより、解釈可能性を高める。
本稿では,視覚的特徴を意味論的に意味のある構成要素に自動的に分類する軽量なDECBMを提案する。
3つの多様なデータセットの実験により、LCDBMはより高い概念とクラス精度を達成し、解釈可能性と分類性能の両方において従来のCBMよりも優れていたことが示されている。
論文 参考訳（メタデータ） (2025-10-17T15:59:30Z) - ConceptFlow: Hierarchical and Fine-grained Concept-Based Explanation for Convolutional Neural Networks [14.365259717799034]
畳み込みニューラルネットワーク(CNN)の概念に基づく解釈可能性とは、内部モデル表現と高レベルの意味論的概念の整合性である。
モデルの内部の「思考経路」をシミュレートする概念ベースの解釈可能性フレームワークであるConceptFlowを提案する。
論文 参考訳（メタデータ） (2025-09-16T03:02:46Z) - Graph Concept Bottleneck Models [26.57626285653119]
概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、概念を通したディープニューラルネットワークの明確な解釈を提供する。
提案するグラフCBMは,潜在概念グラフを構築することで概念関係を容易にするCBMの新たな変種である。
論文 参考訳（メタデータ） (2025-08-19T20:23:18Z) - Interpretable Reward Modeling with Active Concept Bottlenecks [54.00085739303773]
本稿では,解釈可能な嗜好学習を可能にする報酬モデリングフレームワークであるConcept Bottleneck Reward Models (CB-RM)を紹介する。
不透明報酬関数に依存する標準的なRLHF法とは異なり、CB-RMは報酬予測を人間の解釈可能な概念に分解する。
我々は,最も情報性の高い概念ラベルを動的に取得する能動的学習戦略を定式化する。
論文 参考訳（メタデータ） (2025-07-07T06:26:04Z) - Interpretable Few-Shot Image Classification via Prototypical Concept-Guided Mixture of LoRA Experts [79.18608192761512]
自己説明可能なモデル(SEM)は、視覚認識プロセスをより解釈可能なものにするために、プロトタイプ概念学習(PCL)に依存している。
パラメトリック不均衡と表現の不整合という2つの重要な課題を緩和するFew-Shotプロトタイプ概念分類フレームワークを提案する。
我々のアプローチは、既存のSEMを顕著な差で常に上回っており、5-way 5-shot分類では4.2%-8.7%の相対的な利得がある。
論文 参考訳（メタデータ） (2025-06-05T06:39:43Z) - Towards Better Generalization and Interpretability in Unsupervised Concept-Based Models [9.340843984411137]
本稿では、LCBM(Learningable Concept-Based Model)という、画像分類のための教師なし概念ベースモデルを提案する。
我々はLCBMが既存の教師なし概念ベースモデルを上回る一般化能力を示し、ブラックボックスモデルの性能とほぼ一致することを示した。
概念埋め込みの利用にもかかわらず、我々は概念の局所的な線形結合によるモデル解釈可能性を維持している。
論文 参考訳（メタデータ） (2025-06-02T16:26:41Z) - Concept Layers: Enhancing Interpretability and Intervenability via LLM Conceptualization [2.163881720692685]
本稿では,概念層をアーキテクチャに組み込むことにより,解釈可能性とインターベンタビリティを既存モデルに組み込む新しい手法を提案する。
我々のアプローチは、モデルの内部ベクトル表現を、再構成してモデルにフィードバックする前に、概念的で説明可能なベクトル空間に投影する。
複数のタスクにまたがるCLを評価し、本来のモデルの性能と合意を維持しつつ、意味のある介入を可能にしていることを示す。
論文 参考訳（メタデータ） (2025-02-19T11:10:19Z) - Improving Intervention Efficacy via Concept Realignment in Concept Bottleneck Models [57.86303579812877]
概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念に基づいて、解釈可能なモデル決定を可能にする画像分類である。
既存のアプローチは、強いパフォーマンスを達成するために、画像ごとに多数の人間の介入を必要とすることが多い。
本稿では,概念関係を利用した学習型概念認識介入モジュールについて紹介する。
論文 参考訳（メタデータ） (2024-05-02T17:59:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。