論文の概要: OCCAM: Open-set Causal Concept explAnation and Ontology induction for black-box vision Models

• arxiv url: http://arxiv.org/abs/2605.18481v1
• Date: Mon, 18 May 2026 14:33:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 17:57:49.794127
• Title: OCCAM: Open-set Causal Concept explAnation and Ontology induction for black-box vision Models
• Title（参考訳）: OCCAM:ブラックボックス視覚モデルのためのオープンセット因果概念抽出とオントロジー誘導
• Authors: Chiara Maria Russo, Simone Carnemolla, Simone Palazzo, Daniela Giordano, Concetto Spampinato, Matteo Pennisi,
• Abstract要約: OCCAMは、視覚モデルにおけるオープンセット因果概念の説明と誘導のためのフレームワークである。 OCCAMは、オープンセットで視覚概念を発見し、テキスト誘導セグメンテーションを介してそれらをローカライズし、オブジェクトレベルの介入を行う。 OCCAMは、画像毎の属性よりも、より豊かなグローバルな洞察を提供しながら、オープンセットのブラックボックス設定における説明品質を向上させる。
• 参考スコア（独自算出の注目度）: 15.011814561603964
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Interpreting the decisions of deep image classifiers remains challenging, particularly in black-box settings where model internals are inaccessible. We introduce OCCAM, a framework for open-set causal concept explanation and ontology induction in vision models. OCCAM discovers visual concepts in an open-set manner, localizes them via text-guided segmentation, and performs object-level interventions by removing concepts to measure changes in class confidence, estimating each concept's causal contribution. Beyond local explanations, OCCAM aggregates interventional evidence across a dataset to induce a structured concept ontology that captures how classifiers globally organize visual concepts. Reasoning over this ontology reveals consistent dependencies between concepts, exposes latent causal relations, and uncovers systematic model biases. Experiments on Broden and ImageNet-S across multiple classifiers show that OCCAM improves explanation quality in open-set black-box settings while providing richer global insight than per-image attribution methods.
• Abstract（参考訳）: ディープイメージ分類器の決定を解釈することは、特にモデル内部がアクセスできないブラックボックス設定では、依然として難しい。 我々は、視覚モデルにおけるオープンセット因果概念の説明とオントロジー誘導のためのフレームワークであるOCCAMを紹介する。 OCCAMは視覚的概念をオープンな方法で発見し、テキスト誘導セグメンテーションを介してローカライズし、クラス信頼度の変化を測定するために概念を除去し、各概念の因果貢献を推定することによってオブジェクトレベルの介入を行う。 OCCAMは、局所的な説明の他に、データセット全体にわたる介入証拠を集約して、分類器が視覚的概念をグローバルに整理する方法をキャプチャする構造化概念オントロジーを誘導する。 このオントロジーに対する推論は、概念間の一貫した依存関係を明らかにし、潜在因果関係を明らかにし、体系的なモデルバイアスを明らかにする。 複数の分類器にまたがるBrodenとImageNet-Sの実験では、OCCAMはオープンセットのブラックボックス設定における説明品質を改善しつつ、画像毎の属性メソッドよりも豊かなグローバルインサイトを提供する。

関連論文リスト

• Rethinking Concept Bottleneck Models: From Pitfalls to Solutions [53.84388497227224]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の理解可能な概念の基底予測である。 CBM-Suiteはこれらの課題に対処するための方法論的なフレームワークである。
  論文  参考訳（メタデータ） (2026-03-05T19:37:49Z)
• FaCT: Faithful Concept Traces for Explaining Neural Network Decisions [56.796533084868884]
  ディープネットワークは、幅広いタスクで顕著なパフォーマンスを示しているが、それらの機能に関するグローバルな概念レベルの理解は、依然として重要な課題である。 本稿では,概念に基づく説明の忠実さを強調し,モデル独立な機械的概念説明を用いた新しいモデルを提案する。 私たちの概念はクラス間で共有され、あらゆるレイヤから、ロジットへの貢献と入力-視覚化を忠実にトレースすることができます。
  論文  参考訳（メタデータ） (2025-10-29T13:35:46Z)
• From Segments to Concepts: Interpretable Image Classification via Concept-Guided Segmentation [21.421373394306837]
  概念ボトルネックモデル (Concept Bottleneck Models, CBM) は、人間の解釈可能な概念を推論することで透明性を向上させることを目的としている。 本稿では,概念誘導画像セグメンテーションを注目型マルチインスタンス学習フレームワークに統合する新しいフレームワークSEG-MIL-CBMを提案する。 意味論的に意味のある領域を高レベルな概念に合わせることによって,タスク関連証拠,非関連な重み付け,空間的基盤のある概念レベルの説明を生成する。
  論文  参考訳（メタデータ） (2025-10-05T12:48:43Z)
• What Drives Compositional Generalization in Visual Generative Models? [56.01574461407906]
  画像生成と映像生成において,様々なデザイン選択が構成一般化にどのように影響するかを体系的に研究する。 i)訓練対象が離散的あるいは連続的な分布に作用するか否か,および(ii)訓練中に構成概念に関する情報を提供する条件がどの程度あるか,という2つの要因を同定する。 これらの知見に基づいて,MaskGITの離散的損失を補助的連続JEPAベースで緩和することにより,MaskGITのような離散モデルにおける構成性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2025-10-03T15:02:27Z)
• Visual Concept Connectome (VCC): Open World Concept Discovery and their Interlayer Connections in Deep Models [21.245185285617698]
  視覚概念接続(VCC)は、人間の解釈可能な概念とその層間接続を、完全に教師なしの方法で発見する。 提案手法は,すべての層にまたがる接続重み付けを同時に実現し,ネットワーク構造のグローバルな解析に有効である。
  論文  参考訳（メタデータ） (2024-04-02T18:40:55Z)
• Advancing Ante-Hoc Explainable Models through Generative Adversarial Networks [24.45212348373868]
  本稿では,視覚的分類タスクにおけるモデル解釈可能性と性能を向上させるための新しい概念学習フレームワークを提案する。 本手法では, 教師なし説明生成器を一次分類器ネットワークに付加し, 対角訓練を利用する。 この研究は、タスク整合概念表現を用いた本質的に解釈可能なディープビジョンモデルを構築するための重要なステップを示す。
  論文  参考訳（メタデータ） (2024-01-09T16:16:16Z)
• Unsupervised Learning of Compositional Energy Concepts [70.11673173291426]
  本稿では,概念を別個のエネルギー関数として発見し,表現するCOMETを提案する。 Cometは、統一されたフレームワークの下でのオブジェクトだけでなく、グローバルな概念も表現します。
  論文  参考訳（メタデータ） (2021-11-04T17:46:12Z)
• Interpretable Visual Reasoning via Induced Symbolic Space [75.95241948390472]
  視覚的推論における概念誘導の問題,すなわち,画像に関連付けられた質問応答対から概念とその階層的関係を同定する。 我々はまず,オブジェクトレベルの視覚的特徴を持つ視覚的推論タスクを実行するために,オブジェクト指向合成注意モデル(OCCAM)という新しいフレームワークを設計する。 そこで我々は,対象の視覚的特徴と質問語の間の注意パターンから手がかりを用いて,対象と関係の概念を誘導する手法を考案した。
  論文  参考訳（メタデータ） (2020-11-23T18:21:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。