論文の概要: Hide and Seek: HIDE Concepts to SEEK explanations for black box models

• arxiv url: http://arxiv.org/abs/2610.13935v3
• Date: Wed, 14 Oct 2026 03:57:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.004217
• Title: Hide and Seek: HIDE Concepts to SEEK explanations for black box models
• Title（参考訳）: Hide and Seek: HIDE Concepts to SEEK explainss for black box model
• Abstract要約: 概念に基づく帰属法は分類と回帰モデルしか解釈できない。 我々は,モデルウェイトやラベル付き概念データセットへのアクセスを必要としない,概念レベルの属性の新たな方法であるHie and Seek (HnS)を提案する。 HnSは、視覚言語モデルを用いて概念に沿ったイメージを取得し、各イメージ内の概念をローカライズし、ローカライズされた領域をマスクし、ブラックボックスモデルの出力の変化から属性を測定する。
• 参考スコア（独自算出の注目度）: 16.137465927052506
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Interpreting machine learning model predictions is a central challenge, particularly for black-box vision models. Concept-based attribution methods interpret models using human-understandable concepts. Existing concept-based methods can only interpret classification and regression models. They require access to model weights or large concept-annotated datasets, and most methods cannot provide image-level attribution. We propose Hide and Seek (HnS), a new method for concept-level attribution that does not require access to model weights or labeled concept datasets. HnS can interpret a wide range of vision models. Given a concept and image set, HnS retrieves concept-aligned images using a vision-language model, localizes the concept within each image, masks the localized region, and measures attribution from the change in the black-box model's output between the original and masked images. This enables faithful attribution by directly measuring the model's behavior and supporting local attributions. We validated HnS on CelebA and COCO-Stuff. Compared to existing methods, HnS showed better agreement with ground-truth attributions. We demonstrated the applicability of HnS on diverse tasks, including image captioning and satellite image segmentation, where no existing concept attribution method can be used. We provided our anonymous code in the supplementary material.
• Abstract（参考訳）: 機械学習モデル予測の解釈は、特にブラックボックスビジョンモデルにおいて、中心的な課題である。 概念に基づく帰属法は、人間の理解可能な概念を用いてモデルを解釈する。 既存の概念に基づく手法は、分類と回帰モデルしか解釈できない。 モデルウェイトや大きな概念アノテーション付きデータセットへのアクセスが必要であり、ほとんどの方法では画像レベルの属性を提供できない。 我々は,モデルウェイトやラベル付き概念データセットへのアクセスを必要としない,概念レベルの属性の新たな方法であるHie and Seek (HnS)を提案する。 HnSは幅広い視覚モデルを解釈できる。 概念とイメージセットが与えられた場合、HnSは視覚言語モデルを用いて概念に沿ったイメージを検索し、各イメージ内の概念をローカライズし、局所化領域をマスクし、元の画像とマスクされた画像の間のブラックボックスモデルの出力の変化から属性を測定する。 これにより、モデルの振舞いを直接測定し、局所的な属性をサポートすることによって、忠実な帰属を可能にする。 我々はCelebAとCOCO-StuffでHnSを評価した。 既存の手法と比較して、HnSは地道属性とより良い一致を示した。 画像キャプションや衛星画像セグメンテーションなど,様々なタスクにおけるHnSの適用性を実証した。 私たちはその補足資料に匿名のコードを提供した。

関連論文リスト

• DisParQ: Self-Supervised Part Concepts for Interpretable Vision Foundation Models [44.37600547710343]
  DisParQは、凍結した視覚のみの自己管理バックボーンから離散的な概念表現を学習する。 各画像パッチは、学習可能なプロトタイプ辞書から、正確に1つの概念に割り当てられる。 DisParQは、凍ったDINOv2の教師とImageNetの線形探索にマッチする。
  論文  参考訳（メタデータ） (2026-10-07T10:19:04Z)
• FaCT: Faithful Concept Traces for Explaining Neural Network Decisions [56.796533084868884]
  ディープネットワークは、幅広いタスクで顕著なパフォーマンスを示しているが、それらの機能に関するグローバルな概念レベルの理解は、依然として重要な課題である。 本稿では,概念に基づく説明の忠実さを強調し,モデル独立な機械的概念説明を用いた新しいモデルを提案する。 私たちの概念はクラス間で共有され、あらゆるレイヤから、ロジットへの貢献と入力-視覚化を忠実にトレースすることができます。
  論文  参考訳（メタデータ） (2025-10-29T13:35:46Z)
• Show and Tell: Visually Explainable Deep Neural Nets via Spatially-Aware Concept Bottleneck Models [8.96655290787267]
  本稿では,視覚ニューラルネットワークを空間的・概念的に解釈可能なモデルに変換する統一的な枠組みを提案する。 この手法をSALF-CBM(Spatially-Aware and Label-Free Concept Bottleneck Model)と呼ぶ。
  論文  参考訳（メタデータ） (2025-02-27T14:27:55Z)
• Scaling Concept With Text-Guided Diffusion Models [53.80799139331966]
  概念を置き換える代わりに、概念自体を強化するか、あるいは抑圧できるだろうか? ScalingConceptは、分解された概念を、新しい要素を導入することなく、実際の入力でスケールアップまたはスケールダウンする、シンプルで効果的な方法である。 さらに重要なのは、ScalingConceptは画像とオーディオドメインにまたがる様々な新しいゼロショットアプリケーションを可能にすることだ。
  論文  参考訳（メタデータ） (2024-10-31T17:09:55Z)
• Implicit Concept Removal of Diffusion Models [92.55152501707995]
  テキスト・ツー・イメージ(T2I)拡散モデルはしばしば、透かしや安全でない画像のような望ましくない概念を不注意に生成する。 幾何学駆動制御に基づく新しい概念除去手法であるGeom-Erasingを提案する。
  論文  参考訳（メタデータ） (2023-10-09T17:13:10Z)
• Ablating Concepts in Text-to-Image Diffusion Models [57.9371041022838]
  大規模テキスト・画像拡散モデルでは、強力な構成能力を持つ高忠実度画像を生成することができる。 これらのモデルは典型的には膨大な量のインターネットデータに基づいて訓練されており、しばしば著作権のある資料、ライセンスされた画像、個人写真を含んでいる。 本稿では,事前訓練されたモデルにおいて,目標概念の生成を防止し,効率的に概念を宣言する手法を提案する。
  論文  参考訳（メタデータ） (2023-03-23T17:59:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。