論文の概要: A Framework for Evaluating Zero-Shot Image Generation in Concept-based Explainability

• arxiv url: http://arxiv.org/abs/2605.19855v1
• Date: Tue, 19 May 2026 13:46:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-20 15:03:09.380233
• Title: A Framework for Evaluating Zero-Shot Image Generation in Concept-based Explainability
• Title（参考訳）: 概念的説明可能性を考慮したゼロショット画像生成のためのフレームワーク
• Authors: Giacomo Astolfi, Matteo Bianchi, Riccardo Campi, Antonio De Santis, Marco Brambilla,
• Abstract要約: 概念に基づく説明可能な人工知能(XAI)は、人間の理解可能な視覚的特徴を使ってモデルを解釈する。 しかし、大きな課題は、それぞれの概念を表現するためにラベル付き画像の大規模なセットに依存することである。 本研究では,ゼロショットテキスト・トゥ・イメージ(T2I)生成モデルを合成概念データセットのソースとして利用する方法について検討する。
• 参考スコア（独自算出の注目度）: 5.272074574273609
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Concept-based Explainable Artificial Intelligence (XAI) interprets deep learning models using human-understandable visual features (e.g., textures or object parts) by linking internal representations to class predictions, thereby bridging the gap between low-level image data and high-level semantics. A major challenge, however, is the reliance on large sets of labeled images to represent each concept, which limits scalability. In this work, we investigate the use of zero-shot Text-to-Image (T2I) generative models as a source of synthetic concept datasets for concept-based XAI methods. Specifically, we generate concepts using predefined prompts and evaluate their faithfulness to real ones through four complementary analyses: (1) comparing synthetic vs. real concept images via concept representation similarity; (2) evaluating their intra-similarity by comparing pairs of subsets of the same concept with progressively increasing size; (3) evaluating their performance for downstream explanation tasks using relevant class images; (4) evaluating how removing a concept from tested class images affects explanations of generated concepts. While current T2I generative models promise a shortcut to concept-based XAI, our study highlights challenges and raises open questions about the use of synthetic data generated by zero-shot pipelines in model analyses. The resulting dataset is available at https://github.com/DataSciencePolimi/ZeroShot-T2I-Concepts.
• Abstract（参考訳）: 概念ベースの説明可能な人工知能(XAI)は、内部表現をクラス予測にリンクすることで、人間の理解可能な視覚的特徴(例えばテクスチャやオブジェクトの部分)を使用してディープラーニングモデルを解釈し、低レベルの画像データと高レベルのセマンティクスのギャップを埋める。 しかし、大きな課題は、各概念を表現するためにラベル付き画像の大規模なセットに依存することである。 本研究では,ゼロショットテキスト・トゥ・イメージ(T2I)生成モデルを用いて,概念ベースXAI手法の合成概念データセットのソースとしての利用について検討する。 具体的には、事前に定義されたプロンプトを用いて概念を生成し、(1)概念表現の類似性による実概念画像と実概念画像の比較、(2)同じ概念のサブセットのペアを比較して相似性の評価、(3)関連クラス画像を用いた下流説明タスクの性能評価、(4)テストされたクラス画像から概念を除去することが生成概念の説明にどのように影響するかを評価する。 現在のT2I生成モデルはコンセプトベースXAIへのショートカットを約束するが、本研究では課題を強調し、ゼロショットパイプラインが生成する合成データを用いたモデル解析に関するオープンな疑問を提起する。 データセットはhttps://github.com/DataSciencePolimi/ZeroShot-T2I-Conceptsで公開されている。

関連論文リスト

• Bridging Cognitive Gap: Hierarchical Description Learning for Artistic Image Aesthetics Assessment [51.40989269202702]
  審美的品質評価タスクは,AIGCの定量的評価システムの開発に不可欠である。 本研究では,記述生成による美的次元の分離を図った芸術的画像の美的評価フレームワークであるArtQuantを提案する。 提案手法は,従来のトレーニングの33%しか必要とせず,いくつかのデータセット上での最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2025-12-29T12:18:26Z)
• Knowledge graphs for empirical concept retrieval [1.06378109904813]
  概念に基づく説明可能なAIは、あるユーザの前提における複雑なモデルの理解を改善するツールとして期待されている。 本稿では,テキスト領域と画像領域の両方でユーザ主導のデータ収集を行うワークフローを提案する。 我々は,概念アクティベーションベクトル(CAV)と概念アクティベーション領域(CAR)の2つの概念ベース説明可能性手法を用いて,検索した概念データセットをテストする。
  論文  参考訳（メタデータ） (2024-04-10T13:47:22Z)
• Explaining Explainability: Recommendations for Effective Use of Concept Activation Vectors [35.37586279472797]
  概念ベクトル活性化(Concept Vector Activations, CAV)は、概念実証者のプローブデータセットを用いて学習される。 CAVの3つの特性として,層間不整合,(2)他の概念との絡み合い,(3)空間依存性について検討する。 これらの特性の存在を検出するためのツールを導入し、各特性がどのように誤解を招くのかを洞察し、その影響を軽減するためのレコメンデーションを提供する。
  論文  参考訳（メタデータ） (2024-04-04T17:46:20Z)
• Evaluating Text-to-Image Generative Models: An Empirical Study on Human Image Synthesis [21.619269792415903]
  本稿では,テキスト・ツー・イメージ(T2I)生成モデルのためのニュアンス評価フレームワークを提案する。 まず,美学やリアリズムといったイメージの質に着目し,第2に,概念的カバレッジと公平性を通じてテキスト条件を検証した。
  論文  参考訳（メタデータ） (2024-03-08T07:41:47Z)
• A Recursive Bateson-Inspired Model for the Generation of Semantic Formal Concepts from Spatial Sensory Data [77.34726150561087]
  本稿では,複雑な感覚データから階層構造を生成するための記号のみの手法を提案する。 このアプローチは、概念や概念の創始の鍵としてのバテソンの差異の概念に基づいている。 このモデルは、トレーニングなしでかなりリッチだが人間に読まれる概念表現を生成することができる。
  論文  参考訳（メタデータ） (2023-07-16T15:59:13Z)
• ConceptBed: Evaluating Concept Learning Abilities of Text-to-Image Diffusion Models [79.10890337599166]
  本研究では,284のユニークな視覚概念と33Kの合成テキストプロンプトからなる大規模データセットであるConceptBedを紹介する。 我々は、対象、属性、スタイルのいずれかである視覚概念を評価し、また、構成性の4つの次元(計数、属性、関係、行動)を評価する。 私たちの結果は、概念を学ぶことと、既存のアプローチが克服に苦労する構成性を維持することのトレードオフを示しています。
  論文  参考訳（メタデータ） (2023-06-07T18:00:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。