論文の概要: DisParQ: Self-Supervised Part Concepts for Interpretable Vision Foundation Models
- arxiv url: http://arxiv.org/abs/2610.09802v1
- Date: Wed, 07 Oct 2026 10:19:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:22.854521
- Title: DisParQ: Self-Supervised Part Concepts for Interpretable Vision Foundation Models
- Title(参考訳): DisParQ: 自己監督型ビジョンファウンデーションモデルのための概念
- Abstract要約: DisParQは、凍結した視覚のみの自己管理バックボーンから離散的な概念表現を学習する。
各画像パッチは、学習可能なプロトタイプ辞書から、正確に1つの概念に割り当てられる。
DisParQは、凍ったDINOv2の教師とImageNetの線形探索にマッチする。
- 参考スコア(独自算出の注目度): 44.37600547710343
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Concept-based vision models represent images through an intermediate layer of human-inspectable concepts, so what a model relies on can be traced to those concepts. However, those models are often limited to fixed categories or depend on language to define their concepts. We introduce DisParQ (Discrete Parts with Quantized attributes), a method that learns spatially grounded, discrete concept representations from a powerful frozen vision-only self-supervised backbone. It requires no class labels and no language supervision. Each image patch is assigned to exactly one concept from a learnable prototype dictionary, and only a sparse subset of concepts may activate per image. To capture how each concept varies across images (e.g., the type of a "wheel"), we learn continuous residuals alongside the concepts and then quantize them into discrete attributes. A spatial decoder reconstructs the backbone's representation from the concepts and attributes alone, so successful reconstruction means that the discrete representation preserves the backbone's information. We evaluate DisParQ across seven datasets, from general recognition (ImageNet, PartImageNet, Places) to fine-grained benchmarks (CUB, Cars, Dogs, Flowers). We show that DisParQ closely matches its frozen DINOv2 teacher on ImageNet linear probing (83.2% top-1), achieves higher concept consistency than language-aligned models, remains competitive on fine-grained recognition, and enables cross-category part-based retrieval.
- Abstract(参考訳): 概念に基づく視覚モデルは、人間の検査可能な概念の中間層を通して画像を表現するため、モデルが依存するものはそれらの概念に遡ることができる。
しかし、それらのモデルは、しばしば固定されたカテゴリに制限されるか、あるいはそれらの概念を定義するために言語に依存する。
本研究では, 空間的に接地した離散概念表現を, 強力な凍結した視覚のみの自己教師型バックボーンから学習するDisParQ(Discrete Parts with Quantized attributes)を紹介する。
クラスラベルも言語監督も必要ありません。
各イメージパッチは、学習可能なプロトタイプ辞書から、正確に1つの概念に割り当てられる。
それぞれの概念がどのように異なるか(例えば「車輪」のタイプ)を捉えるために、私たちは概念と一緒に連続的な残差を学習し、それらを離散属性に定量化する。
空間デコーダは、概念と属性のみからバックボーンの表現を再構成するので、成功した再構成は、個別の表現がバックボーンの情報を保存することを意味する。
一般的な認識( ImageNet, PartImageNet, Places)からきめ細かいベンチマーク(CUB, Cars, Dogs, Flowers)まで,7つのデータセットでDisParQを評価した。
DisParQ は,イメージネット線形探索 (83.2% Top-1) で凍結した DINOv2 教師と密に一致し,言語整合モデルよりも高い概念整合性を実現し,粒度認識に競争力を持ち,カテゴリ間部分ベース検索を可能にする。
関連論文リスト
- Insight: Interpretable Semantic Hierarchies in Vision-Language Encoders [52.94006363830628]
言語対応の視覚基盤モデルは、下流の様々なタスクで強く機能する。
近年の研究では、これらの表現を人間の解釈可能な概念に分解するが、空間的接地が乏しく、画像分類に限られている。
入力画像に人間が解釈可能で空間的に接地した、きめ細かい概念を提供する言語対応概念基盤モデルであるInsightを提案する。
論文 参考訳(メタデータ) (2026-01-20T09:57:26Z) - Explainable Concept Generation through Vision-Language Preference Learning for Understanding Neural Networks' Internal Representations [7.736445799116692]
概念に基づく手法は、ディープニューラルネットワークをポストホックで説明するのに一般的な選択肢となっている。
視覚言語生成モデルを微調整する強化学習に基づく選好最適化アルゴリズムを考案する。
提案手法は,多様な概念を効率的にかつ確実に表現する能力を示す。
論文 参考訳(メタデータ) (2024-08-24T02:26:42Z) - Create Your World: Lifelong Text-to-Image Diffusion [75.14353789007902]
本稿では,過去の概念の「破滅的忘れ」を克服するために,ライフロングテキスト・画像拡散モデル(L2DM)を提案する。
我々のL2DMフレームワークは,知識の「破滅的忘れ」に関して,タスク対応メモリ拡張モジュールと弾性概念蒸留モジュールを考案している。
我々のモデルは、質的および定量的な指標の両方の観点から、連続的なテキストプロンプトの範囲にわたって、より忠実な画像を生成することができる。
論文 参考訳(メタデータ) (2023-09-08T16:45:56Z) - Identifying Interpretable Subspaces in Image Representations [54.821222487956355]
コントラスト概念(FALCON)を用いて画像表現の特徴を説明する枠組みを提案する。
ターゲット機能として、FALCONは、大きなキャプションデータセットとCLIPのようなトレーニング済みの視覚言語モデルを使用して、高機能なトリミング画像をキャプションする。
キャプション内の各単語は、少数の共有された人間の理解可能な概念に導かれ、ランク付けされる。
論文 参考訳(メタデータ) (2023-07-20T00:02:24Z) - The Hidden Language of Diffusion Models [70.03691458189604]
本稿では,テキスト概念の内部表現を拡散モデルで解釈する新しい手法であるConceptorを提案する。
概念間の驚くべき視覚的つながりは、それらのテキスト意味論を超越している。
我々はまた、模範的、偏見、名高い芸術様式、あるいは複数の意味の同時融合に依存する概念も発見する。
論文 参考訳(メタデータ) (2023-06-01T17:57:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。