論文の概要: Quantifying Structure in CLIP Embeddings: A Statistical Framework for Concept Interpretation

• arxiv url: http://arxiv.org/abs/2506.13831v1
• Date: Mon, 16 Jun 2025 02:43:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-18 17:34:59.17689
• Title: Quantifying Structure in CLIP Embeddings: A Statistical Framework for Concept Interpretation
• Title（参考訳）: CLIP埋め込みの構造の定量化:概念解釈のための統計フレームワーク
• Authors: Jitian Zhao, Chenghui Li, Frederic Sala, Karl Rohe,
• Abstract要約: 概念に基づくアプローチは、モデルの内部表現の中で人間の理解可能な概念を特定することを目的としている。 現在の手法では統計的厳密さが欠如しており、特定の概念を検証し、異なる手法を比較することは困難である。 本稿では,CLIP埋め込み空間内の回転感度構造を定量化する仮説テストフレームワークを提案する。 既存のアプローチとは異なり、発見された概念は堅牢で再現可能なパターンを表すという理論的保証を提供する。
• 参考スコア（独自算出の注目度）: 13.206499575700219
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Concept-based approaches, which aim to identify human-understandable concepts within a model's internal representations, are a promising method for interpreting embeddings from deep neural network models, such as CLIP. While these approaches help explain model behavior, current methods lack statistical rigor, making it challenging to validate identified concepts and compare different techniques. To address this challenge, we introduce a hypothesis testing framework that quantifies rotation-sensitive structures within the CLIP embedding space. Once such structures are identified, we propose a post-hoc concept decomposition method. Unlike existing approaches, it offers theoretical guarantees that discovered concepts represent robust, reproducible patterns (rather than method-specific artifacts) and outperforms other techniques in terms of reconstruction error. Empirically, we demonstrate that our concept-based decomposition algorithm effectively balances reconstruction accuracy with concept interpretability and helps mitigate spurious cues in data. Applied to a popular spurious correlation dataset, our method yields a 22.6% increase in worst-group accuracy after removing spurious background concepts.
• Abstract（参考訳）: 概念ベースのアプローチは、モデルの内部表現内で人間の理解可能な概念を特定することを目的としており、CLIPのようなディープニューラルネットワークモデルからの埋め込みを解釈するための有望な方法である。 これらのアプローチはモデルの振る舞いを説明するのに役立つが、現在の手法では統計的厳密さが欠如しており、特定の概念を検証し、異なるテクニックを比較することは困難である。 この課題に対処するために、CLIP埋め込み空間内の回転感度構造を定量化する仮説テストフレームワークを導入する。 このような構造が特定できれば、ポストホックな概念分解法を提案する。 既存のアプローチとは異なり、発見された概念は(メソッド固有のアーティファクトではなく)堅牢で再現可能なパターンを表し、再構成エラーの点で他のテクニックよりも優れているという理論的保証を提供する。 実験により,概念に基づく分解アルゴリズムは,概念解釈可能性と再構成精度のバランスを効果的に保ち,データの急激な操作を軽減できることを実証した。 一般的な素因性相関データセットに適用すると, 素因性背景概念を除去した後, 最悪のグループ精度が22.6%向上する。

関連論文リスト

• Discrete Markov Bridge [93.64996843697278]
  離散マルコフブリッジと呼ばれる離散表現学習に特化して設計された新しいフレームワークを提案する。 私たちのアプローチは、Matrix LearningとScore Learningの2つの重要なコンポーネントの上に構築されています。
  論文  参考訳（メタデータ） (2025-05-26T09:32:12Z)
• Concept Layers: Enhancing Interpretability and Intervenability via LLM Conceptualization [2.163881720692685]
  本稿では,概念層をアーキテクチャに組み込むことにより,解釈可能性とインターベンタビリティを既存モデルに組み込む新しい手法を提案する。 我々のアプローチは、モデルの内部ベクトル表現を、再構成してモデルにフィードバックする前に、概念的で説明可能なベクトル空間に投影する。 複数のタスクにまたがるCLを評価し、本来のモデルの性能と合意を維持しつつ、意味のある介入を可能にしていることを示す。
  論文  参考訳（メタデータ） (2025-02-19T11:10:19Z)
• Enhancing Performance of Explainable AI Models with Constrained Concept Refinement [10.241134756773228]
  正確性と解釈可能性のトレードオフは、機械学習(ML)における長年の課題である。 本稿では,概念表現における偏差の影響について検討し,これらの効果を緩和するための新しい枠組みを提案する。 従来の説明可能な手法と比較して,提案手法は様々な大規模ベンチマークにおいてモデル解釈可能性を維持しながら予測精度を向上するだけでなく,計算コストを大幅に削減する。
  論文  参考訳（メタデータ） (2025-02-10T18:53:15Z)
• Sparks of Explainability: Recent Advancements in Explaining Large Vision Models [6.1642231492615345]
  この論文は、ディープニューラルネットワークによって利用される特徴を分析し、モデル化することにより、コンピュータビジョンにおける説明可能性を改善するための高度なアプローチを探求する。 アルゴリズム的安定性に基づく計量とソボル指標を用いたアプローチを導入することにより、帰属法、特にサリエンシマップを評価する。 モデルと人間の推論を一致させ、概念的説明可能性アプローチを採用するという2つの仮説が検討されている。
  論文  参考訳（メタデータ） (2025-02-03T04:49:32Z)
• Rigorous Probabilistic Guarantees for Robust Counterfactual Explanations [80.86128012438834]
  モデルシフトに対する反ファクトの堅牢性を計算することはNP完全であることを示す。 本稿では,頑健性の厳密な推定を高い保証で実現する新しい確率論的手法を提案する。
  論文  参考訳（メタデータ） (2024-07-10T09:13:11Z)
• Implicit Concept Removal of Diffusion Models [92.55152501707995]
  テキスト・ツー・イメージ(T2I)拡散モデルはしばしば、透かしや安全でない画像のような望ましくない概念を不注意に生成する。 幾何学駆動制御に基づく新しい概念除去手法であるGeom-Erasingを提案する。
  論文  参考訳（メタデータ） (2023-10-09T17:13:10Z)
• Uncovering Unique Concept Vectors through Latent Space Decomposition [0.0]
  概念に基づく説明は、特徴帰属推定よりも解釈可能な優れたアプローチとして現れてきた。 本稿では,訓練中に深層モデルから学んだ概念を自動的に発見するポストホックな教師なし手法を提案する。 実験の結果、我々の概念の大部分は、人間にとって容易に理解でき、一貫性を示し、目の前の課題に関連があることが判明した。
  論文  参考訳（メタデータ） (2023-07-13T17:21:54Z)
• Deblurring via Stochastic Refinement [85.42730934561101]
  条件付き拡散モデルに基づくブラインドデブロアリングのための代替フレームワークを提案する。 提案手法は,PSNRなどの歪み指標の点で競合する。
  論文  参考訳（メタデータ） (2021-12-05T04:36:09Z)
• Control as Hybrid Inference [62.997667081978825]
  本稿では、反復推論と償却推論のバランスを自然に仲介するCHIの実装について述べる。 連続的な制御ベンチマークでアルゴリズムのスケーラビリティを検証し、強力なモデルフリーおよびモデルベースラインを上回る性能を示す。
  論文  参考訳（メタデータ） (2020-07-11T19:44:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。