論文の概要: Discovering Concept Directions from Diffusion-based Counterfactuals via Latent Clustering

• arxiv url: http://arxiv.org/abs/2505.07073v1
• Date: Sun, 11 May 2025 17:53:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-13 20:21:49.196452
• Title: Discovering Concept Directions from Diffusion-based Counterfactuals via Latent Clustering
• Title（参考訳）: 潜時クラスタリングによる拡散型反事実からの概念方向の発見
• Authors: Payal Varshney, Adriano Lucieri, Christoph Balada, Andreas Dengel, Sheraz Ahmed,
• Abstract要約: 概念に基づく説明は、説明可能な人工知能における効果的なアプローチとして現れている。 本研究は,グローバルなクラス固有の概念方向を抽出する遅延クラスタリング(CDLC)による概念指示を導入する。 このアプローチは、現実世界の皮膚病変データセットで検証される。
• 参考スコア（独自算出の注目度）: 4.891597567642704
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Concept-based explanations have emerged as an effective approach within Explainable Artificial Intelligence, enabling interpretable insights by aligning model decisions with human-understandable concepts. However, existing methods rely on computationally intensive procedures and struggle to efficiently capture complex, semantic concepts. Recently, the Concept Discovery through Latent Diffusion-based Counterfactual Trajectories (CDCT) framework, introduced by Varshney et al. (2025), attempts to identify concepts via dimension-wise traversal of the latent space of a Variational Autoencoder trained on counterfactual trajectories. Extending the CDCT framework, this work introduces Concept Directions via Latent Clustering (CDLC), which extracts global, class-specific concept directions by clustering latent difference vectors derived from factual and diffusion-generated counterfactual image pairs. CDLC substantially reduces computational complexity by eliminating the exhaustive latent dimension traversal required in CDCT and enables the extraction of multidimensional semantic concepts encoded across the latent dimensions. This approach is validated on a real-world skin lesion dataset, demonstrating that the extracted concept directions align with clinically recognized dermoscopic features and, in some cases, reveal dataset-specific biases or unknown biomarkers. These results highlight that CDLC is interpretable, scalable, and applicable across high-stakes domains and diverse data modalities.
• Abstract（参考訳）: 概念に基づく説明は、説明可能な人工知能における効果的なアプローチとして現れ、モデル決定と人間の理解可能な概念を整合させることで、解釈可能な洞察を可能にする。 しかし、既存の手法は計算集約的な手順に依存しており、複雑な意味論的概念を効果的に捉えるのに苦労している。 近年,Varshney et al (2025)によって導入されたCDCTフレームワークによる概念発見(Concept Discovery)は,反現実的トラジェクトリに基づいて訓練された変分オートエンコーダの潜時空間の次元的トラバースによる概念の同定を試みる。 CDCTフレームワークを拡張したCDLC(Concept Directions via Latent Clustering)は,実写および拡散生成された反実画像対から得られた潜在差分ベクトルをクラスタリングすることによって,グローバルなクラス固有の概念方向を抽出する。 CDLCはCDCTで必要とされる全周的な潜在次元トラバーサルを排除し、潜在次元にまたがって符号化された多次元意味概念の抽出を可能にすることにより、計算複雑性を著しく低減する。 このアプローチは実世界の皮膚病変データセットで検証され、抽出された概念方向が臨床的に認識された皮膚内視鏡の特徴と一致していることを示し、場合によってはデータセット固有のバイアスや未知のバイオマーカーを明らかにする。 これらの結果はCDLCが解釈可能で、スケーラブルで、高い領域と多様なデータモダリティにまたがって適用可能であることを浮き彫りにする。

関連論文リスト

• Post-Hoc Concept Disentanglement: From Correlated to Isolated Concept Representations [12.072112471560716]
  概念活性化ベクトル(Concept Activation Vectors, CAV)は、人間の理解可能な概念をモデル化するために広く使われている。 それらは、概念サンプルの活性化から非概念サンプルの活性化までの方向を特定することによって訓練される。 この方法は、"beard"や"necktie"のような類似した概念に対して、類似した非直交方向を生成する。 この絡み合いは、分離された概念の解釈を複雑にし、CAVアプリケーションにおいて望ましくない効果をもたらす可能性がある。
  論文  参考訳（メタデータ） (2025-03-07T15:45:43Z)
• Discover-then-Name: Task-Agnostic Concept Bottlenecks via Automated Concept Discovery [52.498055901649025]
  ディープニューラルネットワークの「ブラックボックス」問題に対処するために、概念ボトルネックモデル(CBM)が提案されている。 本稿では,典型的なパラダイムを逆転させる新しいCBMアプローチであるDiscover-then-Name-CBM(DN-CBM)を提案する。 我々の概念抽出戦略は、下流のタスクに非依存であり、既にそのモデルに知られている概念を使用するため、効率的である。
  論文  参考訳（メタデータ） (2024-07-19T17:50:11Z)
• Understanding Distributed Representations of Concepts in Deep Neural Networks without Supervision [25.449397570387802]
  本稿では,ニューロンの主部分集合を選択することによって,概念の分散表現を発見する教師なし手法を提案する。 我々の経験から、類似のニューロン活性化状態のインスタンスはコヒーレントな概念を共有する傾向があることが示されている。 データ内のラベルなしサブクラスを特定し、誤分類の原因を検出するために利用することができる。
  論文  参考訳（メタデータ） (2023-12-28T07:33:51Z)
• Uncovering Unique Concept Vectors through Latent Space Decomposition [0.0]
  概念に基づく説明は、特徴帰属推定よりも解釈可能な優れたアプローチとして現れてきた。 本稿では,訓練中に深層モデルから学んだ概念を自動的に発見するポストホックな教師なし手法を提案する。 実験の結果、我々の概念の大部分は、人間にとって容易に理解でき、一貫性を示し、目の前の課題に関連があることが判明した。
  論文  参考訳（メタデータ） (2023-07-13T17:21:54Z)
• Unsupervised Interpretable Basis Extraction for Concept-Based Visual Explanations [53.973055975918655]
  提案手法を用いて抽出したベースに変換すると,中間層表現がより解釈可能であることを示す。 提案手法は,提案手法を教師付きアプローチから抽出したベースと,教師付き手法から抽出したベースを比較した結果,教師なし手法は教師付き手法の限界を構成する強みを有し,今後の研究の方向性を示す。
  論文  参考訳（メタデータ） (2023-03-19T00:37:19Z)
• Concept Activation Regions: A Generalized Framework For Concept-Based Explanations [95.94432031144716]
  既存の手法では、概念を説明する例は、ディープニューラルネットワークの潜伏空間の一定の方向にマッピングされていると仮定している。 そこで本研究では,DNNの潜在空間において,異なるクラスタに分散した概念例を提案する。 この概念活性化領域(CAR)は、グローバルな概念に基づく説明と局所的な概念に基づく特徴の重要性をもたらす。
  論文  参考訳（メタデータ） (2022-09-22T17:59:03Z)
• Navigating Neural Space: Revisiting Concept Activation Vectors to Overcome Directional Divergence [13.618809162030486]
  概念活性化ベクトル (Concept Activation Vectors, CAV) は、潜在空間における人間の理解可能な概念をモデル化するための一般的なツールである。 本稿では、そのような分離性指向の解が、概念の方向性を正確にモデル化する実際の目標から逸脱する可能性があることを示す。 パターンベースのCAVを導入し、概念信号のみに着目し、より正確な概念指示を提供する。
  論文  参考訳（メタデータ） (2022-02-07T19:40:20Z)
• Closed-Form Factorization of Latent Semantics in GANs [65.42778970898534]
  画像合成のために訓練されたGAN(Generative Adversarial Networks)の潜在空間に、解釈可能な次元の豊富なセットが出現することが示されている。 本研究では,GANが学習した内部表現について検討し,その基礎となる変動要因を教師なしで明らかにする。 本稿では,事前学習した重みを直接分解することで,潜在意味発見のためのクローズドフォーム因数分解アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-07-13T18:05:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。