論文の概要: Cluster Paths: Navigating Interpretability in Neural Networks

• arxiv url: http://arxiv.org/abs/2510.06541v1
• Date: Wed, 08 Oct 2025 00:41:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-09 16:41:20.244106
• Title: Cluster Paths: Navigating Interpretability in Neural Networks
• Title（参考訳）: クラスタパス: ニューラルネットワークにおける解釈可能性のナビゲート
• Authors: Nicholas M. Kroeger, Vincent Bindschaedler,
• Abstract要約: 本稿では,選択した層でアクティベーションをクラスタ化し,各入力をクラスタIDのシーケンスとして表現するポストホック解釈可能性手法を提案する。 複数のネットワーク深度でカラーパレット、テクスチャ、オブジェクトコンテキストなどの視覚概念をクラスタパスで明らかにすることを示す。
• 参考スコア（独自算出の注目度）: 3.914630846200639
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While modern deep neural networks achieve impressive performance in vision tasks, they remain opaque in their decision processes, risking unwarranted trust, undetected biases and unexpected failures. We propose cluster paths, a post-hoc interpretability method that clusters activations at selected layers and represents each input as its sequence of cluster IDs. To assess these cluster paths, we introduce four metrics: path complexity (cognitive load), weighted-path purity (class alignment), decision-alignment faithfulness (predictive fidelity), and path agreement (stability under perturbations). In a spurious-cue CIFAR-10 experiment, cluster paths identify color-based shortcuts and collapse when the cue is removed. On a five-class CelebA hair-color task, they achieve 90% faithfulness and maintain 96% agreement under Gaussian noise without sacrificing accuracy. Scaling to a Vision Transformer pretrained on ImageNet, we extend cluster paths to concept paths derived from prompting a large language model on minimal path divergences. Finally, we show that cluster paths can serve as an effective out-of-distribution (OOD) detector, reliably flagging anomalous samples before the model generates over-confident predictions. Cluster paths uncover visual concepts, such as color palettes, textures, or object contexts, at multiple network depths, demonstrating that cluster paths scale to large vision models while generating concise and human-readable explanations.
• Abstract（参考訳）: 現代のディープニューラルネットワークはビジョンタスクにおいて印象的なパフォーマンスを達成するが、決定プロセスでは不透明であり、不確実な信頼、未検出のバイアス、予期せぬ失敗のリスクがある。 本稿では,選択した層でアクティベーションをクラスタ化し,各入力をクラスタIDのシーケンスとして表現する,ポストホック解釈可能性法であるクラスタパスを提案する。 これらのクラスタパスを評価するために、パス複雑性(認知的負荷)、重み付きパス純粋度(クラスアライメント)、決定適応忠実度(予測忠実度)、経路合意(摂動下での安定性)の4つの指標を導入する。 CIFAR-10実験では、クラスタパスが色に基づくショートカットを識別し、キューが取り除かれたときに崩壊する。 5級のCelebAヘアカラータスクでは、90%の忠実性を達成し、精度を犠牲にすることなくガウスノイズの下で96%の合意を維持する。 ImageNetで事前訓練されたVision Transformerへのスケーリングでは、最小のパスの発散を伴って大きな言語モデルを促すことによって、クラスタパスを概念パスに拡張する。 最後に,クラスタパスは,モデルが過信予測を生成する前に,異常なサンプルを確実にフラグ付けする,効果的なアウト・オブ・ディストリビューション(OOD)検出器として機能することを示す。 クラスタパスは、カラーパレット、テクスチャ、オブジェクトコンテキストなどの視覚的概念を複数のネットワーク深さで明らかにし、クラスタパスは、簡潔で可読な説明を生成しながら、大きなビジョンモデルにスケールすることを示した。

関連論文リスト

• Hierarchical Identity Learning for Unsupervised Visible-Infrared Person Re-Identification [81.3063589622217]
  教師なし可視赤外線人物再識別(USVI-ReID)は、ラベルのないクロスモーダルな人物データセットからモダリティ不変の画像特徴を学習することを目的としている。
  論文  参考訳（メタデータ） (2025-09-15T05:10:43Z)
• Grid Jigsaw Representation with CLIP: A New Perspective on Image Clustering [33.05984601411495]
  画像クラスタリングの新たな視点として,事前学習型Grid Jigsaw Representation (pGJR)を提案する。 人間のジグソーパズル処理に触発されて、従来のジグソー学習を改良し、画像構造をより逐次的かつ漸進的に理解する。 実験により,事前学習したモデルを特徴抽出器として使用することにより,クラスタリングの収束を加速できることが実証された。
  論文  参考訳（メタデータ） (2023-10-27T03:07:05Z)
• CONVERT:Contrastive Graph Clustering with Reliable Augmentation [110.46658439733106]
  信頼性オーグメンテーション(CONVERT)を用いたContrastiVe Graph ClustEringネットワークを提案する。 本手法では,データ拡張を可逆的パーターブ・リカバリネットワークにより処理する。 セマンティクスの信頼性をさらに保証するために、ネットワークを制約する新たなセマンティクス損失が提示される。
  論文  参考訳（メタデータ） (2023-08-17T13:07:09Z)
• DeepCluE: Enhanced Image Clustering via Multi-layer Ensembles in Deep Neural Networks [53.88811980967342]
  本稿では,Ensembles (DeepCluE) を用いたDeep Clusteringを提案する。 ディープニューラルネットワークにおける複数のレイヤのパワーを活用することで、ディープクラスタリングとアンサンブルクラスタリングのギャップを埋める。 6つの画像データセットの実験結果から、最先端のディープクラスタリングアプローチに対するDeepCluEの利点が確認されている。
  論文  参考訳（メタデータ） (2022-06-01T09:51:38Z)
• Self-supervised Contrastive Attributed Graph Clustering [110.52694943592974]
  我々は,自己教師型コントラストグラフクラスタリング(SCAGC)という,新たな属性グラフクラスタリングネットワークを提案する。 SCAGCでは,不正確なクラスタリングラベルを活用することで,ノード表現学習のための自己教師付きコントラスト損失を設計する。 OOSノードでは、SCAGCはクラスタリングラベルを直接計算できる。
  論文  参考訳（メタデータ） (2021-10-15T03:25:28Z)
• SSSNET: Semi-Supervised Signed Network Clustering [4.895808607591299]
  SSSNETと呼ばれる半教師付きネットワーククラスタリングのためのGNNフレームワークにおいて、トレーニングノードに対する確率的バランスの取れた正規化カット損失を新たに導入する。 主な斬新なアプローチは、署名されたネットワーク埋め込みにおける社会的バランス理論の役割に関する新しい見解である。
  論文  参考訳（メタデータ） (2021-10-13T10:36:37Z)
• Learning Statistical Representation with Joint Deep Embedded Clustering [2.1267423178232407]
  StatDECは、共同統計表現学習とクラスタリングのための教師なしのフレームワークである。 実験により,これらの表現を用いることで,様々な画像データセットにまたがる不均衡な画像クラスタリングの結果を大幅に改善できることが示された。
  論文  参考訳（メタデータ） (2021-09-11T09:26:52Z)
• GATCluster: Self-Supervised Gaussian-Attention Network for Image Clustering [9.722607434532883]
  画像クラスタリングのための自己教師型クラスタリングネットワーク(GATCluster)を提案する。 まず中間機能を抽出し、次に従来のクラスタリングを実行する代わりに、GATClusterセマンティッククラスタラベルを後処理なしで実行します。 大規模画像のクラスタリングにメモリ効率のよい2段階学習アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2020-02-27T00:57:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。