論文の概要: Semantic Depth Matters: Explaining Errors of Deep Vision Networks through Perceived Class Similarities

• arxiv url: http://arxiv.org/abs/2504.09956v1
• Date: Mon, 14 Apr 2025 07:44:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-15 16:54:03.659120
• Title: Semantic Depth Matters: Explaining Errors of Deep Vision Networks through Perceived Class Similarities
• Title（参考訳）: 意味的深度問題:クラス類似性による深層視ネットワークの誤りの説明
• Authors: Katarzyna Filus, Michał Romaszewski, Mateusz Żarski,
• Abstract要約: 本稿では,ネットワークが認識するセマンティック階層深度と,その実データ誤分類パターンとの関係を考察する新しいフレームワークを提案する。 モデル意味関係と誤認識のグラフに基づく可視化を提案する。 提案手法では,深い視覚ネットワークが特定の意味的階層を符号化し,認識されるクラス類似性と実際のエラーとの間のコンプライアンスを改善する。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Understanding deep neural network (DNN) behavior requires more than evaluating classification accuracy alone; analyzing errors and their predictability is equally crucial. Current evaluation methodologies lack transparency, particularly in explaining the underlying causes of network misclassifications. To address this, we introduce a novel framework that investigates the relationship between the semantic hierarchy depth perceived by a network and its real-data misclassification patterns. Central to our framework is the Similarity Depth (SD) metric, which quantifies the semantic hierarchy depth perceived by a network along with a method of evaluation of how closely the network's errors align with its internally perceived similarity structure. We also propose a graph-based visualization of model semantic relationships and misperceptions. A key advantage of our approach is that leveraging class templates -- representations derived from classifier layer weights -- is applicable to already trained networks without requiring additional data or experiments. Our approach reveals that deep vision networks encode specific semantic hierarchies and that high semantic depth improves the compliance between perceived class similarities and actual errors.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)の振る舞いを理解するには、分類精度のみを評価する以上のことが必要だ。 現在の評価手法は、特にネットワークの誤分類の根本原因を説明する際に透明性を欠いている。 そこで本研究では,ネットワークが認識するセマンティック階層深度と,その実データ誤分類パターンとの関係を考察する新しいフレームワークを提案する。 我々のフレームワークの中心となるのは、ネットワークが知覚する意味的階層の深さを定量化するSimisity Depth(SD)メトリックと、ネットワークのエラーが内部的に知覚される類似性構造とどの程度密接に一致しているかを評価する方法である。 また,モデル意味関係と誤認識のグラフに基づく可視化も提案する。 このアプローチの重要な利点は、クラステンプレート(分類器層重み付けから派生した表現)を活用することは、追加のデータや実験を必要とせずに、すでに訓練済みのネットワークに適用できるということです。 提案手法では,深い視覚ネットワークが特定の意味的階層を符号化し,認識されるクラス類似性と実際のエラーとの間のコンプライアンスを改善する。

関連論文リスト

• Improving Network Interpretability via Explanation Consistency Evaluation [56.14036428778861]
  本稿では、より説明可能なアクティベーションヒートマップを取得し、同時にモデル性能を向上させるフレームワークを提案する。 具体的には、モデル学習において、トレーニングサンプルを適応的に重み付けするために、新しいメトリクス、すなわち説明整合性を導入する。 そこで,本フレームワークは,これらのトレーニングサンプルに深い注意を払ってモデル学習を促進する。
  論文  参考訳（メタデータ） (2024-08-08T17:20:08Z)
• Rank Diminishing in Deep Neural Networks [71.03777954670323]
  ニューラルネットワークのランクは、層をまたがる情報を測定する。 これは機械学習の幅広い領域にまたがる重要な構造条件の例である。 しかし、ニューラルネットワークでは、低ランク構造を生み出す固有のメカニズムはあいまいで不明瞭である。
  論文  参考訳（メタデータ） (2022-06-13T12:03:32Z)
• Interpretable part-whole hierarchies and conceptual-semantic relationships in neural networks [4.153804257347222]
  本稿では、視覚的手がかりから部分全体階層を表現できるフレームワークであるAgglomeratorについて述べる。 本研究では,SmallNORB,MNIST,FashionMNIST,CIFAR-10,CIFAR-100などの共通データセットを用いて評価を行った。
  論文  参考訳（メタデータ） (2022-03-07T10:56:13Z)
• Analytic Insights into Structure and Rank of Neural Network Hessian Maps [32.90143789616052]
  ニューラルネットワークのヘシアンは、損失の2階微分を通じてパラメータ相互作用をキャプチャする。 我々は、ヘッセン写像の範囲を分析する理論的ツールを開発し、その階数不足の正確な理解を提供する。 これにより、ディープ線形ネットワークのヘッセン階数に対する正確な公式と厳密な上界が得られる。
  論文  参考訳（メタデータ） (2021-06-30T17:29:58Z)
• Learning Structures for Deep Neural Networks [99.8331363309895]
  我々は,情報理論に根ざし,計算神経科学に発達した効率的な符号化原理を採用することを提案する。 スパース符号化は出力信号のエントロピーを効果的に最大化できることを示す。 公開画像分類データセットを用いた実験により,提案アルゴリズムでスクラッチから学習した構造を用いて,最も優れた専門家設計構造に匹敵する分類精度が得られることを示した。
  論文  参考訳（メタデータ） (2021-05-27T12:27:24Z)
• Variational Structured Attention Networks for Deep Visual Representation Learning [49.80498066480928]
  空間的注意マップとチャネル的注意の両方を原則的に共同学習するための統合的深層フレームワークを提案する。 具体的には,確率的表現学習フレームワークに注目度の推定と相互作用を統合する。 ニューラルネットワーク内で推論ルールを実装し,確率パラメータとcnnフロントエンドパラメータのエンドツーエンド学習を可能にする。
  論文  参考訳（メタデータ） (2021-03-05T07:37:24Z)
• Anomaly Detection on Attributed Networks via Contrastive Self-Supervised Learning [50.24174211654775]
  本論文では,アトリビュートネットワーク上の異常検出のためのコントラスト型自己監視学習フレームワークを提案する。 このフレームワークは、新しいタイプのコントラストインスタンスペアをサンプリングすることで、ネットワークデータからのローカル情報を完全に活用します。 高次元特性と局所構造から情報埋め込みを学習するグラフニューラルネットワークに基づくコントラスト学習モデルを提案する。
  論文  参考訳（メタデータ） (2021-02-27T03:17:20Z)
• Contextual Interference Reduction by Selective Fine-Tuning of Neural Networks [1.0152838128195465]
  本研究では,不整合前景対象オブジェクト表現の干渉におけるコンテキストの役割について検討する。 私たちはボトムアップとトップダウンの処理パラダイムの恩恵を受けるフレームワークに取り組んでいます。
  論文  参考訳（メタデータ） (2020-11-21T20:11:12Z)
• Learning Connectivity of Neural Networks from a Topological Perspective [80.35103711638548]
  本稿では,ネットワークを解析のための完全なグラフに表現するためのトポロジ的視点を提案する。 接続の規模を反映したエッジに学習可能なパラメータを割り当てることにより、学習プロセスを異なる方法で行うことができる。 この学習プロセスは既存のネットワークと互換性があり、より大きな検索空間と異なるタスクへの適応性を持っている。
  論文  参考訳（メタデータ） (2020-08-19T04:53:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。