論文の概要: Advancing Attribution-Based Neural Network Explainability through Relative Absolute Magnitude Layer-Wise Relevance Propagation and Multi-Component Evaluation

• arxiv url: http://arxiv.org/abs/2412.09311v1
• Date: Thu, 12 Dec 2024 14:25:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-13 13:33:56.837966
• Title: Advancing Attribution-Based Neural Network Explainability through Relative Absolute Magnitude Layer-Wise Relevance Propagation and Multi-Component Evaluation
• Title（参考訳）: 相対的絶対絶対絶対層幅関係伝播による帰属型ニューラルネットワークの説明可能性と多成分評価
• Authors: Davor Vukadin, Petar Afrić, Marin Šilić, Goran Delač,
• Abstract要約: 本稿では,レイヤワイド関連伝播による入力ニューロンの関連性を決定する新しい手法を提案する。 その結果,提案手法の利点が明らかとなった。 本研究では, 忠実性, 頑健性, コントラスト性の概念を組み合わせた新しい評価指標を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Recent advancement in deep-neural network performance led to the development of new state-of-the-art approaches in numerous areas. However, the black-box nature of neural networks often prohibits their use in areas where model explainability and model transparency are crucial. Over the years, researchers proposed many algorithms to aid neural network understanding and provide additional information to the human expert. One of the most popular methods being Layer-Wise Relevance Propagation (LRP). This method assigns local relevance based on the pixel-wise decomposition of nonlinear classifiers. With the rise of attribution method research, there has emerged a pressing need to assess and evaluate their performance. Numerous metrics have been proposed, each assessing an individual property of attribution methods such as faithfulness, robustness or localization. Unfortunately, no single metric is deemed optimal for every case, and researchers often use several metrics to test the quality of the attribution maps. In this work, we address the shortcomings of the current LRP formulations and introduce a novel method for determining the relevance of input neurons through layer-wise relevance propagation. Furthermore, we apply this approach to the recently developed Vision Transformer architecture and evaluate its performance against existing methods on two image classification datasets, namely ImageNet and PascalVOC. Our results clearly demonstrate the advantage of our proposed method. Furthermore, we discuss the insufficiencies of current evaluation metrics for attribution-based explainability and propose a new evaluation metric that combines the notions of faithfulness, robustness and contrastiveness. We utilize this new metric to evaluate the performance of various attribution-based methods. Our code is available at: https://github.com/davor10105/relative-absolute-magnitude-propagation
• Abstract（参考訳）: 近年のディープ・ニューラル・ネットワークの性能向上は、多くの分野において新しい最先端のアプローチの開発に繋がった。 しかしながら、ニューラルネットワークのブラックボックスの性質は、モデル説明可能性とモデルの透明性が不可欠である領域での使用を禁止していることが多い。 長年にわたり、研究者はニューラルネットワークの理解を助け、人間の専門家に付加的な情報を提供するための多くのアルゴリズムを提案してきた。 最も一般的な方法の1つは、レイヤワイズ関連伝搬(LRP)である。 本手法は,非線形分類器の画素ワイド分解に基づく局所的関係を割り当てる。 帰属法の研究が盛んになると、その業績を評価・評価する必要性が高まっている。 多くの指標が提案され、それぞれが忠実性、堅牢性、あるいは局所化などの帰属的手法の個々の特性を評価する。 残念なことに、すべてのケースに最適な測定基準は存在しないため、研究者は属性マップの品質をテストするためにいくつかの測定基準を使うことが多い。 本稿では、現在のLPPの定式化の欠点に対処し、階層的関連性伝播による入力ニューロンの関連性を決定する新しい方法を提案する。 さらに,本手法を最近開発されたVision Transformerアーキテクチャに適用し,既存の画像分類データセットであるImageNetとPascalVOCの性能評価を行う。 その結果,提案手法の利点が明らかとなった。 さらに、帰属に基づく説明責任のための現在の評価指標の不足について考察し、忠実性、頑健性、コントラスト性の概念を組み合わせた新しい評価指標を提案する。 提案手法は,様々な属性に基づく手法の性能評価に有効である。 https://github.com/davor10105/relative-absolute-magnitude-proagation

関連論文リスト

• FlowCon: Out-of-Distribution Detection using Flow-Based Contrastive Learning [0.0]
  我々は新しい密度に基づくOOD検出技術であるtextitFlowConを紹介する。 我々の主な革新は、正規化フローの特性と教師付きコントラスト学習を効率的に組み合わせることである。 経験的評価は、一般的な視覚データセットにまたがる手法の性能向上を示す。
  論文  参考訳（メタデータ） (2024-07-03T20:33:56Z)
• Toward Understanding the Disagreement Problem in Neural Network Feature Attribution [0.8057006406834466]
  ニューラルネットワークは 複雑なパターンと関係を 生のデータから識別する これらのブラックボックスモデルの内部動作を理解することは、依然として難しいが、高い意思決定には不可欠である。 我々の研究は、説明の基本的な、分布的な振る舞いを調査することによって、この混乱に対処する。
  論文  参考訳（メタデータ） (2024-04-17T12:45:59Z)
• Better Understanding Differences in Attribution Methods via Systematic Evaluations [57.35035463793008]
  モデル決定に最も影響を及ぼす画像領域を特定するために、ポストホック属性法が提案されている。 本稿では,これらの手法の忠実度をより確実に評価するための3つの新しい評価手法を提案する。 これらの評価手法を用いて、広範囲のモデルにおいて広く用いられている属性手法の長所と短所について検討する。
  論文  参考訳（メタデータ） (2023-03-21T14:24:58Z)
• The Cascaded Forward Algorithm for Neural Network Training [61.06444586991505]
  本稿では,ニューラルネットワークのための新しい学習フレームワークであるCascaded Forward(CaFo)アルゴリズムを提案する。 FFとは異なり、我々のフレームワークは各カスケードブロックのラベル分布を直接出力する。 我々のフレームワークでは、各ブロックは独立して訓練できるので、並列加速度システムに容易に展開できる。
  論文  参考訳（メタデータ） (2023-03-17T02:01:11Z)
• EvalAttAI: A Holistic Approach to Evaluating Attribution Maps in Robust and Non-Robust Models [0.3425341633647624]
  本稿では、ロバストニューラルネットワークがより説明しやすいかどうかを調べるために、属性マッピングの評価方法に焦点を当てる。 従来の指標の限界に対処する新しい説明可能性忠実度指標(EvalAttAI)を提案する。
  論文  参考訳（メタデータ） (2023-03-15T18:33:22Z)
• A Systematic Evaluation of Node Embedding Robustness [77.29026280120277]
  本研究では,ノード埋め込みモデルのランダムおよび逆毒攻撃に対する経験的ロバスト性を評価する。 ネットワーク特性とノードラベルを用いて計算したエッジの追加,削除,再切り替えの戦略を比較した。 その結果,ノード分類はネットワーク再構成とは対照的に,高い性能劣化に悩まされていることがわかった。
  論文  参考訳（メタデータ） (2022-09-16T17:20:23Z)
• Towards Better Understanding Attribution Methods [77.1487219861185]
  モデル決定に最も影響を及ぼす画像領域を特定するために、ポストホック属性法が提案されている。 本稿では,これらの手法の忠実度をより確実に評価するための3つの新しい評価手法を提案する。 また,いくつかの属性法の性能を著しく向上する処理後平滑化ステップを提案する。
  論文  参考訳（メタデータ） (2022-05-20T20:50:17Z)
• Time to Focus: A Comprehensive Benchmark Using Time Series Attribution Methods [4.9449660544238085]
  本論文は時系列解析といくつかの最先端属性手法のベンチマークに焦点をあてる。 本実験では, 勾配および摂動に基づく帰属法について検討した。 その結果,最も適した帰属法を選択することは,所望のユースケースと強く相関していることが示唆された。
  論文  参考訳（メタデータ） (2022-02-08T10:06:13Z)
• Visualization of Supervised and Self-Supervised Neural Networks via Attribution Guided Factorization [87.96102461221415]
  クラスごとの説明性を提供するアルゴリズムを開発した。 実験の広範なバッテリーでは、クラス固有の可視化のための手法の能力を実証する。
  論文  参考訳（メタデータ） (2020-12-03T18:48:39Z)
• Region Comparison Network for Interpretable Few-shot Image Classification [97.97902360117368]
  新しいクラスのモデルをトレーニングするために、ラベル付きサンプルの限られた数だけを効果的に活用するための画像分類が提案されている。 本研究では,領域比較ネットワーク (RCN) と呼ばれる距離学習に基づく手法を提案する。 また,タスクのレベルからカテゴリへの解釈可能性の一般化も提案する。
  論文  参考訳（メタデータ） (2020-09-08T07:29:05Z)
• Critically Examining the Claimed Value of Convolutions over User-Item Embedding Maps for Recommender Systems [14.414055798999764]
  近年,推薦システムの領域におけるアルゴリズム研究は,行列因数分解技術からニューラルアプローチへと移行している。 文献で報告された主張利益は, 埋め込み相関をモデル化するCNNの能力によるものではない, という分析的考察と実証的評価を通して示す。
  論文  参考訳（メタデータ） (2020-07-23T10:03:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。