論文の概要: Understanding CNNs from excitations

• arxiv url: http://arxiv.org/abs/2205.00932v3
• Date: Tue, 16 Jan 2024 02:00:14 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-18 04:12:17.121952
• Title: Understanding CNNs from excitations
• Title（参考訳）: 励起からCNNを理解する
• Authors: Zijian Ying, Qianmu Li, Zhichao Lian, Jun Hou, Tong Lin, Tao Wang
• Abstract要約: サリエンシマップは、畳み込みニューラルネットワークの決定を解明するための非常に効果的なアプローチであることが証明されている。 本稿では, 各層に対して正負励起を直接抽出できる, 正負励起という新しい概念を提案する。
• 参考スコア（独自算出の注目度）: 12.25690353533472
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Saliency maps have proven to be a highly efficacious approach for explicating the decisions of Convolutional Neural Networks. However, extant methodologies predominantly rely on gradients, which constrain their ability to explicate complex models. Furthermore, such approaches are not fully adept at leveraging negative gradient information to improve interpretive veracity. In this study, we present a novel concept, termed positive and negative excitation, which enables the direct extraction of positive and negative excitation for each layer, thus enabling complete layer-by-layer information utilization sans gradients. To organize these excitations into final saliency maps, we introduce a double-chain backpropagation procedure. A comprehensive experimental evaluation, encompassing both binary classification and multi-classification tasks, was conducted to gauge the effectiveness of our proposed method. Encouragingly, the results evince that our approach offers a significant improvement over the state-of-the-art methods in terms of salient pixel removal, minor pixel removal, and inconspicuous adversarial perturbation generation guidance. Additionally, we verify the correlation between positive and negative excitations.
• Abstract（参考訳）: 塩分マップは畳み込みニューラルネットワークの決定を解明するための非常に効果的なアプローチであることが証明されている。 しかし、現存する方法論は主に勾配に依存しており、複雑なモデルを説明する能力を制限する。 さらに、このようなアプローチは、解釈的検証性を改善するために負の勾配情報を活用することに完全には適していない。 本研究では,各層に対する正負の励起を直接抽出し,全層毎の情報利用をsans勾配にすることで,正負の励起という新しい概念を提案する。 これらの励起を最終的なサリエンシマップに整理するために、二重鎖バックプロパゲーション手順を導入する。 提案手法の有効性を評価するため,二分分類タスクと多分分類タスクの両方を含む総合的な実験評価を行った。 その結果,本手法は高精細度画素除去法,小画素除去法,不明瞭な対向摂動生成誘導法において,最先端の手法よりも大幅に改善されていることがわかった。 さらに,正の励起と負の励起の相関性を検証する。

関連論文リスト

• A Learning Paradigm for Interpretable Gradients [9.074325843851726]
  本稿では,解釈可能性向上のための新たな学習手法を提案する。 得られた勾配は定性的にノイズが少なく、異なるネットワークの解釈可能性特性を定量的に改善する。
  論文  参考訳（メタデータ） (2024-04-23T13:32:29Z)
• Improving Adversarial Transferability via Intermediate-level Perturbation Decay [79.07074710460012]
  我々は,一段階の最適化で敵の例を再現する新しい中間レベル手法を開発した。 実験結果から, 種々の犠牲者モデルに対する攻撃において, 最先端技術よりも大きな差が認められた。
  論文  参考訳（メタデータ） (2023-04-26T09:49:55Z)
• Abs-CAM: A Gradient Optimization Interpretable Approach for Explanation of Convolutional Neural Networks [7.71412567705588]
  クラスアクティベーションマッピングに基づく手法は、コンピュータビジョンタスクにおけるモデルの内部決定を解釈するために広く用いられている。 バックプロパゲーションから導出される勾配を最適化する絶対値クラス活性化マッピング(Abs-CAM)法を提案する。 Abs-CAMのフレームワークは、2つのフェーズに分けられる。
  論文  参考訳（メタデータ） (2022-07-08T02:06:46Z)
• Discriminative Attribution from Counterfactuals [64.94009515033984]
  本稿では,特徴属性と反実的説明を組み合わせたニューラルネットワークの解釈可能性について述べる。 本手法は,特徴属性法の性能を客観的に評価するために有効であることを示す。
  論文  参考訳（メタデータ） (2021-09-28T00:53:34Z)
• Incremental False Negative Detection for Contrastive Learning [95.68120675114878]
  本稿では,自己指導型コントラスト学習のための新たな偽陰性検出手法を提案する。 対照的な学習では、検出された偽陰性を明示的に除去する2つの戦略について議論する。 提案手法は,制限された計算内での複数のベンチマークにおいて,他の自己教師付きコントラスト学習フレームワークよりも優れる。
  論文  参考訳（メタデータ） (2021-06-07T15:29:14Z)
• Interpreting Deep Neural Networks with Relative Sectional Propagation by Analyzing Comparative Gradients and Hostile Activations [37.11665902583138]
  DNN(Deep Neural Networks)の出力予測を分解するための新しいアトリビューション手法であるRelative Sectional Propagation(RSP)を提案する。 我々は、敵対的因子をターゲットの属性を見つけるのを妨げる要素として定義し、活性化ニューロンの非抑制的な性質を克服するために区別可能な方法でそれを伝播させる。 本手法により,従来の帰属法と比較して,DNNのクラス識別性や活性化ニューロンの詳細な解明により,DNNの予測を分解することができる。
  論文  参考訳（メタデータ） (2020-12-07T03:11:07Z)
• Rethinking Positive Aggregation and Propagation of Gradients in Gradient-based Saliency Methods [47.999621481852266]
  Saliencyメソッドは、ニューラルネットワークの予測を、その予測に入力要素の重要性を示すことによって解釈する。 本研究では,勾配情報,すなわち正の凝集と正の伝播を扱うための2つの手法が,これらの手法を破っていることを実証的に示す。
  論文  参考訳（メタデータ） (2020-12-01T09:38:54Z)
• Understanding Negative Sampling in Graph Representation Learning [87.35038268508414]
  最適化目標と結果のばらつきを決定するためには, 正のサンプリングと同様に負のサンプリングが重要であることを示す。 我々は,自己コントラスト近似による正の分布を近似し,メトロポリス・ハスティングスによる負のサンプリングを高速化するメトロポリス・ハスティングス(MCNS)を提案する。 提案手法は,リンク予測,ノード分類,パーソナライズドレコメンデーションを含む,下流グラフ学習タスクをカバーする5つのデータセットに対して評価する。
  論文  参考訳（メタデータ） (2020-05-20T06:25:21Z)
• Disentangling Adaptive Gradient Methods from Learning Rates [65.0397050979662]
  適応的勾配法が学習率のスケジュールとどのように相互作用するかを、より深く検討する。 我々は、更新の規模をその方向から切り離す"グラフティング"実験を導入する。 適応勾配法の一般化に関する経験的および理論的考察を示す。
  論文  参考訳（メタデータ） (2020-02-26T21:42:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。