論文の概要: Abs-CAM: A Gradient Optimization Interpretable Approach for Explanation
of Convolutional Neural Networks
- arxiv url: http://arxiv.org/abs/2207.03648v1
- Date: Fri, 8 Jul 2022 02:06:46 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-11 12:46:21.588403
- Title: Abs-CAM: A Gradient Optimization Interpretable Approach for Explanation
of Convolutional Neural Networks
- Title（参考訳）: Abs-CAM:畳み込みニューラルネットワークの解説のための勾配最適化解釈可能なアプローチ
- Authors: Chunyan Zeng, Kang Yan, Zhifeng Wang, Yan Yu, Shiyan Xia, Nan Zhao
- Abstract要約: クラスアクティベーションマッピングに基づく手法は、コンピュータビジョンタスクにおけるモデルの内部決定を解釈するために広く用いられている。
バックプロパゲーションから導出される勾配を最適化する絶対値クラス活性化マッピング(Abs-CAM)法を提案する。
Abs-CAMのフレームワークは、2つのフェーズに分けられる。
- 参考スコア（独自算出の注目度）: 7.71412567705588
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The black-box nature of Deep Neural Networks (DNNs) severely hinders its
performance improvement and application in specific scenes. In recent years,
class activation mapping-based method has been widely used to interpret the
internal decisions of models in computer vision tasks. However, when this
method uses backpropagation to obtain gradients, it will cause noise in the
saliency map, and even locate features that are irrelevant to decisions. In
this paper, we propose an Absolute value Class Activation Mapping-based
(Abs-CAM) method, which optimizes the gradients derived from the
backpropagation and turns all of them into positive gradients to enhance the
visual features of output neurons' activation, and improve the localization
ability of the saliency map. The framework of Abs-CAM is divided into two
phases: generating initial saliency map and generating final saliency map. The
first phase improves the localization ability of the saliency map by optimizing
the gradient, and the second phase linearly combines the initial saliency map
with the original image to enhance the semantic information of the saliency
map. We conduct qualitative and quantitative evaluation of the proposed method,
including Deletion, Insertion, and Pointing Game. The experimental results show
that the Abs-CAM can obviously eliminate the noise in the saliency map, and can
better locate the features related to decisions, and is superior to the
previous methods in recognition and localization tasks.
- Abstract（参考訳）: Deep Neural Networks(DNN)のブラックボックスの性質は、パフォーマンス改善と特定の場面での応用を著しく妨げている。
近年,コンピュータビジョンタスクにおけるモデルの内部決定を解釈するために,クラスアクティベーションマッピングに基づく手法が広く用いられている。
しかし、この手法が勾配を得るためにバックプロパゲーションを使用する場合、サリエンシーマップのノイズを引き起こし、決定に無関係な特徴を見つけることさえある。
本稿では,バックプロパゲーションから得られる勾配を最適化し,これらすべてを正の勾配に変換して,出力ニューロンの活性化の視覚的特徴を高め,サリエンシマップの局所化能力を向上させる絶対値クラス活性化マッピング(Abs-CAM)法を提案する。
abs-camの枠組みは、初期給与マップの生成と最終給与マップの生成の2つのフェーズに分けられる。
第1のフェーズは勾配を最適化することで塩分マップの局所化能力を向上し、第2のフェーズは初期塩分マップと原画像を線形に組み合わせて塩分マップの意味情報を強化する。
本稿では,削除,挿入,ポインティングゲームなど,提案手法の質的,定量的評価を行う。
実験の結果,abs-camはサリエンシーマップのノイズを明らかに排除でき,意思決定に関連する特徴をよりよく特定でき,従来の認識・局所化の手法よりも優れていることがわかった。
関連論文リスト
- Guided AbsoluteGrad: Magnitude of Gradients Matters to Explanation's Localization and Saliency [10.786952260623002]
そこで本稿では,Saliency Map の説明のために Guided AbsoluteGrad という勾配に基づくXAI法を提案する。
ReCover And Predict (RCAP) と呼ばれる新しい評価基準を導入する。
RCAP測定値と他のSOTA測定値を用いて7つの勾配に基づくXAI法によるガイドアブソリュートグラフを3つのケーススタディで評価した。
論文 参考訳（メタデータ） (2024-04-23T23:26:02Z) - Hi-Map: Hierarchical Factorized Radiance Field for High-Fidelity
Monocular Dense Mapping [51.739466714312805]
ニューラルラジアンス場(NeRF)に基づく新しいモノクリン高密度マッピング手法であるHi-Mapを導入する。
ハイマップは、RGB入力のみを用いた効率的かつ高忠実なマッピングを実現する能力において例外的である。
論文 参考訳（メタデータ） (2024-01-06T12:32:25Z) - Neural Gradient Learning and Optimization for Oriented Point Normal
Estimation [53.611206368815125]
本研究では,3次元点雲から勾配ベクトルを一貫した向きで学習し,正規推定を行うためのディープラーニング手法を提案する。
局所平面幾何に基づいて角距離場を学習し、粗勾配ベクトルを洗練する。
本手法は,局所特徴記述の精度と能力の一般化を図りながら,グローバル勾配近似を効率的に行う。
論文 参考訳（メタデータ） (2023-09-17T08:35:11Z) - Rethinking Class Activation Maps for Segmentation: Revealing Semantic
Information in Shallow Layers by Reducing Noise [2.462953128215088]
クラス活性化マップの性能に対する大きな制限は、畳み込みニューラルネットワークの最後の層にある特徴マップの小さな空間分解能である。
本稿では, 雑音を正の勾配で除去し, ノイズを除去する簡易な勾配法を提案する。
提案手法は,他のCAM関連手法にも容易に適用可能であり,高品質なクラスアクティベーションマップの取得が容易である。
論文 参考訳（メタデータ） (2023-08-04T03:04:09Z) - Decom--CAM: Tell Me What You See, In Details! Feature-Level Interpretation via Decomposition Class Activation Map [23.71680014689873]
クラスアクティベーションマップ(CAM)は、オブジェクトの位置をハイライトすることで深層モデルの予測を解釈するために広く使われている。
本稿では,分解クラス活性化マップ(Decom-CAM)と呼ばれる2段階の解釈可能性を提案する。
実験の結果,提案したDecom-CAMは最先端の手法よりも優れていた。
論文 参考訳（メタデータ） (2023-05-27T14:33:01Z) - Shap-CAM: Visual Explanations for Convolutional Neural Networks based on
Shapley Value [86.69600830581912]
クラスアクティベーションマッピングに基づくShap-CAMと呼ばれる新しい視覚的説明法を開発した。
我々は,Shap-CAMが意思決定プロセスの解釈において,より良い視覚的性能と公平性を実現することを実証した。
論文 参考訳（メタデータ） (2022-08-07T00:59:23Z) - CAMERAS: Enhanced Resolution And Sanity preserving Class Activation
Mapping for image saliency [61.40511574314069]
バックプロパゲーション画像のサリエンシは、入力中の個々のピクセルのモデル中心の重要性を推定することにより、モデル予測を説明することを目的としている。
CAMERASは、外部の事前処理を必要とせずに、高忠実度バックプロパゲーション・サリエンシ・マップを計算できる手法である。
論文 参考訳（メタデータ） (2021-06-20T08:20:56Z) - Enhancing Deep Neural Network Saliency Visualizations with Gradual
Extrapolation [0.0]
Grad-CAMやExcit Backpropagationのようなクラスアクティベーションマッピング手法の拡張手法を提案する。
我々のアイデアはGradual Extrapolationと呼ばれ、出力をシャープすることでヒートマップ画像を生成するメソッドを補うことができる。
論文 参考訳（メタデータ） (2021-04-11T07:39:35Z) - Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box
Optimization Framework [100.36569795440889]
この作業は、一階情報を必要としない零次最適化(ZO)の反復である。
座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
論文 参考訳（メタデータ） (2020-12-21T17:29:58Z) - Understanding Integrated Gradients with SmoothTaylor for Deep Neural
Network Attribution [70.78655569298923]
ディープニューラルネットワークモデルの属性方法としての統合グラディエントは、シンプルな実装性を提供する。
理解しやすさに影響を及ぼす説明のうるささに悩まされる。
SmoothGrad法は,ノイズ問題を解消し,勾配に基づく帰属法の帰属写像を円滑化するために提案される。
論文 参考訳（メタデータ） (2020-04-22T10:43:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。