論文の概要: A matter of attitude: Focusing on positive and active gradients to boost saliency maps

• arxiv url: http://arxiv.org/abs/2309.12913v1
• Date: Fri, 22 Sep 2023 15:00:00 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-25 14:09:54.682923
• Title: A matter of attitude: Focusing on positive and active gradients to boost saliency maps
• Title（参考訳）: 態度の問題:正と活の勾配に着目してサリエンシマップを強化する
• Authors: Oscar Llorente, Jaime Boal and Eugenio F. S\'anchez-\'Ubeda
• Abstract要約: 親和性マップは畳み込みニューラルネットワーク(CNN)の最も広く使われている解釈可能性手法の1つである。 本稿では,勾配図から勾配の徴候を解くことで,階層分類問題の理解を深める方法について考察する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Saliency maps have become one of the most widely used interpretability techniques for convolutional neural networks (CNN) due to their simplicity and the quality of the insights they provide. However, there are still some doubts about whether these insights are a trustworthy representation of what CNNs use to come up with their predictions. This paper explores how rescuing the sign of the gradients from the saliency map can lead to a deeper understanding of multi-class classification problems. Using both pretrained and trained from scratch CNNs we unveil that considering the sign and the effect not only of the correct class, but also the influence of the other classes, allows to better identify the pixels of the image that the network is really focusing on. Furthermore, how occluding or altering those pixels is expected to affect the outcome also becomes clearer.
• Abstract（参考訳）: サリエンシーマップは、畳み込みニューラルネットワーク(cnn)の単純さと提供する洞察の質から、最も広く使われている解釈技術の一つである。 しかし、これらの洞察がCNNが予測を思いつくために使っていることの信頼できる表現であるかどうかには疑問が残る。 本稿では,勾配図から勾配の徴候を解くことで,階層分類問題の理解を深める方法について考察する。 トレーニング済みのcnnとトレーニング済みのcnnの両方を使用することで、正しいクラスだけでなく、他のクラスの影響も考慮すれば、ネットワークが本当に注目しているイメージのピクセルをより正確に識別できるようになる、ということを明らかにします。 さらに、これらのピクセルの排除や変更が結果に与える影響も明確になる。

関連論文リスト

• Understanding the Role of Pathways in a Deep Neural Network [4.456675543894722]
  分類タスクで訓練された畳み込みニューラルネットワーク(CNN)を分析し,個々の画素の拡散経路を抽出するアルゴリズムを提案する。 画像からの個々のピクセルの最も大きな経路は、分類に重要な各層の特徴マップを横断する傾向にある。
  論文  参考訳（メタデータ） (2024-02-28T07:53:19Z)
• On the ability of CNNs to extract color invariant intensity based features for image classification [4.297070083645049]
  畳み込みニューラルネットワーク(CNN)は視覚関連タスクにおいて顕著な成功を収めている。 近年の研究では、画像分類作業において、CNNは対象形状ではなくテクスチャに偏っていることが示唆されている。 本稿では,CNNが文脈や背景を維持しつつ,画像内の異なる色分布に適応できる能力について検討する。
  論文  参考訳（メタデータ） (2023-07-13T00:36:55Z)
• Learning to ignore: rethinking attention in CNNs [87.01305532842878]
  我々は,CNNの注意機構を再構築し,出席する学習ではなく無視することを学ぶことを提案する。 具体的には、シーン内で無関係な情報を明示的に学習し、生成した表現でそれを抑えることを提案する。
  論文  参考訳（メタデータ） (2021-11-10T13:47:37Z)
• A-FMI: Learning Attributions from Deep Networks via Feature Map Importance [58.708607977437794]
  勾配に基づくアトリビューション法は畳み込みニューラルネットワーク(CNN)の理解を助けることができる 帰属特徴の冗長性と勾配飽和問題は、帰属方法がまだ直面する課題である。 本稿では,各特徴マップの寄与度を高めるための新しい概念,特徴マップ重要度 (FMI) と,勾配飽和問題に対処するためのFMIによる新しい帰属法を提案する。
  論文  参考訳（メタデータ） (2021-04-12T14:54:44Z)
• The Mind's Eye: Visualizing Class-Agnostic Features of CNNs [92.39082696657874]
  本稿では,特定のレイヤの最も情報性の高い特徴を表現した対応する画像を作成することにより,画像の集合を視覚的に解釈する手法を提案する。 本手法では, 生成ネットワークを必要とせず, 元のモデルに変更を加えることなく, デュアルオブジェクトのアクティベーションと距離損失を利用する。
  論文  参考訳（メタデータ） (2021-01-29T07:46:39Z)
• Assessing The Importance Of Colours For CNNs In Object Recognition [70.70151719764021]
  畳み込みニューラルネットワーク(CNN)は相反する性質を示すことが示されている。 CNNが予測をしながら色情報に大きく依存していることを実証します。 congruent, greyscale, incongruent画像の合同画像で学習したモデルを評価する。
  論文  参考訳（メタデータ） (2020-12-12T22:55:06Z)
• Exploring the Interchangeability of CNN Embedding Spaces [0.5735035463793008]
  画像分類CNN10点と顔認識CNN4点をマップする。 同じクラスにトレーニングされ、共通のバックエンド-ログアーキテクチャを共有するCNNの場合、リニアマッピングは常にバックエンド層重みから直接計算される。 この意味は遠く離れており、共通のタスクのために設計、訓練されたネットワークによって学習された表現間の基礎的な共通性を示している。
  論文  参考訳（メタデータ） (2020-10-05T20:32:40Z)
• Trustworthy Convolutional Neural Networks: A Gradient Penalized-based Approach [0.0]
  畳み込みニューラルネットワーク(CNN)は一般的に画像分類に用いられる。 CNNは画像を正しく分類できるが、基礎となるサリエンシマップは多くのケースで誤っている可能性がある。 本稿では,パラメータ選択をペナライズすることで信頼度の高いCNNをトレーニングする手法を提案する。
  論文  参考訳（メタデータ） (2020-09-29T18:56:40Z)
• Learning CNN filters from user-drawn image markers for coconut-tree image classification [78.42152902652215]
  本稿では,CNNの特徴抽出器を訓練するために,最小限のユーザ選択画像を必要とする手法を提案する。 本手法は,クラスを識別する画像領域のユーザ描画マーカーから,各畳み込み層のフィルタを学習する。 バックプロパゲーションに基づく最適化には依存せず、ココナッツツリー空中画像のバイナリ分類にその利点を実証する。
  論文  参考訳（メタデータ） (2020-08-08T15:50:23Z)
• Teaching CNNs to mimic Human Visual Cognitive Process & regularise Texture-Shape bias [18.003188982585737]
  コンピュータビジョンにおける最近の実験は、畳み込みニューラルネットワーク(CNN)を用いたモデルにおいて、テクスチャバイアスが最高の結果の主因であることを実証している。 コスト関数は、CNNが欲張りなアプローチを採り、テクスチャのような局所的な情報に対する生産性を向上させ、その結果、グローバルな統計を探索することができないと信じられている。 画像の再構成と分類に形状,テクスチャ,エッジなどの人間の解釈可能な特徴を活用するために,心理学における特徴統合理論から着想を得た,新しい直感的なアーキテクチャであるCognitiveCNNを提案する。
  論文  参考訳（メタデータ） (2020-06-25T22:32:54Z)
• Hold me tight! Influence of discriminative features on deep network boundaries [63.627760598441796]
  本稿では,データセットの特徴と,サンプルから決定境界までの距離を関連付ける新しい視点を提案する。 これにより、トレーニングサンプルの位置を慎重に調整し、大規模ビジョンデータセットでトレーニングされたCNNの境界における誘発された変化を測定することができる。
  論文  参考訳（メタデータ） (2020-02-15T09:29:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。