論文の概要: Evaluating Input Perturbation Methods for Interpreting CNNs and Saliency Map Comparison

• arxiv url: http://arxiv.org/abs/2101.10977v1
• Date: Tue, 26 Jan 2021 18:11:06 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-14 06:43:01.470354
• Title: Evaluating Input Perturbation Methods for Interpreting CNNs and Saliency Map Comparison
• Title（参考訳）: CNN解釈のための入力摂動法の評価とSaliency Mapの比較
• Authors: Lukas Brunke, Prateek Agrawal, Nikhil George
• Abstract要約: 本稿では,中立なベースライン画像が生成したサリエンシマップに依然として影響を与え,入力摂動による評価を行うことを示す。 入力摂動法における不一致を実験的に明らかにし, サリエンシーマップの生成やサリエンシーマップをサリエンシーメトリクスとして評価するための堅牢性が欠如していることを確認した。
• 参考スコア（独自算出の注目度）: 9.023847175654602
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Input perturbation methods occlude parts of an input to a function and measure the change in the function's output. Recently, input perturbation methods have been applied to generate and evaluate saliency maps from convolutional neural networks. In practice, neutral baseline images are used for the occlusion, such that the baseline image's impact on the classification probability is minimal. However, in this paper we show that arguably neutral baseline images still impact the generated saliency maps and their evaluation with input perturbations. We also demonstrate that many choices of hyperparameters lead to the divergence of saliency maps generated by input perturbations. We experimentally reveal inconsistencies among a selection of input perturbation methods and find that they lack robustness for generating saliency maps and for evaluating saliency maps as saliency metrics.
• Abstract（参考訳）: 入力摂動法は、関数への入力の一部を遮断し、関数の出力の変化を測定する。 近年,畳み込みニューラルネットワークからサリエンシマップの生成と評価に入力摂動法が適用されている。 実際には、中性ベースライン画像は閉塞のために使用され、ベースライン画像の分類確率への影響は最小限である。 しかし,本論文では,中立なベースライン画像が生成したサリエンシマップと入力摂動による評価に依然として影響を与えていることを示す。 また,多くのパラメータ選択が入力摂動によって生じる塩分マップのばらつきにつながることを示す。 入力摂動法における不一致を実験的に明らかにし, サリエンシーマップの生成やサリエンシーマップをサリエンシーメトリクスとして評価するための堅牢性が欠如していることを確認した。

関連論文リスト

• Unlearning-based Neural Interpretations [51.99182464831169]
  静的関数を用いて定義される現在のベースラインは、バイアスがあり、脆弱であり、操作可能であることを示す。 UNIは、学習不可能で、偏りがなく、適応的なベースラインを計算し、入力を最も急な上昇の未学習方向に向けて摂動させることを提案する。
  論文  参考訳（メタデータ） (2024-10-10T16:02:39Z)
• Smoothed Embeddings for Certified Few-Shot Learning [63.68667303948808]
  我々はランダムな平滑化を数ショットの学習モデルに拡張し、入力を正規化された埋め込みにマッピングする。 この結果は、異なるデータセットの実験によって確認される。
  論文  参考訳（メタデータ） (2022-02-02T18:19:04Z)
• Where do Models go Wrong? Parameter-Space Saliency Maps for Explainability [47.18202269163001]
  私たちは、入力ではなく、ネットワークパラメータを識別し分析する、サリエンシに対する別のアプローチを取ります。 類似したパラメータを誤動作させるサンプルが意味的に類似していることが判明した。 また、間違った分類されたサンプルに対して最も健全なパラメータをプルーニングすることは、しばしばモデルの振る舞いを改善することを示す。
  論文  参考訳（メタデータ） (2021-08-03T07:32:34Z)
• CAMERAS: Enhanced Resolution And Sanity preserving Class Activation Mapping for image saliency [61.40511574314069]
  バックプロパゲーション画像のサリエンシは、入力中の個々のピクセルのモデル中心の重要性を推定することにより、モデル予測を説明することを目的としている。 CAMERASは、外部の事前処理を必要とせずに、高忠実度バックプロパゲーション・サリエンシ・マップを計算できる手法である。
  論文  参考訳（メタデータ） (2021-06-20T08:20:56Z)
• Investigating sanity checks for saliency maps with image and text classification [1.836681984330549]
  サリエンシマップは、特に画像の文脈でモデル予測を説明するのに有用であり、誤解を招くものであることが示されている。 本研究では, 類似度スコア, 最大感度, 不忠実度評価指標を用いて, 入力乗数の影響を解析した。
  論文  参考訳（メタデータ） (2021-06-08T23:23:42Z)
• Input Bias in Rectified Gradients and Modified Saliency Maps [0.0]
  唾液マップは、分類や潜伏概念にかなりの影響を及ぼす入力特徴を特定する直感的な方法を提供する。 Rectified Gradients(英語版)のような従来の唾液マップへのいくつかの変更は、解釈可能性を高めるために導入されている。 入力画像の暗黒領域は、クラスや概念に関係があっても、Rectified Gradients を用いた塩分マップでは強調されないことを示す。
  論文  参考訳（メタデータ） (2020-11-10T09:45:13Z)
• Understanding Integrated Gradients with SmoothTaylor for Deep Neural Network Attribution [70.78655569298923]
  ディープニューラルネットワークモデルの属性方法としての統合グラディエントは、シンプルな実装性を提供する。 理解しやすさに影響を及ぼす説明のうるささに悩まされる。 SmoothGrad法は,ノイズ問題を解消し,勾配に基づく帰属法の帰属写像を円滑化するために提案される。
  論文  参考訳（メタデータ） (2020-04-22T10:43:19Z)
• Embedding Propagation: Smoother Manifold for Few-Shot Classification [131.81692677836202]
  本稿では, 組込み伝搬を非教師なし非パラメトリック正規化器として, 数ショット分類における多様体平滑化に用いることを提案する。 埋め込み伝播がより滑らかな埋め込み多様体を生み出すことを実証的に示す。 複数の半教師付き学習シナリオにおいて,埋め込み伝搬によりモデルの精度が最大16%向上することを示す。
  論文  参考訳（メタデータ） (2020-03-09T13:51:09Z)
• DANCE: Enhancing saliency maps using decoys [35.46266461621123]
  本稿では,2段階の手順に従うことで,サリエンシ手法の堅牢性を向上させる枠組みを提案する。 まず、中間表現を変更せずに入力サンプルを微妙に変化させる摂動機構を導入する。 第2に、摂動サンプルの塩分マップを計算し、塩分マップを集約する新しい方法を提案する。
  論文  参考訳（メタデータ） (2020-02-03T01:21:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。