論文の概要: Reliable Evaluation of Attribution Maps in CNNs: A Perturbation-Based Approach

• arxiv url: http://arxiv.org/abs/2411.14946v1
• Date: Fri, 22 Nov 2024 13:57:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-25 15:04:28.394097
• Title: Reliable Evaluation of Attribution Maps in CNNs: A Perturbation-Based Approach
• Title（参考訳）: CNNにおける属性マップの信頼性評価:摂動に基づくアプローチ
• Authors: Lars Nieradzik, Henrike Stephani, Janis Keuper,
• Abstract要約: 本稿では、畳み込みニューラルネットワーク(CNNGrads)の予測の解釈において中心的な役割を果たす属性マップの評価手法を提案する。 本研究では,広く使用されている挿入・削除指標が,ランキングの信頼性に影響を及ぼす分布シフトの影響を受けやすいことを示す。 提案手法は, 画素修正を逆方向の摂動に置き換えることであり, より堅牢な評価フレームワークを提供する。
• 参考スコア（独自算出の注目度）: 7.1606014219358425
• License:
• Abstract: In this paper, we present an approach for evaluating attribution maps, which play a central role in interpreting the predictions of convolutional neural networks (CNNs). We show that the widely used insertion/deletion metrics are susceptible to distribution shifts that affect the reliability of the ranking. Our method proposes to replace pixel modifications with adversarial perturbations, which provides a more robust evaluation framework. By using smoothness and monotonicity measures, we illustrate the effectiveness of our approach in correcting distribution shifts. In addition, we conduct the most comprehensive quantitative and qualitative assessment of attribution maps to date. Introducing baseline attribution maps as sanity checks, we find that our metric is the only contender to pass all checks. Using Kendall's $\tau$ rank correlation coefficient, we show the increased consistency of our metric across 15 dataset-architecture combinations. Of the 16 attribution maps tested, our results clearly show SmoothGrad to be the best map currently available. This research makes an important contribution to the development of attribution maps by providing a reliable and consistent evaluation framework. To ensure reproducibility, we will provide the code along with our results.
• Abstract（参考訳）: 本稿では、畳み込みニューラルネットワーク(CNN)の予測を解釈する上で中心的な役割を果たす属性マップの評価手法を提案する。 本研究では,広く使用されている挿入・削除指標が,ランキングの信頼性に影響を及ぼす分布シフトの影響を受けやすいことを示す。 提案手法は, 画素修正を逆方向の摂動に置き換えることであり, より堅牢な評価フレームワークを提供する。 平滑性および単調性の測定値を用いて,分布シフトの補正におけるアプローチの有効性について述べる。 さらに,現在までの属性マップの量的,質的な評価を行う。 正当性チェックとしてベースライン属性マップを導入することで、我々のメトリックがすべてのチェックをパスする唯一の競合相手であることが分かる。 Kendallの$\tau$ランク相関係数を用いて、15のデータセットとアーキテクチャの組み合わせでメトリクスの一貫性が向上したことを示す。 テストした16の属性マップのうち、SmoothGradが現在利用可能なベストマップであることは明らかです。 本研究は,信頼性と一貫した評価フレームワークを提供することにより,属性マップの開発に重要な貢献をする。 再現性を確保するため、コードと結果を提供します。

関連論文リスト

• Less is More: Fewer Interpretable Region via Submodular Subset Selection [54.07758302264416]
  本稿では,上述の画像帰属問題を部分モジュラ部分選択問題として再モデル化する。 我々は、より正確な小さな解釈領域を発見するために、新しい部分モジュラー関数を構築する。 正しく予測されたサンプルに対しては,HSIC-Attributionに対する平均4.9%と2.5%の利得で,Deletion and Insertionスコアを改善した。
  論文  参考訳（メタデータ） (2024-02-14T13:30:02Z)
• Nearest Neighbor Guidance for Out-of-Distribution Detection [18.851275688720108]
  そこで本研究では,最寄りのNearest Neighbor Guidance (NNGuide) を用いて,オフ・オブ・ディストリビューション(OOD) サンプルの検出を行う。 NNGuideは、分類器ベースのスコアのきめ細かい機能を維持しながら、OODサンプルの過信を低減する。 この結果から,NNGuideはベース検出スコアを大幅に向上することがわかった。
  論文  参考訳（メタデータ） (2023-09-26T12:40:35Z)
• Unsupervised Landmark Discovery Using Consistency Guided Bottleneck [63.624186864522315]
  画像再構成に基づくパイプラインに一貫性のあるボトルネックを導入する。 本稿では,画像間のランドマーク対応を形成することによって,擬似スーパービジョンを得る手法を提案する。 この一貫性は、アダプティブ・ヒートマップの生成において発見されたランドマークの不確かさを変調する。
  論文  参考訳（メタデータ） (2023-09-19T10:57:53Z)
• Okapi: Generalising Better by Making Statistical Matches Match [7.392460712829188]
  オカピは、オンライン統計マッチングに基づく頑健な半教師あり学習のためのシンプルで効率的で汎用的な方法である。 提案手法では, 最寄りのマッチング手法を用いて, 整合性損失に対するクロスドメインビューを生成する。 経験的リスクの最小化を改善するために、余分な遅延のないデータを活用することは実際に可能であることを示す。
  論文  参考訳（メタデータ） (2022-11-07T12:41:17Z)
• A Closer Look at Debiased Temporal Sentence Grounding in Videos: Dataset, Metric, and Approach [53.727460222955266]
  テンポラル・センテンス・グラウンディング・イン・ビデオ(TSGV)は、未編集のビデオに自然言語文を埋め込むことを目的としている。 最近の研究では、現在のベンチマークデータセットには明らかなモーメントアノテーションバイアスがあることが判明している。 偏りのあるデータセットによる膨らませ評価を緩和するため、基礎的リコールスコアを割引する新しい評価基準「dR@n,IoU@m」を導入する。
  論文  参考訳（メタデータ） (2022-03-10T08:58:18Z)
• Reliable Inlier Evaluation for Unsupervised Point Cloud Registration [26.883254695961682]
  本研究では,ロバストな無監督点雲登録のための周辺コンセンサスに基づく信頼性の高い不整合性評価手法を提案する。 震源近傍とそれに対応する擬似目標近傍の識別的幾何学的差異を効果的不等式識別のために捉えることが期待されている。 教師なし環境下では,ハマー関数に基づく大域的アライメント損失,局所的な地域的コンセンサス損失,空間的一貫性損失をモデル最適化に用いる。
  論文  参考訳（メタデータ） (2022-02-23T03:46:42Z)
• Evaluating Feature Attribution Methods in the Image Domain [7.852862161478641]
  既存のメトリクスについて検討し、属性マップの評価のための新しいメトリクスの変種を提案する。 異なる帰属指標は、帰属写像の根底にある異なる概念を測っているように見える。 本稿では,あるユースケースに対して理想的な特徴属性法を特定するための一般的なベンチマーク手法を提案する。
  論文  参考訳（メタデータ） (2022-02-22T15:14:33Z)
• Accuracy on the Line: On the Strong Correlation Between Out-of-Distribution and In-Distribution Generalization [89.73665256847858]
  分布外性能は,広範囲なモデルと分布シフトに対する分布内性能と強く相関していることを示す。 具体的には,CIFAR-10 と ImageNet の変種に対する分布内分布と分布外分布性能の強い相関関係を示す。 また,CIFAR-10-Cと組織分類データセットCamelyon17-WILDSの合成分布の変化など,相関が弱いケースについても検討した。
  論文  参考訳（メタデータ） (2021-07-09T19:48:23Z)
• Normalized Label Distribution: Towards Learning Calibrated, Adaptable and Efficient Activation Maps [0.0]
  データ収差や敵対的攻撃に対するモデルの脆弱性は、異なるクラス境界を効率的に定義する能力に影響する。 各種ネットワークの性能と汎用性に対する実地分布変化の重要性について検討する。
  論文  参考訳（メタデータ） (2020-12-12T17:54:01Z)
• Making Affine Correspondences Work in Camera Geometry Computation [62.7633180470428]
  局所的な特徴は、ポイント・ツー・ポイント対応ではなく、リージョン・ツー・リージョンを提供する。 本稿では,全モデル推定パイプラインにおいて,地域間マッチングを効果的に活用するためのガイドラインを提案する。 実験により、アフィンソルバはより高速な実行時にポイントベースソルバに匹敵する精度を達成できることが示された。
  論文  参考訳（メタデータ） (2020-07-20T12:07:48Z)
• Rethinking Localization Map: Towards Accurate Object Perception with Self-Enhancement Maps [78.2581910688094]
  本研究は, カテゴリーラベルのみを監督として, 正確な対象位置分布マップと対象境界を抽出する, 新たな自己強調手法を提案する。 特に、提案されたセルフエンハンスメントマップは、ILSVRC上で54.88%の最先端のローカライゼーション精度を達成する。
  論文  参考訳（メタデータ） (2020-06-09T12:35:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。