論文の概要: New Definitions and Evaluations for Saliency Methods: Staying Intrinsic, Complete and Sound

• arxiv url: http://arxiv.org/abs/2211.02912v1
• Date: Sat, 5 Nov 2022 14:04:59 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-08 16:01:53.097073
• Title: New Definitions and Evaluations for Saliency Methods: Staying Intrinsic, Complete and Sound
• Title（参考訳）: 塩分法の新しい定義と評価--内在的・完全的・音的継続-
• Authors: Arushi Gupta, Nikunj Saunshi, Dingli Yu, Kaifeng Lyu, Sanjeev Arora
• Abstract要約: 塩分法は、深層ネットによって割り当てられたラベルにとって最も重要であった入力の一部をハイライトする熱マップを計算する。 これは通常、出力のエミュレート説明と見なされるが、本論文では、この因果関係の推測が疑わしい理由を浮き彫りにしている。 両概念を捉えつつ,内在的なフレームワークに留まる上で,新たな評価指標を導入する。
• 参考スコア（独自算出の注目度）: 39.31729400919928
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Saliency methods compute heat maps that highlight portions of an input that were most {\em important} for the label assigned to it by a deep net. Evaluations of saliency methods convert this heat map into a new {\em masked input} by retaining the $k$ highest-ranked pixels of the original input and replacing the rest with \textquotedblleft uninformative\textquotedblright\ pixels, and checking if the net's output is mostly unchanged. This is usually seen as an {\em explanation} of the output, but the current paper highlights reasons why this inference of causality may be suspect. Inspired by logic concepts of {\em completeness \& soundness}, it observes that the above type of evaluation focuses on completeness of the explanation, but ignores soundness. New evaluation metrics are introduced to capture both notions, while staying in an {\em intrinsic} framework -- i.e., using the dataset and the net, but no separately trained nets, human evaluations, etc. A simple saliency method is described that matches or outperforms prior methods in the evaluations. Experiments also suggest new intrinsic justifications, based on soundness, for popular heuristic tricks such as TV regularization and upsampling.
• Abstract（参考訳）: 塩分法は、ディープネットによって割り当てられたラベルに対して最も重要であった入力の一部をハイライトする熱マップを計算する。 サリエンシ法の評価は、この熱マップを元の入力の最高ランクのピクセルを$k$保持し、残りを‘textquotedblleft uninformative\textquotedblright\ピクセルに置き換えて、ネットの出力がほとんど変化していないかどうかを確認することによって、新しい {\em masked input に変換する。 これは通常、出力の説明として見なされるが、本論文では、この因果関係の推測が疑わしい理由を浮き彫りにしている。 em completeness \& soundness}の論理概念に着想を得て、上記のタイプの評価は説明の完全性に焦点をあてるが、健全性は無視する。 両方の概念を捉えるために新しい評価指標が導入され、データセットとネットを使用するが、個別にトレーニングされたネットや人的評価などはない。 評価において,先行手法と一致するか,または上回る単純なサルマンシー法が記述されている。 実験はまた、テレビの正規化やアップサンプリングのような一般的なヒューリスティックなトリックに対して、音性に基づく新しい本質的な正当化を提案する。

関連論文リスト

• BeMap: Balanced Message Passing for Fair Graph Neural Network [50.910842893257275]
  異なる人口集団の1ホップ隣人がバランスが取れていない場合、メッセージパッシングがバイアスを増幅することを示します。 本研究では,各ノードの1ホップ隣人の数を異なるグループ間でバランスをとる,公平なメッセージパッシング手法であるBeMapを提案する。
  論文  参考訳（メタデータ） (2023-06-07T02:16:36Z)
• Measuring the Interpretability of Unsupervised Representations via Quantized Reverse Probing [97.70862116338554]
  本稿では,自己教師付き表現の解釈可能性の測定問題について検討する。 我々は、後者を、表現と手動でラベル付けされた概念の空間の間の相互情報を推定するものとして定式化する。 提案手法は,多人数の自己教師付き表現の評価に利用し,解釈可能性による評価を行う。
  論文  参考訳（メタデータ） (2022-09-07T16:18:50Z)
• Just Rank: Rethinking Evaluation with Word and Sentence Similarities [105.5541653811528]
  埋め込みの本質的な評価は かなり遅れています そして過去10年間 重要な更新は行われていません 本稿ではまず,単語と文の埋め込み評価におけるゴールドスタンダードとして意味的類似性を用いた問題点を指摘する。 本稿では,下流タスクとより強い相関関係を示すEvalRankという本質的な評価手法を提案する。
  論文  参考訳（メタデータ） (2022-03-05T08:40:05Z)
• Conditional probing: measuring usable information beyond a baseline [103.93673427217527]
  ある表現が、その表現がベースライン表現を探索するよりも高い精度を生成する場合、その表現がプロパティを符号化することを示唆する。 本稿では,ベースライン内の情報に対して明示的に条件を定め,条件付き探索を提案する。 ケーススタディでは、非文脈単語埋め込みを条件付けした後、部分音声のような特性がネットワークの深い層でアクセス可能であることが判明した。
  論文  参考訳（メタデータ） (2021-09-19T21:56:58Z)
• Search Methods for Sufficient, Socially-Aligned Feature Importance Explanations with In-Distribution Counterfactuals [72.00815192668193]
  特徴重要度(FI)推定は一般的な説明形式であり、テスト時に特定の入力特徴を除去することによって生じるモデル信頼度の変化を計算し、評価することが一般的である。 FIに基づく説明の未探索次元についていくつかの考察を行い、この説明形式に対する概念的および実証的な改善を提供する。
  論文  参考訳（メタデータ） (2021-06-01T20:36:48Z)
• [Re] Don't Judge an Object by Its Context: Learning to Overcome Contextual Bias [15.701707809084715]
  PyTorch 1.7.0でスクラッチからパイプライン全体を実装する。 その結果,提案手法はいずれも文脈バイアスの軽減に役立つことがわかった。
  論文  参考訳（メタデータ） (2021-04-28T06:21:28Z)
• Variable Instance-Level Explainability for Text Classification [9.147707153504117]
  本論文では,インスタンスレベルでの異なる特徴スコアリング手法を用いて変数長説明を抽出する手法を提案する。 本手法は,従来の固定長および固定長のスコアリング手法と比較して,より忠実な説明を提供する。
  論文  参考訳（メタデータ） (2021-04-16T16:53:48Z)
• Boundary Attributions Provide Normal (Vector) Explanations [27.20904776964045]
  境界属性(BA)はこの問題に対処するための新しい説明法である。 BAは、ターゲット入力に対する局所的な決定境界の正規ベクトルを計算する。 ランダム化された平滑化ネットワークまたは堅牢に訓練されたネットワークのBAは、標準ネットワークよりも非境界アトリビューション方法にはるかに近い。
  論文  参考訳（メタデータ） (2021-03-20T22:36:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。