論文の概要: A Dual-Perspective Approach to Evaluating Feature Attribution Methods

• arxiv url: http://arxiv.org/abs/2308.08949v1
• Date: Thu, 17 Aug 2023 12:41:04 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-21 16:45:36.282000
• Title: A Dual-Perspective Approach to Evaluating Feature Attribution Methods
• Title（参考訳）: 特徴帰属評価のための双対的アプローチ
• Authors: Yawei Li, Yang Zhang, Kenji Kawaguchi, Ashkan Khakzar, Bernd Bischl, Mina Rezaei
• Abstract要約: 本稿では,直観的特性を明らかにする忠実度パラダイムの中で,音性と完全性という2つの新しい視点を提案する。 健全性は、どの特徴が真に予測的特徴であるかを評価する一方、完全性は、結果の帰属が予測的特徴をどの程度うまく明らかにするかを調べる。 これらのメトリクスを主流属性法に適用し、特徴属性法を解析・比較するための新しいレンズを提供する。
• 参考スコア（独自算出の注目度）: 43.16453263420591
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Feature attribution methods attempt to explain neural network predictions by identifying relevant features. However, establishing a cohesive framework for assessing feature attribution remains a challenge. There are several views through which we can evaluate attributions. One principal lens is to observe the effect of perturbing attributed features on the model's behavior (i.e., faithfulness). While providing useful insights, existing faithfulness evaluations suffer from shortcomings that we reveal in this paper. In this work, we propose two new perspectives within the faithfulness paradigm that reveal intuitive properties: soundness and completeness. Soundness assesses the degree to which attributed features are truly predictive features, while completeness examines how well the resulting attribution reveals all the predictive features. The two perspectives are based on a firm mathematical foundation and provide quantitative metrics that are computable through efficient algorithms. We apply these metrics to mainstream attribution methods, offering a novel lens through which to analyze and compare feature attribution methods.
• Abstract（参考訳）: 特徴帰属法は、関連する特徴を識別することでニューラルネットワークの予測を説明する。 しかし、機能帰属を評価するための凝集フレームワークを確立することは依然として課題である。 帰属を評価できる見解はいくつかある。 1つの主要なレンズは、モデルの動き(すなわち忠実さ)に対する摂動特性の影響を観察することである。 有用な洞察を提供する一方で、既存の忠実性評価は、本論文で提示する欠点に苦しむ。 本研究では,直観的特性を明らかにする忠実度パラダイムの2つの新しい視点,すなわち音性と完全性を提案する。 健全性は、どの特徴が真の予測的特徴であるかを評価する一方、完全性は、結果の帰属が予測的特徴をいかによく示すかを調べる。 2つの視点は強固な数学的基礎に基づいており、効率的なアルゴリズムで計算可能な定量的指標を提供する。 これらの指標を主観的帰属法に適用し、特徴帰属法を分析し比較するための新しいレンズを提供する。

関連論文リスト

• On The Coherence of Quantitative Evaluation of Visual Explanations [0.7212939068975619]
  視覚的説明の「良さ」を評価するための評価手法が提案されている。 我々はImageNet-1k検証セットのサブセットについて検討し、多くの一般的な説明手法を評価した。 本研究の結果から, 評価方法のいくつかは, 階調のコヒーレンシーが欠如していることが示唆された。
  論文  参考訳（メタデータ） (2023-02-14T13:41:57Z)
• Fine-Grained Neural Network Explanation by Identifying Input Features with Predictive Information [53.28701922632817]
  入力領域における予測情報を用いて特徴を識別する手法を提案する。 我々の手法の中核となる考え方は、予測潜在機能に関連する入力機能のみを通過させる入力のボトルネックを活用することである。
  論文  参考訳（メタデータ） (2021-10-04T14:13:42Z)
• Discriminative Attribution from Counterfactuals [64.94009515033984]
  本稿では,特徴属性と反実的説明を組み合わせたニューラルネットワークの解釈可能性について述べる。 本手法は,特徴属性法の性能を客観的に評価するために有効であることを示す。
  論文  参考訳（メタデータ） (2021-09-28T00:53:34Z)
• What Image Features Boost Housing Market Predictions? [81.32205133298254]
  本稿では,予測アルゴリズムにおける効率的な数値包摂のための視覚特徴抽出手法を提案する。 本稿では,シャノンのエントロピー,重心計算,画像分割,畳み込みニューラルネットワークなどの手法について論じる。 ここで選択された40の画像特徴のセットは、かなりの量の予測能力を持ち、最も強力なメタデータ予測器よりも優れています。
  論文  参考訳（メタデータ） (2021-07-15T06:32:10Z)
• Do Feature Attribution Methods Correctly Attribute Features? [5.58592454173439]
  特徴帰属法は、解釈可能な機械学習で非常に人気がある。 属性」の定義に関する合意はありません。 塩分マップ,合理性,注意の3つの方法を評価した。
  論文  参考訳（メタデータ） (2021-04-27T20:35:30Z)
• Understanding Failures of Deep Networks via Robust Feature Extraction [44.204907883776045]
  本研究では,視覚的特徴を識別し,不在や不在がパフォーマンスの低下を招き,失敗を特徴づけ,説明することを目的とした手法を紹介し,検討する。 我々は、分離されたロバストモデルの表現を活用して、解釈可能な特徴を抽出し、これらの特徴を利用して障害モードを特定します。
  論文  参考訳（メタデータ） (2020-12-03T08:33:29Z)
• Towards Unifying Feature Attribution and Counterfactual Explanations: Different Means to the Same End [17.226134854746267]
  本稿では,一組の反実例から特徴帰属説明を生成する手法を提案する。 本報告では, 帰属に基づく説明の妥当性を, その必要性と充足性の観点から評価するために, 対実例をいかに活用するかを示す。
  論文  参考訳（メタデータ） (2020-11-10T05:41:43Z)
• Weakly-Supervised Aspect-Based Sentiment Analysis via Joint Aspect-Sentiment Topic Embedding [71.2260967797055]
  アスペクトベース感情分析のための弱教師付きアプローチを提案する。 We learn sentiment, aspects> joint topic embeddeds in the word embedding space。 次に、ニューラルネットワークを用いて単語レベルの識別情報を一般化する。
  論文  参考訳（メタデータ） (2020-10-13T21:33:24Z)
• Evaluations and Methods for Explanation through Robustness Analysis [117.7235152610957]
  分析による特徴に基づく説明の新たな評価基準を確立する。 我々は、緩やかに必要であり、予測に十分である新しい説明を得る。 我々は、現在の予測をターゲットクラスに移動させる一連の特徴を抽出するために、説明を拡張します。
  論文  参考訳（メタデータ） (2020-05-31T05:52:05Z)
• A general framework for inference on algorithm-agnostic variable importance [3.441021278275805]
  本稿では,解釈可能なアルゴリズムに依存しない変数重要度に関する非推論のためのフレームワークを提案する。 本提案は,HIV-1感染に対する抗体調査から得られたデータを用いて,良好な手術特性を示す。
  論文  参考訳（メタデータ） (2020-04-07T20:09:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。