Fugu-MT 論文翻訳(概要): Evaluating and Aggregating Feature-based Model Explanations

論文の概要: Evaluating and Aggregating Feature-based Model Explanations

arxiv url: http://arxiv.org/abs/2005.00631v1
Date: Fri, 1 May 2020 21:56:36 GMT
ステータス: 処理完了
システム内更新日: 2022-12-07 22:32:56.737738
Title: Evaluating and Aggregating Feature-based Model Explanations
Title（参考訳）: 特徴量に基づくモデル記述の評価と集約
Authors: Umang Bhatt, Adrian Weller, and Jos\'e M. F. Moura
Abstract要約: 特徴に基づくモデル説明は、各入力特徴が与えられたデータポイントに対するモデルの出力にどの程度貢献するかを示す。本稿では,低感度,高忠実度,低複雑性といった特徴に基づく説明の定量的評価基準を提案する。
参考スコア（独自算出の注目度）: 27.677158604772238
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: A feature-based model explanation denotes how much each input feature contributes to a model's output for a given data point. As the number of proposed explanation functions grows, we lack quantitative evaluation criteria to help practitioners know when to use which explanation function. This paper proposes quantitative evaluation criteria for feature-based explanations: low sensitivity, high faithfulness, and low complexity. We devise a framework for aggregating explanation functions. We develop a procedure for learning an aggregate explanation function with lower complexity and then derive a new aggregate Shapley value explanation function that minimizes sensitivity.
Abstract（参考訳）: 特徴に基づくモデル説明は、各入力特徴が与えられたデータポイントに対するモデルの出力にどの程度貢献するかを示す。提案する説明関数の数が増えるにつれて,どの説明関数を使うかを知るための定量的評価基準が欠如している。本稿では,低感度,高忠実度,低複雑性といった特徴に基づく説明の定量的評価基準を提案する。説明関数を集約するフレームワークを考案する。本研究では,複雑性の低い集合的説明関数を学習する手法を開発し,感度を最小化する新しい集合的シャプリー値説明関数を導出する。

関連論文リスト

Selective Explanations [14.312717332216073]
機械学習モデルは、1つの推論だけで特徴属性スコアを予測するために訓練される。その効率にもかかわらず、償却された説明者は不正確な予測や誤解を招く説明を生み出すことができる。そこで本稿では,低品質な説明文を生成する際の特徴帰属手法である選択的説明文を提案する。
論文参考訳（メタデータ） (2024-05-29T23:08:31Z)
Succinct Interaction-Aware Explanations [33.25637826682827]
SHAPは、個々の特徴の重要性を明らかにすることでブラックボックスモデルを説明する一般的なアプローチである。一方、NSHAPは全ての機能のサブセットに付加的な重要性を報告している。我々は、これらの2つの世界の長所を、機能を大幅に相互作用する部分に分割することで組み合わせることを提案する。
論文参考訳（メタデータ） (2024-02-08T11:04:11Z)
Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
論文参考訳（メタデータ） (2023-12-10T23:13:23Z)
FIND: A Function Description Benchmark for Evaluating Interpretability Methods [86.80718559904854]
本稿では,自動解釈可能性評価のためのベンチマークスイートであるFIND(Function Interpretation and Description)を紹介する。 FINDには、トレーニングされたニューラルネットワークのコンポーネントに似た機能と、私たちが生成しようとしている種類の記述が含まれています。本研究では、事前訓練された言語モデルを用いて、自然言語とコードにおける関数の振る舞いの記述を生成する手法を評価する。
論文参考訳（メタデータ） (2023-09-07T17:47:26Z)
Explaining the Model and Feature Dependencies by Decomposition of the Shapley Value [3.0655581300025996]
共有値は、複雑なモデルをエンドユーザに説明するためのゴートメソッドの1つになっています。欠点の1つは、いくつかの機能が欠けている場合、常にモデルの出力を必要とすることである。しかし、これは非自明な選択をもたらす: 未知の機能に条件を付けるか、しないか? 本稿では,両説明を組み合わせ,選択の負担を軽減し,シェープリー値の説明力を高めるアルゴリズムを提案する。
論文参考訳（メタデータ） (2023-06-19T12:20:23Z)
ExaRanker: Explanation-Augmented Neural Ranker [67.4894325619275]
本研究は,ニューラルランサーが説明の恩恵を受けることを示す。我々は、GPT-3.5のようなLCMを用いて、説明付き検索データセットを増強する。 ExaRankerと呼ばれる私たちのモデルは、数千の例で微調整され、合成説明は、説明なしで3倍の例で微調整されたモデルと同等に実行される。
論文参考訳（メタデータ） (2023-01-25T11:03:04Z)
Diagnostics-Guided Explanation Generation [32.97930902104502]
説明は機械学習モデルの合理性に光を当て、推論プロセスにおける欠陥の特定に役立ちます。文レベルの説明を生成するためにモデルを訓練する際、いくつかの診断特性を最適化する方法を示す。
論文参考訳（メタデータ） (2021-09-08T16:27:52Z)
Search Methods for Sufficient, Socially-Aligned Feature Importance Explanations with In-Distribution Counterfactuals [72.00815192668193]
特徴重要度(FI)推定は一般的な説明形式であり、テスト時に特定の入力特徴を除去することによって生じるモデル信頼度の変化を計算し、評価することが一般的である。 FIに基づく説明の未探索次元についていくつかの考察を行い、この説明形式に対する概念的および実証的な改善を提供する。
論文参考訳（メタデータ） (2021-06-01T20:36:48Z)
Towards Unifying Feature Attribution and Counterfactual Explanations: Different Means to the Same End [17.226134854746267]
本稿では,一組の反実例から特徴帰属説明を生成する手法を提案する。本報告では, 帰属に基づく説明の妥当性を, その必要性と充足性の観点から評価するために, 対実例をいかに活用するかを示す。
論文参考訳（メタデータ） (2020-11-10T05:41:43Z)
The Struggles of Feature-Based Explanations: Shapley Values vs. Minimal Sufficient Subsets [61.66584140190247]
機能に基づく説明は、自明なモデルでも問題を引き起こすことを示す。そこで本研究では,2つの一般的な説明書クラスであるシェープリー説明書と十分最小限の部分集合説明書が,基本的に異なる基底的説明書のタイプをターゲットにしていることを示す。
論文参考訳（メタデータ） (2020-09-23T09:45:23Z)
Evaluations and Methods for Explanation through Robustness Analysis [117.7235152610957]
分析による特徴に基づく説明の新たな評価基準を確立する。我々は、緩やかに必要であり、予測に十分である新しい説明を得る。我々は、現在の予測をターゲットクラスに移動させる一連の特徴を抽出するために、説明を拡張します。
論文参考訳（メタデータ） (2020-05-31T05:52:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。