論文の概要: Provably Stable Feature Rankings with SHAP and LIME

• arxiv url: http://arxiv.org/abs/2401.15800v2
• Date: Mon, 3 Jun 2024 00:49:43 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-04 19:32:36.961197
• Title: Provably Stable Feature Rankings with SHAP and LIME
• Title（参考訳）: SHAPとLIMEによる安定した特徴ランク付け
• Authors: Jeremy Goldwasser, Giles Hooker,
• Abstract要約: 最も重要な特徴を高い確率で正しくランク付けする属性法を考案する。 SHAP と LIME の効率的なサンプリングアルゴリズムを導入し,K$ の高階特徴が適切に順序付け可能であることを保証した。
• 参考スコア（独自算出の注目度）: 3.8642937395065124
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Feature attributions are ubiquitous tools for understanding the predictions of machine learning models. However, the calculation of popular methods for scoring input variables such as SHAP and LIME suffers from high instability due to random sampling. Leveraging ideas from multiple hypothesis testing, we devise attribution methods that ensure the most important features are ranked correctly with high probability. Given SHAP estimates from KernelSHAP or Shapley Sampling, we demonstrate how to retrospectively verify the number of stable rankings. Further, we introduce efficient sampling algorithms for SHAP and LIME that guarantee the $K$ highest-ranked features have the proper ordering. Finally, we show how to adapt these local feature attribution methods for the global importance setting.
• Abstract（参考訳）: 特徴属性は、機械学習モデルの予測を理解するためのユビキタスツールである。 しかし、SHAP や LIME などの入力変数の値を求める一般的な手法の計算は、ランダムサンプリングによる高い不安定性に悩まされている。 複数の仮説テストからアイデアを活用することで、最も重要な特徴を高い確率で正しくランク付けする属性法を考案する。 KernelSHAP や Shapley Smpling のSHAP推定値から、安定したランキングの数を遡って検証する方法を実証する。 さらに、SHAPとLIMEの効率的なサンプリングアルゴリズムを導入し、$K$の高階特徴が適切に順序付けされていることを保証した。 最後に、これらの局所的特徴帰属手法をグローバルな重要性設定に適用する方法を示す。

関連論文リスト

• Bayesian Estimation and Tuning-Free Rank Detection for Probability Mass Function Tensors [17.640500920466984]
  本稿では,関節のPMFを推定し,そのランクを観測データから自動的に推定する新しい枠組みを提案する。 我々は、様々なモデルパラメータの後方分布を近似するために、変分推論(VI)に基づく決定論的解を導出し、さらに、変分推論(SVI)を利用して、VVIベースのアプローチのスケーラブルバージョンを開発する。 合成データと実映画レコメンデーションデータの両方を含む実験は、推定精度、自動ランク検出、計算効率の点で、VVIおよびSVIベースの手法の利点を示している。
  論文  参考訳（メタデータ） (2024-10-08T20:07:49Z)
• Provably Accurate Shapley Value Estimation via Leverage Score Sampling [12.201705893125775]
  本稿では,Kernel SHAP の軽量な修正である Leverage SHAP を紹介する。 提案手法は,強力な回帰ツールであるレバレッジスコアサンプリングを用いて,シェープ値の推定とアクティブラーニングの関連性を利用する。
  論文  参考訳（メタデータ） (2024-10-02T18:15:48Z)
• The Distributional Uncertainty of the SHAP score in Explainable Machine Learning [2.655371341356892]
  本稿では,未知の実体集団分布下でのSHAPスコアの推論の原理的枠組みを提案する。 我々は,この関数の最大値と最小値を求める基本的な問題について検討し,すべての特徴のSHAPスコアに対して厳密な範囲を決定できることを示した。
  論文  参考訳（メタデータ） (2024-01-23T13:04:02Z)
• Fast Shapley Value Estimation: A Unified Approach [71.92014859992263]
  冗長な手法を排除し、単純で効率的なシェープリー推定器SimSHAPを提案する。 既存手法の解析において、推定器は特徴部分集合からランダムに要約された値の線形変換として統一可能であることを観察する。 実験により,SimSHAPの有効性が検証され,精度の高いShapley値の計算が大幅に高速化された。
  論文  参考訳（メタデータ） (2023-11-02T06:09:24Z)
• Generalized Differentiable RANSAC [95.95627475224231]
  $nabla$-RANSACは、ランダム化された堅牢な推定パイプライン全体を学ぶことができる、微分可能なRANSACである。 $nabla$-RANSACは、精度という点では最先端のシステムよりも優れているが、精度は低い。
  論文  参考訳（メタデータ） (2022-12-26T15:13:13Z)
• Transformers Can Do Bayesian Inference [56.99390658880008]
  我々はPFN(Presideed Data Fitted Networks)を提案する。 PFNは、大規模機械学習技術におけるインコンテキスト学習を活用して、大規模な後部集合を近似する。 我々は、PFNがガウス過程をほぼ完璧に模倣し、難解問題に対する効率的なベイズ推定を可能にすることを示した。
  論文  参考訳（メタデータ） (2021-12-20T13:07:39Z)
• Local policy search with Bayesian optimization [73.0364959221845]
  強化学習は、環境との相互作用によって最適な政策を見つけることを目的としている。 局所探索のための政策勾配は、しばしばランダムな摂動から得られる。 目的関数の確率モデルとその勾配を用いたアルゴリズムを開発する。
  論文  参考訳（メタデータ） (2021-06-22T16:07:02Z)
• An Imprecise SHAP as a Tool for Explaining the Class Probability Distributions under Limited Training Data [5.8010446129208155]
  クラス確率分布が不正確で分布の集合で表される場合に、不正確なSHAPを提案する。 不正確なSHAPの背後にある最初のアイデアは、機能の限界貢献を計算するための新しいアプローチである。 第二のアイデアは、間隔値シャプリー値の計算と縮小に対する一般的なアプローチを考える試みである。
  論文  参考訳（メタデータ） (2021-06-16T20:30:26Z)
• Provably Efficient Reward-Agnostic Navigation with Linear Value Iteration [143.43658264904863]
  我々は、最小二乗値スタイルのアルゴリズムで一般的に使用される、より標準的なベルマン誤差の概念の下での反復が、ほぼ最適値関数の学習において強力なPAC保証を提供することを示す。 そこで本稿では,任意の(線形な)報酬関数に対して,最適に近いポリシーを学習するためにどのように使用できるかを示す。
  論文  参考訳（メタデータ） (2020-08-18T04:34:21Z)
• Towards Model-Agnostic Post-Hoc Adjustment for Balancing Ranking Fairness and Algorithm Utility [54.179859639868646]
  Bipartiteランキングは、ラベル付きデータから正の個人よりも上位の個人をランク付けするスコアリング機能を学ぶことを目的としている。 学習したスコアリング機能が、異なる保護グループ間で体系的な格差を引き起こすのではないかという懸念が高まっている。 本稿では、二部構成のランキングシナリオにおいて、それらのバランスをとるためのモデル後処理フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-06-15T10:08:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。