論文の概要: A $k$-additive Choquet integral-based approach to approximate the SHAP
values for local interpretability in machine learning
- arxiv url: http://arxiv.org/abs/2211.02166v1
- Date: Thu, 3 Nov 2022 22:34:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-07 17:03:05.233657
- Title: A $k$-additive Choquet integral-based approach to approximate the SHAP
values for local interpretability in machine learning
- Title（参考訳）: k$-additive choquet integral-based approach による機械学習における局所解釈可能性のシェープ値近似
- Authors: Guilherme Dean Pelegrina, Leonardo Tomazeli Duarte, Michel Grabisch
- Abstract要約: 本稿では,Shapley値に基づく機械学習モデルに対する解釈可能性の提供を目的とする。
Kernel SHAPと呼ばれるSHAPベースの手法は、計算労力を少なくしてそのような値を近似する効率的な戦略を採用する。
得られた結果から,提案手法ではSHAP値に近似するために属性の連立性に関する計算がより少ないことが確認された。
- 参考スコア（独自算出の注目度）: 8.637110868126546
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Besides accuracy, recent studies on machine learning models have been
addressing the question on how the obtained results can be interpreted. Indeed,
while complex machine learning models are able to provide very good results in
terms of accuracy even in challenging applications, it is difficult to
interpret them. Aiming at providing some interpretability for such models, one
of the most famous methods, called SHAP, borrows the Shapley value concept from
game theory in order to locally explain the predicted outcome of an instance of
interest. As the SHAP values calculation needs previous computations on all
possible coalitions of attributes, its computational cost can be very high.
Therefore, a SHAP-based method called Kernel SHAP adopts an efficient strategy
that approximate such values with less computational effort. In this paper, we
also address local interpretability in machine learning based on Shapley
values. Firstly, we provide a straightforward formulation of a SHAP-based
method for local interpretability by using the Choquet integral, which leads to
both Shapley values and Shapley interaction indices. Moreover, we also adopt
the concept of $k$-additive games from game theory, which contributes to reduce
the computational effort when estimating the SHAP values. The obtained results
attest that our proposal needs less computations on coalitions of attributes to
approximate the SHAP values.
- Abstract（参考訳）: 正確性に加えて、機械学習モデルに関する最近の研究では、結果をどのように解釈できるかという問題に対処している。
実際、複雑な機械学習モデルは、難しいアプリケーションでも正確性の観点から非常に良い結果を提供できるが、それらを解釈することは困難である。
そのようなモデルに対するいくつかの解釈可能性の提供を目的として、SHAPと呼ばれる最も有名な方法の1つは、興味のあるインスタンスの予測結果を説明するために、ゲーム理論からシェープリー値の概念を借りている。
SHAP値の計算には属性のすべてのアライアンスに関する以前の計算が必要であるため、計算コストは非常に高い。
したがって、Kernel SHAPと呼ばれるSHAPベースの手法は、そのような値を少ない計算労力で近似する効率的な戦略を採用する。
本稿では,Shapley値に基づく機械学習における局所的解釈可能性についても論じる。
まず、Choquet積分を用いて局所的解釈可能性を求めるSHAP法を簡単に定式化し、Shapley値とShapley相互作用指標の両方を導出する。
さらに,ゲーム理論からの$k$-加法ゲームの概念も採用し,shap値の推定における計算労力の削減に寄与した。
得られた結果から,提案手法ではSHAP値に近似するために属性の連立性に関する計算がより少ないことが確認された。
関連論文リスト
- Improving the Sampling Strategy in KernelSHAP [0.8057006406834466]
KernelSHAPフレームワークは、重み付けされた条件付き期待値のサンプルサブセットを用いて、Shapley値の近似を可能にする。
本稿では,現在最先端戦略における重みの分散を低減するための安定化手法,サンプルサブセットに基づいてShapleyカーネル重みを補正する新しい重み付け方式,および重要なサブセットを包含して修正されたShapleyカーネル重みと統合する簡単な戦略を提案する。
論文 参考訳（メタデータ） (2024-10-07T10:02:31Z) - Provably Accurate Shapley Value Estimation via Leverage Score Sampling [12.201705893125775]
本稿では,Kernel SHAP の軽量な修正である Leverage SHAP を紹介する。
提案手法は,強力な回帰ツールであるレバレッジスコアサンプリングを用いて,シェープ値の推定とアクティブラーニングの関連性を利用する。
論文 参考訳（メタデータ） (2024-10-02T18:15:48Z) - Energy-based Model for Accurate Shapley Value Estimation in Interpretable Deep Learning Predictive Modeling [7.378438977893025]
EmSHAPはShapley値推定のためのエネルギーベースモデルである。
任意の特徴部分集合の下では、Shapleyコントリビューション関数の期待を推定する。
論文 参考訳（メタデータ） (2024-04-01T12:19:33Z) - Fast Shapley Value Estimation: A Unified Approach [71.92014859992263]
冗長な手法を排除し、単純で効率的なシェープリー推定器SimSHAPを提案する。
既存手法の解析において、推定器は特徴部分集合からランダムに要約された値の線形変換として統一可能であることを観察する。
実験により,SimSHAPの有効性が検証され,精度の高いShapley値の計算が大幅に高速化された。
論文 参考訳（メタデータ） (2023-11-02T06:09:24Z) - Efficient Model-Free Exploration in Low-Rank MDPs [76.87340323826945]
低ランクマルコフ決定プロセスは、関数近似を持つRLに対して単純だが表現力のあるフレームワークを提供する。
既存のアルゴリズムは、(1)計算的に抽出可能であるか、または(2)制限的な統計的仮定に依存している。
提案手法は,低ランクMPPの探索のための最初の実証可能なサンプル効率アルゴリズムである。
論文 参考訳（メタデータ） (2023-07-08T15:41:48Z) - Generalizing Backpropagation for Gradient-Based Interpretability [103.2998254573497]
モデルの勾配は、半環を用いたより一般的な定式化の特別な場合であることを示す。
この観測により、バックプロパゲーションアルゴリズムを一般化し、他の解釈可能な統計を効率的に計算することができる。
論文 参考訳（メタデータ） (2023-07-06T15:19:53Z) - Shapley Computations Using Surrogate Model-Based Trees [4.2575268077562685]
本稿では,Surrogateモデルを用いたShapleyとSHAPの値を条件付き期待値に基づいて計算する手法を提案する。
シミュレーション研究により,提案アルゴリズムは精度を向上し,グローバルシェープとSHAPの解釈を統一し,しきい値法は実行時間と精度をトレードオフする方法を提供することが示された。
論文 参考訳（メタデータ） (2022-07-11T22:20:51Z) - Accelerating Shapley Explanation via Contributive Cooperator Selection [42.11059072201565]
DNNモデルのShapley説明を著しく高速化する新しい手法SHEARを提案する。
特徴連立の選定は、本提案のシェープリー連鎖則に従い、真真正値から絶対誤差を最小化する。
SHEARは、さまざまな評価指標で、最先端のベースラインメソッドを一貫して上回る。
論文 参考訳（メタデータ） (2022-06-17T03:24:45Z) - Fast Hierarchical Games for Image Explanations [78.16853337149871]
本稿では,シェープリー係数の階層的拡張に基づく画像分類のモデル非依存な説明法を提案する。
他のShapleyベースの説明手法とは異なり、h-Shapはスケーラブルで近似を必要とせずに計算できる。
本手法は,合成データセット,医用画像シナリオ,一般コンピュータビジョン問題において,一般的なシャプリーベースおよび非サプリーベース手法と比較した。
論文 参考訳（メタデータ） (2021-04-13T13:11:02Z) - Efficient semidefinite-programming-based inference for binary and
multi-class MRFs [83.09715052229782]
分割関数やMAP推定をペアワイズMRFで効率的に計算する手法を提案する。
一般のバイナリMRFから完全多クラス設定への半定緩和を拡張し、解法を用いて再び効率的に解けるようなコンパクトな半定緩和を開発する。
論文 参考訳（メタデータ） (2020-12-04T15:36:29Z) - Provably Efficient Reward-Agnostic Navigation with Linear Value
Iteration [143.43658264904863]
我々は、最小二乗値スタイルのアルゴリズムで一般的に使用される、より標準的なベルマン誤差の概念の下での反復が、ほぼ最適値関数の学習において強力なPAC保証を提供することを示す。
そこで本稿では,任意の(線形な)報酬関数に対して,最適に近いポリシーを学習するためにどのように使用できるかを示す。
論文 参考訳（メタデータ） (2020-08-18T04:34:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。