論文の概要: Faith-Shap: The Faithful Shapley Interaction Index
- arxiv url: http://arxiv.org/abs/2203.00870v3
- Date: Wed, 22 Mar 2023 20:56:42 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-24 18:58:07.516927
- Title: Faith-Shap: The Faithful Shapley Interaction Index
- Title（参考訳）: Faith-Shap: The Faithful Shapley Interaction Index
- Authors: Che-Ping Tsai, Chih-Kuan Yeh, Pradeep Ravikumar
- Abstract要約: シャプリー値の重要な魅力は、それらが非常に自然な公理的性質の集合を一意に満足していることである。
そこで,本研究では,標準個々のシャプリー公理の相互作用拡張を満たすために忠実な相互作用指標を求めることにより,一意に忠実なシャプリー相互作用指数が得られることを示す。
- 参考スコア（独自算出の注目度）: 43.968337274203414
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Shapley values, which were originally designed to assign attributions to
individual players in coalition games, have become a commonly used approach in
explainable machine learning to provide attributions to input features for
black-box machine learning models. A key attraction of Shapley values is that
they uniquely satisfy a very natural set of axiomatic properties. However,
extending the Shapley value to assigning attributions to interactions rather
than individual players, an interaction index, is non-trivial: as the natural
set of axioms for the original Shapley values, extended to the context of
interactions, no longer specify a unique interaction index. Many proposals thus
introduce additional less ''natural'' axioms, while sacrificing the key axiom
of efficiency, in order to obtain unique interaction indices. In this work,
rather than introduce additional conflicting axioms, we adopt the viewpoint of
Shapley values as coefficients of the most faithful linear approximation to the
pseudo-Boolean coalition game value function. By extending linear to
$\ell$-order polynomial approximations, we can then define the general family
of faithful interaction indices. We show that by additionally requiring the
faithful interaction indices to satisfy interaction-extensions of the standard
individual Shapley axioms (dummy, symmetry, linearity, and efficiency), we
obtain a unique Faithful Shapley Interaction index, which we denote Faith-Shap,
as a natural generalization of the Shapley value to interactions. We then
provide some illustrative contrasts of Faith-Shap with previously proposed
interaction indices, and further investigate some of its interesting algebraic
properties. We further show the computational efficiency of computing
Faith-Shap, together with some additional qualitative insights, via some
illustrative experiments.
- Abstract（参考訳）: 当初、連立ゲームにおける個々のプレイヤーへの属性を割り当てるために設計されたシェープ値は、ブラックボックス機械学習モデルの入力機能への属性を提供するための説明可能な機械学習において、一般的なアプローチとなっている。
シャプリー値の重要な魅力は、非常に自然な公理的性質を一意的に満たしていることである。
しかし、Shapley値を拡張して、個々のプレイヤーではなく相互作用への帰属を割り当てることは、非自明である: 元のShapley値に対する自然な公理の集合として、相互作用のコンテキストに拡張され、もはやユニークな相互作用インデックスは指定されない。
したがって、多くの提案では、独自の相互作用指標を得るために効率の鍵公理を犠牲にしながら、より少ない「自然な」公理を導入する。
本研究では, 相反公理を導入するのではなく, 擬似ブーリアン連立ゲーム値関数に対する最も忠実な線形近似の係数としてシャプリー値の観点を採用する。
線形を$\ell$-order多項式近似に拡張することで、忠実な相互作用指標の一般族を定義することができる。
標準のシャプリー公理(ダミー、対称性、線形性、効率)の相互作用-拡張を満たすために忠実な相互作用指標を付け加えることで、信頼-幸福を表す一意な忠実なシャプリー相互作用指数を、相互作用に対するシャプリー値の自然な一般化として得ることができる。
次に,前述した相互作用指標との信頼関係の対比を行い,その興味深い代数的性質についてさらに検討する。
我々はさらに,いくつかの説明的実験を通じて,信頼感を計算し,さらに定性的な洞察を与える計算効率を示す。
関連論文リスト
- Shape Arithmetic Expressions: Advancing Scientific Discovery Beyond Closed-Form Equations [56.78271181959529]
GAM(Generalized Additive Models)は、変数とターゲットの間の非線形関係をキャプチャできるが、複雑な特徴相互作用をキャプチャすることはできない。
本稿では,GAMのフレキシブルな形状関数と,数学的表現に見られる複雑な特徴相互作用を融合させる形状表現算術(SHARE)を提案する。
また、標準制約を超えた表現の透明性を保証するSHAREを構築するための一連のルールを設計する。
論文 参考訳（メタデータ） (2024-04-15T13:44:01Z) - Fast Shapley Value Estimation: A Unified Approach [71.92014859992263]
冗長な手法を排除し、単純で効率的なシェープリー推定器SimSHAPを提案する。
既存手法の解析において、推定器は特徴部分集合からランダムに要約された値の線形変換として統一可能であることを観察する。
実験により,SimSHAPの有効性が検証され,精度の高いShapley値の計算が大幅に高速化された。
論文 参考訳（メタデータ） (2023-11-02T06:09:24Z) - Going Beyond Neural Network Feature Similarity: The Network Feature
Complexity and Its Interpretation Using Category Theory [64.06519549649495]
機能的に等価な機能と呼ぶものの定義を提供します。
これらの特徴は特定の変換の下で等価な出力を生成する。
反復的特徴マージ(Iterative Feature Merging)というアルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-10-10T16:27:12Z) - Efficient Shapley Values Estimation by Amortization for Text
Classification [66.7725354593271]
我々は,各入力特徴のシェープ値を直接予測し,追加のモデル評価を行なわずに補正モデルを開発する。
2つのテキスト分類データセットの実験結果から、アモルタイズされたモデルでは、Shapley Valuesを最大60倍のスピードアップで正確に見積もっている。
論文 参考訳（メタデータ） (2023-05-31T16:19:13Z) - SHAP-IQ: Unified Approximation of any-order Shapley Interactions [6.101024067998782]
ブラックボックスモデルの特徴属性を決定するためにシェープ値(SV)が適用される。
ShaPley Interaction Quantification (SHAP-IQ)は、Shapleyインタラクションを計算するための効率的なサンプリングベースの近似器である。
論文 参考訳（メタデータ） (2023-03-02T11:49:05Z) - Threading the Needle of On and Off-Manifold Value Functions for Shapley
Explanations [40.95261379462059]
モデルとデータ多様体の両方を尊重する値関数のデシラタを公理の集合で定式化する。
これらの公理を満たすユニークな値関数が存在することを示す。
論文 参考訳（メタデータ） (2022-02-24T06:22:34Z) - Exact Shapley Values for Local and Model-True Explanations of Decision
Tree Ensembles [0.0]
決定木アンサンブルの説明にShapley値を適用することを検討する。
本稿では,無作為林に適応し,決定木を増強できる,Shapley値に基づく特徴属性に対する新しいアプローチを提案する。
論文 参考訳（メタデータ） (2021-12-16T20:16:02Z) - Joint Shapley values: a measure of joint feature importance [6.169364905804678]
結合Shapley値を導入し、Shapley公理を直接拡張する。
ジョイントシェープの値は、モデルの予測に対する特徴の平均的な影響を測る。
ゲームの結果、ジョイントシェープの値は既存の相互作用指標とは異なる洞察を示します。
論文 参考訳（メタデータ） (2021-07-23T17:22:37Z) - Energy-Based Learning for Cooperative Games, with Applications to
Feature/Data/Model Valuations [91.36803653600667]
本稿では, 最大エントロピーフレームワークによる理論的正当性を備えた, 協調ゲームのための新しいエネルギーベース処理法を提案する。
驚くべきことに、エネルギーベースモデルの変分推論を行うことで、Shapley値やBanzhafインデックスといった様々なゲーム理論の評価基準を復元する。
提案する変分指数は,特定の合成および実世界のバリュエーション問題において,興味深い特性を享受できることを実験的に実証した。
論文 参考訳（メタデータ） (2021-06-05T17:39:04Z) - Explaining the data or explaining a model? Shapley values that uncover
non-linear dependencies [0.0]
本稿では,エネルギー距離相関,アフィン不変距離相関,およびヒルベルト・シュミット独立基準をシェープリー値特性関数として導入し,その利用を実証する。
論文 参考訳（メタデータ） (2020-07-12T15:04:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。