論文の概要: An exploration of the influence of path choice in game-theoretic attribution algorithms

• arxiv url: http://arxiv.org/abs/2007.04169v2
• Date: Fri, 26 Feb 2021 19:33:47 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-12 09:45:26.963637
• Title: An exploration of the influence of path choice in game-theoretic attribution algorithms
• Title（参考訳）: ゲーム理論帰属アルゴリズムにおける経路選択の影響の検討
• Authors: Geoff Ward, Sean Kamkar, Jay Budzik
• Abstract要約: 統合パスのモデルと選択が、結果として生じる特徴属性にどのように影響するかを検討する。 介入型Shapleyのマルチパスアプローチは,Aumann-Shapleyの単一直線パスよりも一貫した帰属性が低いことを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We compare machine learning explainability methods based on the theory of atomic (Shapley, 1953) and infinitesimal (Aumann and Shapley, 1974) games, in a theoretical and experimental investigation into how the model and choice of integration path can influence the resulting feature attributions. To gain insight into differences in attributions resulting from interventional Shapley values (Sundararajan and Najmi, 2019; Janzing et al., 2019; Chen et al., 2019) and Generalized Integrated Gradients (GIG) (Merrill et al., 2019) we note interventional Shapley is equivalent to a multi-path integration along $n!$ paths where $n$ is the number of model input features. Applying Stoke's theorem we show that the path symmetry of these two methods results in the same attributions when the model is composed of a sum of separable functions of individual features and a sum of two-feature products. We then perform a series of experiments with varying degrees of data missingness to demonstrate how interventional Shapley's multi-path approach can yield less consistent attributions than the single straight-line path of Aumann-Shapley. We argue this is because the multiple paths employed by interventional Shapley extend away from the training data manifold and are therefore more likely to pass through regions where the model has little support. In the absence of a more meaningful path choice, we therefore advocate the straight-line path since it will almost always pass closer to the data manifold. Among straight-line path attribution algorithms, GIG is uniquely robust since it will still yield Shapley values for atomic games modeled by decision trees.
• Abstract（参考訳）: 我々は、アトミック(Shapley, 1953)理論と無限小(Aumann and Shapley, 1974)ゲームに基づく機械学習説明可能性法を比較し、積分経路のモデルと選択が結果の特徴属性にどのように影響するかを理論的および実験的に検討する。 Sundararajan and Najmi, 2019; Janzing et al., 2019; Chen et al., 2019) と Generalized Integrated Gradients (GIG) (Merrill et al., 2019) による利害関係の相違について理解を深めるため、介入関係のShapleyは$n!に沿ったマルチパス統合に相当することに注意する。 モデル入力機能の数を$n$とするパス。 ストークの定理を適用すると、この2つの方法の経路対称性は、モデルが個々の特徴の分離可能な関数の和と2つの特徴積の和からなる場合に同じ帰結をもたらすことが分かる。 次に、データ不足の程度が異なる一連の実験を行い、介入型シャプリーのマルチパスアプローチがAumann-Shapleyの単一直線パスよりも一貫性の低い帰属をもたらすことを示す。 これは、介入型Shapleyが採用する複数のパスが、トレーニングデータ多様体から遠ざかっているため、モデルがほとんどサポートされていない領域を通過しやすいためである。 したがって、より有意義な経路選択がない場合には、ほぼ常にデータ多様体に近づくので、直線経路を提唱する。 直線経路帰属アルゴリズムのうち、GIGは決定木によってモデル化されたアトミックゲームに対してシャプリー値が得られるため、一意に堅牢である。

関連論文リスト

• Computational-Statistical Gaps in Gaussian Single-Index Models [77.1473134227844]
  単次元モデル(Single-Index Models)は、植木構造における高次元回帰問題である。 我々は,統計的クエリ (SQ) と低遅延多項式 (LDP) フレームワークの両方において,計算効率のよいアルゴリズムが必ずしも$Omega(dkstar/2)$サンプルを必要とすることを示した。
  論文  参考訳（メタデータ） (2024-03-08T18:50:19Z)
• Towards Efficient Time Stepping for Numerical Shape Correspondence [55.2480439325792]
  偏微分方程式(PDE)に基づく手法が確立されており、例えば古典的な熱核シグネチャを含む。 本研究の目的は,形状解析の文脈における時間積分の手法の有用な性質を特定できるかどうかを評価することである。
  論文  参考訳（メタデータ） (2023-12-21T13:40:03Z)
• On marginal feature attributions of tree-based models [0.11184789007828977]
  辺縁的なシャプリー、オーウェンまたはバンジャフの値など、辺縁的な期待に基づく局所的な特徴属性を用いることができる。 パス依存(path-dependent)のTreeSHAPが特徴のランク付けを行うのと全く同じ関数を計算する2つの(統計的に類似した)決定木を提示する。 我々は、CataBoostモデルの余剰Shapley(およびBanzhafとOwen)値についてのみ、複雑さを改善し、内部モデルパラメータの観点からのみ、明示的な式を導出するために対称性を利用する。
  論文  参考訳（メタデータ） (2023-02-16T17:18:03Z)
• Generalized Differentiable RANSAC [95.95627475224231]
  $nabla$-RANSACは、ランダム化された堅牢な推定パイプライン全体を学ぶことができる、微分可能なRANSACである。 $nabla$-RANSACは、精度という点では最先端のシステムよりも優れているが、精度は低い。
  論文  参考訳（メタデータ） (2022-12-26T15:13:13Z)
• From Shapley Values to Generalized Additive Models and back [16.665883787432858]
  我々は$n$-Shapley Valuesを紹介します。これはShapley Valuesの自然な拡張で、$n$までの相互作用項による個々の予測を説明します。 Shapley-GAMから任意の順序でShapley Valuesを計算し、これらの説明の限界について正確な洞察を与える。 技術的には、値関数を選択する異なる方法と元の関数の異なる機能分解との間には、1対1の対応があることが示される。
  論文  参考訳（メタデータ） (2022-09-08T19:37:06Z)
• Algorithms to estimate Shapley value feature attributions [11.527421282223948]
  Shapley値に基づく特徴属性は、機械学習モデルを説明するために人気がある。 我々は,この複雑さを,(1)特徴情報の除去アプローチ,(2)抽出可能な推定戦略の2つの要因に分解する。
  論文  参考訳（メタデータ） (2022-07-15T17:04:41Z)
• Is Shapley Explanation for a model unique? [0.0]
  特徴の分布とShapley値の関係について検討する。 我々の評価では、特定の特徴に対するShapleyの値は、期待値だけでなく、分散のような他の瞬間にも依存する。 これはモデルの結果(Probability/Log-odds/binary decision、recept/rejectなど)によって異なり、従ってモデルアプリケーションによって異なります。
  論文  参考訳（メタデータ） (2021-11-23T15:31:46Z)
• q-Paths: Generalizing the Geometric Annealing Path using Power Means [51.73925445218366]
  我々は、幾何学と算術の混合を特別なケースとして含むパスのファミリーである$q$-pathsを紹介した。 幾何経路から離れた小さな偏差がベイズ推定に経験的利得をもたらすことを示す。
  論文  参考訳（メタデータ） (2021-07-01T21:09:06Z)
• Explaining predictive models using Shapley values and non-parametric vine copulas [2.6774008509840996]
  特徴間の依存をモデル化するための2つの新しいアプローチを提案する。 提案手法の性能はシミュレーションされたデータセットと実データセットで評価される。 実験により、ブドウのコプラアプローチは、ライバルよりも真のシャプリー値により正確な近似を与えることが示された。
  論文  参考訳（メタデータ） (2021-02-12T09:43:28Z)
• Probabilistic Circuits for Variational Inference in Discrete Graphical Models [101.28528515775842]
  変分法による離散的グラフィカルモデルの推論は困難である。 エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。 Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。 選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
  論文  参考訳（メタデータ） (2020-10-22T05:04:38Z)
• Haar Wavelet based Block Autoregressive Flows for Trajectories [129.37479472754083]
  歩行者等の軌道予測は,自律型エージェントの性能向上に不可欠である。 本稿では分割結合を利用した新しいハールウェーブレットに基づくブロック自己回帰モデルを提案する。 実世界の2つのデータセット上で、多種多様な正確な軌跡を生成するアプローチの利点について説明する。
  論文  参考訳（メタデータ） (2020-09-21T13:57:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。