論文の概要: Theoretical Evaluation of Asymmetric Shapley Values for Root-Cause Analysis

• arxiv url: http://arxiv.org/abs/2310.09961v1
• Date: Sun, 15 Oct 2023 21:40:16 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-18 01:47:48.487950
• Title: Theoretical Evaluation of Asymmetric Shapley Values for Root-Cause Analysis
• Title（参考訳）: 根管解析のための非対称シェープリー値の理論評価
• Authors: Domokos M. Kelen, Mih\'aly Petreczky, P\'eter Kersch, Andr\'as A. Bencz\'ur
• Abstract要約: 非対称シェープ値 (ASV) は、一般的なSHAP付加的局所的説明法の変種である。 局所的な貢献が分散還元のグローバルな貢献とどのように対応するかを示す。 一般化加法モデル (GAM) を, ASV が望ましい特性を示す制限クラスとして同定する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this work, we examine Asymmetric Shapley Values (ASV), a variant of the popular SHAP additive local explanation method. ASV proposes a way to improve model explanations incorporating known causal relations between variables, and is also considered as a way to test for unfair discrimination in model predictions. Unexplored in previous literature, relaxing symmetry in Shapley values can have counter-intuitive consequences for model explanation. To better understand the method, we first show how local contributions correspond to global contributions of variance reduction. Using variance, we demonstrate multiple cases where ASV yields counter-intuitive attributions, arguably producing incorrect results for root-cause analysis. Second, we identify generalized additive models (GAM) as a restricted class for which ASV exhibits desirable properties. We support our arguments by proving multiple theoretical results about the method. Finally, we demonstrate the use of asymmetric attributions on multiple real-world datasets, comparing the results with and without restricted model families using gradient boosting and deep learning models.
• Abstract（参考訳）: 本研究では,人気のあるshap添加局所説明法の変種であるasymmetric shapley value (asv) について検討する。 asvは、変数間の既知の因果関係を組み込んだモデル説明を改善する方法を提案し、モデル予測における不公平な差別をテストする方法としても考えられている。 以前の文献では、シャプリー値の緩和対称性はモデル説明に直観に反する結果をもたらす可能性がある。 この方法をよりよく理解するために,まず,局所的な貢献が分散低減のグローバル貢献とどのように一致するかを示す。 分散を用いて, ASV が反直感的属性を生じ, 根起因解析の誤った結果をもたらすことを示す。 第2に、一般化加法モデル(GAM)を、ASVが望ましい特性を示す制限クラスとして同定する。 提案手法に関する複数の理論的結果を証明し,議論を支援する。 最後に,複数の実世界のデータセットに対する非対称帰属の使用を実証し,グラデーションブースティングとディープラーニングモデルを用いたモデルファミリと非制限モデルファミリの比較を行った。

関連論文リスト

• Multiply-Robust Causal Change Attribution [15.501106533308798]
  我々は,各因果メカニズムの貢献度を定量化するために,回帰法と再重み付け法を組み合わせた新しい推定方法を開発した。 本手法はモンテカルロシミュレーションにおいて優れた性能を示し,その有効性を示す。
  論文  参考訳（メタデータ） (2024-04-12T22:57:01Z)
• Approximation-Generalization Trade-offs under (Approximate) Group Equivariance [3.0458514384586395]
  グループ同変ニューラルネットワークは、タンパク質や薬物の設計など、様々な分野や応用において印象的な性能を示している。 タスク固有の対称性を捉えるモデルが一般化にどう貢献するかを示す。 モデル対称性がデータ対称性と一致しない場合のモデルミス特定に関するより一般的な問題について検討する。
  論文  参考訳（メタデータ） (2023-05-27T22:53:37Z)
• Evaluating the Robustness of Interpretability Methods through Explanation Invariance and Equivariance [72.50214227616728]
  解釈可能性法は、それらの説明が説明されたモデルを忠実に記述した場合にのみ有用である。 特定の対称性群の下で予測が不変であるニューラルネットワークを考える。
  論文  参考訳（メタデータ） (2023-04-13T17:59:03Z)
• On the Strong Correlation Between Model Invariance and Generalization [54.812786542023325]
  一般化は、見えないデータを分類するモデルの能力をキャプチャする。 不変性はデータの変換におけるモデル予測の一貫性を測定する。 データセット中心の視点から、あるモデルの精度と不変性は異なるテストセット上で線形に相関している。
  論文  参考訳（メタデータ） (2022-07-14T17:08:25Z)
• Exploring Local Explanations of Nonlinear Models Using Animated Linear Projections [5.524804393257921]
  eXplainable AI(XAI)を使用して、モデルが予測器を使用して予測に到達する方法を示す。 予測器間の相互作用が変数重要度推定にどのように影響するかを理解するために,LVAを線形射影に変換することができる。 このアプローチは、分類学的(ペンギン種、チョコレートタイプ)と定量的(靴と足の給与、住宅価格)の応答モデルから例を示します。
  論文  参考訳（メタデータ） (2022-05-11T09:11:02Z)
• Benign-Overfitting in Conditional Average Treatment Effect Prediction with Linear Regression [14.493176427999028]
  線形回帰モデルを用いて条件平均処理効果(CATE)の予測における良性過剰適合理論について検討した。 一方,IPW-learnerは確率スコアが分かっていればリスクをゼロに収束させるが,T-learnerはランダムな割り当て以外の一貫性を達成できないことを示す。
  論文  参考訳（メタデータ） (2022-02-10T18:51:52Z)
• Estimation of Bivariate Structural Causal Models by Variational Gaussian Process Regression Under Likelihoods Parametrised by Normalising Flows [74.85071867225533]
  因果機構は構造因果モデルによって記述できる。 最先端の人工知能の大きな欠点の1つは、説明責任の欠如である。
  論文  参考訳（メタデータ） (2021-09-06T14:52:58Z)
• Good Classifiers are Abundant in the Interpolating Regime [64.72044662855612]
  補間分類器間のテストエラーの完全な分布を正確に計算する手法を開発した。 テストエラーは、最悪の補間モデルのテストエラーから大きく逸脱する、小さな典型的な$varepsilon*$に集中する傾向にある。 以上の結果から,統計的学習理論における通常の解析手法は,実際に観測された優れた一般化性能を捉えるのに十分な粒度にはならない可能性が示唆された。
  論文  参考訳（メタデータ） (2020-06-22T21:12:31Z)
• An Investigation of Why Overparameterization Exacerbates Spurious Correlations [98.3066727301239]
  この動作を駆動するトレーニングデータの2つの重要な特性を特定します。 モデルの"記憶"に対する帰納的バイアスが,パラメータ化の超過を損なう可能性を示す。
  論文  参考訳（メタデータ） (2020-05-09T01:59:13Z)
• Decision-Making with Auto-Encoding Variational Bayes [71.44735417472043]
  変分分布とは異なる後部近似を用いて意思決定を行うことが示唆された。 これらの理論的な結果から,最適モデルに関するいくつかの近似的提案を学習することを提案する。 おもちゃの例に加えて,単細胞RNAシークエンシングのケーススタディも紹介する。
  論文  参考訳（メタデータ） (2020-02-17T19:23:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。