論文の概要: Causal Analysis of Shapley Values: Conditional vs. Marginal

• arxiv url: http://arxiv.org/abs/2409.06157v1
• Date: Tue, 10 Sep 2024 02:07:39 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-11 19:20:45.974554
• Title: Causal Analysis of Shapley Values: Conditional vs. Marginal
• Title（参考訳）: シェープ値の因果解析--条件付き対マージナル
• Authors: Ilya Rozenfeld,
• Abstract要約: シェープ値を計算するための2つの最も一般的なアプローチ、条件付きおよび限界付きアプローチは、異なる結果をもたらす。 本研究は,各手法において,欠落した因果情報に対処するための暗黙の仮定から,その相違が生じることを示す。 これは [1] の以前の研究とともに、条件付きアプローチよりも限界アプローチの方が好ましいという結論に導かれる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Shapley values, a game theoretic concept, has been one of the most popular tools for explaining Machine Learning (ML) models in recent years. Unfortunately, the two most common approaches, conditional and marginal, to calculating Shapley values can lead to different results along with some undesirable side effects when features are correlated. This in turn has led to the situation in the literature where contradictory recommendations regarding choice of an approach are provided by different authors. In this paper we aim to resolve this controversy through the use of causal arguments. We show that the differences arise from the implicit assumptions that are made within each method to deal with missing causal information. We also demonstrate that the conditional approach is fundamentally unsound from a causal perspective. This, together with previous work in [1], leads to the conclusion that the marginal approach should be preferred over the conditional one.
• Abstract（参考訳）: ゲーム理論の概念であるShapley Valueは、機械学習(ML)モデルを説明する最も一般的なツールの1つだ。 残念なことに、シャプリー値を計算するための最も一般的な2つのアプローチは、特徴が相関しているときに望ましくない副作用とともに、異なる結果をもたらす可能性がある。 このことが、異なる著者によってアプローチの選択に関する矛盾した勧告が提供されるという文献の状況に繋がった。 本稿では,この論争を因果論を用いて解決することを目的とする。 本研究は,各手法において,欠落した因果情報に対処するための暗黙の仮定から,その相違が生じることを示す。 また、条件付きアプローチは因果的観点から根本的に無音であることを示す。 これは [1] の以前の研究とともに、条件付きアプローチよりも限界アプローチの方が好ましいという結論に導かれる。

関連論文リスト

• On Model Extrapolation in Marginal Shapley Values [0.0]
  モデル説明可能性の最も一般的な方法の1つは、Shapley値に基づいている。 シェープ値を計算するための限界的なアプローチは、うまく定義されていないかもしれないモデル外挿につながる。 本稿では,限界平均化を用いてモデル外挿を回避し,因果情報を付加することで因果シャプリー値を再現する手法を提案する。
  論文  参考訳（メタデータ） (2024-12-17T18:33:14Z)
• KTO: Model Alignment as Prospect Theoretic Optimization [67.44320255397506]
  Kahneman & Tversky の $textitprospect theory$ は、人間が偏見はあるが明確に定義された方法でランダム変数を知覚することを示している。 人間のフィードバックとLLMを協調させる目的には,これらのバイアスが暗黙的に組み込まれていることを示す。 そこで本稿では,嗜好のログ類似度を最大化する代わりに,世代別利用率を直接最大化するHALOを提案する。
  論文  参考訳（メタデータ） (2024-02-02T10:53:36Z)
• Theoretical Evaluation of Asymmetric Shapley Values for Root-Cause Analysis [0.0]
  非対称シェープ値 (ASV) は、一般的なSHAP付加的局所的説明法の変種である。 局所的な貢献が分散還元のグローバルな貢献とどのように対応するかを示す。 一般化加法モデル (GAM) を, ASV が望ましい特性を示す制限クラスとして同定する。
  論文  参考訳（メタデータ） (2023-10-15T21:40:16Z)
• Active Bayesian Causal Inference [72.70593653185078]
  因果発見と推論を統合するための完全ベイズ能動学習フレームワークであるアクティブベイズ因果推論(ABCI)を提案する。 ABCIは因果関係のモデルと関心のクエリを共同で推論する。 我々のアプローチは、完全な因果グラフの学習のみに焦点を当てた、いくつかのベースラインよりも、よりデータ効率が高いことを示す。
  論文  参考訳（メタデータ） (2022-06-04T22:38:57Z)
• Explaining Adverse Actions in Credit Decisions Using Shapley Decomposition [8.003221404049905]
  本稿では、デフォルト確率の予測モデルに基づく信用決定に焦点を当て、有害な行動説明のための方法論を提案する。 低次相互作用を持つモデルを検討し、第一原理に基づくシンプルで直感的なアプローチを開発する。 機械学習結果の局所的解釈可能性に関する文献における他のShapley技術とは異なり、B-Shapは計算的に抽出可能である。
  論文  参考訳（メタデータ） (2022-04-26T15:07:15Z)
• Bayesian Model Selection, the Marginal Likelihood, and Generalization [49.19092837058752]
  まず,学習制約と仮説テストの限界的可能性の魅力について再考する。 ニューラルアーキテクチャ探索において,限界確率が一般化と負の相関関係を持つことが示唆された。 また, 限界確率とPAC-Bayes境界との接続を再検討し, モデル選択における限界確率の欠点をさらに解明するためにこの接続を利用する。
  論文  参考訳（メタデータ） (2022-02-23T18:38:16Z)
• Is Shapley Explanation for a model unique? [0.0]
  特徴の分布とShapley値の関係について検討する。 我々の評価では、特定の特徴に対するShapleyの値は、期待値だけでなく、分散のような他の瞬間にも依存する。 これはモデルの結果(Probability/Log-odds/binary decision、recept/rejectなど)によって異なり、従ってモデルアプリケーションによって異なります。
  論文  参考訳（メタデータ） (2021-11-23T15:31:46Z)
• Scalable Personalised Item Ranking through Parametric Density Estimation [53.44830012414444]
  暗黙のフィードバックから学ぶことは、一流問題の難しい性質のために困難です。 ほとんどの従来の方法は、一級問題に対処するためにペアワイズランキングアプローチとネガティブサンプラーを使用します。 本論文では,ポイントワイズと同等の収束速度を実現する学習対ランクアプローチを提案する。
  論文  参考訳（メタデータ） (2021-05-11T03:38:16Z)
• True to the Model or True to the Data? [9.462808515258464]
  この選択は、モデルに真であることが望ましいか、データに真であることが望ましいかどうかに起因している、と私たちは主張する。 異なる価値関数の選択がそれぞれのシナリオでどのように機能するか、そして、モデル選択によってどのように属性が影響されるかを示す。
  論文  参考訳（メタデータ） (2020-06-29T17:54:39Z)
• Marginal likelihood computation for model selection and hypothesis testing: an extensive review [66.37504201165159]
  この記事では、このトピックの最先端に関する総合的な研究について紹介する。 さまざまなテクニックの制限、メリット、コネクション、差異を強調します。 また、不適切な事前利用の問題や解決法についても述べる。
  論文  参考訳（メタデータ） (2020-05-17T18:31:58Z)
• Decision-Making with Auto-Encoding Variational Bayes [71.44735417472043]
  変分分布とは異なる後部近似を用いて意思決定を行うことが示唆された。 これらの理論的な結果から,最適モデルに関するいくつかの近似的提案を学習することを提案する。 おもちゃの例に加えて,単細胞RNAシークエンシングのケーススタディも紹介する。
  論文  参考訳（メタデータ） (2020-02-17T19:23:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。