論文の概要: On Locality of Local Explanation Models

• arxiv url: http://arxiv.org/abs/2106.14648v1
• Date: Thu, 24 Jun 2021 16:20:38 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-02 05:05:00.129425
• Title: On Locality of Local Explanation Models
• Title（参考訳）: 局所的説明モデルの局所性について
• Authors: Sahra Ghalebikesabi, Lucile Ter-Minassian, Karla Diaz-Ordaz and Chris Holmes
• Abstract要約: 本稿では,シェープリー値の局所的解釈性を向上させる近傍参照分布の定式化について考察する。 我々は,近隣シェープの値が,局所モデル行動の洞察を与える意味的なスパース特徴関連属性を同定するのを観察する。
• 参考スコア（独自算出の注目度）: 0.43012765978447565
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Shapley values provide model agnostic feature attributions for model outcome at a particular instance by simulating feature absence under a global population distribution. The use of a global population can lead to potentially misleading results when local model behaviour is of interest. Hence we consider the formulation of neighbourhood reference distributions that improve the local interpretability of Shapley values. By doing so, we find that the Nadaraya-Watson estimator, a well-studied kernel regressor, can be expressed as a self-normalised importance sampling estimator. Empirically, we observe that Neighbourhood Shapley values identify meaningful sparse feature relevance attributions that provide insight into local model behaviour, complimenting conventional Shapley analysis. They also increase on-manifold explainability and robustness to the construction of adversarial classifiers.
• Abstract（参考訳）: shapleyの値は、グローバル人口分布の下で特徴欠如をシミュレートすることにより、特定のインスタンスにおけるモデル結果に対するモデル非依存な特徴帰属を提供する。 グローバル人口の利用は、局所的なモデル行動が興味のある場合に、潜在的に誤解を招く結果をもたらす可能性がある。 したがって,shapley値の局所解釈性を改善する近傍参照分布の定式化を考える。 その結果、nadaraya-watson推定器は、よく研究されたカーネルレグレッサーであり、自己正規化重要度サンプリング推定器として表現できることがわかった。 実験により、近隣シェープリーの値は、局所モデル行動の洞察を与える意味的なスパース特徴関連属性を識別し、従来のシェープリー分析を補完する。 また、逆分類器の構築により、多様体上の説明可能性や堅牢性も向上する。

関連論文リスト

• Shapley Marginal Surplus for Strong Models [0.9831489366502301]
  我々は、Shapley値がモデル予測の正確な説明であるが、機械学習モデル自体が真のデータ生成プロセス(DGP)の貧弱な説明であることを示している。 そこで,本研究では,特徴量から推定されるモデル空間を抽出する,新しい変数重要度アルゴリズム,Shapley Marginal Surplus for Strong Modelsを導入する。
  論文  参考訳（メタデータ） (2024-08-16T17:06:07Z)
• Identifiable Latent Neural Causal Models [82.14087963690561]
  因果表現学習は、低レベルの観測データから潜伏した高レベルの因果表現を明らかにすることを目指している。 因果表現の識別可能性に寄与する分布シフトのタイプを決定する。 本稿では,本研究の成果を実用的なアルゴリズムに翻訳し,信頼性の高い潜在因果表現の取得を可能にする。
  論文  参考訳（メタデータ） (2024-03-23T04:13:55Z)
• Aggregation Weighting of Federated Learning via Generalization Bound Estimation [65.8630966842025]
  フェデレートラーニング(FL)は通常、サンプル比率によって決定される重み付けアプローチを使用して、クライアントモデルパラメータを集約する。 上記の重み付け法を,各局所モデルの一般化境界を考慮した新しい戦略に置き換える。
  論文  参考訳（メタデータ） (2023-11-10T08:50:28Z)
• Enhanced Local Explainability and Trust Scores with Random Forest Proximities [0.9423257767158634]
  我々は任意のランダム森林回帰モデルと分類モデルを適応重み付きK近傍モデルとして数学的に定式化できるという事実を利用する。 この線形性は、トレーニングセットの観測における任意のモデル予測に対する属性を生成するRF予測の局所的な説明可能性を促進する。 本稿では, モデル予測だけでなく, サンプル外性能を説明するために, SHAPと組み合わせて, この近接性に基づく説明可能性のアプローチをいかに活用できるかを示す。
  論文  参考訳（メタデータ） (2023-10-19T02:42:20Z)
• Efficient Shapley Values Estimation by Amortization for Text Classification [66.7725354593271]
  我々は,各入力特徴のシェープ値を直接予測し,追加のモデル評価を行なわずに補正モデルを開発する。 2つのテキスト分類データセットの実験結果から、アモルタイズされたモデルでは、Shapley Valuesを最大60倍のスピードアップで正確に見積もっている。
  論文  参考訳（メタデータ） (2023-05-31T16:19:13Z)
• Adversarial robustness of sparse local Lipschitz predictors [12.525959293825318]
  本研究では、線形予測器と非線形表現写像からなるパラメトリック関数の対角ロバスト性について研究する。 緩やかな局所リプシッツネスを用いて安定性を把握し、局所摂動による予測器の有効次元を減少させる。
  論文  参考訳（メタデータ） (2022-02-26T19:48:07Z)
• A likelihood approach to nonparametric estimation of a singular distribution using deep generative models [4.329951775163721]
  深部生成モデルを用いた特異分布の非パラメトリック推定の可能性について検討する。 我々は、インスタンスノイズでデータを摂動することで、新しい効果的な解が存在することを証明した。 また、より深い生成モデルにより効率的に推定できる分布のクラスを特徴付ける。
  論文  参考訳（メタデータ） (2021-05-09T23:13:58Z)
• Goal-oriented adaptive sampling under random field modelling of response probability distributions [0.6445605125467573]
  応答分布の空間的変動がそれらの平均および/または分散だけでなく、例えば、形状や一様性、多様性などを含む他の特徴も考慮する。 我々の貢献は、それによって引き起こされる確率分布の場をモデル化する非パラメトリックベイズアプローチに基づいている。
  論文  参考訳（メタデータ） (2021-02-15T15:55:23Z)
• Generalization Properties of Optimal Transport GANs with Latent Distribution Learning [52.25145141639159]
  本研究では,潜伏分布とプッシュフォワードマップの複雑さの相互作用が性能に与える影響について検討する。 我々の分析に感銘を受けて、我々はGANパラダイム内での潜伏分布とプッシュフォワードマップの学習を提唱した。
  論文  参考訳（メタデータ） (2020-07-29T07:31:33Z)
• Estimating Generalization under Distribution Shifts via Domain-Invariant Representations [75.74928159249225]
  未知の真のターゲットラベルのプロキシとして、ドメイン不変の予測器のセットを使用します。 結果として生じるリスク見積の誤差は、プロキシモデルのターゲットリスクに依存する。
  論文  参考訳（メタデータ） (2020-07-06T17:21:24Z)
• Nonparametric Score Estimators [49.42469547970041]
  未知分布によって生成されたサンプルの集合からスコアを推定することは確率モデルの推論と学習における基本的なタスクである。 正規化非パラメトリック回帰の枠組みの下で、これらの推定器の統一的なビューを提供する。 カールフリーカーネルと高速収束による計算効果を享受する反復正規化に基づくスコア推定器を提案する。
  論文  参考訳（メタデータ） (2020-05-20T15:01:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。