論文の概要: Analyzing Explainer Robustness via Probabilistic Lipschitzness of Prediction Functions

• arxiv url: http://arxiv.org/abs/2206.12481v3
• Date: Tue, 16 Apr 2024 16:27:15 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-18 03:19:56.130619
• Title: Analyzing Explainer Robustness via Probabilistic Lipschitzness of Prediction Functions
• Title（参考訳）: 予測関数の確率的リップシッツネスによる説明者ロバスト性の解析
• Authors: Zulqarnain Khan, Davin Hill, Aria Masoomi, Joshua Bone, Jennifer Dy,
• Abstract要約: 我々は、ロバストネスの特定の側面、すなわち、同様のデータ入力に対して同様の説明をするべきであることに焦点を当てる。 予測関数の正確性に類似した説明器の正確性を導入して定義することにより、この概念を定式化する。
• 参考スコア（独自算出の注目度）: 3.5199856477763722
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning methods have significantly improved in their predictive capabilities, but at the same time they are becoming more complex and less transparent. As a result, explainers are often relied on to provide interpretability to these black-box prediction models. As crucial diagnostics tools, it is important that these explainers themselves are robust. In this paper we focus on one particular aspect of robustness, namely that an explainer should give similar explanations for similar data inputs. We formalize this notion by introducing and defining explainer astuteness, analogous to astuteness of prediction functions. Our formalism allows us to connect explainer robustness to the predictor's probabilistic Lipschitzness, which captures the probability of local smoothness of a function. We provide lower bound guarantees on the astuteness of a variety of explainers (e.g., SHAP, RISE, CXPlain) given the Lipschitzness of the prediction function. These theoretical results imply that locally smooth prediction functions lend themselves to locally robust explanations. We evaluate these results empirically on simulated as well as real datasets.
• Abstract（参考訳）: 機械学習の手法は予測能力を大幅に改善したが、同時にそれらはより複雑で透明性が低いものになっている。 その結果、説明者はブラックボックス予測モデルへの解釈可能性を提供するためにしばしば頼られる。 重要な診断ツールとして、これらの説明ツール自体が堅牢であることが重要である。 本稿では、ロバスト性の一側面、すなわち説明者が類似したデータ入力について同様の説明をするべきであることに焦点をあてる。 予測関数の正確性に類似した説明器の正確性を導入して定義することにより、この概念を定式化する。 我々の形式主義は、予測者の確率的リプシッツ性(英語版)に説明者ロバスト性(英語版)を結び付けることができ、関数の局所的滑らか性(英語版)の確率を捉える。 予測関数のリプシッツ性を考慮した多種多様な説明器(SHAP, RISE, CXPlain)の精度の低い保証を提供する。 これらの理論的結果は、局所的滑らかな予測関数が局所的堅牢な説明に結びつくことを示唆している。 シミュレーションと実データを用いて,これらの結果を実証的に評価した。

関連論文リスト

• Identifiable Latent Neural Causal Models [82.14087963690561]
  因果表現学習は、低レベルの観測データから潜伏した高レベルの因果表現を明らかにすることを目指している。 因果表現の識別可能性に寄与する分布シフトのタイプを決定する。 本稿では,本研究の成果を実用的なアルゴリズムに翻訳し,信頼性の高い潜在因果表現の取得を可能にする。
  論文  参考訳（メタデータ） (2024-03-23T04:13:55Z)
• LaPLACE: Probabilistic Local Model-Agnostic Causal Explanations [1.0370398945228227]
  本稿では,機械学習モデルに対する確率論的原因・効果説明を提供するLaPLACE-Explainerを紹介する。 LaPLACE-Explainerコンポーネントはマルコフ毛布の概念を利用して、関連する特徴と非関連する特徴の間の統計的境界を確立する。 提案手法は,LIME と SHAP の局所的精度と特徴の整合性の観点から,因果的説明と性能を向上する。
  論文  参考訳（メタデータ） (2023-10-01T04:09:59Z)
• Performative Prediction with Neural Networks [22.66295224352892]
  パフォーマンス予測は、予測するデータに影響を与えるモデルを学習するためのフレームワークである。 繰り返しリスク最小化法を用いて、性能的に安定な分類器を見つけるための標準収束結果は、データの分布がモデルのパラメータに連続であることを仮定する。 この研究では、データ分布はモデルの予測に関してリプシッツ連続であると仮定する。
  論文  参考訳（メタデータ） (2023-04-14T01:12:48Z)
• TsSHAP: Robust model agnostic feature-based explainability for time series forecasting [6.004928390125367]
  我々は,ブラックボックス予測モデルの予測を説明できる機能ベースの説明可能性アルゴリズムTsSHAPを提案する。 我々は、時系列予測の文脈において、局所的、半局所的、グローバルな説明の概念を定式化する。
  論文  参考訳（メタデータ） (2023-03-22T05:14:36Z)
• Prediction-Powered Inference [68.97619568620709]
  予測を用いた推論は、実験データセットに機械学習システムからの予測を補足した場合に有効な統計的推論を行うためのフレームワークである。 このフレームワークは、手段、量子、線形およびロジスティック回帰係数などの量に対して証明可能な信頼区間を計算するための単純なアルゴリズムを生成する。 予測による推論により、研究者は機械学習を使用して、より有効な、よりデータ効率の高い結論を導き出すことができる。
  論文  参考訳（メタデータ） (2023-01-23T18:59:28Z)
• SurvSHAP(t): Time-dependent explanations of machine learning survival models [6.950862982117125]
  SurvSHAP(t)は、生存可能なブラックボックスモデルの解釈を可能にする最初の時間依存的な説明である。 合成および医療データの実験により、SurvSHAP(t)が時間依存効果で変数を検出できることが確認された。 我々はPythonで時間に依存した説明のアクセス可能な実装を提供する。
  論文  参考訳（メタデータ） (2022-08-23T17:01:14Z)
• Don't Explain Noise: Robust Counterfactuals for Randomized Ensembles [50.81061839052459]
  我々は確率論的問題として、堅牢な対実的説明の生成を定式化する。 アンサンブルモデルのロバスト性とベース学習者のロバスト性との関係を示す。 本手法は, 反実的説明から初期観測までの距離をわずかに増加させるだけで, 高いロバスト性を実現する。
  論文  参考訳（メタデータ） (2022-05-27T17:28:54Z)
• Explainability in Process Outcome Prediction: Guidelines to Obtain Interpretable and Faithful Models [77.34726150561087]
  本稿では、プロセス結果予測の分野における説明可能性モデルと説明可能性モデルの忠実性を通して、説明可能性を定義する。 本稿では,イベントログの仕様に基づいて適切なモデルを選択することのできる,X-MOPというガイドラインのセットを提案する。
  論文  参考訳（メタデータ） (2022-03-30T05:59:50Z)
• Probabilistic Sufficient Explanations [31.08715352013011]
  確率論的に十分な説明を導入し、分類の例を特徴の「最も単純な」部分集合を選ぶものとして記述する。 保証をそのまま保ちつつ、所望の説明を見つけるためのスケーラブルなアルゴリズムを設計する。 本実験は, 十分な説明を求める上でのアルゴリズムの有効性を実証し, アンカーや論理的説明と比較して, その優位性を示すものである。
  論文  参考訳（メタデータ） (2021-05-21T04:03:10Z)
• The Struggles of Feature-Based Explanations: Shapley Values vs. Minimal Sufficient Subsets [61.66584140190247]
  機能に基づく説明は、自明なモデルでも問題を引き起こすことを示す。 そこで本研究では,2つの一般的な説明書クラスであるシェープリー説明書と十分最小限の部分集合説明書が,基本的に異なる基底的説明書のタイプをターゲットにしていることを示す。
  論文  参考訳（メタデータ） (2020-09-23T09:45:23Z)
• Evaluations and Methods for Explanation through Robustness Analysis [117.7235152610957]
  分析による特徴に基づく説明の新たな評価基準を確立する。 我々は、緩やかに必要であり、予測に十分である新しい説明を得る。 我々は、現在の予測をターゲットクラスに移動させる一連の特徴を抽出するために、説明を拡張します。
  論文  参考訳（メタデータ） (2020-05-31T05:52:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。