論文の概要: On the Robustness of Removal-Based Feature Attributions

• arxiv url: http://arxiv.org/abs/2306.07462v2
• Date: Mon, 30 Oct 2023 23:08:42 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-01 23:27:40.189018
• Title: On the Robustness of Removal-Based Feature Attributions
• Title（参考訳）: 除去に基づく特徴属性のロバスト性について
• Authors: Chris Lin, Ian Covert, Su-In Lee
• Abstract要約: 我々は、除去に基づく特徴属性のロバスト性の特性を理論的に特徴づける。 具体的には、このような手法を統一的に分析し、無害な帰属と摂動した帰属の差について上界を導出する。 合成および実世界のデータによる結果から理論的結果が検証され,その実用的意義が実証された。
• 参考スコア（独自算出の注目度）: 17.679374058425346
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: To explain predictions made by complex machine learning models, many feature attribution methods have been developed that assign importance scores to input features. Some recent work challenges the robustness of these methods by showing that they are sensitive to input and model perturbations, while other work addresses this issue by proposing robust attribution methods. However, previous work on attribution robustness has focused primarily on gradient-based feature attributions, whereas the robustness of removal-based attribution methods is not currently well understood. To bridge this gap, we theoretically characterize the robustness properties of removal-based feature attributions. Specifically, we provide a unified analysis of such methods and derive upper bounds for the difference between intact and perturbed attributions, under settings of both input and model perturbations. Our empirical results on synthetic and real-world data validate our theoretical results and demonstrate their practical implications, including the ability to increase attribution robustness by improving the model's Lipschitz regularity.
• Abstract（参考訳）: 複雑な機械学習モデルによる予測を説明するため、重要点を入力特徴に割り当てる多くの特徴属性法が開発されている。 最近の研究の中には、入力やモデル摂動に敏感であることを示すことによって、これらの手法の堅牢性に挑戦するものもある。 しかし,従来の帰属ロバスト性は,主に勾配に基づく特徴帰属に焦点が当てられているが,現在,除去に基づく帰属法のロバスト性はよく分かっていない。 このギャップを埋めるために、我々は除去に基づく特徴属性の堅牢性特性を理論的に特徴づける。 具体的には,これらの手法の統一的な解析を行い,入力とモデルの両方の摂動の設定下で,無傷と摂動の差の上界を導出する。 合成データと実世界のデータを用いた実験結果は,理論結果の妥当性を検証し,モデルのリプシッツ正則性向上による帰属ロバスト性の向上など,その実践的意義を実証した。

関連論文リスト

• Explanatory Model Monitoring to Understand the Effects of Feature Shifts on Performance [61.06245197347139]
  そこで本研究では,機能シフトによるブラックボックスモデルの振る舞いを説明する新しい手法を提案する。 本稿では,最適輸送と共有値の概念を組み合わせた提案手法について,説明的性能推定として紹介する。
  論文  参考訳（メタデータ） (2024-08-24T18:28:19Z)
• Improving Adversarial Robustness via Feature Pattern Consistency Constraint [42.50500608175905]
  畳み込みニューラルネットワーク(CNN)は、敵の攻撃に対する脆弱性で知られており、重大なセキュリティ上の懸念を呈している。 既存のほとんどの方法は、敵の摂動から学ぶことに集中し、敵の例に過度に適合させるか、推論中にそのような摂動を取り除くことを目指している。 本稿では,特徴パターンの正しい維持能力を高めるために,新規かつ効果的な特徴パターン一貫性制約(FPCC)手法を提案する。
  論文  参考訳（メタデータ） (2024-06-13T05:38:30Z)
• Identifiable Latent Neural Causal Models [82.14087963690561]
  因果表現学習は、低レベルの観測データから潜伏した高レベルの因果表現を明らかにすることを目指している。 因果表現の識別可能性に寄与する分布シフトのタイプを決定する。 本稿では,本研究の成果を実用的なアルゴリズムに翻訳し,信頼性の高い潜在因果表現の取得を可能にする。
  論文  参考訳（メタデータ） (2024-03-23T04:13:55Z)
• The Risk of Federated Learning to Skew Fine-Tuning Features and Underperform Out-of-Distribution Robustness [50.52507648690234]
  フェデレートされた学習は、微調整された特徴をスキイングし、モデルの堅牢性を損なうリスクがある。 3つのロバスト性指標を導入し、多様なロバストデータセットで実験を行う。 提案手法は,パラメータ効率のよい微調整手法を含む多種多様なシナリオにまたがるロバスト性を著しく向上させる。
  論文  参考訳（メタデータ） (2024-01-25T09:18:51Z)
• Consistent Explanations in the Face of Model Indeterminacy via Ensembling [12.661530681518899]
  この研究は、モデル不確定性の存在下で予測モデルに対して一貫した説明を提供することの課題に対処する。 これらのシナリオで提供される説明の一貫性を高めるためのアンサンブル手法を導入する。 本研究は,説明文の解釈において,モデル不確定性を考慮することの重要性を強調した。
  論文  参考訳（メタデータ） (2023-06-09T18:45:43Z)
• Causal Analysis for Robust Interpretability of Neural Networks [0.2519906683279152]
  我々は、事前学習されたニューラルネットワークの因果効果を捉えるための頑健な介入に基づく手法を開発した。 分類タスクで訓練された視覚モデルに本手法を適用した。
  論文  参考訳（メタデータ） (2023-05-15T18:37:24Z)
• Enhancing Model Robustness and Fairness with Causality: A Regularization Approach [15.981724441808147]
  最近の研究は、機械学習モデルにおける急激な相関と意図しないバイアスのリスクを懸念している。 モデルトレーニング中に因果知識を統合するためのシンプルで直感的な正規化手法を提案する。 因果的特徴に依存し、因果的でない特徴に依存しない予測モデルを構築します。
  論文  参考訳（メタデータ） (2021-10-03T02:49:33Z)
• Estimation of Bivariate Structural Causal Models by Variational Gaussian Process Regression Under Likelihoods Parametrised by Normalising Flows [74.85071867225533]
  因果機構は構造因果モデルによって記述できる。 最先端の人工知能の大きな欠点の1つは、説明責任の欠如である。
  論文  参考訳（メタデータ） (2021-09-06T14:52:58Z)
• Accurate and Robust Feature Importance Estimation under Distribution Shifts [49.58991359544005]
  PRoFILEは、新しい特徴重要度推定法である。 忠実さと頑健さの両面で、最先端のアプローチよりも大幅に改善されていることを示す。
  論文  参考訳（メタデータ） (2020-09-30T05:29:01Z)
• Accounting for Unobserved Confounding in Domain Generalization [107.0464488046289]
  本稿では,データセットの組み合わせから頑健で一般化可能な予測モデルを学習する際の問題点について検討する。 堅牢なモデルを学ぶことの課題の一部は、保存されていない共同設立者の影響にある。 異なるモダリティの医療データに対するアプローチの実証的性能を実証する。
  論文  参考訳（メタデータ） (2020-07-21T08:18:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。