論文の概要: Weak Robust Compatibility Between Learning Algorithms and Counterfactual Explanation Generation Algorithms

• arxiv url: http://arxiv.org/abs/2405.20664v1
• Date: Fri, 31 May 2024 08:03:52 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-03 15:16:48.614309
• Title: Weak Robust Compatibility Between Learning Algorithms and Counterfactual Explanation Generation Algorithms
• Title（参考訳）: 学習アルゴリズムと対実説明生成アルゴリズムの弱ロバスト適合性
• Authors: Ao Xu, Tieru Wu,
• Abstract要約: 擬似説明生成は、説明可能な人工知能の強力な方法である。 過去の文献は入力インスタンスの摂動に基づく堅牢性について広く研究してきた。 本稿では,説明力の観点から,より合理的なWak Robust Compatibility(Wak Robust Compatibility)を提案する。
• 参考スコア（独自算出の注目度）: 1.3121410433987561
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Counterfactual explanation generation is a powerful method for Explainable Artificial Intelligence. It can help users understand why machine learning models make specific decisions, and how to change those decisions. Evaluating the robustness of counterfactual explanation algorithms is therefore crucial. Previous literature has widely studied the robustness based on the perturbation of input instances. However, the robustness defined from the perspective of perturbed instances is sometimes biased, because this definition ignores the impact of learning algorithms on robustness. In this paper, we propose a more reasonable definition, Weak Robust Compatibility, based on the perspective of explanation strength. In practice, we propose WRC-Test to help us generate more robust counterfactuals. Meanwhile, we designed experiments to verify the effectiveness of WRC-Test. Theoretically, we introduce the concepts of PAC learning theory and define the concept of PAC WRC-Approximability. Based on reasonable assumptions, we establish oracle inequalities about weak robustness, which gives a sufficient condition for PAC WRC-Approximability.
• Abstract（参考訳）: 疑似説明生成は、説明可能な人工知能の強力な方法である。 機械学習モデルがなぜ特定の決定を下すのか、その決定をどう変えるのか、といったことを理解するのに役立ちます。 したがって、対実的説明アルゴリズムの堅牢性を評価することが重要である。 過去の文献は入力インスタンスの摂動に基づく堅牢性について広く研究してきた。 しかしながら、摂動インスタンスの観点から定義されたロバスト性は、この定義がロバスト性に対する学習アルゴリズムの影響を無視しているため、バイアスを受けることがある。 本稿では,説明力の観点から,より合理的なWak Robust Compatibility(Wak Robust Compatibility)を提案する。 実際に我々は、より堅牢な反事実を生成するのに役立つWRC-Testを提案する。 一方, WRC-Testの有効性を検証する実験を設計した。 理論的には、PAC学習理論の概念を導入し、PAC WRC-Approximabilityの概念を定義する。 妥当な仮定に基づいて、弱い堅牢性に関するオラクルの不等式を確立し、PAC WRC-近似可能性に十分な条件を与える。

関連論文リスト

• Rigorous Probabilistic Guarantees for Robust Counterfactual Explanations [80.86128012438834]
  モデルシフトに対する反ファクトの堅牢性を計算することはNP完全であることを示す。 本稿では,頑健性の厳密な推定を高い保証で実現する新しい確率論的手法を提案する。
  論文  参考訳（メタデータ） (2024-07-10T09:13:11Z)
• Can you trust your explanations? A robustness test for feature attribution methods [42.36530107262305]
  説明可能なAI(XAI)の分野は急速に成長しているが、その技術の使用は時々予期せぬ結果をもたらした。 多様体仮説とアンサンブルアプローチの活用が、ロバスト性の詳細な解析にどのように役立つかを示す。
  論文  参考訳（メタデータ） (2024-06-20T14:17:57Z)
• Machine Learning Robustness: A Primer [12.426425119438846]
  この議論はロバストネスの詳細な定義から始まり、MLモデルが様々な環境条件と予期せぬ環境条件で安定した性能を維持する能力であることを示している。 この章では、データバイアスやモデル複雑性、未特定のMLパイプラインの落とし穴など、堅牢性を阻害する要因について詳しく説明している。 議論は、デバイアスや拡張といったデータ中心のアプローチから始まる、堅牢性を促進するための改善戦略を探求する。
  論文  参考訳（メタデータ） (2024-04-01T03:49:42Z)
• Mathematical Algorithm Design for Deep Learning under Societal and Judicial Constraints: The Algorithmic Transparency Requirement [65.26723285209853]
  計算モデルにおける透過的な実装が実現可能かどうかを分析するための枠組みを導出する。 以上の結果から,Blum-Shub-Smale Machinesは,逆問題に対する信頼性の高い解法を確立できる可能性が示唆された。
  論文  参考訳（メタデータ） (2024-01-18T15:32:38Z)
• Doubly Robust Instance-Reweighted Adversarial Training [107.40683655362285]
  本稿では,2重のインスタンス再重み付き対向フレームワークを提案する。 KL偏差正規化損失関数の最適化により重みを求める。 提案手法は, 平均ロバスト性能において, 最先端のベースライン法よりも優れた性能を示す。
  論文  参考訳（メタデータ） (2023-08-01T06:16:18Z)
• Seeing is not Believing: Robust Reinforcement Learning against Spurious Correlation [57.351098530477124]
  国家の異なる部分には、保存されていない共同設立者が引き起こす相関関係が存在しない。 このような役に立たないあるいは有害な相関を学習するモデルは、テストケースの共同創設者がトレーニングケースから逸脱したときに破滅的に失敗する可能性がある。 したがって、単純かつ非構造的な不確実性集合を仮定する既存の頑健なアルゴリズムは、この問題に対処するには不十分である。
  論文  参考訳（メタデータ） (2023-07-15T23:53:37Z)
• Learnability with PAC Semantics for Multi-agent Beliefs [38.88111785113001]
  推論と帰納の緊張は、おそらく哲学、認知、人工知能といった分野において最も根本的な問題である。 Valiant氏は、学習の課題は推論と統合されるべきである、と認識した。 古典的な包含よりも弱いが、クエリに応答する強力なモデル理論のフレームワークを可能にする。
  論文  参考訳（メタデータ） (2023-06-08T18:22:46Z)
• From Robustness to Explainability and Back Again [0.685316573653194]
  本稿では,形式的説明可能性のスケーラビリティの限界に対処し,形式的説明性を計算するための新しいアルゴリズムを提案する。 提案アルゴリズムは、その代わりに多数のロバストネスクエリに応答して説明を計算し、そのようなクエリの数は、機能数に対して最も線形である。 提案手法の有効性を検証する実験を行った。
  論文  参考訳（メタデータ） (2023-06-05T17:21:05Z)
• Generating robust counterfactual explanations [60.32214822437734]
  カウンターファクトの質は、現実主義、行動可能性、妥当性、堅牢性など、いくつかの基準に依存する。 本稿では, 対実的入力変化に対するロバスト性に着目し, 対実的入力変化に対するロバスト性に着目した。 我々は,このトレードオフを効果的に管理し,ユーザに対して最小限の堅牢性を保証するとともに,ロバストなデファクトを生成する新しいフレームワークであるCROCOを提案する。
  論文  参考訳（メタデータ） (2023-04-24T09:00:31Z)
• Don't Explain Noise: Robust Counterfactuals for Randomized Ensembles [50.81061839052459]
  我々は確率論的問題として、堅牢な対実的説明の生成を定式化する。 アンサンブルモデルのロバスト性とベース学習者のロバスト性との関係を示す。 本手法は, 反実的説明から初期観測までの距離をわずかに増加させるだけで, 高いロバスト性を実現する。
  論文  参考訳（メタデータ） (2022-05-27T17:28:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。