論文の概要: RobustX: Robust Counterfactual Explanations Made Easy

• arxiv url: http://arxiv.org/abs/2502.13751v1
• Date: Wed, 19 Feb 2025 14:12:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-20 14:00:58.832276
• Title: RobustX: Robust Counterfactual Explanations Made Easy
• Title（参考訳）: RobustX:ロバストな対実的説明が簡単になった
• Authors: Junqi Jiang, Luca Marzari, Aaryan Purohit, Francesco Leofante,
• Abstract要約: 本稿では,オープンソースのPythonライブラリであるRobustXについて紹介する。 既存のメソッドのインターフェースを提供し、最先端技術への合理化を可能にする。
• 参考スコア（独自算出の注目度）: 4.875355171029671
• License:
• Abstract: The increasing use of Machine Learning (ML) models to aid decision-making in high-stakes industries demands explainability to facilitate trust. Counterfactual Explanations (CEs) are ideally suited for this, as they can offer insights into the predictions of an ML model by illustrating how changes in its input data may lead to different outcomes. However, for CEs to realise their explanatory potential, significant challenges remain in ensuring their robustness under slight changes in the scenario being explained. Despite the widespread recognition of CEs' robustness as a fundamental requirement, a lack of standardised tools and benchmarks hinders a comprehensive and effective comparison of robust CE generation methods. In this paper, we introduce RobustX, an open-source Python library implementing a collection of CE generation and evaluation methods, with a focus on the robustness property. RobustX provides interfaces to several existing methods from the literature, enabling streamlined access to state-of-the-art techniques. The library is also easily extensible, allowing fast prototyping of novel robust CE generation and evaluation methods.
• Abstract（参考訳）: 機械学習(ML)モデルの利用が増加し、高度な業界における意思決定を支援するようになると、信頼性を高めるための説明責任が要求される。 インプットデータの変化がどのようにして異なる結果をもたらすかを説明することで、MLモデルの予測に関する洞察を提供することができる。 しかし、CEが説明可能性を実現するためには、シナリオのわずかな変更の下で堅牢性を確保することが大きな課題である。 CEの堅牢性は基本的な要件として広く認識されているが、標準化されたツールやベンチマークの欠如は、堅牢なCE生成方法の包括的で効果的な比較を妨げている。 本稿では,オープンソースのPythonライブラリであるRobustXについて紹介する。 RobustXは、文献から既存のいくつかのメソッドへのインターフェースを提供し、最先端技術への合理化されたアクセスを可能にする。 また、このライブラリは容易に拡張可能であり、新しい堅牢なCE生成および評価方法の高速なプロトタイピングを可能にする。

関連論文リスト

• Rigorous Probabilistic Guarantees for Robust Counterfactual Explanations [80.86128012438834]
  モデルシフトに対する反ファクトの堅牢性を計算することはNP完全であることを示す。 本稿では,頑健性の厳密な推定を高い保証で実現する新しい確率論的手法を提案する。
  論文  参考訳（メタデータ） (2024-07-10T09:13:11Z)
• Cycles of Thought: Measuring LLM Confidence through Stable Explanations [53.15438489398938]
  大規模言語モデル(LLM)は、様々なベンチマークで人間レベルの精度に到達し、さらに超えることができるが、不正確な応答における過度な自信は、依然として十分に文書化された障害モードである。 本稿では,LLMの不確実性を測定するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-05T16:35:30Z)
• CELA: Cost-Efficient Language Model Alignment for CTR Prediction [70.65910069412944]
  CTR(Click-Through Rate)予測は、レコメンダシステムにおいて最重要位置を占める。 最近の取り組みは、プレトレーニング言語モデル(PLM)を統合することでこれらの課題を緩和しようとしている。 CTR予測のためのtextbfCost-textbfEfficient textbfLanguage Model textbfAlignment (textbfCELA)を提案する。
  論文  参考訳（メタデータ） (2024-05-17T07:43:25Z)
• Interval Abstractions for Robust Counterfactual Explanations [15.954944873701503]
  対実的説明(CE)は、説明可能なAI研究における主要なパラダイムとして現れている。 既存のメソッドは、生成したモデルのパラメータにわずかな変更が発生すると、しばしば無効になる。 本稿では,機械学習モデルのための新しいインターバル抽象化手法を提案する。
  論文  参考訳（メタデータ） (2024-04-21T18:24:34Z)
• Verified Training for Counterfactual Explanation Robustness under Data Shift [18.156341188646348]
  対実的説明(CE)は、予測を望ましいクラスに変更するために入力にどのような変更が必要なのかを記述することによって、機械学習モデルの解釈可能性を高める。 既存のアプローチは、単一の固定されたモデルに焦点を当ててCEを生成し、CEの将来的な妥当性に関する正式な保証は提供しない。 本稿では,分類器と説明器を協調的に訓練し,生成したCEのロバスト性をモデルシフトに明示的に考慮するアプローチであるVeriTraCERを紹介する。
  論文  参考訳（メタデータ） (2024-03-06T15:06:16Z)
• Introducing User Feedback-based Counterfactual Explanations (UFCE) [49.1574468325115]
  対実的説明(CE)は、XAIで理解可能な説明を生成するための有効な解決策として浮上している。 UFCEは、アクション可能な機能のサブセットで最小限の変更を決定するために、ユーザー制約を含めることができる。 UFCEは、textitproximity(英語版)、textitsparsity(英語版)、textitfeasibility(英語版)の2つのよく知られたCEメソッドより優れている。
  論文  参考訳（メタデータ） (2024-02-26T20:09:44Z)
• Provably Robust and Plausible Counterfactual Explanations for Neural Networks via Robust Optimisation [19.065904250532995]
  PROPLACE(Provably RObust and PLAUSible Counterfactual Explanations)を提案する。 証明可能な堅牢なCEを計算し、その収束性、健全性、完全性を証明するための反復アルゴリズムを定式化する。 ProPLACEは,3つの評価点において,計測値に対する最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2023-09-22T00:12:09Z)
• Diffusion-based Visual Counterfactual Explanations -- Towards Systematic Quantitative Evaluation [64.0476282000118]
  視覚的対物的説明法(VCE)の最新手法は、深い生成モデルの力を利用して、印象的な画質の高次元画像の新しい例を合成する。 評価手順が大きく異なり,個々の実例の視覚検査や小規模なユーザスタディなど,これらのVCE手法の性能を比較することは,現時点では困難である。 本稿では,VCE手法の体系的,定量的評価のためのフレームワークと,使用する指標の最小セットを提案する。
  論文  参考訳（メタデータ） (2023-08-11T12:22:37Z)
• REX: Rapid Exploration and eXploitation for AI Agents [103.68453326880456]
  本稿では、REXと呼ばれるAIエージェントのための高速探索およびeXploitationのための改良されたアプローチを提案する。 REXは追加の報酬層を導入し、アッパー信頼境界(UCB)スコアに似た概念を統合し、より堅牢で効率的なAIエージェントのパフォーマンスをもたらす。
  論文  参考訳（メタデータ） (2023-07-18T04:26:33Z)
• Generating Interpretable Counterfactual Explanations By Implicit Minimisation of Epistemic and Aleatoric Uncertainties [24.410724285492485]
  補助モデルなしでホワイトボックス設定で解釈可能なCEを生成するための簡易かつ高速な手法を提案する。 実験の結果,提案アルゴリズムは既存の手法よりも,より解釈可能なCEを生成することがわかった。
  論文  参考訳（メタデータ） (2021-03-16T10:20:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。