論文の概要: Causality-based Counterfactual Explanation for Classification Models
- arxiv url: http://arxiv.org/abs/2105.00703v3
- Date: Sun, 26 Mar 2023 09:42:54 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-29 05:05:56.154724
- Title: Causality-based Counterfactual Explanation for Classification Models
- Title（参考訳）: 因果関係に基づく分類モデルの非現実的説明
- Authors: Tri Dung Duong, Qian Li, Guandong Xu
- Abstract要約: 本稿では,プロトタイプに基づく対実的説明フレームワーク(ProCE)を提案する。
ProCEは、カウンターファクトデータの特徴の根底にある因果関係を保存することができる。
さらに,提案手法を応用した多目的遺伝的アルゴリズムを考案した。
- 参考スコア（独自算出の注目度）: 11.108866104714627
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Counterfactual explanation is one branch of interpretable machine learning
that produces a perturbation sample to change the model's original decision.
The generated samples can act as a recommendation for end-users to achieve
their desired outputs. Most of the current counterfactual explanation
approaches are the gradient-based method, which can only optimize the
differentiable loss functions with continuous variables. Accordingly, the
gradient-free methods are proposed to handle the categorical variables, which
however have several major limitations: 1) causal relationships among features
are typically ignored when generating the counterfactuals, possibly resulting
in impractical guidelines for decision-makers; 2) the counterfactual
explanation algorithm requires a great deal of effort into parameter tuning for
dertermining the optimal weight for each loss functions which must be conducted
repeatedly for different datasets and settings. In this work, to address the
above limitations, we propose a prototype-based counterfactual explanation
framework (ProCE). ProCE is capable of preserving the causal relationship
underlying the features of the counterfactual data. In addition, we design a
novel gradient-free optimization based on the multi-objective genetic algorithm
that generates the counterfactual explanations for the mixed-type of continuous
and categorical features. Numerical experiments demonstrate that our method
compares favorably with state-of-the-art methods and therefore is applicable to
existing prediction models. All the source codes and data are available at
\url{https://github.com/tridungduong16/multiobj-scm-cf}.
- Abstract（参考訳）: 対実的説明は、モデルの本来の決定を変えるために摂動サンプルを生成する解釈可能な機械学習の一分野である。
生成されたサンプルは、エンドユーザが望ましい出力を達成するためのレコメンデーションとして機能する。
現在の反事実的説明のアプローチのほとんどは、連続変数を持つ微分可能損失関数のみを最適化できる勾配に基づく方法である。
したがって、勾配のない手法は分類変数を扱うために提案されているが、いくつかの大きな制限がある。
1) 特徴間の因果関係は,反事実を発生させるとき,一般的に無視される。
2) 反事実説明アルゴリズムは, 異なるデータセットや設定に対して繰り返し実行しなければならない損失関数の最適重み付けを導出するために, パラメータチューニングに多大な労力を要する。
本稿では,上記の制約に対処するため,プロトタイプベースの対実的説明フレームワーク(ProCE)を提案する。
ProCEは、カウンターファクトデータの特徴の根底にある因果関係を保存することができる。
さらに,多目的遺伝的アルゴリズムに基づく,連続的およびカテゴリ的特徴の混合型に対する反事実的説明を生成する,新しい勾配なし最適化を考案する。
数値実験により,本手法は最先端手法と好適な比較を行い,既存の予測モデルに適用できることを示した。
すべてのソースコードとデータは \url{https://github.com/tridungduong16/multiobj-scm-cf} で入手できる。
関連論文リスト
- Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳（メタデータ） (2024-11-21T10:26:17Z) - S-CFE: Simple Counterfactual Explanations [21.975560789792073]
スパースデータに対する多様体対応の反実的説明を求める問題に対処する。
提案手法は,スパースかつ多様体に整列した反実的説明を効果的に生成する。
論文 参考訳（メタデータ） (2024-10-21T07:42:43Z) - CeFlow: A Robust and Efficient Counterfactual Explanation Framework for
Tabular Data using Normalizing Flows [11.108866104714627]
対実的説明は、望ましい結果を達成するためにサンプルの摂動を生成する解釈可能な機械学習の一形態である。
可変オートエンコーダ (VAE) を用いて実現可能な改善を実現するために, 最先端の対実的説明法を提案する。
我々は,連続的特徴と分類的特徴の混合型に対して正規化フローを利用する,堅牢で効率的な対実的説明フレームワークであるCeFlowを設計する。
論文 参考訳（メタデータ） (2023-03-26T09:51:04Z) - Bayesian Hierarchical Models for Counterfactual Estimation [12.159830463756341]
本稿では,多種多様なカウンターファクトの集合を推定する確率的パラダイムを提案する。
摂動を事前分布関数によるランダム変数として扱う。
収束特性の優れた勾配ベースサンプリング器は、後方サンプルを効率的に計算する。
論文 参考訳（メタデータ） (2023-01-21T00:21:11Z) - CEnt: An Entropy-based Model-agnostic Explainability Framework to
Contrast Classifiers' Decisions [2.543865489517869]
我々は任意の分類器の予測を局所的に対比する新しい手法を提案する。
コントラストエントロピーに基づく説明法CEntは、決定木によって局所的にモデルを近似し、異なる特徴分割のエントロピー情報を算出する。
CEntは、不変性(人種など)と半不変性(年齢が増加する方向にしか変化しない)を満足しながら、トレーニングデータに必ずしも存在しない多様な反事実を生成する最初の非漸進的コントラスト法である。
論文 参考訳（メタデータ） (2023-01-19T08:23:34Z) - Fine-grained Retrieval Prompt Tuning [149.9071858259279]
微粒な検索プロンプトチューニングは, サンプルプロンプトと特徴適応の観点から, きめの細かい検索タスクを実行するために, 凍結した事前学習モデルを操る。
学習可能なパラメータが少ないFRPTは、広く使われている3つの細粒度データセットの最先端性能を実現する。
論文 参考訳（メタデータ） (2022-07-29T04:10:04Z) - MACE: An Efficient Model-Agnostic Framework for Counterfactual
Explanation [132.77005365032468]
MACE(Model-Agnostic Counterfactual Explanation)の新たな枠組みを提案する。
MACE法では, 優れた反実例を見つけるための新しいRL法と, 近接性向上のための勾配のない降下法を提案する。
公開データセットの実験は、有効性、空間性、近接性を向上して検証する。
論文 参考訳（メタデータ） (2022-05-31T04:57:06Z) - Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。
提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
論文 参考訳（メタデータ） (2021-06-07T17:44:49Z) - Model-agnostic and Scalable Counterfactual Explanations via
Reinforcement Learning [0.5729426778193398]
本稿では,最適化手順をエンドツーエンドの学習プロセスに変換する深層強化学習手法を提案する。
実世界のデータを用いた実験により,本手法はモデルに依存しず,モデル予測からのフィードバックのみに依存することがわかった。
論文 参考訳（メタデータ） (2021-06-04T16:54:36Z) - MINIMALIST: Mutual INformatIon Maximization for Amortized Likelihood
Inference from Sampled Trajectories [61.3299263929289]
シミュレーションベースの推論は、その可能性が実際に計算できない場合でもモデルのパラメータを学習することができる。
あるクラスのメソッドは、異なるパラメータでシミュレートされたデータを使用して、確率とエビデンス比の償却推定器を推定する。
モデルパラメータとシミュレーションデータ間の相互情報の観点から,本手法が定式化可能であることを示す。
論文 参考訳（メタデータ） (2021-06-03T12:59:16Z) - Implicit differentiation of Lasso-type models for hyperparameter
optimization [82.73138686390514]
ラッソ型問題に適した行列逆転のない効率的な暗黙微分アルゴリズムを提案する。
提案手法は,解の空間性を利用して高次元データにスケールする。
論文 参考訳（メタデータ） (2020-02-20T18:43:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。