論文の概要: A Novel Multi-Objective Evolutionary Algorithm for Counterfactual Generation
- arxiv url: http://arxiv.org/abs/2502.10418v1
- Date: Mon, 03 Feb 2025 15:50:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-02 03:56:18.814931
- Title: A Novel Multi-Objective Evolutionary Algorithm for Counterfactual Generation
- Title（参考訳）: 対物生成のための新しい多目的進化アルゴリズム
- Authors: Gabriel Doyle-Finch, Alex A. Freitas,
- Abstract要約: 機械学習アルゴリズムはブラックボックス予測モデル(直接解釈できない)を学ぶ
特に,モデルがユーザに対して負の予測を出力した場合に,そのようなモデルの予測を理解することが重要である。
カウンターファクトの説明は、ユーザーに対して、異なる肯定的な分類を受けるために、その特性の一部をどう変えるかのガイダンスを提供する。
- 参考スコア（独自算出の注目度）: 0.0
- License:
- Abstract: Machine learning algorithms that learn black-box predictive models (which cannot be directly interpreted) are increasingly used to make predictions affecting the lives of people. It is important that users understand the predictions of such models, particularly when the model outputs a negative prediction for the user (e.g. denying a loan). Counterfactual explanations provide users with guidance on how to change some of their characteristics to receive a different, positive classification by a predictive model. For example, if a predictive model rejected a loan application from a user, a counterfactual explanation might state: If your salary was {\pounds}50,000 (rather than your current {\pounds}35,000), then your loan would be approved. This paper proposes two novel contributions: (a) a novel multi-objective Evolutionary Algorithm (EA) for counterfactual generation based on lexicographic optimisation, rather than the more popular Pareto dominance approach; and (b) an extension to the definition of the objective of validity for a counterfactual, based on measuring the resilience of a counterfactual to violations of monotonicity constraints which are intuitively expected by users; e.g., intuitively, the probability of a loan application to be approved would monotonically increase with an increase in the salary of the applicant. Experiments involving 15 experimental settings (3 types of black box models times 5 datasets) have shown that the proposed lexicographic optimisation-based EA is very competitive with an existing Pareto dominance-based EA; and the proposed extension of the validity objective has led to a substantial increase in the validity of the counterfactuals generated by the proposed EA.
- Abstract（参考訳）: ブラックボックス予測モデル(直接解釈できない)を学習する機械学習アルゴリズムは、人々の生活に影響を及ぼす予測を行うためにますます使われている。
特に、モデルがユーザに対して負の予測を出力した場合(例えばローンを否定する場合)、ユーザーはそのようなモデルの予測を理解することが重要である。
対物的説明は、予測モデルによって異なる肯定的な分類を受けるために、ユーザーにその特性の一部をどう変更するかのガイダンスを提供する。
例えば、予測モデルがユーザからのローン申請を拒絶した場合、反実的な説明は次のように述べている。
本稿では,2つの新しいコントリビューションを提案する。
(a)より一般的なパレート支配アプローチではなく、語彙的最適化に基づく対実生成のための新しい多目的進化アルゴリズム(EA)
b) 利用者が直感的に期待するモノトニック性制約違反に対する反事実のレジリエンスを測定することに基づく,反事実の妥当性の定義の延長。例えば,直感的には,承認されるローン出願の確率は,出願人の給与の増大とともに単調に増加する。
15種類のブラックボックスモデル(3種類のブラックボックスモデル5データセット)を含む実験により、提案したレキシコグラフィーに基づくEAは、既存のパレート支配ベースのEAと非常に競合していることが示され、提案された有効性の拡張により、提案されたEAが生成したデファクトの妥当性が大幅に向上した。
関連論文リスト
- Graph-Structured Speculative Decoding [52.94367724136063]
投機的復号化は、大規模言語モデルの推論を加速する有望な手法として登場した。
本稿では, 有向非巡回グラフ(DAG)を応用して, 起案された仮説を管理する革新的な手法を提案する。
我々は1.73$times$から1.96$times$に顕著なスピードアップを観察し、標準投機的復号法を大幅に上回った。
論文 参考訳（メタデータ） (2024-07-23T06:21:24Z) - Improving Fairness in Credit Lending Models using Subgroup Threshold Optimization [0.0]
textitSubgroup Threshold(textitSTO)と呼ばれる新しいフェアネス手法を導入する。
STOは、個々のサブグループの分類閾値を最適化して、それらの間の全体的な識別スコアを最小化する。
実世界の信用貸付データセットを用いた実験により、STOは性別差別を90%以上削減できることが示された。
論文 参考訳（メタデータ） (2024-03-15T19:36:56Z) - Predictive Churn with the Set of Good Models [64.05949860750235]
近似機械学習モデルの集合に対する競合予測の効果について検討する。
ラーショモン集合内のモデル間の係り受けに関する理論的結果を示す。
当社のアプローチは、コンシューマ向けアプリケーションにおいて、より予測し、削減し、混乱を避けるためにどのように使用できるかを示します。
論文 参考訳（メタデータ） (2024-02-12T16:15:25Z) - Source-Free Unsupervised Domain Adaptation with Hypothesis Consolidation
of Prediction Rationale [53.152460508207184]
Source-Free Unsupervised Domain Adaptation (SFUDA)は、モデルがターゲットのドメインラベルやソースドメインデータにアクセスせずに新しいドメインに適応する必要がある、という課題である。
本稿では,各サンプルについて複数の予測仮説を考察し,各仮説の背景にある理論的根拠について考察する。
最適性能を達成するために,モデル事前適応,仮説統合,半教師付き学習という3段階の適応プロセスを提案する。
論文 参考訳（メタデータ） (2024-02-02T05:53:22Z) - Advancing Counterfactual Inference through Nonlinear Quantile Regression [77.28323341329461]
ニューラルネットワークで実装された効率的かつ効果的な対実的推論のためのフレームワークを提案する。
提案手法は、推定された反事実結果から見つからないデータまでを一般化する能力を高める。
複数のデータセットで実施した実証実験の結果は、我々の理論的な主張に対する説得力のある支持を提供する。
論文 参考訳（メタデータ） (2023-06-09T08:30:51Z) - Black-Box Anomaly Attribution [13.455748795087493]
ブラックボックスの機械学習モデルが真の観察から逸脱したとき、その逸脱の背後にある理由について何を言えるだろうか?
これは、ビジネスまたは産業用AIアプリケーションのエンドユーザがよく問う、基本的でユビキタスな質問である。
「新たな可能性に基づく帰属の枠組みを「可能性補償」と呼ぶ。」
論文 参考訳（メタデータ） (2023-05-29T01:42:32Z) - VCNet: A self-explaining model for realistic counterfactual generation [52.77024349608834]
事実的説明は、機械学習の決定を局所的に説明するための手法のクラスである。
本稿では,予測器と対実生成器を組み合わせたモデルアーキテクチャであるVCNet-Variational Counter Netを提案する。
我々はVCNetが予測を生成でき、また、別の最小化問題を解くことなく、反現実的な説明を生成できることを示した。
論文 参考訳（メタデータ） (2022-12-21T08:45:32Z) - Exploring the Trade-off between Plausibility, Change Intensity and
Adversarial Power in Counterfactual Explanations using Multi-objective
Optimization [73.89239820192894]
自動対物生成は、生成した対物インスタンスのいくつかの側面を考慮すべきである。
本稿では, 対実例生成のための新しい枠組みを提案する。
論文 参考訳（メタデータ） (2022-05-20T15:02:53Z) - Backward-Compatible Prediction Updates: A Probabilistic Approach [12.049279991559091]
本稿では,予測更新問題を定式化し,上記の質問に対する効率的な確率的アプローチを提案する。
標準分類ベンチマークデータセットの広範な実験において,提案手法は後方互換性のある予測更新のための代替戦略よりも優れていることを示す。
論文 参考訳（メタデータ） (2021-07-02T13:05:31Z) - Estimation with Uncertainty via Conditional Generative Adversarial
Networks [3.829070379776576]
条件付き生成逆数ネットワーク(cGAN)におけるジェネレータの使い方が異なる予測確率型ニューラルネットワークモデルを提案する。
通常のcGANの入力と出力を反転させることで、モデルを予測モデルとしてうまく利用することができる。
さらに,予測の不確実性を測定するために,回帰問題や分類問題に対するエントロピーと相対エントロピーを導入する。
論文 参考訳（メタデータ） (2020-07-01T08:54:17Z) - Adversarial Likelihood-Free Inference on Black-Box Generator [26.122782625918163]
GAN(Generative Adversarial Network)は、データ分布の暗黙的な推定器であると見なすことができる。
本稿では,提案手法の理論的限界を解析する。
本稿では,解析された制約を緩和するアルゴリズムとして,ALFI(Adversarial Likelihood-Free Inference)を導入する。
論文 参考訳（メタデータ） (2020-04-13T07:37:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。