論文の概要: Explanation-Guided Fairness Testing through Genetic Algorithm
- arxiv url: http://arxiv.org/abs/2205.08335v1
- Date: Mon, 16 May 2022 02:40:48 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-18 14:57:57.356627
- Title: Explanation-Guided Fairness Testing through Genetic Algorithm
- Title(参考訳): 遺伝的アルゴリズムによる説明誘導公平性検査
- Authors: Ming Fan, Wenying Wei, Wuxia Jin, Zijiang Yang, Ting Liu
- Abstract要約: 本研究は遺伝的アルゴリズム(GA)を用いた説明誘導フェアネステスト手法ExpGAを提案する。
ExpGAは、解釈可能な方法によって生成された説明結果を用いて、高品質な初期種子を収集する。
次に、GAを用いて、フィットネス値を最適化して識別サンプル候補を検索する。
- 参考スコア(独自算出の注目度): 18.642243829461158
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The fairness characteristic is a critical attribute of trusted AI systems. A
plethora of research has proposed diverse methods for individual fairness
testing. However, they are suffering from three major limitations, i.e., low
efficiency, low effectiveness, and model-specificity. This work proposes ExpGA,
an explanationguided fairness testing approach through a genetic algorithm
(GA). ExpGA employs the explanation results generated by interpretable methods
to collect high-quality initial seeds, which are prone to derive discriminatory
samples by slightly modifying feature values. ExpGA then adopts GA to search
discriminatory sample candidates by optimizing a fitness value. Benefiting from
this combination of explanation results and GA, ExpGA is both efficient and
effective to detect discriminatory individuals. Moreover, ExpGA only requires
prediction probabilities of the tested model, resulting in a better
generalization capability to various models. Experiments on multiple real-world
benchmarks, including tabular and text datasets, show that ExpGA presents
higher efficiency and effectiveness than four state-of-the-art approaches.
- Abstract(参考訳): 公正性特性は信頼されたAIシステムの重要な特性である。
多くの研究が個別の公平性テストのための多様な方法を提案している。
しかし、それらは3つの大きな制限、すなわち低効率、低効率、モデル固有性に悩まされている。
本研究は遺伝的アルゴリズム(GA)による説明誘導フェアネステスト手法であるExpGAを提案する。
ExpGAは、解釈可能な方法によって生成された説明結果を用いて、品質の高い初期種子を採取し、特徴値をわずかに修正することで識別サンプルを誘導する傾向にある。
ExpGAは、フィットネス値を最適化して識別サンプル候補を検索するためにGAを採用する。
この説明結果とGAの組み合わせにより、ExpGAは効率的かつ効果的に差別的個人を検出することができる。
さらに、ExpGAはテストされたモデルの予測確率のみを必要とするため、様々なモデルに対してより良い一般化能力が得られる。
表とテキストのデータセットを含む複数の実世界のベンチマーク実験では、expgaが4つの最先端のアプローチよりも高い効率性と有効性を示している。
関連論文リスト
- Provably Neural Active Learning Succeeds via Prioritizing Perplexing Samples [53.95282502030541]
ニューラルネットワークベースのアクティブラーニング(NAL)は、ニューラルネットワークを使用してサンプルの小さなサブセットを選択してトレーニングする、費用対効果の高いデータ選択技術である。
我々は、機能学習の観点から、両方のクエリ基準ベースのNALの成功について、統一的な説明を提供することにより、一歩前進させようとする。
論文 参考訳(メタデータ) (2024-06-06T10:38:01Z) - Feature Selection via Robust Weighted Score for High Dimensional Binary
Class-Imbalanced Gene Expression Data [1.2891210250935148]
非平衡データに対する頑健な重み付けスコア (ROWSU) は, クラス不均衡問題を用いた高次元遺伝子発現二項分類における最も識別性の高い特徴を選択するために提案される。
ROWSU法の性能を6ドルの遺伝子発現データセットで評価した。
論文 参考訳(メタデータ) (2024-01-23T11:22:03Z) - Boosting Fair Classifier Generalization through Adaptive Priority Reweighing [59.801444556074394]
より優れた一般化性を持つ性能向上フェアアルゴリズムが必要である。
本稿では,トレーニングデータとテストデータ間の分散シフトがモデル一般化性に与える影響を解消する適応的リライジング手法を提案する。
論文 参考訳(メタデータ) (2023-09-15T13:04:55Z) - Delving into Identify-Emphasize Paradigm for Combating Unknown Bias [52.76758938921129]
同定精度を高めるため,有効バイアス強調スコアリング法(ECS)を提案する。
また, マイニングされたバイアスアライメントとバイアスコンプリケート試料のコントリビューションのバランスをとるために, 勾配アライメント(GA)を提案する。
様々な環境で複数のデータセットで実験を行い、提案されたソリューションが未知のバイアスの影響を軽減することを実証した。
論文 参考訳(メタデータ) (2023-02-22T14:50:24Z) - A GA-like Dynamic Probability Method With Mutual Information for Feature
Selection [1.290382979353427]
相互情報を用いたGADP(GA-like dynamic probability)手法を提案する。
各遺伝子の確率は独立であるため、GADPの染色体変異は従来のGAよりも顕著である。
提案手法の優位性を検証するため,15個のデータセット上で複数の条件下で評価を行った。
論文 参考訳(メタデータ) (2022-10-21T13:30:01Z) - Fairness via Adversarial Attribute Neighbourhood Robust Learning [49.93775302674591]
本稿では,分類ヘッドを損なうために,UnderlineRobust underlineAdversarial underlineAttribute underlineNeighbourhood (RAAN)損失を原則として提案する。
論文 参考訳(メタデータ) (2022-10-12T23:39:28Z) - ProBoost: a Boosting Method for Probabilistic Classifiers [55.970609838687864]
ProBoostは確率的分類器のための新しいブースティングアルゴリズムである。
各トレーニングサンプルの不確実性を使用して、最も困難で不確実なものを決定する。
これは、最も不確実性が高いと判明したサンプルに徐々に焦点をあてる配列を生成する。
論文 参考訳(メタデータ) (2022-09-04T12:49:20Z) - Efficient and accurate group testing via Belief Propagation: an
empirical study [5.706360286474043]
グループテスト問題は効率的なプーリングスキームとアルゴリズムを要求する。
目標は感染したサンプルを正確に識別し、最小限の数の検査を行うことである。
結果の精度を大幅に向上させる新しいテスト設計を提案する。
論文 参考訳(メタデータ) (2021-05-13T10:52:46Z) - GA for feature selection of EEG heterogeneous data [0.0]
本稿では,教師付きあるいは教師なしのアプローチで使用できる特徴選択のための遺伝的アルゴリズム(ga)を提案する。
専門家の知識に頼らず、3つのフィットネス機能を検討します。
提案されたgaは、ここで示した新しいフィットネス機能に基づいて、2つの異なるデータセットがマージされたときにベンチマークを上回っています。
論文 参考訳(メタデータ) (2021-03-12T07:27:42Z) - Causal Feature Selection for Algorithmic Fairness [61.767399505764736]
データ管理の統合コンポーネントにおける公平性について検討する。
本稿では,データセットの公平性を保証する特徴のサブコレクションを同定する手法を提案する。
論文 参考訳(メタデータ) (2020-06-10T20:20:10Z) - On the Performance of Metaheuristics: A Different Perspective [0.0]
我々は,遺伝的アルゴリズム (GA), Particle Swarm Optimization (PSO), Artificial Bee Colony (ABC), Teaching-Learning-Based Optimization (TLBO), Cuckoo Optimization Algorithm (COA) のいくつかの基本的な進化的およびスワム知能メタヒューリスティックスについて検討した。
異なる特性を持つ20種類の最適化ベンチマーク関数について多数の実験が行われており、これらのメタヒューリスティックスの中での次の順位の他に、いくつかの基本的な結論が示されている。
論文 参考訳(メタデータ) (2020-01-24T09:34:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。