論文の概要: Enhanced Fairness Testing via Generating Effective Initial Individual
Discriminatory Instances
- arxiv url: http://arxiv.org/abs/2209.08321v1
- Date: Sat, 17 Sep 2022 12:33:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-20 20:14:25.966565
- Title: Enhanced Fairness Testing via Generating Effective Initial Individual
Discriminatory Instances
- Title（参考訳）: 効果的な個人識別インスタンスの生成による公平性テストの強化
- Authors: Minghua Ma, Zhao Tian, Max Hort, Federica Sarro, Hongyu Zhang, Qingwei
Lin, Dongmei Zhang
- Abstract要約: フェアネステストのためのIDIを生成する初期種子の選択手法を提案する。
我々の実証研究は、I&Dが4つの最先端のシード生成アプローチに対して、より多くのIDIを生成可能であることを明らかにしている。
- 参考スコア（独自算出の注目度）: 38.96149729526226
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Fairness testing aims at mitigating unintended discrimination in the
decision-making process of data-driven AI systems. Individual discrimination
may occur when an AI model makes different decisions for two distinct
individuals who are distinguishable solely according to protected attributes,
such as age and race. Such instances reveal biased AI behaviour, and are called
Individual Discriminatory Instances (IDIs).
In this paper, we propose an approach for the selection of the initial seeds
to generate IDIs for fairness testing. Previous studies mainly used random
initial seeds to this end. However this phase is crucial, as these seeds are
the basis of the follow-up IDIs generation. We dubbed our proposed seed
selection approach I&D. It generates a large number of initial IDIs exhibiting
a great diversity, aiming at improving the overall performance of fairness
testing.
Our empirical study reveal that I&D is able to produce a larger number of
IDIs with respect to four state-of-the-art seed generation approaches,
generating 1.68X more IDIs on average. Moreover, we compare the use of I&D to
train machine learning models and find that using I&D reduces the number of
remaining IDIs by 29% when compared to the state-of-the-art, thus indicating
that I&D is effective for improving model fairness
- Abstract（参考訳）: 公正テストは、データ駆動型AIシステムの意思決定プロセスにおける意図しない差別を軽減することを目的としている。
個人差別は、AIモデルが年齢や人種などの保護された属性にのみ依存する2つの異なる個人に対して異なる決定を行うときに起こりうる。
このようなインスタンスは偏りのあるAIの振る舞いを明らかにし、個人識別インスタンス(IDI)と呼ばれる。
本稿では,初期種子の選択による公平度評価のためのIDI生成手法を提案する。
これまでの研究は主にランダムな初期種子を用いていた。
しかし、これらの種子は後続のIDI生成の基礎となるため、この相は重要である。
提案するシード選択アプローチをi&dと呼びました。
フェアネステストの全体的なパフォーマンス向上を目的とした、非常に多様性のある初期IDIを多数生成する。
我々の実証研究は、I&Dが4つの最先端のシード生成アプローチに対してより多くのIDIを生成でき、平均して1.68倍のIDIを生成できることを示した。
さらに、機械学習モデルのトレーニングにI&Dを使うことを比較し、I&Dを使用することで、最先端技術と比較して残りのIDIの数を29%削減できることから、I&Dがモデル公正性向上に有効であることを示す。
関連論文リスト
- DCAST: Diverse Class-Aware Self-Training Mitigates Selection Bias for Fairer Learning [0.0]
敏感な特徴に代表されないバイアスは 識別が困難で 診断されないのが普通です
未確認バイアスを緩和し、緩和方法を評価するための戦略は不可欠であるが、未調査のままである。
本稿では,クラス固有の偏見を意識したモデル非依存的緩和手法であるDiverse Class-Aware Self-Training (DCAST)を紹介した。
論文 参考訳（メタデータ） (2024-09-30T09:26:19Z) - Diversified Batch Selection for Training Acceleration [68.67164304377732]
オンラインバッチ選択として知られる一般的な研究ラインでは、トレーニングプロセス中の情報サブセットの選択について検討している。
バニラ参照モデルフリーメソッドは、独立してデータをサンプリング的にスコア付けし、選択する。
DivBS(Diversified Batch Selection)を提案する。
論文 参考訳（メタデータ） (2024-06-07T12:12:20Z) - Distributionally Generative Augmentation for Fair Facial Attribute Classification [69.97710556164698]
Facial Attribute Classification (FAC) は広く応用されている。
従来の手法で訓練されたFACモデルは、様々なデータサブポピュレーションにまたがる精度の不整合を示すことによって不公平である可能性がある。
本研究は,付加アノテーションなしでバイアスデータ上で公正なFACモデルをトレーニングするための,新しい世代ベースの2段階フレームワークを提案する。
論文 参考訳（メタデータ） (2024-03-11T10:50:53Z) - Latent Imitator: Generating Natural Individual Discriminatory Instances
for Black-Box Fairness Testing [45.183849487268496]
本稿では、より自然な個人識別インスタンスを生成するために、LIMI(Latent Imitator)というフレームワークを提案する。
まず、対象モデルの決定境界を近似するために、代理線形境界を導出する。
次に、1ステップの運動で代理境界にランダムな潜伏ベクトルを演算し、さらにベクトル計算を行い、2つの潜在的な識別候補を探索する。
論文 参考訳（メタデータ） (2023-05-19T11:29:13Z) - Explanation-Guided Fairness Testing through Genetic Algorithm [18.642243829461158]
本研究は遺伝的アルゴリズム(GA)を用いた説明誘導フェアネステスト手法ExpGAを提案する。
ExpGAは、解釈可能な方法によって生成された説明結果を用いて、高品質な初期種子を収集する。
次に、GAを用いて、フィットネス値を最適化して識別サンプル候補を検索する。
論文 参考訳（メタデータ） (2022-05-16T02:40:48Z) - Agree to Disagree: Diversity through Disagreement for Better
Transferability [54.308327969778155]
本稿では,D-BAT(Diversity-By-dis-Agreement Training)を提案する。
我々は、D-BATが一般化された相違の概念から自然に現れることを示す。
論文 参考訳（メタデータ） (2022-02-09T12:03:02Z) - SelectAugment: Hierarchical Deterministic Sample Selection for Data
Augmentation [72.58308581812149]
そこで我々は,SelectAugmentと呼ばれる効果的な手法を提案し,決定論的かつオンラインに拡張するサンプルを選択する。
具体的には、各バッチにおいて、まず増分比率を決定し、次にこの比で各トレーニングサンプルを増分するかを決定する。
これにより、サンプルを増量する際のランダム性による負の効果を効果的に軽減し、DAの有効性を向上させることができる。
論文 参考訳（メタデータ） (2021-12-06T08:38:38Z) - Automatic Fairness Testing of Neural Classifiers through Adversarial
Sampling [8.2868128804393]
本稿では,識別サンプルを体系的に検索するスケーラブルで効果的な手法を提案する。
最先端の手法と比較して、我々の手法は勾配計算やクラスタリングのような軽量な手法のみを用いる。
再訓練されたモデルは、それぞれ平均57.2%と60.2%の差別を減少させる。
論文 参考訳（メタデータ） (2021-07-17T03:47:08Z) - Data-Efficient Instance Generation from Instance Discrimination [40.71055888512495]
本稿では,インスタンス識別に基づくデータ効率の高いインスタンス生成手法を提案する。
本研究では,インスタンス識別に基づくデータ効率の高いインスタンス生成(InsGen)手法を提案する。
論文 参考訳（メタデータ） (2021-06-08T17:52:59Z) - Diverse Knowledge Distillation for End-to-End Person Search [81.4926655119318]
人物検索は、画像ギャラリーから特定の人物をローカライズし識別することを目的としている。
最近の手法は2つのグループ、すなわち2段階とエンドツーエンドのアプローチに分類できる。
ボトルネックを解消するために、多様な知識蒸留を備えたシンプルで強力なエンドツーエンドネットワークを提案します。
論文 参考訳（メタデータ） (2020-12-21T09:04:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。