論文の概要: Adversarial Learning for Counterfactual Fairness
- arxiv url: http://arxiv.org/abs/2008.13122v1
- Date: Sun, 30 Aug 2020 09:06:03 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-23 12:02:51.094449
- Title: Adversarial Learning for Counterfactual Fairness
- Title(参考訳): 対物フェアネスのための逆学習
- Authors: Vincent Grari, Sylvain Lamprier, Marcin Detyniecki
- Abstract要約: 近年、フェアネスは機械学習研究コミュニティにおいて重要なトピックとなっている。
我々は,MDDの罰則よりも強力な推論を可能にする,対向的ニューラルネットワークアプローチに頼ることを提案する。
実験では、離散的および連続的な設定の両方に対して、対実的公正性の観点から、顕著な改善が示された。
- 参考スコア(独自算出の注目度): 15.302633901803526
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In recent years, fairness has become an important topic in the machine
learning research community. In particular, counterfactual fairness aims at
building prediction models which ensure fairness at the most individual level.
Rather than globally considering equity over the entire population, the idea is
to imagine what any individual would look like with a variation of a given
attribute of interest, such as a different gender or race for instance.
Existing approaches rely on Variational Auto-encoding of individuals, using
Maximum Mean Discrepancy (MMD) penalization to limit the statistical dependence
of inferred representations with their corresponding sensitive attributes. This
enables the simulation of counterfactual samples used for training the target
fair model, the goal being to produce similar outcomes for every alternate
version of any individual. In this work, we propose to rely on an adversarial
neural learning approach, that enables more powerful inference than with MMD
penalties, and is particularly better fitted for the continuous setting, where
values of sensitive attributes cannot be exhaustively enumerated. Experiments
show significant improvements in term of counterfactual fairness for both the
discrete and the continuous settings.
- Abstract(参考訳): 近年,機械学習研究コミュニティでは,公平性が重要な話題となっている。
特に、反事実公平性は、最も個々のレベルで公平性を保証する予測モデルの構築を目標としている。
グローバルに人口全体に対する公平性を考えるのではなく、例えば性別や人種など、特定の利害の属性のバリエーションで、どんな個人がどう見えるかを想像する、という考え方だ。
既存のアプローチは個人の変分自己エンコーディングに依存しており、最大平均離散性(MMD)ペナル化を用いて、推論された表現の統計的依存を対応する感度属性で制限している。
これにより、ターゲットフェアモデルのトレーニングに使用される対実的なサンプルのシミュレーションが可能になる。
本研究では,MDDの罰則よりも強力な推論が可能であり,重要な属性の値を総和的に列挙できないような連続的な設定に特に適した,敵対的ニューラルネットワークアプローチを提案する。
実験では、離散的および連続的な設定の両方に対して、対実的公正性の観点から、顕著な改善が示された。
関連論文リスト
- Fairness-enhancing mixed effects deep learning improves fairness on in-
and out-of-distribution clustered (non-iid) data [7.413980562174725]
本稿では,複合効果深層学習(MEDL)フレームワークを提案する。
MEDLはクラスタ不変固定効果(FE)とクラスタ固有ランダム効果(RE)を定量化する
我々は,このMEDLと逆行性脱ベンゾル(逆行性脱ベンゾル)を結婚し,公正性に敏感な変数に対するFE,RE,ME予測の対等性を推し進める。
本フレームワークは, 性別で83%, 性で86%, 婚姻統計で27%まで, 敏感な変数の公平性を著しく向上させる。
論文 参考訳(メタデータ) (2023-10-04T20:18:45Z) - Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。
カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。
本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
論文 参考訳(メタデータ) (2023-07-17T04:08:29Z) - DualFair: Fair Representation Learning at Both Group and Individual
Levels via Contrastive Self-supervision [73.80009454050858]
この研究は、DualFairと呼ばれる自己教師型モデルを提示し、学習された表現から性別や人種などのセンシティブな属性をデバイアスすることができる。
我々のモデルは、グループフェアネスと対実フェアネスという2つのフェアネス基準を共同で最適化する。
論文 参考訳(メタデータ) (2023-03-15T07:13:54Z) - FairAdaBN: Mitigating unfairness with adaptive batch normalization and
its application to dermatological disease classification [14.589159162086926]
バッチ正規化をセンシティブ属性に適応させるFairAdaBNを提案する。
本研究では,FATE(Fairness-Accuracy Trade-off efficiency)と呼ばれる新しい指標を提案する。
2つの皮膚科学データセットを用いた実験により,提案手法はフェアネス基準とFATEの他の手法よりも優れていた。
論文 参考訳(メタデータ) (2023-03-15T02:22:07Z) - Practical Approaches for Fair Learning with Multitype and Multivariate
Sensitive Attributes [70.6326967720747]
現実世界に展開された機械学習アルゴリズムが不公平さや意図しない社会的結果をもたらすことはないことを保証することが重要である。
本稿では,カーネルHilbert Spacesの相互共分散演算子上に構築されたフェアネス尺度であるFairCOCCOを紹介する。
実世界のデータセットにおける予測能力と公正性のバランスをとる上で、最先端技術に対する一貫した改善を実証的に示す。
論文 参考訳(メタデータ) (2022-11-11T11:28:46Z) - Fair Inference for Discrete Latent Variable Models [12.558187319452657]
デュエルケアなしでデータに基づいて訓練された機械学習モデルは、特定の人口に対して不公平で差別的な行動を示すことが多い。
本研究では,変動分布に公平なペナルティを含む離散潜伏変数に対して,公平な変分推論手法を開発した。
提案手法の一般化と実世界への影響の可能性を示すため,刑事司法リスク評価のための特別目的グラフィカルモデルを構築した。
論文 参考訳(メタデータ) (2022-09-15T04:54:21Z) - Measuring Fairness of Text Classifiers via Prediction Sensitivity [63.56554964580627]
加速度予測感度は、入力特徴の摂動に対するモデルの予測感度に基づいて、機械学習モデルの公正度を測定する。
この計量は、群フェアネス(統計パリティ)と個人フェアネスという特定の概念と理論的に関連付けられることを示す。
論文 参考訳(メタデータ) (2022-03-16T15:00:33Z) - MultiFair: Multi-Group Fairness in Machine Learning [52.24956510371455]
機械学習におけるマルチグループフェアネスの研究(MultiFair)
この問題を解決するために,汎用的なエンドツーエンドのアルゴリズムフレームワークを提案する。
提案するフレームワークは多くの異なる設定に一般化可能である。
論文 参考訳(メタデータ) (2021-05-24T02:30:22Z) - FAIR: Fair Adversarial Instance Re-weighting [0.7829352305480285]
本研究では,公正な予測を確実にするインスタンス重み付け関数の学習に敵対的トレーニングを利用するFair Adrial Instance Re-weighting(FAIR)手法を提案する。
我々の知る限りでは、これは、個々のインスタンスの公平性に関する解釈可能な情報を提供する重み付け関数によって、再重み付けと逆方向のアプローチをマージする最初のモデルである。
論文 参考訳(メタデータ) (2020-11-15T10:48:56Z) - Fairness in Semi-supervised Learning: Unlabeled Data Help to Reduce
Discrimination [53.3082498402884]
機械学習の台頭における投機は、機械学習モデルによる決定が公正かどうかである。
本稿では,未ラベルデータのラベルを予測するための擬似ラベリングを含む,前処理フェーズにおける公平な半教師付き学習の枠組みを提案する。
偏見、分散、ノイズの理論的分解分析は、半教師付き学習における差別の異なる源とそれらが公平性に与える影響を浮き彫りにする。
論文 参考訳(メタデータ) (2020-09-25T05:48:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。