論文の概要: Aleatoric and Epistemic Discrimination: Fundamental Limits of Fairness Interventions

• arxiv url: http://arxiv.org/abs/2301.11781v3
• Date: Mon, 15 Apr 2024 18:58:43 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-18 03:00:14.928423
• Title: Aleatoric and Epistemic Discrimination: Fundamental Limits of Fairness Interventions
• Title（参考訳）: Aleatoric and Epistemic Discrimination: Basic Limits of Fairness Interventions
• Authors: Hao Wang, Luxi He, Rui Gao, Flavio P. Calmon,
• Abstract要約: 機械学習モデルは、モデル開発時の選択とデータ固有のバイアスにより、特定の人口群で過小評価される可能性がある。 フェアネス制約下でのモデルの性能限界を決定することにより,アレータリック判別の定量化を行う。 本研究では, 公平性制約を適用した際のモデルの精度と, アレタリック判別による限界とのギャップとして, てんかんの判別を定量化する。
• 参考スコア（独自算出の注目度）: 13.279926364884512
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning (ML) models can underperform on certain population groups due to choices made during model development and bias inherent in the data. We categorize sources of discrimination in the ML pipeline into two classes: aleatoric discrimination, which is inherent in the data distribution, and epistemic discrimination, which is due to decisions made during model development. We quantify aleatoric discrimination by determining the performance limits of a model under fairness constraints, assuming perfect knowledge of the data distribution. We demonstrate how to characterize aleatoric discrimination by applying Blackwell's results on comparing statistical experiments. We then quantify epistemic discrimination as the gap between a model's accuracy when fairness constraints are applied and the limit posed by aleatoric discrimination. We apply this approach to benchmark existing fairness interventions and investigate fairness risks in data with missing values. Our results indicate that state-of-the-art fairness interventions are effective at removing epistemic discrimination on standard (overused) tabular datasets. However, when data has missing values, there is still significant room for improvement in handling aleatoric discrimination.
• Abstract（参考訳）: 機械学習(ML)モデルは、モデル開発時の選択とデータ固有のバイアスにより、特定の集団群で過小評価される可能性がある。 我々は,MLパイプラインにおける識別源を,データ分布に固有のアレラトリック識別と,モデル開発における決定によるてんかん識別の2つのクラスに分類する。 本研究では,データ分布の完全知識を前提として,公正性制約下でのモデルの性能限界を決定することにより,アレータリック判別の定量化を行う。 統計的実験を比較する上で,ブラックウェルの結果を適用して,アレータリックな差別を特徴付ける方法を示す。 そこで,本研究では,公正度制約を適用した際のモデルの精度と,アレタリック判別による限界とのギャップとして,てんかんの識別を定量化する。 本稿では,既存のフェアネス介入をベンチマークし,欠落した値を持つデータのフェアネスリスクを調査するために,本手法を適用した。 以上の結果から,現在最先端の公正介入は,標準(過剰な)表層データセット上でのてんかん差別の除去に有効であることが示唆された。 しかし、データが値が不足している場合、アレータリックな差別を扱うための大きな改善の余地は依然として残っている。

関連論文リスト

• Fairness-Accuracy Trade-Offs: A Causal Perspective [58.06306331390586]
  我々は、初めて因果レンズから公正性と正確性の間の張力を分析する。 因果的制約を強制することは、しばしば人口集団間の格差を減少させることを示す。 因果制約付きフェアラーニングのための新しいニューラルアプローチを導入する。
  論文  参考訳（メタデータ） (2024-05-24T11:19:52Z)
• Causal Fair Machine Learning via Rank-Preserving Interventional Distributions [0.5062312533373299]
  我々は、個人が架空の、規範的に望まれる(FiND)世界で等しければ、規範的に等しくなると定義する。 本研究では,それが保持する特定のFiND世界を定義するために,ランク保存的介入分布を提案する。 我々のワープアプローチは、最も差別された個人を効果的に識別し、不公平を緩和することを示します。
  論文  参考訳（メタデータ） (2023-07-24T13:46:50Z)
• Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
  公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。 カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。 本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
  論文  参考訳（メタデータ） (2023-07-17T04:08:29Z)
• FairAdaBN: Mitigating unfairness with adaptive batch normalization and its application to dermatological disease classification [14.589159162086926]
  バッチ正規化をセンシティブ属性に適応させるFairAdaBNを提案する。 本研究では,FATE(Fairness-Accuracy Trade-off efficiency)と呼ばれる新しい指標を提案する。 2つの皮膚科学データセットを用いた実験により,提案手法はフェアネス基準とFATEの他の手法よりも優れていた。
  論文  参考訳（メタデータ） (2023-03-15T02:22:07Z)
• Marrying Fairness and Explainability in Supervised Learning [0.0]
  我々は、保護属性の直接的な因果効果として直接識別を定式化する。 我々は、最先端のフェアラーニング手法は、関連性や逆の差別によって差別を誘発することができることを発見した。 本稿では,保護された属性がシステムの出力に与える影響を無効にするとともに,残りの特徴の影響を保存することを提案する。
  論文  参考訳（メタデータ） (2022-04-06T17:26:58Z)
• Statistical discrimination in learning agents [64.78141757063142]
  統計的差別は、訓練人口のバイアスとエージェントアーキテクチャの両方の関数としてエージェントポリシーに現れる。 我々は、リカレントニューラルネットワークを使用するエージェントによる差別の低減と、トレーニング環境のバイアスの低減が示される。
  論文  参考訳（メタデータ） (2021-10-21T18:28:57Z)
• Personalized Trajectory Prediction via Distribution Discrimination [78.69458579657189]
  トラリミー予測は将来の力学のマルチモーダルな性質を捉えるジレンマと対立する。 本研究では,パーソナライズされた動作パターンを予測するDisDisDis(Disdis)手法を提案する。 本手法は,プラグイン・アンド・プレイモジュールとして既存のマルチモーダル予測モデルと統合することができる。
  論文  参考訳（メタデータ） (2021-07-29T17:42:12Z)
• Balancing Biases and Preserving Privacy on Balanced Faces in the Wild [50.915684171879036]
  現在の顔認識(FR)モデルには、人口統計バイアスが存在する。 さまざまな民族と性別のサブグループにまたがる偏見を測定するために、我々のバランス・フェイススをWildデータセットに導入します。 真偽と偽のサンプルペアを区別するために1点のスコアしきい値に依存すると、最適以下の結果が得られます。 本稿では,最先端ニューラルネットワークから抽出した顔特徴を用いたドメイン適応学習手法を提案する。
  論文  参考訳（メタデータ） (2021-03-16T15:05:49Z)
• Fairness in Semi-supervised Learning: Unlabeled Data Help to Reduce Discrimination [53.3082498402884]
  機械学習の台頭における投機は、機械学習モデルによる決定が公正かどうかである。 本稿では,未ラベルデータのラベルを予測するための擬似ラベリングを含む,前処理フェーズにおける公平な半教師付き学習の枠組みを提案する。 偏見、分散、ノイズの理論的分解分析は、半教師付き学習における差別の異なる源とそれらが公平性に与える影響を浮き彫りにする。
  論文  参考訳（メタデータ） (2020-09-25T05:48:56Z)
• Convex Fairness Constrained Model Using Causal Effect Estimators [6.414055487487486]
  説明バイアスを保ちながら差別を除去するFairCEEと呼ばれる新しいモデルを考案する。 回帰および二分分類タスクにおけるFairCEEの効率的な解法を提案する。
  論文  参考訳（メタデータ） (2020-02-16T03:40:04Z)
• Learning from Discriminatory Training Data [2.1869017389979266]
  監視された学習システムは、歴史的データを用いて訓練され、もしデータが差別によって汚染された場合、保護されたグループに対して差別を意図せずに学習する可能性がある。 差別的データセットの訓練にもかかわらず、公正な学習手法は、公正なテストデータセットで良好に機能することを提案する。
  論文  参考訳（メタデータ） (2019-12-17T18:53:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。