論文の概要: Selection in the Presence of Implicit Bias: The Advantage of Intersectional Constraints

• arxiv url: http://arxiv.org/abs/2202.01661v1
• Date: Thu, 3 Feb 2022 16:21:50 GMT
• ステータス: 処理完了
• システム内更新日: 2022-02-04 13:33:07.331531
• Title: Selection in the Presence of Implicit Bias: The Advantage of Intersectional Constraints
• Title（参考訳）: 暗黙的バイアスの存在下での選択:交叉制約の利点
• Authors: Anay Mehrotra, Bary S. R. Pradelski, Nisheeth K. Vishnoi
• Abstract要約: 雇用、昇進、大学入学などの選抜過程において、社会的に安定な属性に対する暗黙の偏見は、永続的な不平等を生み出すことが知られている。 交叉の場合、上記の非断面積制約は、暗黙のバイアスがない場合に達成可能な全ユーティリティの一部しか回復できないことを示す。
• 参考スコア（独自算出の注目度）: 21.230595548980574
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In selection processes such as hiring, promotion, and college admissions, implicit bias toward socially-salient attributes such as race, gender, or sexual orientation of candidates is known to produce persistent inequality and reduce aggregate utility for the decision maker. Interventions such as the Rooney Rule and its generalizations, which require the decision maker to select at least a specified number of individuals from each affected group, have been proposed to mitigate the adverse effects of implicit bias in selection. Recent works have established that such lower-bound constraints can be very effective in improving aggregate utility in the case when each individual belongs to at most one affected group. However, in several settings, individuals may belong to multiple affected groups and, consequently, face more extreme implicit bias due to this intersectionality. We consider independently drawn utilities and show that, in the intersectional case, the aforementioned non-intersectional constraints can only recover part of the total utility achievable in the absence of implicit bias. On the other hand, we show that if one includes appropriate lower-bound constraints on the intersections, almost all the utility achievable in the absence of implicit bias can be recovered. Thus, intersectional constraints can offer a significant advantage over a reductionist dimension-by-dimension non-intersectional approach to reducing inequality.
• Abstract（参考訳）: 採用、昇進、大学入学などの選択過程において、人種、性別、性的指向といった社会的に安定した属性に対する暗黙のバイアスは、永続的な不平等を生み出し、意思決定者の総合的有用性を減らすことが知られている。 ルーニー規則(英語版)やその一般化(英語版)のような介入は、各影響を受けるグループから少なくとも特定の数の個人を選択することを要求するが、選択における暗黙の偏見の悪影響を軽減するために提案されている。 近年の研究では、各個人が少なくとも1つの影響を受けるグループに属している場合、このような低い制約が集約ユーティリティの改善に非常に有効であることが確認されている。 しかし、いくつかの設定では、個人は複数の影響を受けるグループに属し、その結果、この交叉性のためにより極端に暗黙的な偏見に直面する。 我々は独立に描画されたユーティリティを考察し、上記の非断面積制約が暗黙のバイアスがなければ達成可能な全ユーティリティの一部を回復できることを示す。 一方,交差点上の下界制約を適切に含んでいる場合,暗黙バイアスがない場合に実現可能なユーティリティのほとんどをすべて回収できることが示されている。 したがって、交叉制約は、不等式を減らすための還元主義的な次元分割非断続的アプローチよりも大きな利点を与えることができる。

関連論文リスト

• The Root Shapes the Fruit: On the Persistence of Gender-Exclusive Harms in Aligned Language Models [58.130894823145205]
  我々はトランスジェンダー、ノンバイナリ、その他のジェンダー・ディバースのアイデンティティを中心とし、アライメント手順が既存のジェンダー・ディバースバイアスとどのように相互作用するかを検討する。 以上の結果から,DPO対応モデルは特に教師付き微調整に敏感であることが示唆された。 DPOとより広範なアライメントプラクティスに合わせたレコメンデーションで締めくくります。
  論文  参考訳（メタデータ） (2024-11-06T06:50:50Z)
• Harm Ratio: A Novel and Versatile Fairness Criterion [27.18270261374462]
  好奇心は公平な分業研究の基盤となっている。 本研究では, 新たな公正度基準, 個人に対する有害度比を提案する。 私たちの基準は、重要な意思決定アルゴリズムを区別するのに十分強力です。
  論文  参考訳（メタデータ） (2024-10-03T20:36:05Z)
• Fairness-Accuracy Trade-Offs: A Causal Perspective [58.06306331390586]
  我々は、初めて因果レンズから公正性と正確性の間の張力を分析する。 因果的制約を強制することは、しばしば人口集団間の格差を減少させることを示す。 因果制約付きフェアラーニングのための新しいニューラルアプローチを導入する。
  論文  参考訳（メタデータ） (2024-05-24T11:19:52Z)
• Federated Fairness without Access to Sensitive Groups [12.888927461513472]
  連合学習におけるグループフェアネスへの現在のアプローチは、トレーニング中に事前に定義されラベル付けされたセンシティブなグループが存在することを前提としている。 我々は、センシティブなグループや追加のラベルの事前定義された定義に依存しないグループフェアネスを保証するための新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2024-02-22T19:24:59Z)
• Social Diversity Reduces the Complexity and Cost of Fostering Fairness [63.70639083665108]
  不完全な情報や公平性の柔軟な基準を前提とした干渉機構の効果について検討する。 多様性の役割を定量化し、情報収集の必要性を減らす方法を示す。 この結果から,多様性が変化し,公正性向上を目指す機関に新たなメカニズムが開放されることが示唆された。
  論文  参考訳（メタデータ） (2022-11-18T21:58:35Z)
• Unsupervised Learning of Debiased Representations with Pseudo-Attributes [85.5691102676175]
  教師なし方式で,単純かつ効果的な脱バイアス手法を提案する。 特徴埋め込み空間上でクラスタリングを行い、クラスタリング結果を利用して疑似属性を識別する。 次に,非偏り表現を学習するために,クラスタベースの新しい重み付け手法を用いる。
  論文  参考訳（メタデータ） (2021-08-06T05:20:46Z)
• Deconfounding Scores: Feature Representations for Causal Effect Estimation with Weak Overlap [140.98628848491146]
  推定対象の偏りを伴わずに高い重なりを生じさせる,デコンファウンディングスコアを導入する。 分離スコアは観測データで識別可能なゼロ共分散条件を満たすことを示す。 特に,この手法が標準正規化の魅力的な代替となることを示す。
  論文  参考訳（メタデータ） (2021-04-12T18:50:11Z)
• On Lower Bounds for Standard and Robust Gaussian Process Bandit Optimization [55.937424268654645]
  有界ノルムを持つ関数のブラックボックス最適化問題に対するアルゴリズム非依存な下界を考える。 本稿では, 単純さ, 汎用性, エラー確率への依存性の向上など, 後悔の下位境界を導出するための新しい証明手法を提案する。
  論文  参考訳（メタデータ） (2020-08-20T03:48:14Z)
• Intersectional Affirmative Action Policies for Top-k Candidates Selection [3.4961413413444817]
  本研究では,トップk候補を応募者のプールから選抜する問題について検討する。 我々は,一部の候補者が歴史的かつ現在の不利を経験している状況を考える。 そこで本研究では,OECD国における学力評価と学士号取得のデータセットを用いて,この問題を解き,解析し,評価する2つのアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-07-29T12:27:18Z)
• Quota-based debiasing can decrease representation of already underrepresented groups [5.1135133995376085]
  1つの属性に基づくクォータに基づくデバイアスは、すでに表現されていないグループの表現を悪化させ、選択の全体的公正性を低下させる可能性があることを示す。 以上の結果から,不平等の根本原因の排除により多くの努力が必要であることが示唆された。
  論文  参考訳（メタデータ） (2020-06-13T14:26:42Z)
• Interventions for Ranking in the Presence of Implicit Bias [34.23230188778088]
  帰属バイアス(英語: Implicit bias)とは、特定の社会的グループのメンバーに対する特定の性質(またはその欠如)の無意識の帰属である。 ルーニールール(英: Rooney Rule)は、サブセット選択問題の特定のケースにおける結果の有用性を改善するための制約である。 我々は、単純で解釈可能な制約の族を示し、それらが暗黙のバイアスを最適に軽減できることを示す。
  論文  参考訳（メタデータ） (2020-01-23T19:11:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。