論文の概要: The Effect of the Rooney Rule on Implicit Bias in the Long Term

• arxiv url: http://arxiv.org/abs/2010.10992v1
• Date: Wed, 21 Oct 2020 13:33:00 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-04 23:24:30.288804
• Title: The Effect of the Rooney Rule on Implicit Bias in the Long Term
• Title（参考訳）: ルーニー則が長期の暗黙的バイアスに及ぼす影響
• Authors: L. Elisa Celis, Chris Hays, Anay Mehrotra, Nisheeth K. Vishnoi
• Abstract要約: ルーニー・ルール (Rooney Rule) は、選択パネルに、不足しているグループから少なくとも1人の候補を候補リストに含めることを要求する。 ルーニールールの実施の有無にかかわらず、選択パネルの暗黙のバイアスが、採用決定の時間とともにどのように変化するかのモデルを検討する。
• 参考スコア（独自算出の注目度）: 30.45850025127782
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A robust body of evidence demonstrates the adverse effects of implicit bias in various contexts--from hiring to health care. The Rooney Rule is an intervention developed to counter implicit bias and has been implemented in the private and public sectors. The Rooney Rule requires that a selection panel include at least one candidate from an underrepresented group in their shortlist of candidates. Recently, Kleinberg and Raghavan proposed a model of implicit bias and studied the effectiveness of the Rooney Rule when applied to a single selection decision. However, selection decisions often occur repeatedly over time. Further, it has been observed that, given consistent counterstereotypical feedback, implicit biases against underrepresented candidates can change. We consider a model of how a selection panel's implicit bias changes over time given their hiring decisions either with or without the Rooney Rule in place. Our main result is that, when the panel is constrained by the Rooney Rule, their implicit bias roughly reduces at a rate that is the inverse of the size of the shortlist--independent of the number of candidates, whereas without the Rooney Rule, the rate is inversely proportional to the number of candidates. Thus, when the number of candidates is much larger than the size of the shortlist, the Rooney Rule enables a faster reduction in implicit bias, providing an additional reason in favor of using it as a strategy to mitigate implicit bias. Towards empirically evaluating the long-term effect of the Rooney Rule in repeated selection decisions, we conduct an iterative candidate selection experiment on Amazon MTurk. We observe that, indeed, decision-makers subject to the Rooney Rule select more minority candidates in addition to those required by the rule itself than they would if no rule is in effect, and do so without considerably decreasing the utility of candidates selected.
• Abstract（参考訳）: A robust body of evidence demonstrates the adverse effects of implicit bias in various contexts--from hiring to health care. The Rooney Rule is an intervention developed to counter implicit bias and has been implemented in the private and public sectors. The Rooney Rule requires that a selection panel include at least one candidate from an underrepresented group in their shortlist of candidates. Recently, Kleinberg and Raghavan proposed a model of implicit bias and studied the effectiveness of the Rooney Rule when applied to a single selection decision. However, selection decisions often occur repeatedly over time. Further, it has been observed that, given consistent counterstereotypical feedback, implicit biases against underrepresented candidates can change. We consider a model of how a selection panel's implicit bias changes over time given their hiring decisions either with or without the Rooney Rule in place. Our main result is that, when the panel is constrained by the Rooney Rule, their implicit bias roughly reduces at a rate that is the inverse of the size of the shortlist--independent of the number of candidates, whereas without the Rooney Rule, the rate is inversely proportional to the number of candidates. したがって、候補数がショートリストのサイズよりはるかに大きい場合、rooneyルールは暗黙のバイアスを減らすことを可能にし、暗黙のバイアスを緩和するための戦略としてそれを使用するための追加の理由を提供する。 反復選択決定におけるルーニー規則の長期効果を実証的に評価するために,Amazon MTurk上で反復的候補選択実験を行う。 実際、ルーニー規則に従属する意思決定者は、ルールが施行されていない場合よりも、ルール自身によって要求されるものに加えて、より少数派の候補者を選定し、選択された候補者の利便性を著しく低下させることなく、それを行うのである。

関連論文リスト

• Going Beyond Popularity and Positivity Bias: Correcting for Multifactorial Bias in Recommender Systems [74.47680026838128]
  ユーザインタラクションデータとレコメンダシステム(RS)の2つの典型的なバイアスは、人気バイアスと肯定バイアスである。 項目と評価値の双方に影響される多因子選択バイアスについて検討する。 分散を低減し、最適化の堅牢性を向上させるため、スムースで交互に勾配降下する手法を提案する。
  論文  参考訳（メタデータ） (2024-04-29T12:18:21Z)
• Mitigating Framing Bias with Polarity Minimization Loss [56.24404488440295]
  偏見バイアスは、実際の出来事の知覚を歪ませることによって政治的分極を悪化させる重要な役割を担っている。 そこで本研究では,フレーミングバイアスを低減するために,偏光入力項目間の極性差を最小限に抑える新たな損失関数を提案する。
  論文  参考訳（メタデータ） (2023-11-03T09:50:23Z)
• Mitigating Bias for Question Answering Models by Tracking Bias Influence [84.66462028537475]
  本稿では,複数選択QAモデルのバイアスを軽減するためのBMBIを提案する。 バイアスのある例から学んだ場合、モデルがよりバイアスに傾くように傾くという直感に基づいて、クエリインスタンスのバイアスレベルを測定します。 本手法は,複数のバイアスカテゴリにまたがる複数のQA定式化に適用可能であることを示す。
  論文  参考訳（メタデータ） (2023-10-13T00:49:09Z)
• Group Meritocratic Fairness in Linear Contextual Bandits [32.15680917495674]
  エージェントがプールから1つの候補を選択し、各候補がセンシティブなグループに属するという線形文脈帯域問題について検討する。 エージェントのポリシーは、最も高い相対ランクの候補を選択する際に公平であることを示す公平性の概念を提案する。
  論文  参考訳（メタデータ） (2022-06-07T09:54:38Z)
• The price of unfairness in linear bandits with biased feedback [62.25313751895011]
  線形帯域フィードバックによる逐次意思決定の問題点について検討する。 その結果,不偏フィードバック下で得られたdT 1/2 log(T) の後悔率よりも最悪の後悔率が高いことがわかった。 興味深いことに、ギャップ依存率によって、問題はバイアスのないものほど難しくない非自明なインスタンスの存在が明らかになる。
  論文  参考訳（メタデータ） (2022-03-18T08:03:20Z)
• On Fair Selection in the Presence of Implicit and Differential Variance [22.897402186120434]
  本研究では, 意思決定者が各候補の品質のノイズの多い推定値を受け取り, その差が候補群に依存するモデルについて検討する。 どちらの基準決定要因も、反対方向にも差別をもたらすことを示す。
  論文  参考訳（メタデータ） (2021-12-10T16:04:13Z)
• Mundus vult decipi, ergo decipiatur: Visual Communication of Uncertainty in Election Polls [56.8172499765118]
  我々は、今放送と予測におけるバイアスの潜在的な源について論じる。 概念は、誤認識された正確性の問題を軽減するために提示される。 主要なアイデアの1つは、パーティーシェアではなくイベントの確率を使うことである。
  論文  参考訳（メタデータ） (2021-04-28T07:02:24Z)
• On Fair Selection in the Presence of Implicit Variance [17.517529275692322]
  我々は、暗黙のバイアスがなくても、異なるグループからの候補者の質の推定は、別の基本的な方法、すなわち、その分散によって異なるかもしれないと論じる。 本稿では,グループ非依存正規分布から抽出される真の潜伏品質を有する簡易モデルを提案する。 人口パーティメカニズムが常に選択ユーティリティを増大させる一方で、任意の$gamma$-ruleが弱くなることを示す。
  論文  参考訳（メタデータ） (2020-06-24T13:08:31Z)
• Quota-based debiasing can decrease representation of already underrepresented groups [5.1135133995376085]
  1つの属性に基づくクォータに基づくデバイアスは、すでに表現されていないグループの表現を悪化させ、選択の全体的公正性を低下させる可能性があることを示す。 以上の結果から,不平等の根本原因の排除により多くの努力が必要であることが示唆された。
  論文  参考訳（メタデータ） (2020-06-13T14:26:42Z)
• Interventions for Ranking in the Presence of Implicit Bias [34.23230188778088]
  帰属バイアス(英語: Implicit bias)とは、特定の社会的グループのメンバーに対する特定の性質(またはその欠如)の無意識の帰属である。 ルーニールール(英: Rooney Rule)は、サブセット選択問題の特定のケースにおける結果の有用性を改善するための制約である。 我々は、単純で解釈可能な制約の族を示し、それらが暗黙のバイアスを最適に軽減できることを示す。
  論文  参考訳（メタデータ） (2020-01-23T19:11:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。