論文の概要: On Fair Selection in the Presence of Implicit Variance
- arxiv url: http://arxiv.org/abs/2006.13699v1
- Date: Wed, 24 Jun 2020 13:08:31 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-17 10:00:05.887701
- Title: On Fair Selection in the Presence of Implicit Variance
- Title（参考訳）: 帰属変数の有無による公平な選択について
- Authors: Vitalii Emelianov, Nicolas Gast, Krishna P. Gummadi and Patrick
Loiseau
- Abstract要約: 我々は、暗黙のバイアスがなくても、異なるグループからの候補者の質の推定は、別の基本的な方法、すなわち、その分散によって異なるかもしれないと論じる。
本稿では,グループ非依存正規分布から抽出される真の潜伏品質を有する簡易モデルを提案する。
人口パーティメカニズムが常に選択ユーティリティを増大させる一方で、任意の$gamma$-ruleが弱くなることを示す。
- 参考スコア（独自算出の注目度）: 17.517529275692322
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Quota-based fairness mechanisms like the so-called Rooney rule or four-fifths
rule are used in selection problems such as hiring or college admission to
reduce inequalities based on sensitive demographic attributes. These mechanisms
are often viewed as introducing a trade-off between selection fairness and
utility. In recent work, however, Kleinberg and Raghavan showed that, in the
presence of implicit bias in estimating candidates' quality, the Rooney rule
can increase the utility of the selection process.
We argue that even in the absence of implicit bias, the estimates of
candidates' quality from different groups may differ in another fundamental
way, namely, in their variance. We term this phenomenon implicit variance and
we ask: can fairness mechanisms be beneficial to the utility of a selection
process in the presence of implicit variance (even in the absence of implicit
bias)? To answer this question, we propose a simple model in which candidates
have a true latent quality that is drawn from a group-independent normal
distribution. To make the selection, a decision maker receives an unbiased
estimate of the quality of each candidate, with normal noise, but whose
variance depends on the candidate's group. We then compare the utility obtained
by imposing a fairness mechanism that we term $\gamma$-rule (it includes
demographic parity and the four-fifths rule as special cases), to that of a
group-oblivious selection algorithm that picks the candidates with the highest
estimated quality independently of their group. Our main result shows that the
demographic parity mechanism always increases the selection utility, while any
$\gamma$-rule weakly increases it. We extend our model to a two-stage selection
process where the true quality is observed at the second stage. We discuss
multiple extensions of our results, in particular to different distributions of
the true latent quality.
- Abstract（参考訳）: いわゆるルーニー・ルールや4/5ルールのようなクオタに基づくフェアネス・メカニズムは、センシティブな人口統計特性に基づいて不平等を減らすために雇用や大学入学のような選択問題に使用される。
これらのメカニズムは、選択公正性と実用性の間のトレードオフとしてしばしば見なされる。
しかし、Kleinberg と Raghavan は最近の研究で、候補者の質を推定する際の暗黙のバイアスの存在下では、ルーニー則は選別プロセスの有用性を高めることができることを示した。
我々は、暗黙のバイアスがなくても、異なるグループからの候補者の質の推定は、別の基本的な方法、すなわち、その分散によって異なるかもしれないと論じる。
我々は,この現象を暗黙的分散と呼び,「公平性機構は(暗黙的バイアスがなくても)暗黙的分散の存在下で選択過程の有用性に有益であるか」を問う。
この質問に答えるために、候補が群非依存正規分布から引き出される真の潜在性品質を持つ単純なモデルを提案する。
選択をするために、決定者は、各候補の品質の偏りのない見積を通常の雑音で受けるが、その差は候補者のグループに依存する。
次に,「\gamma$-rule」と呼ばれるフェアネス機構(人口統計学的パリティと4-fifthsルールを特別な場合として含む)を,候補をグループから独立して最も高い推定品質で選択するグループ-聖書選択アルゴリズムと比較する。
我々の主な結果は、人口パーティメカニズムが常に選択ユーティリティを増大させる一方、$\gamma$-rule は弱くなることを示している。
我々は,本モデルを第2段階で真の品質が観察される2段階選択プロセスに拡張する。
結果の複数の拡張、特に真の潜在品質の異なる分布について論じる。
関連論文リスト
- Differentiating Choices via Commonality for Multiple-Choice Question Answering [54.04315943420376]
複数選択の質問応答は、正しい答えを選択するための貴重な手がかりを提供することができる。
既存のモデルでは、それぞれの選択を別々にランク付けし、他の選択によって提供されるコンテキストを見渡すことが多い。
本稿では,DCQAと呼ばれる共通性を識別・排除することで,選択を識別する新しいモデルを提案する。
論文 参考訳（メタデータ） (2024-08-21T12:05:21Z) - Evaluating the Fairness of Discriminative Foundation Models in Computer
Vision [51.176061115977774]
本稿では,CLIP (Contrastive Language-Pretraining) などの差別基盤モデルのバイアス評価のための新しい分類法を提案する。
そして、これらのモデルにおけるバイアスを緩和するための既存の手法を分類学に関して体系的に評価する。
具体的には,ゼロショット分類,画像検索,画像キャプションなど,OpenAIのCLIPとOpenCLIPモデルをキーアプリケーションとして評価する。
論文 参考訳（メタデータ） (2023-10-18T10:32:39Z) - DualFair: Fair Representation Learning at Both Group and Individual
Levels via Contrastive Self-supervision [73.80009454050858]
この研究は、DualFairと呼ばれる自己教師型モデルを提示し、学習された表現から性別や人種などのセンシティブな属性をデバイアスすることができる。
我々のモデルは、グループフェアネスと対実フェアネスという2つのフェアネス基準を共同で最適化する。
論文 参考訳（メタデータ） (2023-03-15T07:13:54Z) - Fairly Allocating Utility in Constrained Multiwinner Elections [0.0]
このような文脈にまたがる公平性を保証する一般的な分母は、制約の使用である。
これらの状況の中で、与えられた制約を満たすために選ばれた候補者は、歴史的に不利な有権者の集団に対して、体系的に不公平な結果をもたらす可能性がある。
投票者間の制約を公平に満たす候補を選択するモデルを構築した。
論文 参考訳（メタデータ） (2022-11-23T10:04:26Z) - How Robust is Your Fairness? Evaluating and Sustaining Fairness under
Unseen Distribution Shifts [107.72786199113183]
CUMA(CUrvature Matching)と呼ばれる新しいフェアネス学習手法を提案する。
CUMAは、未知の分布シフトを持つ未知の領域に一般化可能な頑健な公正性を達成する。
提案手法を3つの人気フェアネスデータセットで評価する。
論文 参考訳（メタデータ） (2022-07-04T02:37:50Z) - Group Meritocratic Fairness in Linear Contextual Bandits [32.15680917495674]
エージェントがプールから1つの候補を選択し、各候補がセンシティブなグループに属するという線形文脈帯域問題について検討する。
エージェントのポリシーは、最も高い相対ランクの候補を選択する際に公平であることを示す公平性の概念を提案する。
論文 参考訳（メタデータ） (2022-06-07T09:54:38Z) - Fairness in Selection Problems with Strategic Candidates [9.4148805532663]
選択問題における戦略的側面が公平性に与える影響について検討する。
合理的な候補者の人口は、彼らの品質を高めるために努力レベルを選択することで競います。
我々は、異なるパラメータのレジームにおけるこのゲームの(一意)平衡を特徴づける。
論文 参考訳（メタデータ） (2022-05-24T17:03:32Z) - On Fair Selection in the Presence of Implicit and Differential Variance [22.897402186120434]
本研究では, 意思決定者が各候補の品質のノイズの多い推定値を受け取り, その差が候補群に依存するモデルについて検討する。
どちらの基準決定要因も、反対方向にも差別をもたらすことを示す。
論文 参考訳（メタデータ） (2021-12-10T16:04:13Z) - Fair Sequential Selection Using Supervised Learning Models [11.577534539649374]
我々は、連続して到着した応募者が限られた数の位置/ジョブを申請する選択問題を考える。
一般の公正概念を満足する事前学習モデルであっても、選択の結果は特定の人口集団に偏っている可能性があることを示す。
本稿では、連続選択問題に適した「平等選択(ES)」という新たなフェアネス概念を導入し、ESフェアネス概念を満たすための後処理アプローチを提案する。
論文 参考訳（メタデータ） (2021-10-26T19:45:26Z) - Selective Classification Can Magnify Disparities Across Groups [89.14499988774985]
選択的分類は平均的精度を向上させることができるが、既存の精度格差を同時に増大させることができる。
禁忌の増大は、一部のグループでのアキュラシーを減少させることもある。
我々は,グループ間で類似のフルカバレッジ精度を実現する分散ロバストモデルを訓練し,選択分類が各グループを均一に改善することを示す。
論文 参考訳（メタデータ） (2020-10-27T08:51:30Z) - MS-Ranker: Accumulating Evidence from Potentially Correct Candidates for
Answer Selection [59.95429407899612]
そこで我々は,MS-Ranker という,新しい強化学習に基づくマルチステップランキングモデルを提案する。
我々は、候補の潜在的な正しさを明示的に考慮し、ゲーティング機構で証拠を更新する。
我々のモデルは、外部リソースに依存しない既存の手法を著しく上回ります。
論文 参考訳（メタデータ） (2020-10-10T10:36:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。