論文の概要: On Fair Selection in the Presence of Implicit and Differential Variance
- arxiv url: http://arxiv.org/abs/2112.05630v1
- Date: Fri, 10 Dec 2021 16:04:13 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-13 15:53:29.656298
- Title: On Fair Selection in the Presence of Implicit and Differential Variance
- Title（参考訳）: 暗黙的および微分的分散の存在下での公平な選択について
- Authors: Vitalii Emelianov, Nicolas Gast, Krishna P. Gummadi, Patrick Loiseau
- Abstract要約: 本研究では, 意思決定者が各候補の品質のノイズの多い推定値を受け取り, その差が候補群に依存するモデルについて検討する。
どちらの基準決定要因も、反対方向にも差別をもたらすことを示す。
- 参考スコア（独自算出の注目度）: 22.897402186120434
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Discrimination in selection problems such as hiring or college admission is
often explained by implicit bias from the decision maker against disadvantaged
demographic groups. In this paper, we consider a model where the decision maker
receives a noisy estimate of each candidate's quality, whose variance depends
on the candidate's group -- we argue that such differential variance is a key
feature of many selection problems. We analyze two notable settings: in the
first, the noise variances are unknown to the decision maker who simply picks
the candidates with the highest estimated quality independently of their group;
in the second, the variances are known and the decision maker picks candidates
having the highest expected quality given the noisy estimate. We show that both
baseline decision makers yield discrimination, although in opposite directions:
the first leads to underrepresentation of the low-variance group while the
second leads to underrepresentation of the high-variance group. We study the
effect on the selection utility of imposing a fairness mechanism that we term
the $\gamma$-rule (it is an extension of the classical four-fifths rule and it
also includes demographic parity). In the first setting (with unknown
variances), we prove that under mild conditions, imposing the $\gamma$-rule
increases the selection utility -- here there is no trade-off between fairness
and utility. In the second setting (with known variances), imposing the
$\gamma$-rule decreases the utility but we prove a bound on the utility loss
due to the fairness mechanism.
- Abstract（参考訳）: 雇用や大学入学などの選択問題における差別は、しばしば不利な集団に対する意思決定者からの暗黙の偏見によって説明される。
本稿では,各候補の品質について,各候補の品質について,その差異が候補のグループに依存する,ノイズの多い評価を受けるモデルについて考察する。
2つの注目すべき設定を分析した: まず、ノイズのばらつきは、グループとは独立に最も高い品質の候補を選定する意思決定者に対して不明であり、次に、ばらつきが知られ、ノイズの見積りから、最も高い品質の候補を選定する。
両基線決定要因が区別されるが、反対方向には、第1は低分散群の表現不足につながるが、第2は高分散群の表現不足につながる。
我々は、$\gamma$-rule(これは古典的な4-fifths則の拡張であり、また人口統計学的同値性も含む)というフェアネス機構を付与する選択性に対する効果について研究する。
最初の設定(未知のばらつきを含む)では、穏やかな条件下では、$\gamma$-rule を課すことで選択ユーティリティが増加することを証明します。
2つ目の設定(既知の分散を伴う)では、$\gamma$-rule がユーティリティを減少させるが、フェアネス機構によるユーティリティ損失の限界を証明している。
関連論文リスト
- (Un)certainty of (Un)fairness: Preference-Based Selection of Certainly Fair Decision-Makers [0.0]
公正度指標は、さまざまな領域にわたる意思決定プロセスにおける差別と偏見を評価するために使用される。
我々は差別評価を強化するために格差の不確実性を定量化する。
我々は、意思決定者よりも好みを定義し、最適な意思決定者を選択するためにブルートフォースを利用する。
論文 参考訳（メタデータ） (2024-09-19T11:44:03Z) - Fairness-Accuracy Trade-Offs: A Causal Perspective [58.06306331390586]
我々は、初めて因果レンズから公正性と正確性の間の張力を分析する。
因果的制約を強制することは、しばしば人口集団間の格差を減少させることを示す。
因果制約付きフェアラーニングのための新しいニューラルアプローチを導入する。
論文 参考訳（メタデータ） (2024-05-24T11:19:52Z) - Learning Fair Policies for Multi-stage Selection Problems from
Observational Data [4.282745020665833]
我々は、観測データから多段階選択問題に対する公正なポリシーを学習する問題を考察する。
この問題は、企業の雇用、ローン承認、または、選択された結果のみが観察されるような保釈決定など、いくつかの高い評価の領域で発生する。
本稿では,人口格差や平等機会など,様々な公平性制約で拡張可能な多段階フレームワークを提案する。
論文 参考訳（メタデータ） (2023-12-20T16:33:15Z) - Evaluating the Fairness of Discriminative Foundation Models in Computer
Vision [51.176061115977774]
本稿では,CLIP (Contrastive Language-Pretraining) などの差別基盤モデルのバイアス評価のための新しい分類法を提案する。
そして、これらのモデルにおけるバイアスを緩和するための既存の手法を分類学に関して体系的に評価する。
具体的には,ゼロショット分類,画像検索,画像キャプションなど,OpenAIのCLIPとOpenCLIPモデルをキーアプリケーションとして評価する。
論文 参考訳（メタデータ） (2023-10-18T10:32:39Z) - Fairness in Matching under Uncertainty [78.39459690570531]
アルゴリズム的な二面市場は、こうした設定における公平性の問題に注意を向けている。
我々は、利益の不確実性を尊重する両面の市場設定において、個々人の公正性の概念を公理化する。
そこで我々は,配当よりも公平なユーティリティ最大化分布を求めるために,線形プログラミングフレームワークを設計する。
論文 参考訳（メタデータ） (2023-02-08T00:30:32Z) - Fairness in Selection Problems with Strategic Candidates [9.4148805532663]
選択問題における戦略的側面が公平性に与える影響について検討する。
合理的な候補者の人口は、彼らの品質を高めるために努力レベルを選択することで競います。
我々は、異なるパラメータのレジームにおけるこのゲームの(一意)平衡を特徴づける。
論文 参考訳（メタデータ） (2022-05-24T17:03:32Z) - Fair Sequential Selection Using Supervised Learning Models [11.577534539649374]
我々は、連続して到着した応募者が限られた数の位置/ジョブを申請する選択問題を考える。
一般の公正概念を満足する事前学習モデルであっても、選択の結果は特定の人口集団に偏っている可能性があることを示す。
本稿では、連続選択問題に適した「平等選択(ES)」という新たなフェアネス概念を導入し、ESフェアネス概念を満たすための後処理アプローチを提案する。
論文 参考訳（メタデータ） (2021-10-26T19:45:26Z) - Calibrating Predictions to Decisions: A Novel Approach to Multi-Class
Calibration [118.26862029820447]
我々は、下流の意思決定者に対して、予測された分布と真の分布を区別不能にする必要がある新しい概念、即時校正を導入します。
決定キャリブレーションは、皮膚病変の判定と、現代のニューラルネットワークを用いたImageNet分類を改善する。
論文 参考訳（メタデータ） (2021-07-12T20:17:28Z) - Learning Strategies in Decentralized Matching Markets under Uncertain
Preferences [91.3755431537592]
エージェントの選好が不明な場合,共有資源の不足の設定における意思決定の問題について検討する。
我々のアプローチは、再生されたカーネルヒルベルト空間における好みの表現に基づいている。
エージェントの期待した利益を最大化する最適な戦略を導出する。
論文 参考訳（メタデータ） (2020-10-29T03:08:22Z) - On Fair Selection in the Presence of Implicit Variance [17.517529275692322]
我々は、暗黙のバイアスがなくても、異なるグループからの候補者の質の推定は、別の基本的な方法、すなわち、その分散によって異なるかもしれないと論じる。
本稿では,グループ非依存正規分布から抽出される真の潜伏品質を有する簡易モデルを提案する。
人口パーティメカニズムが常に選択ユーティリティを増大させる一方で、任意の$gamma$-ruleが弱くなることを示す。
論文 参考訳（メタデータ） (2020-06-24T13:08:31Z) - Algorithmic Decision Making with Conditional Fairness [48.76267073341723]
条件付きフェアネスを、条件付きフェアネス変数の条件付けにより、より健全なフェアネス計量として定義する。
本稿では,アルゴリズム決定の精度と公平性のトレードオフを追跡するために,導出条件公正規則化器(DCFR)を提案する。
論文 参考訳（メタデータ） (2020-06-18T12:56:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。