論文の概要: AI Alignment Amplifies the Role of Race, Gender, and Disability in Hiring Decisions

• arxiv url: http://arxiv.org/abs/2605.13866v1
• Date: Sat, 02 May 2026 16:08:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-25 12:34:33.817918
• Title: AI Alignment Amplifies the Role of Race, Gender, and Disability in Hiring Decisions
• Title（参考訳）: AIアライメントは採用決定における人種、ジェンダー、障害の役割を増幅する
• Authors: Ze Wang, Guobin Shen, Michael Thaler,
• Abstract要約: 我々は、言語モデルが雇用決定に人口統計情報を使用するかどうかを分析するための大規模な研究を行っている。 言語モデルでは、女性候補者と黒人候補者が、そうでなければ比較可能な男性候補者と白人候補者を対象とし、障害のある候補者は不利益を与える。
• 参考スコア（独自算出の注目度）: 10.42652006165847
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Humans increasingly delegate decisions to language models, yet whether these systems reproduce or reshape human patterns of discrimination remains unclear. Here we run a large-scale study to analyse whether language models use demographic information in hiring decisions. We show, across 27 models and 177 occupations, that language models give female and Black candidates hiring advantages relative to otherwise-comparable male and white candidates, while giving disabled candidates disadvantages. The differences are meaningful in magnitude: the role of race, gender, and disability status is comparable to six months to one year of additional education. Post-training alignment is the primary driver: relative to matched pre-trained models, alignment amplifies advantages for female and Black candidates by 325% and 330%, and disadvantages for disabled candidates by 171%. Compared with previous human correspondence studies, language models reverse the direction of racial discrimination, attenuate the disability penalty, and amplify the female advantage by 190%. Alignment changes how models use qualification signals: alignment increases returns to skills and work experience overall, but relatively more so for female and Black candidates. Meanwhile, the absence of qualification signals harms marginalised groups more, particularly for disabled candidates, differences that may explain the asymmetry of alignment effects across groups we observe.
• Abstract（参考訳）: 人間はますます言語モデルに決定を委譲するが、これらのシステムが人間の識別パターンを再現または再形成するかどうかは不明のままである。 ここでは、言語モデルが雇用決定に人口統計情報を使用するかどうかを分析するための大規模な研究を行っている。 27のモデルと177の職業において、言語モデルによって、女性と黒人の候補者は、他の比較可能な男性と白人の候補者と比較して利点を雇い、障害のある候補者は不利益を与えることを示した。 人種、性別、障害者の地位は、追加教育の6ヶ月から1年に相当する。 トレーニング後のアライメントは、マッチした事前トレーニングモデルと比較して、女性候補と黒人候補のアドバンテージを325%、330%、障害者候補のデメリットを171%向上させる。 以前のヒトの対応研究と比較すると、言語モデルは人種差別の方向を逆転させ、障害の罰を減らし、女性の優位性を190%向上させる。 アライメントは、モデルが資格信号を使用する方法を変えます。 一方、資格信号の欠如は、特に障害のある候補者にとって、私たちが観察するグループ間でのアライメント効果の非対称性を説明できる相違点として、疎外されたグループにより多くの損害を与える。

関連論文リスト

• Who Gets the Callback? Generative AI and Gender Bias [0.030693357740321777]
  大規模言語モデル(LLM)は特に高賃金の役割において男性を好む傾向にある。 求人広告における言語的特徴の包括的分析は、モデルレコメンデーションと伝統的なジェンダーステレオタイプとの強い整合性を示す。 我々の調査結果は、AIによる雇用が労働市場のバイアスを持続させ、企業内の公正性と多様性に影響を及ぼす可能性があることを強調している。
  論文  参考訳（メタデータ） (2025-04-30T07:55:52Z)
• The Root Shapes the Fruit: On the Persistence of Gender-Exclusive Harms in Aligned Language Models [91.86718720024825]
  我々はトランスジェンダー、ノンバイナリ、その他のジェンダー・ディバースのアイデンティティを中心とし、アライメント手順が既存のジェンダー・ディバースバイアスとどのように相互作用するかを検討する。 以上の結果から,DPO対応モデルは特に教師付き微調整に敏感であることが示唆された。 DPOとより広範なアライメントプラクティスに合わせたレコメンデーションで締めくくります。
  論文  参考訳（メタデータ） (2024-11-06T06:50:50Z)
• "You Gotta be a Doctor, Lin": An Investigation of Name-Based Bias of Large Language Models in Employment Recommendations [29.183942575629214]
  我々はGPT-3.5-TurboとLlama 3-70B-Instructを利用して、人種や性別を強く示す320のファーストネームを持つ候補者の雇用決定と給与勧告をシミュレートする。 以上の結果から,40の職種にまたがる他の人口集団よりも,白人女性の名前を持つ候補者を雇用する傾向が示唆された。
  論文  参考訳（メタデータ） (2024-06-18T03:11:43Z)
• What's in a Name? Auditing Large Language Models for Race and Gender Bias [45.1187517058961]
  我々は、GPT-4を含む最先端の大規模言語モデルのバイアスを調査するために監査設計を採用する。 このアドバイスは、一般的に人種的マイノリティや女性に結びついている名前に系統的に不利であることがわかった。
  論文  参考訳（メタデータ） (2024-02-21T18:25:25Z)
• Quantifying Gender Bias Towards Politicians in Cross-Lingual Language Models [104.41668491794974]
  代名詞として政治家の名前を取り巻く言語モデルによって生成される形容詞と動詞の用法を定量化する。 死者や指定された言葉が男女の政治家と関連しているのに対し、美人や離婚といった特定の言葉が主に女性政治家に関係していることが判明した。
  論文  参考訳（メタデータ） (2021-04-15T15:03:26Z)
• How True is GPT-2? An Empirical Analysis of Intersectional Occupational Biases [50.591267188664666]
  下流のアプリケーションは、自然言語モデルに含まれるバイアスを継承するリスクがある。 一般的な生成言語モデルであるGPT-2の作業バイアスを分析した。 特定の仕事について、GPT-2は米国におけるジェンダーと民族の社会的偏見を反映しており、場合によってはジェンダー・パリティの傾向を反映している。
  論文  参考訳（メタデータ） (2021-02-08T11:10:27Z)
• Understanding Fairness of Gender Classification Algorithms Across Gender-Race Groups [0.8594140167290097]
  本研究の目的は,性別・人種間の性別分類アルゴリズムの差分性能について検討することである。 すべてのアルゴリズムにおいて、黒人女性(一般には黒人人種)は最小の精度で常に取得した。 中東の男性とラテン系の女性は、ほとんどの場合より高い精度で取得した。
  論文  参考訳（メタデータ） (2020-09-24T04:56:10Z)
• Intersectional Affirmative Action Policies for Top-k Candidates Selection [3.4961413413444817]
  本研究では,トップk候補を応募者のプールから選抜する問題について検討する。 我々は,一部の候補者が歴史的かつ現在の不利を経験している状況を考える。 そこで本研究では,OECD国における学力評価と学士号取得のデータセットを用いて,この問題を解き,解析し,評価する2つのアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-07-29T12:27:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。