論文の概要: Monocultural Biases: Correlated biases in large language models lead to unequal systemic exclusion rates in hiring

• arxiv url: http://arxiv.org/abs/2609.22169v1
• Date: Wed, 26 Aug 2026 21:49:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.754608
• Title: Monocultural Biases: Correlated biases in large language models lead to unequal systemic exclusion rates in hiring
• Title（参考訳）: モノカルチャー・バイアス:大きな言語モデルにおける関連バイアスは雇用における制度的排除率の不平等につながる
• Abstract要約: 本稿では,大規模言語モデル(LLM)におけるモノカルチャーバイアスのリスクについて検討する。 ベースおよびポストトレーニングバージョンにおける採用バイアスを測定し、どのステージ、事前トレーニング、またはポストトレーニングがモノカルチャーバイアスにつながるかを特定する。 基本モデルと比較して、訓練後のモデルは3.6%も年長の応募者を呼び戻す可能性が低いことが判明した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Employers are increasingly using large language models (LLMs) to automate their hiring process. This paper investigates the risk of monocultural biases, in which the widespread deployment of large language models homogenizes biases across the labor market, leading to greater systemic exclusion for certain demographic groups. For ten LLMs, we measure hiring biases across their base and post-trained versions to identify which stage, pre-training or post-training, lead to monocultural biases. We find that, compared to their base models, post-trained models are 3.6% less likely to callback older applicants. This negative shift occurs in eight of the ten models that we evaluate. Post-trained models have much more correlated decisions than base models which is likely driven by human capital traits like skills or college major. However, greater consensus among models increases global systemic exclusion rates from 5.6% to 17.3% and exacerbates demographic inequalities, with intersectional systemic exclusion rates ranging from 12.2% to 21.7% for post-trained models. We find that this inequality is primarily driven by age-based discrimination that is exacerbated in post-training. These results indicate that while post-training techniques may improve models' abilities to select the best applicants, they may raise systemic inequality risks for those at the margin by uniformly introducing new biases.
• Abstract（参考訳）: 雇用者は、雇用プロセスを自動化するために、大きな言語モデル(LLM)をますます利用しています。 本稿では,大規模言語モデルの普及が労働市場全体に偏見を均質化させ,特定の人口集団に対してより体系的な排除をもたらす,単文化的偏見のリスクについて検討する。 10のLSMでは、採用バイアスをベースとポストトレーニングバージョンで測定し、どのステージ、事前トレーニング、またはポストトレーニングがモノカルチャーバイアスにつながるかを特定します。 基本モデルと比較して、訓練後のモデルは3.6%も年長の応募者を呼び戻す可能性が低いことが判明した。 この負のシフトは、評価した10モデルのうち8モデルで発生します。 ポストトレーニング後のモデルは、スキルや大学の専攻といった人的資本特性によって引き起こされるであろうベースモデルよりも、はるかに相関した決定を持っている。 しかし、モデル間のより大きなコンセンサスにより、グローバルなシステム排除率は5.6%から17.3%に増加し、人口不平等が悪化し、交差するシステム排除率は12.2%から21.7%に増加した。 この不平等は、主にポストトレーニングで悪化する年齢ベースの差別によって引き起こされる。 これらの結果から, 学習後の学習手法は, 最高の応募者を選ぶためのモデルの能力を向上させる可能性があるが, 新たなバイアスを均一に導入することで, マージンのシステム的不平等リスクを増大させることが示唆された。

関連論文リスト

• Auditing demographic bias in AI-based emergency police dispatch: a cross-lingual evaluation of eleven large language models [3.85700834433791]
  本稿では,警察プライオリティ・ディスパッチ・システムを運用するための言語間監査フレームワークを提案する。 事故の重大さがあいまいな場合に、人口統計バイアスが体系的に現れることがわかりました。 ジェンダーバイアスは中国語では顕著に増幅されるが、人種バイアスは英語ではより顕著である。
  論文  参考訳（メタデータ） (2026-05-02T14:00:57Z)
• Breaking the Benchmark: Revealing LLM Bias via Minimal Contextual Augmentation [12.56588481992456]
  大規模言語モデルは、その表現と振舞いにステレオタイプ的バイアスを示すことが示されている。 3つのプラグ・アンド・プレイステップを含む,新規で汎用的な拡張フレームワークを提案する。 大規模言語モデルは入力の摂動に影響を受けやすいことが分かり、ステレオタイプに振る舞う可能性が高くなる。
  論文  参考訳（メタデータ） (2025-10-27T23:05:12Z)
• Robustly Improving LLM Fairness in Realistic Settings via Interpretability [0.16843915833103415]
  現実的な文脈の詳細が導入されたとき、アンチバイアスプロンプトは失敗する。 企業名や公的キャリアページからの文化記述などの現実的なコンテキストの追加,選択的な雇用制限は,人種的および性別的偏見を著しく引き起こすことが判明した。 我々の内部バイアス緩和は人種や性別に関連する方向を特定し、推論時にアフィンの概念を編集する。
  論文  参考訳（メタデータ） (2025-06-12T17:34:38Z)
• Surface Fairness, Deep Bias: A Comparative Study of Bias in Language Models [45.41676783204022]
  大規模言語モデル(LLM)におけるバイアスの様々なプロキシ尺度について検討する。 MMLU (Multi-subject benchmark) を用いた人格評価モデルでは, スコアの無作為かつ大半がランダムな差が生じることがわかった。 LLMアシスタントメモリとパーソナライゼーションの最近の傾向により、これらの問題は異なる角度から開かれている。
  論文  参考訳（メタデータ） (2025-06-12T08:47:40Z)
• Bias Similarity Measurement: A Black-Box Audit of Fairness Across LLMs [35.72288339965426]
  バイアス類似度測定(BSM)は、公平性をモデル間の関係性として扱う。 オープンウェイトモデルは、プロプライエタリなシステムと一致したり、超えたりすることができる。 BSMは、調達、回帰テスト、系統スクリーニングのための監査ワークフローを提供する。
  論文  参考訳（メタデータ） (2024-10-15T19:21:14Z)
• Fast Model Debias with Machine Unlearning [54.32026474971696]
  ディープニューラルネットワークは多くの現実世界のシナリオでバイアスのある振る舞いをする。 既存のデバイアス法は、バイアスラベルやモデル再トレーニングのコストが高い。 バイアスを特定し,評価し,除去するための効率的なアプローチを提供する高速モデル脱バイアスフレームワーク(FMD)を提案する。
  論文  参考訳（メタデータ） (2023-10-19T08:10:57Z)
• Language Models Get a Gender Makeover: Mitigating Gender Bias with Few-Shot Data Interventions [50.67412723291881]
  事前訓練された大きな言語モデルに存在する社会的バイアスが重要な問題である。 我々は,事前学習モデルにおける性別バイアスを低減するために,データ介入戦略を強力かつ簡単な手法として提案する。
  論文  参考訳（メタデータ） (2023-06-07T16:50:03Z)
• BLIND: Bias Removal With No Demographics [29.16221451643288]
  我々は、データセットの人口統計学の事前知識のないバイアス除去手法であるBLINDを紹介する。 下流タスクでモデルをトレーニングしている間、BLINDは、メインモデルの成功を予測する補助モデルを使用してバイアス付きサンプルを検出し、トレーニングプロセス中にこれらのサンプルをダウンウェイトする。 感情分類と職業分類タスクにおける人種的および性別的偏見による実験は、BLINDがコストのかかる人口統計学的アノテーションプロセスに頼ることなく社会的偏見を緩和することを示した。
  論文  参考訳（メタデータ） (2022-12-20T18:59:42Z)
• Balancing out Bias: Achieving Fairness Through Training Reweighting [58.201275105195485]
  自然言語処理におけるバイアスは、性別や人種などの著者の特徴を学習するモデルから生じる。 既存のバイアスの緩和と測定方法は、著者の人口統計学と言語変数の相関を直接考慮していない。 本稿では,インスタンス再重み付けを用いたバイアス対策法を提案する。
  論文  参考訳（メタデータ） (2021-09-16T23:40:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。