論文の概要: Linguistic Triggers of Gender and Racial Bias in Open-Weight LLMs Applied to Recruitment

• arxiv url: http://arxiv.org/abs/2609.18106v1
• Date: Wed, 16 Sep 2026 04:18:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:53.631535
• Title: Linguistic Triggers of Gender and Racial Bias in Open-Weight LLMs Applied to Recruitment
• Title（参考訳）: オープンウェイトLLMにおけるジェンダーとラシアルバイアスの言語学的トリガー
• Abstract要約: オープンウェイトな大規模言語モデルは急速に採用パイプラインに入りつつあるが、差別的な失敗モードは理解されていない。 ジョブポスト言語を第一実験変数として扱うオープンウェイトLLMの,最初の体系的マルチモデル監査について述べる。 我々はこれらの結果を、Annex IIIが採用においてハイリスクなAIに課すドキュメンテーションとリスク管理義務を運用する具体的なデプロイ前監査プロトコルに変換する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Open-weight large language models are rapidly entering hiring pipelines, yet their discriminatory failure modes -- and the regulatory exposure these create under the EU AI Act high-risk classification (Annex III) and U.S. EEOC adverse-impact analysis -- remain poorly understood. We present the first systematic, multi-model audit of open-weight LLMs that treats job-posting language as the primary experimental variable, evaluating six models (Llama 3.2, Mistral, Gemma 3, Qwen 3, Phi 3, DeepSeek-R1) across four controlled experiments that jointly probe recruiter-simulation and job-seeker-simulation tasks. We find that (1) agentic posting language depresses recruiter recommendation scores for female candidates (r_rb = 0.309, p_Bonf = 7x10^-5; model-fixed-effects r_rb = 0.448), while communal language partially reverses the penalty; and (2) coded-exclusion language suppresses non-White recruiter scores at large effect sizes (r_rb = 0.646-0.758) and, on the job-seeker side, selectively deters non-White personas from expressing interest -- operationalizing a chilling-effect mechanism at scale. A label-ablation experiment isolates the explicit demographic persona label as the primary causal driver, and Word Embedding Association Tests corroborate these findings at the representational level (d = 1.01-1.45 under Caliskan et al.'s multi-word gender attribute lists). We translate these results into a concrete pre-deployment audit protocol -- posting-vocabulary scoring, persona-conditioned LLM probing, and adverse-impact flagging against the four-fifths threshold -- that operationalizes the documentation and risk-management obligations Annex III imposes on high-risk AI in recruitment.
• Abstract（参考訳）: オープンウェイトな大規模言語モデルは急速に採用パイプラインに入りつつありますが、その差別的障害モード -- と、EU AI Act(Annex III)のハイリスク分類と米国EEOCの悪影響分析の下で、これらが生み出す規制露出は、いまだに理解されていないままです。 我々は,求職言語を第一実験変数として扱うオープンウェイトLLMを,求職者のシミュレートと求職者のシミュレートを共同で行う4つの制御実験のうち6つのモデル(Llama 3.2, Mistral, Gemma 3, Qwen 3, Phi 3, DeepSeek-R1)で評価した。 エージェントポスト言語は,(1)女性候補者に対する採用者の推薦スコア(r_rb = 0.309, p_Bonf = 7x10^-5, モデル固定効果係数r_rb = 0.448)を抑えるが,(2)コミュレート言語は部分的に罰を逆転させる。 ラベル・アブレーション実験では、明示的な人口統計学的ペルソナラベルを一次因果ドライバとして分離し、Word Embedding Association Testsはこれらの発見を表現レベルで相関させる(d = 1.01-1.45 under Caliskan et al's multi-word gender attribute list)。 これらの結果を,具体的なデプロイ前監査プロトコル – ポストボキャブラリスコア,ペルソナ条件のLSM調査,4/5のしきい値に対する悪影響フラグ付け – に変換することで,Annex IIIが採用においてハイリスクなAIに課しているドキュメントとリスク管理の義務を運用します。

関連論文リスト

• Beyond the Name: Demographic Leakage in De-Identified Résumés and Evaluation Artifacts in LLM Bias Audits [4.736836688901646]
  本研究では,9つのオープンウェイトモデルと620レサムモデルにおいて,言語フィールドの除去がリークを解消するか否かを検討する。 5つの民族的条件と3つのクエー・サリエンス層にまたがる非構造的散文を分離した。 目標グループの回復平均は0.757であり、高塩分下では1.000で飽和する。
  論文  参考訳（メタデータ） (2026-09-15T01:48:44Z)
• Counterfactual Bias Testing for Application Tracking System [1.007765066765576]
  本稿では,タスク特化LDMエージェントを用いて,アイデンティティニュートラルベース履歴を合成し,人口統計学的治療を注入する。 それは、微調整された文埋め込みモデルとコサイン類似性を通じて、ジョブ記述に対する候補をランク付けする。 カウンターファクトアル(スコアデルタ、平均絶対ランク変更、フリップレート)、グループフェアネス(トップK保持、4/5/インパクト比)、メリットアウェア(リコール@K、nDCG@K、平等機会、等化オッズ)にまたがる9メトリックフェアネススイートを計算する。
  論文  参考訳（メタデータ） (2026-08-27T10:01:36Z)
• Inference-Time Steering for Cross-Lingual Factual Consistency in LLMs [51.56484100374058]
  大規模言語モデル(LLM)は目覚ましい多言語流布を示すが、その内部知識表現はハイリソース言語に対して不均等に偏っている。 我々は,これらのバイアスを推論時に緩和できるかどうかを考察し,対象言語でクエリされたかのように,英語の確率モデルに答えるように強制する。 Gemma 3 12Bの実験では、最も強い全体的な介入、効率性のバランス、安全性、ドメイン外の一般化を促すペルソナが明らかにされている。
  論文  参考訳（メタデータ） (2026-07-21T16:15:05Z)
• Benchmarking Frontier LLMs on Arabic Cultural and Sociolinguistic Knowledge: A Cross-Evaluation Framework with Human SME Ground Truth [0.34797121357690153]
  クロス評価フレームワークは、エジプト語とイラク語という2つの未表現のアラビア語方言のコミュニティをインスタンス化した。 提案手法は,母国語話者が作成した103組のプロンプト・ルブリックペアをコントリビュートする。 1,307人の審査員: GPT-5.4は最も信頼できる裁判官(MADj = 10.21 pp, Signed Error = -1.12%)である。
  論文  参考訳（メタデータ） (2026-06-30T20:18:32Z)
• Can Multi-Agent LLMs Identify Their Peers? Stylometric Fingerprinting in Role-Constrained Political Analysis [0.0]
  政治的ステートメント分析のための多エージェント大言語モデル(LLM)パイプラインは、ピア保存に対して脆弱である。 本稿では,LLMが匿名化条件下での政治分析テキストの背後にあるモデルファミリを識別できるかどうかを,初めて体系的に調査する。
  論文  参考訳（メタデータ） (2026-05-20T04:56:42Z)
• RefineBench: Evaluating Refinement Capability of Language Models via Checklists [71.02281792867531]
  本研究は,2つの改良モード(ガイドリファインメントと自己リファインメント)を評価する。 ガイド付き改良では、プロプライエタリなLMと大きなオープンウェイトLMの両方が目標フィードバックを利用して、5ターン以内のほぼ完全なレベルへの応答を洗練できる。 これらの結果は、フロンティアLMは誤った反応を自己調整するためにブレークスルーを必要とすることを示唆している。
  論文  参考訳（メタデータ） (2025-11-27T07:20:52Z)
• Evaluating & Reducing Deceptive Dialogue From Language Models with Multi-turn RL [64.3268313484078]
  大規模言語モデル(LLM)は、顧客サポート、教育、医療など、世界中の何百万もの人々と対話する。 故意であれ不注意であれ、偽りのアウトプットを生産する能力は、重大な安全上の懸念を生じさせる。 本研究では, LLM が会話中の偽装にどの程度関与しているかを考察し, 偽装を定量化する信念の誤調整尺度を提案する。
  論文  参考訳（メタデータ） (2025-10-16T05:29:36Z)
• Revealing Hidden Bias in AI: Lessons from Large Language Models [0.0]
  本研究では,Claude 3.5 Sonnet, GPT-4o, Gemini 1.5, Llama 3.1 405B による面接レポートのバイアスについて検討した。 LLMによる匿名化によるバイアス低減効果について検討した。
  論文  参考訳（メタデータ） (2024-10-22T11:58:54Z)
• "Knowing When You Don't Know": A Multilingual Relevance Assessment Dataset for Robust Retrieval-Augmented Generation [90.09260023184932]
  Retrieval-Augmented Generation (RAG) は、外部の知識源を活用して、事実の幻覚を減らすことで、Large Language Model (LLM) を出力する。 NoMIRACLは18言語にまたがるRAGにおけるLDM堅牢性を評価するための人為的アノテーション付きデータセットである。 本研究は,<i>Halucination rate</i>,<i>Halucination rate</i>,<i>Halucination rate</i>,<i>Sorucination rate</i>,<i>Sorucination rate</i>,<i>Sorucination rate</i>,<i>Sorucination rate</i>,<i>Sorucination rate</i>,<i>Sorucination rate</i>,<i>Sr。
  論文  参考訳（メタデータ） (2023-12-18T17:18:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。