論文の概要: Fairness Beyond Anonymization? Demographic Leakage in German LLM-Generated Resumes

• arxiv url: http://arxiv.org/abs/2609.22188v1
• Date: Fri, 28 Aug 2026 15:54:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.763932
• Title: Fairness Beyond Anonymization? Demographic Leakage in German LLM-Generated Resumes
• Title（参考訳）: 匿名化を超えての公正性 : ドイツのLCM生成リユースにおける画像漏洩
• Abstract要約: 大規模言語モデル(LLM)は、AI支援型採用パイプラインにますます統合されている。 ドイツ語 LLM 生成履歴書における2段階の人口流出調査を行う。 明らかに中立な履歴書生成は、高い予測的な人口統計信号を維持することができる。
• 参考スコア（独自算出の注目度）: 1.9084293273961361
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are increasingly integrated into AI-assisted hiring pipelines, including automated resume generation and screening. Under the EU AI Act, the hiring domain is classified as high-risk, making fairness and transparency critical requirements. Existing work has primarily focused on explicit hiring decisions, while less attention has been paid to whether generated resumes themselves encode recoverable demographic information. In this work, we conduct a two-stage audit of demographic leakage in German-language LLM-generated resumes. First, we use ChatGPT (GPT-4o-mini), Gemini 2.5 Flash-Lite, and multiple scales of the open-weight Qwen 3 model family (4B, 8B, and 14B) to generate resumes from real anonymized job-matching profiles, systematically varying gender- and ethnicity-associated names while holding qualifications constant. Second, we simulate a downstream resume screening scenario, where the generated resumes are first anonymized and gender-neutralized, before demographic leakage classifiers are trained on the resulting texts. We find that, despite these interventions, classifiers reliably distinguish between resumes generated with male and female names. This leakage is not driven by overtly gendered wording, but by subtle differences in the usage of semantically equivalent, formally gender-neutral terms in German. In contrast, ethnicity-related leakage remains comparatively weak across models. Our findings demonstrate that apparently neutral resume generation can still preserve highly predictive demographic signals, raising concerns about anonymization-based fairness interventions in multilingual AI hiring pipelines.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、自動履歴書生成やスクリーニングを含むAI支援の採用パイプラインにますます統合されている。 EU AI法の下では、雇用領域はリスクの高いものに分類され、公正性と透明性が要求される。 既存の作業は主に明示的な雇用決定に重点を置いているが、生成した履歴書が回復可能な人口統計情報をエンコードするかどうかについては注意が払われていない。 本研究では,ドイツ語 LLM 生成履歴書における2段階の人口流出調査を行う。 まず、ChatGPT(GPT-4o-mini)、Gemini 2.5 Flash-Lite、およびオープンウェイトなQwen 3モデルファミリー(4B、8B、14B)の複数スケールを用いて、実際の匿名化されたジョブマッチングプロファイルから履歴を生成する。 第2に、まず生成された履歴書が匿名化され、性別が中立化された下流履歴書スクリーニングシナリオをシミュレートし、その後、人口情報漏洩分類器が結果のテキストで訓練される。 これらの介入にもかかわらず、分類器は男性名と女性名による履歴書を確実に区別する。 この漏えいは、過剰な性別の言葉によるものではなく、ドイツ語で意味論的に等価な、正式には性中立的な用語の使用の微妙な違いによって引き起こされる。 対照的に、民族関係の漏洩はモデル全体で比較的弱いままである。 我々の研究は、明らかに中立な履歴生成は高い予測的な人口統計信号を維持することができることを示しており、多言語AI採用パイプラインにおける匿名化に基づく公正な介入に対する懸念を提起している。

関連論文リスト

• Gender Bias in LLM Hiring Decisions: Evidence from a Japanese Context and Evaluation of Mitigation Strategies [0.0]
  本研究は,女性の性別偏見が日本の企業文脈に及んでいるかどうかを考察する。 ベースライン,プロンプト命令,プライバシフィルタ条件で43,200のAPIコールを行った。 名前信頼分析は、候補名を第一性チャンネルとして正式に識別する。
  論文  参考訳（メタデータ） (2026-06-17T03:33:25Z)
• Small Changes, Big Impact: Demographic Bias in LLM-Based Hiring Through Subtle Sociocultural Markers in Anonymised Resumes [44.408853022070105]
  シンガポールにおける公正雇用のための総合的なストレステストフレームワークを紹介する。 100の履歴書は4つの民族と2つの性別にまたがる4100の変種に拡張されている。 以上より,匿名化を継続する無害なマーカーが,自動採用の成果を著しく損なう可能性が示唆された。
  論文  参考訳（メタデータ） (2026-03-05T13:58:07Z)
• Who Gets the Callback? Generative AI and Gender Bias [0.030693357740321777]
  大規模言語モデル(LLM)は特に高賃金の役割において男性を好む傾向にある。 求人広告における言語的特徴の包括的分析は、モデルレコメンデーションと伝統的なジェンダーステレオタイプとの強い整合性を示す。 我々の調査結果は、AIによる雇用が労働市場のバイアスを持続させ、企業内の公正性と多様性に影響を及ぼす可能性があることを強調している。
  論文  参考訳（メタデータ） (2025-04-30T07:55:52Z)
• Gender, Race, and Intersectional Bias in Resume Screening via Language Model Retrieval [5.122502168590131]
  文書検索フレームワークを用いて,履歴書のスクリーニング設定において,大規模言語モデル (LLM) を用いることの可能性を検討する。 次に、履歴スクリーニングシナリオにおいて、MTE(Massive Text Embedding)モデルの選択がバイアスされているかどうかを判定するために、履歴監査を行う。 MTEは偏りがあり、85.1%のケースでは白人関連、11.1%のケースでは女性関連である。
  論文  参考訳（メタデータ） (2024-07-29T18:42:39Z)
• White Men Lead, Black Women Help? Benchmarking and Mitigating Language Agency Social Biases in LLMs [58.27353205269664]
  社会的バイアスは、Large Language Model(LLM)生成コンテンツにおいて言語エージェンシーに現れる。 LLMのバイアスを包括的に評価するLanguage Agency Bias Evaluationベンチマークを導入する。 LABEを用いて,近年の3つのLLM(ChatGPT,Llama3,Mistral)における言語エージェントの社会的バイアスを明らかにした。
  論文  参考訳（メタデータ） (2024-04-16T12:27:54Z)
• Tokenization Matters: Navigating Data-Scarce Tokenization for Gender Inclusive Language Technologies [75.85462924188076]
  ジェンダー非包括的NLP研究は、ジェンダーバイナリ中心大言語モデル(LLM)の有害な制限を文書化している。 誤認識はByte-Pair(BPE)トークン化によって大きく影響されている。 本研究では,(1)代名詞の代名詞化パリティ,(2)代名詞間の一貫した代名詞化を強制する手法,および(2)既存のLLM代名詞の知識を活用して新代名詞の習熟度を向上させる手法を提案する。
  論文  参考訳（メタデータ） (2023-12-19T01:28:46Z)
• How True is GPT-2? An Empirical Analysis of Intersectional Occupational Biases [50.591267188664666]
  下流のアプリケーションは、自然言語モデルに含まれるバイアスを継承するリスクがある。 一般的な生成言語モデルであるGPT-2の作業バイアスを分析した。 特定の仕事について、GPT-2は米国におけるジェンダーと民族の社会的偏見を反映しており、場合によってはジェンダー・パリティの傾向を反映している。
  論文  参考訳（メタデータ） (2021-02-08T11:10:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。