論文の概要: When Who You Are Can Change the Code You Get: A Study of Persona-Induced Bias in LLM Code Generation

• arxiv url: http://arxiv.org/abs/2609.22102v1
• Date: Wed, 12 Aug 2026 18:56:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.709416
• Title: When Who You Are Can Change the Code You Get: A Study of Persona-Induced Bias in LLM Code Generation
• Title（参考訳）: LLMコード生成におけるペルソナ誘発バイアスの研究
• Abstract要約: 大規模言語モデル(LLM)におけるペルソナ誘発バイアスの大規模実証的研究を行う。 我々は,解析と応答における人口統計マーカーの漏洩と,機能的正しさ,保守性,コードスタイル,セキュリティの違いを分析した。
• 参考スコア（独自算出の注目度）: 7.994924562688671
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Models (LLMs) are widely used as programming assistants, yet it remains unclear whether and how user's demographic information impacts the technical quality of generated code. We conduct a large-scale empirical study of persona-induced bias in LLM-based code generation, focusing a proprietary model (Gemini 2.5 Pro) and an open-weight model (GPT-OSS-120B). Using 18 demographic personas spanning nationality, gender, and experience level, we compare persona-induced prompts against a neutral baseline. Across 35,000+ generated programs, we analyze demographic marker leakage in reasoning and responses, as well as differences in functional correctness, maintainability, code style, and security. Our results show that demographic cues are frequently reflected in LLM reasoning and outputs. Demographic markers appear in up to 65% of responses and 70% of reasoning traces, despite being semantically irrelevant to the tasks. On LiveCodeBench, persona prompting were associated with lower correctness scores of the Gemini model by an average of 1.54 percentage points, with one persona exhibiting a decrease of 3.6% (odds ratio = 0.51). In contrast, the accuracy of the GPT-OSS model improved by 3.4 - 5.7% across all personas (odds ratios = 1.8 - 3.0). Maintainability and code style metrics show statistically significant but negligible effect sizes (all Cliff's δ < 0.15), and security vulnerabilities exhibit no systematic persona-specific patterns. Overall, our results show that the presence of demographic information about users is associated with measurable variation in LLM reasoning and code quality even in purely technical tasks, and that these effects hold across models. Our work highlights an under-examined risk in LLM-assisted software development.
• Abstract（参考訳）: 大規模言語モデル(LLM)はプログラミングアシスタントとして広く使われているが、ユーザの人口統計情報が生成したコードの技術的品質にどのような影響を及ぼすかは定かではない。 我々は,LLMベースのコード生成におけるペルソナ誘発バイアスの大規模実証研究を行い,プロプライエタリモデル(Gemini 2.5 Pro)とオープンウェイトモデル(GPT-OSS-120B)に着目した。 国籍、性別、経験レベルにまたがる18の人口統計的ペルソナを用いて、ペルソナが引き起こすプロンプトと中立的なベースラインを比較した。 35,000以上のプログラムが生成し,機能的正確性,保守性,コードスタイル,セキュリティの相違点だけでなく,推論や応答における人口統計マーカーの漏洩も分析した。 以上の結果から, LLM推論やアウトプットに人口統計学的手がかりが反映されることが多かった。 デモグラフィックマーカーは、タスクに意味的に無関係であるにもかかわらず、最大65%の応答と70%の推論トレースに現れる。 LiveCodeBenchでは、ペルソナのプロンプトはジェミニモデルの低い正当性スコアに平均1.54ポイントで関連付けられ、1ペルソナは3.6%低下した(odds ratio = 0.51)。 対照的に、GPT-OSSモデルの精度は全ペルソナで3.4～5.7%向上した(オード比=1.8～3.0)。 保守性とコードスタイルのメトリクスは統計的に有意だが無視可能な効果の大きさ(すべてのCliffのδ < 0.15)を示し、セキュリティ脆弱性は体系的なペルソナ固有のパターンを示しない。 以上の結果から,ユーザに関する人口統計情報の存在は,純粋に技術的タスクであっても,LCM推論やコード品質の計測可能な変動と関連し,これらの効果がモデル間で持続していることが示唆された。 私たちの研究は、LLM支援ソフトウェア開発における過小評価されるリスクを強調しています。

関連論文リスト

• Perception or Prejudice: Can MLLMs Go Beyond First Impressions of Personality? [74.69723255239663]
  グラウンドド・パーソナリティ・推論は、MLLMがそれぞれのビッグファイブ・格付けを、評価、推論、根拠の連鎖を通じて観察可能な証拠に固定することを要求する。 MM-OCEANは、人間の検証によるマルチエージェントパイプラインによって生成され、タイムスタンプによる行動観察、エビデンスに基づく特性分析、およびキューグラウンドMCQの7つのカテゴリがある。 この分析では、フィールド全体にわたって、正しい評価の51%が取得された手がかりに基づかず、ホリスティック・ギャラリング・レートは0-33.5%にしか達していないという顕著な偏見のギャップが明らかになった。
  論文  参考訳（メタデータ） (2026-05-21T07:42:47Z)
• How Robustly do LLMs Understand Execution Semantics? [3.2717315277334706]
  LLMは驚くべき推論能力を示しているが、それらが内的世界モデルを利用するのか、高度なパターンマッチングに依存しているのかは未解決のままである。 我々は,標準的なプログラム出力予測タスクを用いて,LLMをそのコード理解の堅牢性のレンズを通して研究する。 私たちの発見は、すべてのモデルがコードを理解する方法の限界を示し、コードモデルを評価するために摂動を使うことの価値を確立します。
  論文  参考訳（メタデータ） (2026-02-24T19:07:25Z)
• Addressing Stereotypes in Large Language Models: A Critical Examination and Mitigation [0.0]
  自然言語処理(NLP)の発展に伴い,近年,大規模言語モデル (LLM) が普及している。 本研究は, 生成人工知能(AI)の増大に伴い, LLMのバイアスに対処する必要があることを調査し, 強調する。 我々は, StereoSet や CrowSPairs などのバイアス特異的なベンチマークを用いて,BERT や GPT 3.5,ADA など,様々な世代モデルにおける様々なバイアスの存在を評価する。
  論文  参考訳（メタデータ） (2025-11-18T05:43:34Z)
• Uncertainty Aware Learning for Language Model Alignment [97.36361196793929]
  異なるタスクシナリオのモデルアライメントを改善するために,不確実性認識学習(UAL)を提案する。 トレーニングのラベルの平滑化値を個々のサンプルの不確実性に応じて適応的に設定する。 広く使われているベンチマーク実験では、我々のUALは標準教師あり微調整よりも著しく優れています。
  論文  参考訳（メタデータ） (2024-06-07T11:37:45Z)
• Large Language Models Show Human-like Social Desirability Biases in Survey Responses [12.767606361552684]
  人格評価が推定された場合,Large Language Models (LLMs) が特徴次元の望ましい端に向かってスコアを歪めていることを示す。 このバイアスは、GPT-4/3.5、Claude 3、Llama 3、PaLM-2を含む全ての試験モデルに存在する。 すべての質問のリバースコーディングはバイアスレベルを低下させるが、それらを取り除くことはできず、この効果はアクセプションバイアスによるものではないことを示唆している。
  論文  参考訳（メタデータ） (2024-05-09T19:02:53Z)
• Bias Testing and Mitigation in LLM-based Code Generation [27.997232692723767]
  本稿では,コード生成タスクに特化して設計された新しいバイアステストフレームワークを提案する。 広範に研究されている5つのLLMのコードにおけるバイアスに関する実証的研究を行った。 現在のコード生成シナリオで一般的に使用される5つのバイアス緩和プロンプトについて検討する。
  論文  参考訳（メタデータ） (2023-09-03T07:14:49Z)
• Non-Invasive Fairness in Learning through the Lens of Data Drift [88.37640805363317]
  データや学習アルゴリズムを変更することなく、機械学習モデルの公平性を向上する方法を示す。 異なる集団間の傾向のばらつきと、学習モデルと少数民族間の連続的な傾向は、データドリフトと類似している。 このドリフトを解決するための2つの戦略(モデル分割とリウィーディング)を探索し、基礎となるデータに対するモデル全体の適合性を改善することを目的としている。
  論文  参考訳（メタデータ） (2023-03-30T17:30:42Z)
• D-BIAS: A Causality-Based Human-in-the-Loop System for Tackling Algorithmic Bias [57.87117733071416]
  D-BIASは、人間のループ内AIアプローチを具現化し、社会的バイアスを監査し軽減する視覚対話型ツールである。 ユーザは、因果ネットワークにおける不公平な因果関係を識別することにより、グループに対する偏見の存在を検出することができる。 それぞれのインタラクション、例えばバイアスのある因果縁の弱体化/削除は、新しい(偏りのある)データセットをシミュレートするために、新しい方法を用いている。
  論文  参考訳（メタデータ） (2022-08-10T03:41:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。