論文の概要: How Reasoning Shapes Social Bias in LLM-Generated Code?

• arxiv url: http://arxiv.org/abs/2608.06829v1
• Date: Fri, 07 Aug 2026 05:38:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-10 16:21:25.369753
• Title: How Reasoning Shapes Social Bias in LLM-Generated Code?
• Title（参考訳）: LLM生成コードではどのようにソーシャルバイアスを形作るか?
• Abstract要約: 推論に基づくコード生成における社会的バイアスに関する最初の体系的研究を行う。 推論は一般にバイアスを減少させ、平均バイアス率を0.64から0.40に下げるが、その効果はモデルによって大きく異なる。 ProbeDebiasは、コード生成前にバイアス付き推論トレースを検出し、書き直しする推論対応フレームワークである。
• 参考スコア（独自算出の注目度）: 14.354740103071647
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are increasingly used for code generation, yet generated programs may exhibit social bias through unfair or differential treatment of sensitive demographic attributes. While prior work mainly studies direct code generation, bias in reasoning-based generation remains underexplored. We conduct the first systematic study of social bias in reasoning-based code generation, evaluating 9 standard LLMs and large reasoning models (LRMs) on realistic bias-sensitive tasks across three human-centered decision scenarios. We find that reasoning generally reduces bias, lowering the average bias rate from 0.64 to 0.40, but the effect varies substantially across models. Meanwhile, code quality is not consistently preserved, with the average quality dropping from 0.72 to 0.59. Biased reasoning strongly predicts biased code, and adjusting generation configurations alone is insufficient for robust mitigation. Based on these findings, we propose ProbeDebias, a reasoning-aware framework that detects and rewrites biased reasoning traces before code generation. ProbeDebias achieves 87.76% F1 for reasoning-bias detection and reduces code bias by 83.73% on average while largely preserving quality. Compared with SOTA baselines, it further reduces average bias by 52.70%-54.42% and improves quality by 9.79%-36.79%. These results highlight the value of reasoning-stage analysis for trustworthy code generation.
• Abstract（参考訳）: 大規模言語モデル (LLMs) は、コード生成にますます使われているが、生成されたプログラムは、センシティブな人口統計特性の不正または差分処理によって社会的偏見を示す可能性がある。 以前の研究は主に直接コード生成を研究していたが、推論に基づく生成のバイアスは未調査のままである。 推論に基づくコード生成における社会的バイアスに関する最初の体系的研究を行い、人間中心の3つの意思決定シナリオにおける現実的なバイアスに敏感なタスクに対して、9つの標準LCMと大推論モデル(LRM)を評価した。 推論は一般にバイアスを減少させ、平均バイアス率を0.64から0.40に下げるが、その効果はモデルによって大きく異なる。 一方、コード品質は一貫して維持されておらず、平均的な品質は0.72から0.59に低下している。 バイアスのある推論はバイアスのあるコードを強く予測し、生成構成だけを調整することは、堅牢な緩和には不十分である。 これらの知見に基づいて,コード生成前にバイアス付き推論トレースを検出し,書き直しを行う推論対応フレームワークProbeDebiasを提案する。 ProbeDebiasは推論バイアスの検出で87.76%のF1を達成し、コードバイアスを平均83.73%削減し、品質を保っている。 SOTAベースラインと比較して、平均バイアスを52.70%-54.42%削減し、品質を9.79%-36.79%向上させる。 これらの結果は、信頼できるコード生成のための推論ステージ分析の価値を強調している。

関連論文リスト

• A Causal Information-Flow Framework for Unbiased Learning-to-Rank [52.54102347581931]
  Web検索とレコメンデーションシステムでは、ユーザクリックがランキングモデルのトレーニングに広く使用されている。 本稿では,Unbiased Learning-to-Rankを拡張する因果学習に基づく新たなランキングフレームワークを提案する。 本手法は測定されたバイアスリークを一貫して低減し,ランキング性能を向上させる。
  論文  参考訳（メタデータ） (2026-01-09T07:19:35Z)
• Equilibrium Dynamics and Mitigation of Gender Bias in Synthetically Generated Data [3.1526281887627587]
  本稿では,ルールベースのパターンマッチング,埋め込み型セマンティック類似性,下流タスク性能を用いた3世代合成テキスト生成におけるジェンダーバイアスのダイナミクスについて検討する。 低初期偏差はモデル固有の偏差レベル(+36%)に対して増幅し、高初期偏差はそれに対して減衰する(26%)。 ジェンダースワップ付き変異を導入したコントラスト増強は、埋め込みベースのバイアススコアが高いにもかかわらず、下流バイアス(初期偏差が98.8%、平均偏差が91%)を大幅に減少させることが判明した。
  論文  参考訳（メタデータ） (2025-11-12T02:14:07Z)
• Rethinking Prompt-based Debiasing in Large Language Models [40.90578215191079]
  大規模言語モデル(LLM)におけるバイアスの調査は、信頼できるAIを開発する上で不可欠である。 即発的なエンジニアリングは一般的であるが、その効果はモデルがバイアスを本質的に理解しているという仮定に依存している。 本研究では,BBQ と StereoSet のベンチマークを用いて,オープンソースモデルと商用 GPT モデルの両方を用いて,この仮定を体系的に解析した。
  論文  参考訳（メタデータ） (2025-03-12T10:06:03Z)
• Does Reasoning Introduce Bias? A Study of Social Bias Evaluation and Mitigation in LLM Reasoning [21.921684911834447]
  大規模言語モデル(LLM)における社会的偏見の最初の体系的評価について述べる。 我々は、DeepSeek-R1とChatGPTの命令調整およびCoT拡張版を含む、幅広いモデルの予測精度と推論バイアスを解析する。 本稿では, モデル予測が漸進的推論ステップ間でどのように変化するかを追跡することにより, バイアスを検出する軽量な緩和法であるバイアスプロキシ(ADBP)を提案する。
  論文  参考訳（メタデータ） (2025-02-21T10:16:07Z)
• Towards Resource Efficient and Interpretable Bias Mitigation in Large Language Models [1.787433808079955]
  大規模言語モデル (LLM) は、学習データにおいて望ましくないバイアスを持続させる。 本稿では,小さなバイアスとアンチバイアスのエキスパートモデルを利用してバイアスを緩和し,デバイアス信号を得る。 性別、人種、宗教の偏見を緩和する実験は、いくつかの地域および世界的な偏見指標に偏見を減少させる。
  論文  参考訳（メタデータ） (2024-12-02T16:56:08Z)
• Going Beyond Popularity and Positivity Bias: Correcting for Multifactorial Bias in Recommender Systems [74.47680026838128]
  ユーザインタラクションデータとレコメンダシステム(RS)の2つの典型的なバイアスは、人気バイアスと肯定バイアスである。 項目と評価値の双方に影響される多因子選択バイアスについて検討する。 分散を低減し、最適化の堅牢性を向上させるため、スムースで交互に勾配降下する手法を提案する。
  論文  参考訳（メタデータ） (2024-04-29T12:18:21Z)
• Marginal Debiased Network for Fair Visual Recognition [59.05212866862219]
  本稿では,デバイアス表現を学習するための新しい限界脱バイアスネットワーク(MDN)を提案する。 我々のMDNは、表現不足のサンプルに対して顕著な性能を達成できる。
  論文  参考訳（メタデータ） (2024-01-04T08:57:09Z)
• GPTBIAS: A Comprehensive Framework for Evaluating Bias in Large Language Models [83.30078426829627]
  大規模言語モデル(LLM)は人気を集め、大規模なユーザコミュニティで広く採用されている。 既存の評価手法には多くの制約があり、それらの結果は限定的な解釈可能性を示している。 本稿では,LPMの高性能性を活用し,モデル内のバイアスを評価するGPTBIASというバイアス評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-11T12:02:14Z)
• Bias Testing and Mitigation in LLM-based Code Generation [27.997232692723767]
  本稿では,コード生成タスクに特化して設計された新しいバイアステストフレームワークを提案する。 広範に研究されている5つのLLMのコードにおけるバイアスに関する実証的研究を行った。 現在のコード生成シナリオで一般的に使用される5つのバイアス緩和プロンプトについて検討する。
  論文  参考訳（メタデータ） (2023-09-03T07:14:49Z)
• The SAME score: Improved cosine based bias score for word embeddings [49.75878234192369]
  埋め込みにおけるセマンティックバイアスのための新しいバイアススコアであるPetを紹介した。 本研究は,下水道作業における意味バイアスを測定し,社会的バイアスの潜在的な原因を特定することができることを示す。
  論文  参考訳（メタデータ） (2022-03-28T09:28:13Z)
• Pseudo Bias-Balanced Learning for Debiased Chest X-ray Classification [57.53567756716656]
  本研究では, バイアスラベルを正確に把握せず, 脱バイアス胸部X線診断モデルの開発について検討した。 本稿では,まずサンプルごとのバイアスラベルをキャプチャし,予測する新しいアルゴリズム,擬似バイアスバランス学習を提案する。 提案手法は他の最先端手法よりも一貫した改善を実現した。
  論文  参考訳（メタデータ） (2022-03-18T11:02:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。