論文の概要: Investigating the Impact of Learner Errors on Social Bias in Large Language Models

• arxiv url: http://arxiv.org/abs/2610.29896v1
• Date: Wed, 21 Oct 2026 15:38:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 09:50:43.260369
• Title: Investigating the Impact of Learner Errors on Social Bias in Large Language Models
• Title（参考訳）: 大規模言語モデルにおける学習者の誤りが社会バイアスに及ぼす影響の検討
• Abstract要約: 非ネイティブ作家の文法的誤りが社会的偏見にどのように影響するかを検討する。 文法的誤りはバイアスを増大させ,その影響は誤り率とともに増大する。 誤文の微調整は文法的誤りによるバイアス増加を減少させる。
• 参考スコア（独自算出の注目度）: 42.208436944925815
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Existing social bias benchmarks evaluate large language models mostly on fluent, well-formed English, reflecting native speaker usage and leaving non-native writers unrepresented. To address this gap, we investigate how grammatical errors by non-native writers affect social bias. We develop a controlled framework that injects common learner errors into prompts and apply it to three bias benchmarks covering stereotype alignment and demographic preference across gender, race, and religion. We find that grammatical errors increase bias, and the effect grows with the error rate. Among the four common error types we consider, preposition errors produce the largest and most consistent increase in stereotype alignment. Our analysis suggests that errors increase bias when they are more likely to interfere with comprehension. Finally, fine-tuning on erroneous texts reduces the bias increase caused by grammatical errors. Our findings show that bias evaluations based exclusively on well-formed prompts may underestimate the bias experienced by users whose English contains grammatical errors.
• Abstract（参考訳）: 既存の社会的偏見のベンチマークでは、大きな言語モデルは主に流動的で、十分に形成された英語に基づいて評価されており、ネイティブ話者の使用を反映し、非ネイティブライターを表現しないままにしている。 このギャップに対処するために,非ネイティブ作家の文法的誤りが社会的偏見にどのように影響するかを検討する。 我々は,一般的な学習者エラーをプロンプトに注入する制御フレームワークを開発し,ステレオタイプアライメントと性別,人種,宗教を対象とする3つのバイアスベンチマークに適用する。 文法的誤りはバイアスを増大させ,その影響は誤り率とともに増大する。 私たちが考慮する4つの一般的なエラータイプのうち、前置詞エラーは、ステレオタイプアライメントの最大かつ最も一貫した増加をもたらす。 我々の分析は、エラーが理解に支障を来す確率が高いとバイアスが増加することを示唆している。 最後に、誤ったテキストの微調整は文法的誤りによるバイアス増加を減少させる。 本研究は,英語に文法的誤りが含まれているユーザの経験した偏見を過小評価できることを示す。

関連論文リスト

• Cross-Language Bias Examination in Large Language Models [37.21579885190632]
  本研究では,大規模言語モデルにおけるバイアス評価のための,革新的な多言語バイアス評価フレームワークを提案する。 プロンプトと単語リストを5つの対象言語に翻訳することにより、言語間で異なる種類のバイアスを比較する。 例えば、アラビア語とスペイン語はステレオタイプバイアスのレベルが常に高く、中国語と英語はバイアスのレベルが低い。
  論文  参考訳（メタデータ） (2025-12-17T23:22:03Z)
• Dutch CrowS-Pairs: Adapting a Challenge Dataset for Measuring Social Biases in Language Models for Dutch [6.522338519818378]
  オランダ語モデルにおけるバイアスを測定するための、米国固有のCrowS-Pairsデータセットのオランダ版が紹介されている。 得られたデータセットは、性的指向、ジェンダー、障害などの9つのカテゴリのバイアスをカバーする1463の文ペアで構成されている。 CrowS-Pairsデータセットの英語版とフランス語版を使用して、英語(BERTとRoBERTa)とフランス語(FlauBERTとCamemBERT)でバイアスを評価した。
  論文  参考訳（メタデータ） (2025-07-22T10:38:02Z)
• Biased or Flawed? Mitigating Stereotypes in Generative Language Models by Addressing Task-Specific Flaws [12.559028963968247]
  生成言語モデルは、しばしば出力の社会的バイアスを反映し増幅します。 生成モデルにおいて観測されたステレオタイプを暗黙的に緩和する目的のステレオタイプ緩和フレームワークを提案する。 複数の次元にわたるステレオタイプ出力を60%以上削減する。
  論文  参考訳（メタデータ） (2024-12-16T03:29:08Z)
• GPTBIAS: A Comprehensive Framework for Evaluating Bias in Large Language Models [83.30078426829627]
  大規模言語モデル(LLM)は人気を集め、大規模なユーザコミュニティで広く採用されている。 既存の評価手法には多くの制約があり、それらの結果は限定的な解釈可能性を示している。 本稿では,LPMの高性能性を活用し,モデル内のバイアスを評価するGPTBIASというバイアス評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-11T12:02:14Z)
• The SAME score: Improved cosine based bias score for word embeddings [49.75878234192369]
  埋め込みにおけるセマンティックバイアスのための新しいバイアススコアであるPetを紹介した。 本研究は,下水道作業における意味バイアスを測定し,社会的バイアスの潜在的な原因を特定することができることを示す。
  論文  参考訳（メタデータ） (2022-03-28T09:28:13Z)
• Balancing out Bias: Achieving Fairness Through Training Reweighting [58.201275105195485]
  自然言語処理におけるバイアスは、性別や人種などの著者の特徴を学習するモデルから生じる。 既存のバイアスの緩和と測定方法は、著者の人口統計学と言語変数の相関を直接考慮していない。 本稿では,インスタンス再重み付けを用いたバイアス対策法を提案する。
  論文  参考訳（メタデータ） (2021-09-16T23:40:28Z)
• Evaluating Gender Bias in Hindi-English Machine Translation [0.1503974529275767]
  我々は,ヒンディー語の文法的考察に基づいて,TGBI計量の修正版を実装した。 我々は、事前学習した埋め込みのための複数のメトリクスと、機械翻訳モデルで学習したメトリクスを比較して比較する。
  論文  参考訳（メタデータ） (2021-06-16T10:35:51Z)
• On the Robustness of Language Encoders against Grammatical Errors [66.05648604987479]
  我々は、非ネイティブ話者から実際の文法的誤りを収集し、これらの誤りをクリーンテキストデータ上でシミュレートするために敵攻撃を行う。 結果,全ての試験モデルの性能は影響するが,影響の程度は異なることがわかった。
  論文  参考訳（メタデータ） (2020-05-12T11:01:44Z)
• Towards Controllable Biases in Language Generation [87.89632038677912]
  本研究では、特定の人口集団の言及を含む入力プロンプトによって生成されたテキストの社会的バイアスを誘導する手法を開発した。 1 つの人口統計学において負のバイアスを誘発し、もう1 つの人口統計学において正のバイアスを誘導し、2 つのシナリオを分析する。
  論文  参考訳（メタデータ） (2020-05-01T08:25:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。