論文の概要: Leveraging Large Language Models to Measure Gender Representation Bias in Gendered Language Corpora

• arxiv url: http://arxiv.org/abs/2406.13677v2
• Date: Fri, 22 Nov 2024 12:03:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-25 15:02:07.780338
• Title: Leveraging Large Language Models to Measure Gender Representation Bias in Gendered Language Corpora
• Title（参考訳）: 大規模言語モデルを用いたジェンダー言語コーパスにおけるジェンダー表現バイアスの測定
• Authors: Erik Derner, Sara Sansalvador de la Fuente, Yoan Gutiérrez, Paloma Moreda, Nuria Oliver,
• Abstract要約: テキストコーパスにおけるジェンダーバイアスは、社会的不平等の永続性と増幅につながる可能性がある。 テキストコーパスにおけるジェンダー表現バイアスを計測する既存の手法は、主に英語で提案されている。 本稿では,スペインのコーパスにおけるジェンダー表現バイアスを定量的に測定する手法を提案する。
• 参考スコア（独自算出の注目度）: 9.959039325564744
• License:
• Abstract: Gender bias in text corpora that are used for a variety of natural language processing (NLP) tasks, such as for training large language models (LLMs), can lead to the perpetuation and amplification of societal inequalities. This phenomenon is particularly pronounced in gendered languages like Spanish or French, where grammatical structures inherently encode gender, making the bias analysis more challenging. A first step in quantifying gender bias in text entails computing biases in gender representation, i.e., differences in the prevalence of words referring to males vs. females. Existing methods to measure gender representation bias in text corpora have mainly been proposed for English and do not generalize to gendered languages due to the intrinsic linguistic differences between English and gendered languages. This paper introduces a novel methodology that leverages the contextual understanding capabilities of LLMs to quantitatively measure gender representation bias in Spanish corpora. By utilizing LLMs to identify and classify gendered nouns and pronouns in relation to their reference to human entities, our approach provides a robust analysis of gender representation bias in gendered languages. We empirically validate our method on four widely-used benchmark datasets, uncovering significant gender prevalence disparities with a male-to-female ratio ranging from 4:1 to 6:1. These findings demonstrate the value of our methodology for bias quantification in gendered language corpora and suggest its application in NLP, contributing to the development of more equitable language technologies.
• Abstract（参考訳）: 大規模言語モデル(LLM)の訓練など、さまざまな自然言語処理(NLP)タスクに使用されるテキストコーパスにおけるジェンダーバイアスは、社会的不平等の永続性と増幅につながる可能性がある。 この現象は、特にスペイン語やフランス語のようなジェンダー付き言語で発音され、文法構造が本質的にジェンダーをエンコードしているため、バイアス分析はより困難である。 テキストにおける性バイアスの定量化の第一歩は、性表現におけるコンピューティングバイアス、すなわち男性と女性に言及する単語の頻度の違いを含む。 テキストコーパスにおけるジェンダー表現バイアスを測定する既存の手法は、主に英語で提案されており、英語とジェンダー言語の間に固有の言語的差異があるため、ジェンダー言語には一般化されていない。 本稿では,LLMの文脈理解機能を利用して,スペイン語コーパスにおけるジェンダー表現バイアスを定量的に測定する手法を提案する。 LLMを用いて性別付き名詞と代名詞を人格に関連づけて識別・分類することにより,ジェンダー付き言語におけるジェンダー表現バイアスの頑健な分析を行う。 その結果,男女比が4:1から6:1の有意な性別有病率差が判明した。 これらの結果から,ジェンダー付き言語コーパスにおけるバイアス定量化手法の価値が示され,そのNLPへの応用が示唆され,より公平な言語技術の発展に寄与している。

関連論文リスト

• The Lou Dataset -- Exploring the Impact of Gender-Fair Language in German Text Classification [57.06913662622832]
  ジェンダーフェア言語は、すべての性別に対処したり、中立形を使用することによって包摂性を促進する。 ジェンダーフェア言語はラベルを反転させ、確実性を減らし、注意パターンを変化させることで予測に大きな影響を及ぼす。 ドイツ語のテキスト分類への影響について最初の知見を提供する一方で、他の言語にもその知見が当てはまる可能性が高い。
  論文  参考訳（メタデータ） (2024-09-26T15:08:17Z)
• GenderCARE: A Comprehensive Framework for Assessing and Reducing Gender Bias in Large Language Models [73.23743278545321]
  大規模言語モデル(LLM)は、自然言語生成において顕著な能力を示してきたが、社会的バイアスを増大させることも観察されている。 GenderCAREは、革新的な基準、バイアス評価、リダクションテクニック、評価メトリクスを含む包括的なフレームワークである。
  論文  参考訳（メタデータ） (2024-08-22T15:35:46Z)
• Beyond Binary Gender: Evaluating Gender-Inclusive Machine Translation with Ambiguous Attitude Words [85.48043537327258]
  既存の機械翻訳の性別バイアス評価は主に男性と女性の性別に焦点を当てている。 本研究では,AmbGIMT (Gender-Inclusive Machine Translation with Ambiguous attitude words) のベンチマークを示す。 本研究では,感情的態度スコア(EAS)に基づく性別バイアス評価手法を提案する。
  論文  参考訳（メタデータ） (2024-07-23T08:13:51Z)
• Gender Bias in Large Language Models across Multiple Languages [10.068466432117113]
  異なる言語で生成される大言語モデル(LLM)の性別バイアスについて検討する。 1) 性別関連文脈から記述的単語を選択する際の性別バイアス。 2) 性別関連代名詞を選択する際の性別バイアスは, 記述語を付与する。
  論文  参考訳（メタデータ） (2024-03-01T04:47:16Z)
• VisoGender: A dataset for benchmarking gender bias in image-text pronoun resolution [80.57383975987676]
  VisoGenderは、視覚言語モデルで性別バイアスをベンチマークするための新しいデータセットである。 We focus to occupation-related biases in a hegemonic system of binary gender, inspired by Winograd and Winogender schemas。 我々は、最先端の視覚言語モデルをいくつかベンチマークし、それらが複雑な場面における二項性解消のバイアスを示すことを発見した。
  論文  参考訳（メタデータ） (2023-06-21T17:59:51Z)
• Target-Agnostic Gender-Aware Contrastive Learning for Mitigating Bias in Multilingual Machine Translation [28.471506840241602]
  ジェンダーバイアスは機械翻訳において重要な問題であり、バイアス軽減技術の研究が進行中である。 本稿では,新しいアプローチに基づくバイアス緩和手法を提案する。 Gender-Aware Contrastive Learning, GACLは、文脈性情報を非明示性単語の表現にエンコードする。
  論文  参考訳（メタデータ） (2023-05-23T12:53:39Z)
• INCLUSIFY: A benchmark and a model for gender-inclusive German [0.0]
  ジェンダーインクルージョン言語はジェンダーインフレクションを持つ言語においてジェンダー平等を達成するために重要である。 ジェンダーを包含する言語の使用を支援するために、いくつかのツールが開発されている。 ベンチマークのためのデータセットと尺度を示し、これらのタスクを実装するモデルを示す。
  論文  参考訳（メタデータ） (2022-12-05T19:37:48Z)
• Efficient Gender Debiasing of Pre-trained Indic Language Models [0.0]
  言語モデルが事前訓練されたデータに存在する性別バイアスは、これらのモデルを使用するシステムに反映される。 本稿では,ヒンディー語モデルにおける職業に関する性別バイアスを測定した。 以上の結果から,提案手法の適応後のバイアスが低減されることが示唆された。
  論文  参考訳（メタデータ） (2022-09-08T09:15:58Z)
• Analyzing Gender Representation in Multilingual Models [59.21915055702203]
  実践的なケーススタディとして,ジェンダーの区別の表現に焦点をあてる。 ジェンダーの概念が、異なる言語で共有された部分空間にエンコードされる範囲について検討する。
  論文  参考訳（メタデータ） (2022-04-20T00:13:01Z)
• Multi-Dimensional Gender Bias Classification [67.65551687580552]
  機械学習モデルは、性別に偏ったテキストでトレーニングする際に、社会的に望ましくないパターンを不注意に学習することができる。 本稿では,テキスト中の性バイアスを複数の実用的・意味的な次元に沿って分解する一般的な枠組みを提案する。 このきめ細かいフレームワークを用いて、8つの大規模データセットにジェンダー情報を自動的にアノテートする。
  論文  参考訳（メタデータ） (2020-05-01T21:23:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。