論文の概要: From 'Showgirls' to 'Performers': Fine-tuning with Gender-inclusive Language for Bias Reduction in LLMs

• arxiv url: http://arxiv.org/abs/2407.04434v1
• Date: Fri, 5 Jul 2024 11:31:30 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-08 13:40:23.418927
• Title: From 'Showgirls' to 'Performers': Fine-tuning with Gender-inclusive Language for Bias Reduction in LLMs
• Title（参考訳）: ショーガールズ」から「パフォーマー」へ:LLMにおけるバイアス低減のためのジェンダー非包摂型言語を用いたファインタニング
• Authors: Marion Bartl, Susan Leavy,
• Abstract要約: 我々は、ジェンダー・インクリシティを促進するために、大規模言語モデル内の言語構造に適応する。 私たちの作品の焦点は英語の「In'show-Girl'」や「man-cave」のような男女排他的な接尾辞である。
• 参考スコア（独自算出の注目度）: 1.1049608786515839
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Gender bias is not only prevalent in Large Language Models (LLMs) and their training data, but also firmly ingrained into the structural aspects of language itself. Therefore, adapting linguistic structures within LLM training data to promote gender-inclusivity can make gender representations within the model more inclusive. The focus of our work are gender-exclusive affixes in English, such as in 'show-girl' or 'man-cave', which can perpetuate gender stereotypes and binary conceptions of gender. We use an LLM training dataset to compile a catalogue of 692 gender-exclusive terms along with gender-neutral variants and from this, develop a gender-inclusive fine-tuning dataset, the 'Tiny Heap'. Fine-tuning three different LLMs with this dataset, we observe an overall reduction in gender-stereotyping tendencies across the models. Our approach provides a practical method for enhancing gender inclusivity in LLM training data and contributes to incorporating queer-feminist linguistic activism in bias mitigation research in NLP.
• Abstract（参考訳）: ジェンダーバイアスは、Large Language Models(LLM)とそのトレーニングデータだけでなく、言語自体の構造的側面にもしっかりと浸透している。 したがって、LLMトレーニングデータ内の言語構造を適用してジェンダーインクリシティを促進することで、モデル内のジェンダー表現をより包括的にすることができる。 我々の研究の焦点は英語の「ショーガール」や「マンケーブ」のような性排他的な接尾辞であり、ジェンダーのステレオタイプや二項概念を永続することができる。 LLMトレーニングデータセットを使用して、692の性排他用語のカタログと性別中立な変種をコンパイルし、そこから性排他的な微調整データセット「Tiny Heap」を開発する。 このデータセットを用いて3つの異なるLSMを微調整し、モデル全体での性別のステレオタイピング傾向の全体的な減少を観察する。 本手法は,LPMトレーニングデータにおける性傾向を高めるための実践的手法を提供し,NLPのバイアス軽減研究にキー・フェミニスト言語行動学を取り入れることに寄与する。

関連論文リスト

• GenderCARE: A Comprehensive Framework for Assessing and Reducing Gender Bias in Large Language Models [73.23743278545321]
  大規模言語モデル(LLM)は、自然言語生成において顕著な能力を示してきたが、社会的バイアスを増大させることも観察されている。 GenderCAREは、革新的な基準、バイアス評価、リダクションテクニック、評価メトリクスを含む包括的なフレームワークである。
  論文  参考訳（メタデータ） (2024-08-22T15:35:46Z)
• Leveraging Large Language Models to Measure Gender Representation Bias in Gendered Language Corpora [9.959039325564744]
  テキストコーパスにおけるジェンダーバイアスは、社会的不平等の永続性と増幅につながる可能性がある。 テキストコーパスにおけるジェンダー表現バイアスを計測する既存の手法は、主に英語で提案されている。 本稿では,スペインのコーパスにおけるジェンダー表現バイアスを定量的に測定する手法を提案する。
  論文  参考訳（メタデータ） (2024-06-19T16:30:58Z)
• Disclosure and Mitigation of Gender Bias in LLMs [64.79319733514266]
  大規模言語モデル(LLM)はバイアス応答を生成することができる。 条件生成に基づく間接探索フレームワークを提案する。 LLMにおける明示的・暗黙的な性バイアスを明らかにするための3つの戦略を探求する。
  論文  参考訳（メタデータ） (2024-02-17T04:48:55Z)
• Probing Explicit and Implicit Gender Bias through LLM Conditional Text Generation [64.79319733514266]
  大規模言語モデル(LLM)はバイアスと有害な応答を生成する。 本研究では,あらかじめ定義されたジェンダーフレーズやステレオタイプを必要としない条件付きテキスト生成機構を提案する。
  論文  参考訳（メタデータ） (2023-11-01T05:31:46Z)
• How To Build Competitive Multi-gender Speech Translation Models For Controlling Speaker Gender Translation [21.125217707038356]
  発音性言語から文法性言語に翻訳する場合、生成された翻訳は、話者を参照する者を含む様々な単語に対して、明確なジェンダー代入を必要とする。 このような偏見や包括的行動を避けるために、話者の性別に関する外部から提供されたメタデータによって、話者関連表現の性別割当を導出すべきである。 本稿では、話者のジェンダーメタデータを単一の「マルチジェンダー」ニューラルSTモデルに統合し、維持しやすくすることで、同じ結果を達成することを目的とする。
  論文  参考訳（メタデータ） (2023-10-23T17:21:32Z)
• "I'm fully who I am": Towards Centering Transgender and Non-Binary Voices to Measure Biases in Open Language Generation [69.25368160338043]
  トランスジェンダーとノンバイナリ(TGNB)の個人は、日常生活から差別や排除を不当に経験している。 オープン・ランゲージ・ジェネレーションにおいて,経験豊富なTGNB人物の疎外化を取り巻く社会的現実がいかに貢献し,持続するかを評価する。 我々はTGNB指向のコミュニティからキュレートされたテンプレートベースの実世界のテキストのデータセットであるTANGOを紹介する。
  論文  参考訳（メタデータ） (2023-05-17T04:21:45Z)
• INCLUSIFY: A benchmark and a model for gender-inclusive German [0.0]
  ジェンダーインクルージョン言語はジェンダーインフレクションを持つ言語においてジェンダー平等を達成するために重要である。 ジェンダーを包含する言語の使用を支援するために、いくつかのツールが開発されている。 ベンチマークのためのデータセットと尺度を示し、これらのタスクを実装するモデルを示す。
  論文  参考訳（メタデータ） (2022-12-05T19:37:48Z)
• Analyzing Gender Representation in Multilingual Models [59.21915055702203]
  実践的なケーススタディとして,ジェンダーの区別の表現に焦点をあてる。 ジェンダーの概念が、異なる言語で共有された部分空間にエンコードされる範囲について検討する。
  論文  参考訳（メタデータ） (2022-04-20T00:13:01Z)
• Gendered Language in Resumes and its Implications for Algorithmic Bias in Hiring [0.0]
  我々は応募者の性別を分類するために一連のモデルを訓練する。 我々は、履歴書から性別を難読化できるかどうか検討する。 難読化後も履歴書には男女情報が多く存在することが判明した。
  論文  参考訳（メタデータ） (2021-12-16T14:26:36Z)
• Multi-Dimensional Gender Bias Classification [67.65551687580552]
  機械学習モデルは、性別に偏ったテキストでトレーニングする際に、社会的に望ましくないパターンを不注意に学習することができる。 本稿では,テキスト中の性バイアスを複数の実用的・意味的な次元に沿って分解する一般的な枠組みを提案する。 このきめ細かいフレームワークを用いて、8つの大規模データセットにジェンダー情報を自動的にアノテートする。
  論文  参考訳（メタデータ） (2020-05-01T21:23:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。