論文の概要: Gender and content bias in Large Language Models: a case study on Google Gemini 2.0 Flash Experimental

• arxiv url: http://arxiv.org/abs/2503.16534v1
• Date: Tue, 18 Mar 2025 15:28:22 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-24 14:59:01.788254
• Title: Gender and content bias in Large Language Models: a case study on Google Gemini 2.0 Flash Experimental
• Title（参考訳）: 大規模言語モデルにおけるジェンダーとコンテンツバイアス: Google Gemini 2.0 Flash実験を事例として
• Authors: Roberto Balestri,
• Abstract要約: 本研究では,Googleが開発した最先端の大規模言語モデル(LLM)であるGemini 2.0 Flash Experimentalのバイアスを評価する。 これは男女差の減少を示し、特に女性特有のプロンプトは受容率を大幅に上昇させる。 性的内容に対するより寛容な姿勢を採用し、性特例を含む暴力的なプロンプトに対する比較的高い受け入れ率を維持している。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: This study evaluates the biases in Gemini 2.0 Flash Experimental, a state-of-the-art large language model (LLM) developed by Google, focusing on content moderation and gender disparities. By comparing its performance to ChatGPT-4o, examined in a previous work of the author, the analysis highlights some differences in ethical moderation practices. Gemini 2.0 demonstrates reduced gender bias, notably with female-specific prompts achieving a substantial rise in acceptance rates compared to results obtained by ChatGPT-4o. It adopts a more permissive stance toward sexual content and maintains relatively high acceptance rates for violent prompts, including gender-specific cases. Despite these changes, whether they constitute an improvement is debatable. While gender bias has been reduced, this reduction comes at the cost of permitting more violent content toward both males and females, potentially normalizing violence rather than mitigating harm. Male-specific prompts still generally receive higher acceptance rates than female-specific ones. These findings underscore the complexities of aligning AI systems with ethical standards, highlighting progress in reducing certain biases while raising concerns about the broader implications of the model's permissiveness. Ongoing refinements are essential to achieve moderation practices that ensure transparency, fairness, and inclusivity without amplifying harmful content.
• Abstract（参考訳）: 本研究は,Googleが開発した最先端の大規模言語モデル(LLM)であるGemini 2.0 Flash Experimentalのバイアスを評価し,コンテンツモデレーションとジェンダー格差に着目した。 著者の以前の研究で検証されたChatGPT-4oのパフォーマンスを比較することで、倫理的モデレーションの実践にいくつかの違いが浮き彫りにされている。 Gemini 2.0は、特に女性特有のプロンプトがChatGPT-4oの結果よりもかなり高い受入率を達成することにより、性別バイアスの低下を示す。 性的内容に対するより寛容な姿勢を採用し、性特例を含む暴力的なプロンプトに対する比較的高い受け入れ率を維持している。 これらの変更にもかかわらず、改善を構成するかどうかは議論の余地がある。 性別の偏見は減っているが、この減少は、男性と女性の両方に対してより暴力的なコンテンツを許容し、害を和らげるよりも暴力を正規化する可能性があるというコストがかかる。 男性固有のプロンプトは、通常、女性固有のプロンプトよりも高い受入率を受ける。 これらの発見は、AIシステムを倫理的基準と整合させることの複雑さを浮き彫りにし、特定のバイアスを減らし、モデルの寛容性に対するより広範な影響に関する懸念を提起する。 改善を続けることは、有害なコンテンツを増幅することなく、透明性、公平性、および傾向を保証するためのモデレーションの慣行を達成するために不可欠である。

関連論文リスト

• Examining Multimodal Gender and Content Bias in ChatGPT-4o [0.0]
  ChatGPT-4oは、暴力や薬物使用に対する寛容さを示しながら、性的内容とヌードを一貫して検閲する。 女性特有のコンテンツは、男性固有のコンテンツよりも厳格な規制に直面している。
  論文  参考訳（メタデータ） (2024-11-28T13:41:44Z)
• The Root Shapes the Fruit: On the Persistence of Gender-Exclusive Harms in Aligned Language Models [58.130894823145205]
  我々はトランスジェンダー、ノンバイナリ、その他のジェンダー・ディバースのアイデンティティを中心とし、アライメント手順が既存のジェンダー・ディバースバイアスとどのように相互作用するかを検討する。 以上の結果から,DPO対応モデルは特に教師付き微調整に敏感であることが示唆された。 DPOとより広範なアライメントプラクティスに合わせたレコメンデーションで締めくくります。
  論文  参考訳（メタデータ） (2024-11-06T06:50:50Z)
• Revealing and Reducing Gender Biases in Vision and Language Assistants (VLAs) [82.57490175399693]
  画像・テキスト・ビジョン言語アシスタント(VLA)22種における性別バイアスの検討 以上の結果から,VLAは実世界の作業不均衡など,データ中の人間のバイアスを再現する可能性が示唆された。 これらのモデルにおける性別バイアスを排除するため、微調整に基づくデバイアス法は、デバイアス化と性能維持の最良のトレードオフを実現する。
  論文  参考訳（メタデータ） (2024-10-25T05:59:44Z)
• GenderCARE: A Comprehensive Framework for Assessing and Reducing Gender Bias in Large Language Models [73.23743278545321]
  大規模言語モデル(LLM)は、自然言語生成において顕著な能力を示してきたが、社会的バイアスを増大させることも観察されている。 GenderCAREは、革新的な基準、バイアス評価、リダクションテクニック、評価メトリクスを含む包括的なフレームワークである。
  論文  参考訳（メタデータ） (2024-08-22T15:35:46Z)
• Beyond Binary Gender: Evaluating Gender-Inclusive Machine Translation with Ambiguous Attitude Words [85.48043537327258]
  既存の機械翻訳の性別バイアス評価は主に男性と女性の性別に焦点を当てている。 本研究では,AmbGIMT (Gender-Inclusive Machine Translation with Ambiguous attitude words) のベンチマークを示す。 本研究では,感情的態度スコア(EAS)に基づく性別バイアス評価手法を提案する。
  論文  参考訳（メタデータ） (2024-07-23T08:13:51Z)
• "I'm fully who I am": Towards Centering Transgender and Non-Binary Voices to Measure Biases in Open Language Generation [69.25368160338043]
  トランスジェンダーとノンバイナリ(TGNB)の個人は、日常生活から差別や排除を不当に経験している。 オープン・ランゲージ・ジェネレーションにおいて,経験豊富なTGNB人物の疎外化を取り巻く社会的現実がいかに貢献し,持続するかを評価する。 我々はTGNB指向のコミュニティからキュレートされたテンプレートベースの実世界のテキストのデータセットであるTANGOを紹介する。
  論文  参考訳（メタデータ） (2023-05-17T04:21:45Z)
• Deep Generative Views to Mitigate Gender Classification Bias Across Gender-Race Groups [0.8594140167290097]
  本稿では,性別・人種グループ間の偏見を低減し,分類精度を向上させるためのバイアス緩和戦略を提案する。 我々は、ジェンダー分類バイアスを軽減するために、生成的視点、構造化学習、そして明らかな学習の力を利用する。
  論文  参考訳（メタデータ） (2022-08-17T16:23:35Z)
• Towards Understanding Gender-Seniority Compound Bias in Natural Language Generation [64.65911758042914]
  本研究では,事前学習したニューラルジェネレーションモデルにおける性別バイアスの程度に,高齢者がどのような影響を及ぼすかを検討する。 以上の結果から, GPT-2は, 両領域において, 女性を中年, 男性を中年として考えることにより, 偏見を増幅することが示された。 以上の結果から, GPT-2を用いて構築したNLPアプリケーションは, プロの能力において女性に害を与える可能性が示唆された。
  論文  参考訳（メタデータ） (2022-05-19T20:05:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。