論文の概要: Examining Multimodal Gender and Content Bias in ChatGPT-4o

• arxiv url: http://arxiv.org/abs/2411.19140v1
• Date: Thu, 28 Nov 2024 13:41:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-02 15:23:21.818249
• Title: Examining Multimodal Gender and Content Bias in ChatGPT-4o
• Title（参考訳）: ChatGPT-4oにおけるマルチモーダルジェンダーとコンテンツバイアスの検討
• Authors: Roberto Balestri,
• Abstract要約: ChatGPT-4oは、暴力や薬物使用に対する寛容さを示しながら、性的内容とヌードを一貫して検閲する。 女性特有のコンテンツは、男性固有のコンテンツよりも厳格な規制に直面している。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: This study investigates ChatGPT-4o's multimodal content generation, highlighting significant disparities in its treatment of sexual content and nudity versus violent and drug-related themes. Detailed analysis reveals that ChatGPT-4o consistently censors sexual content and nudity, while showing leniency towards violence and drug use. Moreover, a pronounced gender bias emerges, with female-specific content facing stricter regulation compared to male-specific content. This disparity likely stems from media scrutiny and public backlash over past AI controversies, prompting tech companies to impose stringent guidelines on sensitive issues to protect their reputations. Our findings emphasize the urgent need for AI systems to uphold genuine ethical standards and accountability, transcending mere political correctness. This research contributes to the understanding of biases in AI-driven language and multimodal models, calling for more balanced and ethical content moderation practices.
• Abstract（参考訳）: 本研究は、ChatGPT-4oのマルチモーダルコンテンツ生成について検討し、性的内容とヌード性に対する暴力的および薬物的テーマの扱いにおいて有意な相違を浮き彫りにした。 詳細な分析によると、ChatGPT-4oは暴力や薬物使用に対する寛容さを示しながら、性的内容とヌードを一貫して検閲している。 さらに、女性特有のコンテンツは、男性固有のコンテンツよりも厳格な規制に直面している。 この格差は、過去のAI論争に対するメディアの精査と大衆の反発に起因している可能性が高い。 我々の発見は、真の倫理基準と説明責任を守ろうとするAIシステムに対する緊急の必要性を強調し、単なる政治的正当性を超越している。 この研究は、AI駆動言語とマルチモーダルモデルにおけるバイアスの理解に寄与し、よりバランスよく倫理的なコンテンツモデレーションの実践を求める。

関連論文リスト

• Advancing Content Moderation: Evaluating Large Language Models for Detecting Sensitive Content Across Text, Images, and Videos [0.1399948157377307]
  政府、教育者、そして親はしばしば、そのようなコンテンツの拡散を規制し、制御し、制限する方法についてメディアプラットフォームと対立している。 自然言語処理やコンピュータビジョンといった技術は、センシティブなコンテンツを自動的に識別し、フィルタリングするために広く使われている。 テキストと画像の両方のコンテキストを理解するためのより洗練されたアルゴリズムは、コンテンツ検閲の改善のための部屋を開くかもしれない。
  論文  参考訳（メタデータ） (2024-11-26T05:29:18Z)
• The Root Shapes the Fruit: On the Persistence of Gender-Exclusive Harms in Aligned Language Models [58.130894823145205]
  我々はトランスジェンダー、ノンバイナリ、その他のジェンダー・ディバースのアイデンティティを中心とし、アライメント手順が既存のジェンダー・ディバースバイアスとどのように相互作用するかを検討する。 以上の結果から,DPO対応モデルは特に教師付き微調整に敏感であることが示唆された。 DPOとより広範なアライメントプラクティスに合わせたレコメンデーションで締めくくります。
  論文  参考訳（メタデータ） (2024-11-06T06:50:50Z)
• Watching the Watchers: A Comparative Fairness Audit of Cloud-based Content Moderation Services [1.3654846342364306]
  本研究では,サードパーティによる監査を通じて,主要なクラウドベースのコンテンツモデレーションサービス4つを体系的に評価する。 ブラックボックス監査手法と4つのベンチマークデータセットを用いて、明示的かつ暗黙的なヘイトスピーチ検出における性能を測定する。 我々の分析では、すべてのサービスが暗黙のヘイトスピーチを検出するのに苦労していることがわかりました。 女性のような一部のグループに対する偏見はほとんど修正されたものの、LGBTQ+やPoCのような他のグループに対する偏見は残されている。
  論文  参考訳（メタデータ） (2024-06-20T09:52:10Z)
• Diverse, but Divisive: LLMs Can Exaggerate Gender Differences in Opinion Related to Harms of Misinformation [8.066880413153187]
  本稿では,多言語モデル(LLM)が誤報の被害を評価する際に,様々なグループの視点を反映できるかどうかを検討する。 TopicMisinfoデータセットには,さまざまなトピックから160件のファクトチェックされたクレームが含まれている。 GPT 3.5-Turboは、経験的に観察された意見の男女差を反映するが、これらの差の程度を増幅する。
  論文  参考訳（メタデータ） (2024-01-29T20:50:28Z)
• Human vs. LMMs: Exploring the Discrepancy in Emoji Interpretation and Usage in Digital Communication [68.40865217231695]
  本研究は,ヒト型絵文字の複製におけるGPT-4Vの挙動について検討した。 この結果は、人間の解釈の主観的な性質から、人間とGPT-4Vの行動に明確な相違があることを示唆している。
  論文  参考訳（メタデータ） (2024-01-16T08:56:52Z)
• GPT-4V(ision) as A Social Media Analysis Engine [77.23394183063238]
  本稿では,GPT-4Vのソーシャルマルチメディア分析能力について考察する。 我々は、感情分析、ヘイトスピーチ検出、フェイクニュース識別、人口推定、政治的イデオロギー検出を含む5つの代表的なタスクを選択する。 GPT-4Vはこれらのタスクにおいて顕著な効果を示し、画像とテキストのペアの理解、文脈と文化の認識、広義のコモンセンス知識などの強みを示している。
  論文  参考訳（メタデータ） (2023-11-13T18:36:50Z)
• DEMASQ: Unmasking the ChatGPT Wordsmith [63.8746084667206]
  そこで本研究では,ChatGPT生成内容を正確に識別する効果的なChatGPT検出器DEMASQを提案する。 提案手法は, 人為的, 機械的, 人為的, 人為的, 機械的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人為的, 人
  論文  参考訳（メタデータ） (2023-11-08T21:13:05Z)
• Towards Harmful Erotic Content Detection through Coreference-Driven Contextual Analysis [0.0]
  本稿では,エロティックコンテンツ中の有害な文脈的手がかりを特定するための,ニューラルネットワークとルールベースのコンテキスト認識システムを提案する。 ポーランド語テキストでテストした本モデルでは,84%の有望な精度と80%のリコールが得られた。
  論文  参考訳（メタデータ） (2023-10-22T15:19:04Z)
• NormSAGE: Multi-Lingual Multi-Cultural Norm Discovery from Conversations On-the-Fly [61.77957329364812]
  本稿では,対話型多言語・多文化規範発見の新たな課題に対処する枠組みを提案する。 NormSAGEはノルム発見タスクと会話コンテキストを表す有向質問を通じてノルムに関する知識を導き出す。 さらに、発見される規範が正しいことを保証する自己検証メカニズムにより、言語モデル幻覚のリスクに対処する。
  論文  参考訳（メタデータ） (2022-10-16T18:30:05Z)
• TIB-VA at SemEval-2022 Task 5: A Multimodal Architecture for the Detection and Classification of Misogynous Memes [9.66022279280394]
  本稿では,テキストと視覚的特徴を組み合わせたマルチモーダルアーキテクチャを提案する。 課題は、ある文書が偽造であるかどうかを分類することである。
  論文  参考訳（メタデータ） (2022-04-13T11:03:21Z)
• Gender bias in magazines oriented to men and women: a computational approach [58.720142291102135]
  女性指向の雑誌の内容と男性指向の雑誌の内容を比較する。 トピック・モデリングの手法により、雑誌で議論されている主要なテーマを特定し、これらのトピックの存在が時間とともに雑誌間でどの程度異なるかを定量化する。 以上の結果から,セクシュアオブジェクトとしての家族,ビジネス,女性の出現頻度は,時間とともに消失する傾向にあることが示唆された。
  論文  参考訳（メタデータ） (2020-11-24T14:02:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。