論文の概要: Smiling Women Pitching Down: Auditing Representational and Presentational Gender Biases in Image Generative AI

• arxiv url: http://arxiv.org/abs/2305.10566v1
• Date: Wed, 17 May 2023 20:59:10 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-19 17:57:20.745073
• Title: Smiling Women Pitching Down: Auditing Representational and Presentational Gender Biases in Image Generative AI
• Title（参考訳）: 女性を魅了する:画像生成AIにおける表現的およびプレゼンテーション的ジェンダーバイアスの監査
• Authors: Luhang Sun, Mian Wei, Yibing Sun, Yoo Ji Suh, Liwei Shen, Sijia Yang
• Abstract要約: 153職種にまたがる15,300 DALL-E 2画像における2つの職業性バイアスの頻度について検討した。 DALL-E 2は、女性支配領域において女性を過剰に表現し、女性支配領域において女性を過剰に表現する。 本研究は,DALL-E 2における表現バイアスと提示バイアスを,Google Imagesと比較して明らかにした。
• 参考スコア（独自算出の注目度）: 0.6990493129893111
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Generative AI models like DALL-E 2 can interpret textual prompts and generate high-quality images exhibiting human creativity. Though public enthusiasm is booming, systematic auditing of potential gender biases in AI-generated images remains scarce. We addressed this gap by examining the prevalence of two occupational gender biases (representational and presentational biases) in 15,300 DALL-E 2 images spanning 153 occupations, and assessed potential bias amplification by benchmarking against 2021 census labor statistics and Google Images. Our findings reveal that DALL-E 2 underrepresents women in male-dominated fields while overrepresenting them in female-dominated occupations. Additionally, DALL-E 2 images tend to depict more women than men with smiling faces and downward-pitching heads, particularly in female-dominated (vs. male-dominated) occupations. Our computational algorithm auditing study demonstrates more pronounced representational and presentational biases in DALL-E 2 compared to Google Images and calls for feminist interventions to prevent such bias-laden AI-generated images to feedback into the media ecology.
• Abstract（参考訳）: DALL-E 2のような生成AIモデルは、テキストプロンプトを解釈し、人間の創造性を示す高品質な画像を生成することができる。 大衆の熱意は高まっているが、aiが生成する画像における潜在的なジェンダーバイアスの体系的な監査はまだ少ない。 我々は153職種にまたがる15,300 DALL-E 2画像における2つの職業性バイアス(表現バイアスとプレゼンテーションバイアス)の頻度を調べ、2021年国勢調査の労働統計とGoogle Imagesに対するベンチマークにより潜在的なバイアス増幅を評価した。 以上の結果から,dall-e 2は男性優位の領域では女性を過小評価し,女性優位の職業では女性を過小評価していることが明らかとなった。 さらに、dall-e 2像は、特に女性優位(vs.男性優位)の職業において、笑顔と下向きの頭部を持つ男性よりも女性が多い。 我々の計算アルゴリズム監査研究は、Google Imagesと比較して、DALL-E 2の表現バイアスとプレゼンテーションバイアスが顕著であることを示し、偏見に富んだAI生成画像からメディアエコロジーへのフィードバックを避けるためにフェミニストの介入を求める。

関連論文リスト

• Revealing and Reducing Gender Biases in Vision and Language Assistants (VLAs) [82.57490175399693]
  画像・テキスト・ビジョン言語アシスタント(VLA)22種における性別バイアスの検討 以上の結果から,VLAは実世界の作業不均衡など,データ中の人間のバイアスを再現する可能性が示唆された。 これらのモデルにおける性別バイアスを排除するため、微調整に基づくデバイアス法は、下流タスクにおけるデバイアスとパフォーマンスの最良のトレードオフを実現する。
  論文  参考訳（メタデータ） (2024-10-25T05:59:44Z)
• She Works, He Works: A Curious Exploration of Gender Bias in AI-Generated Imagery [0.0]
  本稿では, 建設作業員のAI画像における性別バイアスについて検討し, 男女の描写における相違点を明らかにする。 この分析は、グリセルダ・ポロックの視覚文化とジェンダーの理論に基づいており、AIモデルは女性の人物をより権威的で有能な人物として描写しながらセクシュアライズする傾向があることを示している。
  論文  参考訳（メタデータ） (2024-07-26T05:56:18Z)
• GenderBias-\emph{VL}: Benchmarking Gender Bias in Vision Language Models via Counterfactual Probing [72.0343083866144]
  本稿では,GenderBias-emphVLベンチマークを用いて,大規模視覚言語モデルにおける職業関連性バイアスの評価を行う。 ベンチマークを用いて15のオープンソースLVLMと最先端の商用APIを広範囲に評価した。 既存のLVLMでは男女差が広くみられた。
  論文  参考訳（メタデータ） (2024-06-30T05:55:15Z)
• Bias in Generative AI [2.5830293457323266]
  本研究では、AIジェネレータの潜在的なバイアスを調べるために、3つの一般的な生成人工知能(AI)ツールによって生成された画像を分析した。 3つのAIジェネレータはすべて、女性とアフリカ系アメリカ人に対する偏見を示しました。 女性はより笑顔と幸福で若く描かれ、男性はより中立な表情と怒りで年上のように描かれていた。
  論文  参考訳（メタデータ） (2024-03-05T07:34:41Z)
• The Male CEO and the Female Assistant: Evaluation and Mitigation of Gender Biases in Text-To-Image Generation of Dual Subjects [58.27353205269664]
  本稿では,Paired Stereotype Test (PST) フレームワークを提案する。 PSTクエリT2Iモデルは、男性ステレオタイプと女性ステレオタイプに割り当てられた2つの個人を描写する。 PSTを用いて、ジェンダーバイアスの2つの側面、つまり、ジェンダーの職業におけるよく知られたバイアスと、組織力におけるバイアスという新しい側面を評価する。
  論文  参考訳（メタデータ） (2024-02-16T21:32:27Z)
• Stable Diffusion Exposed: Gender Bias from Prompt to Image [25.702257177921048]
  本稿では,安定拡散画像における生成過程の各ステップにおける性別指標の影響を解析する評価プロトコルを提案する。 以上の結果から,特定の性別に合わせて調整された楽器や,全体のレイアウトの変化など,物体の描写の違いの存在が示唆された。
  論文  参考訳（メタデータ） (2023-12-05T10:12:59Z)
• VisoGender: A dataset for benchmarking gender bias in image-text pronoun resolution [80.57383975987676]
  VisoGenderは、視覚言語モデルで性別バイアスをベンチマークするための新しいデータセットである。 We focus to occupation-related biases in a hegemonic system of binary gender, inspired by Winograd and Winogender schemas。 我々は、最先端の視覚言語モデルをいくつかベンチマークし、それらが複雑な場面における二項性解消のバイアスを示すことを発見した。
  論文  参考訳（メタデータ） (2023-06-21T17:59:51Z)
• Auditing Gender Presentation Differences in Text-to-Image Models [54.16959473093973]
  我々は、テキスト・ツー・イメージ・モデルにおいて、ジェンダーがどのように異なる形で提示されるかを研究する。 入力テキスト中の性指標を探索することにより、プレゼンテーション中心属性の周波数差を定量化する。 このような違いを推定する自動手法を提案する。
  論文  参考訳（メタデータ） (2023-02-07T18:52:22Z)
• Towards Understanding Gender-Seniority Compound Bias in Natural Language Generation [64.65911758042914]
  本研究では,事前学習したニューラルジェネレーションモデルにおける性別バイアスの程度に,高齢者がどのような影響を及ぼすかを検討する。 以上の結果から, GPT-2は, 両領域において, 女性を中年, 男性を中年として考えることにより, 偏見を増幅することが示された。 以上の結果から, GPT-2を用いて構築したNLPアプリケーションは, プロの能力において女性に害を与える可能性が示唆された。
  論文  参考訳（メタデータ） (2022-05-19T20:05:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。