論文の概要: Stable Diffusion Exposed: Gender Bias from Prompt to Image
- arxiv url: http://arxiv.org/abs/2312.03027v1
- Date: Tue, 5 Dec 2023 10:12:59 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-07 17:27:54.144410
- Title: Stable Diffusion Exposed: Gender Bias from Prompt to Image
- Title(参考訳): 安定拡散が露呈:プロンプトからイメージへのジェンダーバイアス
- Authors: Yankun Wu, Yuta Nakashima, Noa Garcia
- Abstract要約: 本稿では,性別指標が安定拡散画像に与える影響を分析するための評価プロトコルを提案する。
本研究の結果は,特定の性別に合わせて調整された楽器など,物体の描写に違いがあることが示唆された。
また、中性的なプロンプトは、女性よりも男性的なプロンプトと整合したイメージを生成する傾向があることも明らかにした。
- 参考スコア(独自算出の注目度): 28.88676131961107
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent studies have highlighted biases in generative models, shedding light
on their predisposition towards gender-based stereotypes and imbalances. This
paper contributes to this growing body of research by introducing an evaluation
protocol designed to automatically analyze the impact of gender indicators on
Stable Diffusion images. Leveraging insights from prior work, we explore how
gender indicators not only affect gender presentation but also the
representation of objects and layouts within the generated images. Our findings
include the existence of differences in the depiction of objects, such as
instruments tailored for specific genders, and shifts in overall layouts. We
also reveal that neutral prompts tend to produce images more aligned with
masculine prompts than their feminine counterparts, providing valuable insights
into the nuanced gender biases inherent in Stable Diffusion.
- Abstract(参考訳): 近年の研究では、生成モデルにおけるバイアスが強調され、性別に基づくステレオタイプや不均衡に対する偏見に光を当てている。
本稿では, 安定拡散画像に対する性別指標の影響を自動的に解析する評価プロトコルを導入することで, 本研究の進展に寄与する。
先行研究から得た知見を活かし、性別指標が性別表現だけでなく、生成された画像内のオブジェクトやレイアウトの表現にどのように影響するかを考察する。
本研究の成果は,特定の性別に合わせて調整された楽器や,全体のレイアウトの変化など,物体の描写の違いの存在である。
また,中性プロンプトは,女性プロンプトよりも男性プロンプトに近い画像を生成する傾向にあり,安定拡散に内在するニュアンス性バイアスに対する貴重な洞察を与える。
関連論文リスト
- The Male CEO and the Female Assistant: Probing Gender Biases in
Text-To-Image Models Through Paired Stereotype Test [68.84245853250906]
DALLE-3のような最近の大規模テキスト・ツー・イメージ(T2I)モデルは、新しいアプリケーションにおいて大きな可能性を秘めているが、前例のない公平さの課題に直面している。
本稿では,Paired Stereotype Test (PST) のバイアス評価フレームワークを提案する。
以上の結果から,現代T2Iモデルにおける男女差の複雑なパターンが明らかとなり,マルチモーダル生成システムにおける批判的公平性の課題が浮き彫りになった。
論文 参考訳(メタデータ) (2024-02-16T21:32:27Z) - Analysing Gender Bias in Text-to-Image Models using Object Detection [0.0]
性別を特定し、曖昧にオブジェクトを参照するペアプロンプトを使用することで、特定のオブジェクトが特定の性別と関連付けられているかどうかを調べることができる。
男性はネクタイ、ナイフ、トラック、野球のバット、自転車などの生成物をより頻繁に促す。
女性のプロンプトは、ハンドバッグ、傘、ボウル、ボトル、カップなどのオブジェクトを生成する傾向があった。
論文 参考訳(メタデータ) (2023-07-16T12:31:29Z) - VisoGender: A dataset for benchmarking gender bias in image-text pronoun
resolution [80.57383975987676]
VisoGenderは、視覚言語モデルで性別バイアスをベンチマークするための新しいデータセットである。
We focus to occupation-related biases in a hegemonic system of binary gender, inspired by Winograd and Winogender schemas。
我々は、最先端の視覚言語モデルをいくつかベンチマークし、それらが複雑な場面における二項性解消のバイアスを示すことを発見した。
論文 参考訳(メタデータ) (2023-06-21T17:59:51Z) - Gender Bias in Transformer Models: A comprehensive survey [1.1011268090482573]
人工知能(AI)におけるジェンダーバイアスは、個人の生活に深く影響する懸念として浮上している。
本稿では,トランスフォーマーモデルにおけるジェンダーバイアスを言語学的観点から調査する。
論文 参考訳(メタデータ) (2023-06-18T11:40:47Z) - Auditing Gender Presentation Differences in Text-to-Image Models [54.16959473093973]
我々は、テキスト・ツー・イメージ・モデルにおいて、ジェンダーがどのように異なる形で提示されるかを研究する。
入力テキスト中の性指標を探索することにより、プレゼンテーション中心属性の周波数差を定量化する。
このような違いを推定する自動手法を提案する。
論文 参考訳(メタデータ) (2023-02-07T18:52:22Z) - Gender Stereotyping Impact in Facial Expression Recognition [1.5340540198612824]
近年,機械学習に基づくモデルが表情認識(FER)における最も一般的なアプローチとなっている。
公開可能なFERデータセットでは、見かけ上の性別表現は概ねバランスが取れているが、個々のラベルでの性別表現はそうではない。
我々は、特定のラベルの性別比を変化させることで、異なる量のステレオタイプバイアスを持つ微分データセットを生成する。
我々は、最低バイアス条件下で、性別間の特定の感情の認識において、最大で29 % の差を観察する。
論文 参考訳(メタデータ) (2022-10-11T10:52:23Z) - Gender Artifacts in Visual Datasets [34.74191865400569]
大規模なビジュアルデータセット内には、$textitgender アーティファクト$が何であるかを調査する。
性別のアーティファクトは、COCOとOpenImagesのデータセットでユビキタスであることが分かりました。
このようなデータセットから性別のアーティファクトを取り除こうとする試みは、ほぼ不可能である、と我々は主張する。
論文 参考訳(メタデータ) (2022-06-18T12:09:19Z) - Mitigating Gender Bias in Captioning Systems [56.25457065032423]
ほとんどのキャプションモデルは性別バイアスを学習し、特に女性にとって高い性別予測エラーにつながる。
本稿では, 視覚的注意を自己指導し, 正しい性的な視覚的証拠を捉えるためのガイド付き注意画像キャプチャーモデル(GAIC)を提案する。
論文 参考訳(メタデータ) (2020-06-15T12:16:19Z) - Towards Gender-Neutral Face Descriptors for Mitigating Bias in Face
Recognition [51.856693288834975]
最先端のディープネットワークは、顔認識のために訓練されている間、性別情報を暗黙的にエンコードする。
ジェンダーは顔を識別する上で重要な属性と見なされることが多い。
本稿では,顔ディスクリプタに存在する性別情報を減らすために,新たにAGENDA(Adversarial Gender De-biasing Algorithm)を提案する。
論文 参考訳(メタデータ) (2020-06-14T08:54:03Z) - Multi-Dimensional Gender Bias Classification [67.65551687580552]
機械学習モデルは、性別に偏ったテキストでトレーニングする際に、社会的に望ましくないパターンを不注意に学習することができる。
本稿では,テキスト中の性バイアスを複数の実用的・意味的な次元に沿って分解する一般的な枠組みを提案する。
このきめ細かいフレームワークを用いて、8つの大規模データセットにジェンダー情報を自動的にアノテートする。
論文 参考訳(メタデータ) (2020-05-01T21:23:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。