論文の概要: Easily Accessible Text-to-Image Generation Amplifies Demographic
Stereotypes at Large Scale
- arxiv url: http://arxiv.org/abs/2211.03759v1
- Date: Mon, 7 Nov 2022 18:31:07 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-08 15:24:17.225998
- Title: Easily Accessible Text-to-Image Generation Amplifies Demographic
Stereotypes at Large Scale
- Title(参考訳): 簡単にアクセスできるテキスト・画像生成は大規模な画像ステレオタイプを増幅する
- Authors: Federico Bianchi, Pratyusha Kalluri, Esin Durmus, Faisal Ladhak, Myra
Cheng, Debora Nozza, Tatsunori Hashimoto, Dan Jurafsky, James Zou, Aylin
Caliskan
- Abstract要約: 機械学習モデルは、ユーザ記述のテキスト記述を自然なイメージに変換することができる。
これらのモデルを調べ、それらが危険で複雑なステレオタイプを増幅することを発見した。
これらの画像生成モデルがステレオタイプを永続的に増幅する程度は、深刻な懸念の原因となる。
- 参考スコア(独自算出の注目度): 61.555788332182395
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Machine learning models are now able to convert user-written text
descriptions into naturalistic images. These models are available to anyone
online and are being used to generate millions of images a day. We investigate
these models and find that they amplify dangerous and complex stereotypes.
Moreover, we find that the amplified stereotypes are difficult to predict and
not easily mitigated by users or model owners. The extent to which these
image-generation models perpetuate and amplify stereotypes and their mass
deployment is cause for serious concern.
- Abstract(参考訳): 機械学習モデルは、ユーザ記述のテキスト記述を自然なイメージに変換することができる。
これらのモデルはオンラインで誰でも利用でき、毎日何百万もの画像を生成するのに使われている。
これらのモデルを調査し、危険で複雑なステレオタイプを増幅する。
また,増幅ステレオタイプは予測が困難であり,ユーザやモデル所有者が容易に緩和できないことがわかった。
これらの画像生成モデルがステレオタイプとそれらの大量展開を持続し増幅する程度は、深刻な懸念を引き起こす。
関連論文リスト
- Multilingual Text-to-Image Generation Magnifies Gender Stereotypes and
Prompt Engineering May Not Help You [68.50889475919251]
多言語モデルは単言語モデルと同様の(性的な)バイアスに悩まされていることを示す。
ジェンダーバイアスのない多言語モデルの研究を促進するための新しいベンチマークMAGBIGを提案する。
論文 参考訳(メタデータ) (2024-01-29T12:02:28Z) - Language Agents for Detecting Implicit Stereotypes in Text-to-image
Models at Scale [45.64096601242646]
テキスト・ツー・イメージモデルにおけるステレオタイプ検出に適した新しいエージェントアーキテクチャを提案する。
複数のオープンテキストデータセットに基づいたステレオタイプ関連ベンチマークを構築した。
これらのモデルは、個人的特性に関する特定のプロンプトに関して、深刻なステレオタイプを示すことが多い。
論文 参考訳(メタデータ) (2023-10-18T08:16:29Z) - Word-Level Explanations for Analyzing Bias in Text-to-Image Models [72.71184730702086]
Text-to-image(T2I)モデルは、人種や性別に基づいて少数派を過小評価する画像を生成することができる。
本稿では,入力プロンプトのどの単語が生成画像のバイアスの原因となるかを検討する。
論文 参考訳(メタデータ) (2023-06-03T21:39:07Z) - T2IAT: Measuring Valence and Stereotypical Biases in Text-to-Image
Generation [11.109588924016254]
本稿では,概念とイメージ間の暗黙的なステレオタイプを定量化する新しいテキスト・ツー・イメージ・アソシエーション・テスト(T2IAT)フレームワークを提案する。
我々は、前述した生成モデルに対するバイアステストを再現し、花や昆虫に対する道徳的に中立なテストを含む。
これらの実験の結果は、画像生成における複雑なステレオタイプ的挙動の存在を実証している。
論文 参考訳(メタデータ) (2023-06-01T17:02:51Z) - Stereotypes and Smut: The (Mis)representation of Non-cisgender
Identities by Text-to-Image Models [6.92043136971035]
マルチモーダルモデルが男女同一性をどのように扱うかを検討する。
特定の非シスジェンダーのアイデンティティは、人間より少なく、ステレオタイプで、性的にも、一貫して(ミス)表現されている。
これらの改善は、影響のあるコミュニティによって変革が導かれる未来への道を開く可能性がある。
論文 参考訳(メタデータ) (2023-05-26T16:28:49Z) - Social Biases through the Text-to-Image Generation Lens [9.137275391251517]
テキスト・トゥ・イメージ(T2I)生成は、プロダクティビティソフトウェアのクリエーター、デザイナ、一般ユーザをサポートする新しいアプリケーションを可能にする。
生成した画像に反映された一般的な社会的偏見の研究と定量化に多次元的アプローチを採用する。
DALLE-v2とStable Diffusionの2つのT2Iモデルについて検討した。
論文 参考訳(メタデータ) (2023-03-30T05:29:13Z) - A Prompt Array Keeps the Bias Away: Debiasing Vision-Language Models
with Adversarial Learning [55.96577490779591]
視覚言語モデルは社会的バイアスやステレオタイプを符号化することができる。
これらのマルチモーダル害の測定と緩和には課題がある。
バイアス尺度を調査し,画像テキスト表現にランキング指標を適用した。
論文 参考訳(メタデータ) (2022-03-22T17:59:04Z) - Towards Understanding and Mitigating Social Biases in Language Models [107.82654101403264]
大規模事前訓練言語モデル(LM)は、望ましくない表現バイアスを示すのに潜在的に危険である。
テキスト生成における社会的バイアスを軽減するためのステップを提案する。
我々の経験的結果と人的評価は、重要な文脈情報を保持しながらバイアスを緩和する効果を示す。
論文 参考訳(メタデータ) (2021-06-24T17:52:43Z) - Understanding and Countering Stereotypes: A Computational Approach to
the Stereotype Content Model [4.916009028580767]
ステレオタイプコンテンツモデル(SCM)を用いてテキスト中のステレオタイプを解釈する計算手法を提案する。
SCMは、ステレオタイプは温かさと能力の2つの主要な次元に沿って理解することができると提案している。
反ステレオタイプ的な例によるステレオタイプに対抗することは、偏見的思考を減らす最も効果的な方法の1つであることが知られている。
論文 参考訳(メタデータ) (2021-06-04T16:53:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。