論文の概要: Using complex prompts to identify fine-grained biases in image generation through ChatGPT-4o

• arxiv url: http://arxiv.org/abs/2504.00388v1
• Date: Tue, 01 Apr 2025 03:17:35 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-03 13:25:26.368063
• Title: Using complex prompts to identify fine-grained biases in image generation through ChatGPT-4o
• Title（参考訳）: ChatGPT-4oを用いた複雑なプロンプトを用いた画像生成におけるきめ細かいバイアスの同定
• Authors: Marinus Ferreira,
• Abstract要約: バイアスの2つの次元は、大きなAIモデルの研究を通して明らかにすることができる。 トレーニングデータやAIの製品に偏りがあるだけでなく、社会にも偏りがある。 画像生成AIに複雑なプロンプトを使ってバイアスのどちらの次元を調査できるかを簡単に議論する。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: There are not one but two dimensions of bias that can be revealed through the study of large AI models: not only bias in training data or the products of an AI, but also bias in society, such as disparity in employment or health outcomes between different demographic groups. Often training data and AI output is biased for or against certain demographics (i.e. older white people are overrepresented in image datasets), but sometimes large AI models accurately illustrate biases in the real world (i.e. young black men being disproportionately viewed as threatening). These social disparities often appear in image generation AI outputs in the form of 'marked' features, where some feature of an individual or setting is a social marker of disparity, and prompts both humans and AI systems to treat subjects that are marked in this way as exceptional and requiring special treatment. Generative AI has proven to be very sensitive to such marked features, to the extent of over-emphasising them and thus often exacerbating social biases. I briefly discuss how we can use complex prompts to image generation AI to investigate either dimension of bias, emphasising how we can probe the large language models underlying image generation AI through, for example, automated sentiment analysis of the text prompts used to generate images.
• Abstract（参考訳）: トレーニングデータやAIのプロダクトのバイアスだけでなく、雇用の格差や異なる人口集団間の健康結果といった社会のバイアスも、大きなAIモデルの研究を通じて明らかにできるバイアスの次元は1つではなく2つある。 トレーニングデータとAIのアウトプットは、特定の人口層(すなわち、高齢者の白人が画像データセットで過剰に表現されている)に対してバイアスを受けることが多いが、大きなAIモデルは、現実の世界のバイアス(すなわち、若い黒人男性が不当に脅威と見なされる)を正確に表すことがある。 これらの社会的格差は、画像生成AIの出力に「マークされた」特徴の形で現れることが多く、個人や設定のいくつかの特徴が格差の社会的マーカーであり、人間とAIシステムの両方に、このような特徴を持つ対象を特別な治療として扱うように促す。 生成的AIはそのような特徴に非常に敏感で、過度に強調し、社会的偏見を悪化させることがしばしばある。 画像生成AIにおける複雑なプロンプトを用いて、偏見の次元を調査し、例えば画像生成に使用するテキストプロンプトの自動感情分析を通じて、画像生成AIの基盤となる大きな言語モデルを探索する方法を強調した。

関連論文リスト

• Human Bias in the Face of AI: The Role of Human Judgement in AI Generated Text Evaluation [48.70176791365903]
  本研究では、偏見がAIと人為的コンテンツの知覚をどう形成するかを考察する。 ラベル付きおよびラベルなしコンテンツに対するヒトのラッカーの反応について検討した。
  論文  参考訳（メタデータ） (2024-09-29T04:31:45Z)
• Disability Representations: Finding Biases in Automatic Image Generation [0.0]
  本研究では、人気の画像生成モデルにおける障害者に対する表現バイアスについて検討する。 その結果、ほとんどの画像は、障害者を年老いて悲しく、主に手動車椅子で描いているという大きな偏見が示された。 これらの発見は、より包括的なAI開発の必要性を強調し、生成された画像におけるPWDの多様性と正確な表現を保証する。
  論文  参考訳（メタデータ） (2024-06-21T09:12:31Z)
• Bias in Generative AI [2.5830293457323266]
  本研究では、AIジェネレータの潜在的なバイアスを調べるために、3つの一般的な生成人工知能(AI)ツールによって生成された画像を分析した。 3つのAIジェネレータはすべて、女性とアフリカ系アメリカ人に対する偏見を示しました。 女性はより笑顔と幸福で若く描かれ、男性はより中立な表情と怒りで年上のように描かれていた。
  論文  参考訳（メタデータ） (2024-03-05T07:34:41Z)
• Invisible Relevance Bias: Text-Image Retrieval Models Prefer AI-Generated Images [67.18010640829682]
  我々は,AI生成画像がテキスト画像検索モデルに目に見えない関連性バイアスをもたらすことを示す。 検索モデルのトレーニングデータにAI生成画像を含めると、目に見えない関連性バイアスが増す。 本研究では,目に見えない関連バイアスを軽減するための効果的なトレーニング手法を提案する。
  論文  参考訳（メタデータ） (2023-11-23T16:22:58Z)
• Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
  AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。 偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。 問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2023-04-16T11:22:59Z)
• Fairness And Bias in Artificial Intelligence: A Brief Survey of Sources, Impacts, And Mitigation Strategies [11.323961700172175]
  この調査論文は、AIの公平性とバイアスに関する簡潔で包括的な概要を提供する。 我々は、データ、アルゴリズム、人間の決定バイアスなどのバイアス源をレビューする。 偏りのあるAIシステムの社会的影響を評価し,不平等の持続性と有害なステレオタイプの強化に着目した。
  論文  参考訳（メタデータ） (2023-04-16T03:23:55Z)
• Social Biases through the Text-to-Image Generation Lens [9.137275391251517]
  テキスト・トゥ・イメージ(T2I)生成は、プロダクティビティソフトウェアのクリエーター、デザイナ、一般ユーザをサポートする新しいアプリケーションを可能にする。 生成した画像に反映された一般的な社会的偏見の研究と定量化に多次元的アプローチを採用する。 DALLE-v2とStable Diffusionの2つのT2Iモデルについて検討した。
  論文  参考訳（メタデータ） (2023-03-30T05:29:13Z)
• Stable Bias: Analyzing Societal Representations in Diffusion Models [72.27121528451528]
  本稿では,テキスト・ツー・イメージ(TTI)システムにおける社会的バイアスを探索する新しい手法を提案する。 我々のアプローチは、プロンプト内の性別や民族のマーカーを列挙して生成された画像の変動を特徴づけることに依存している。 我々はこの手法を利用して3つのTTIシステムによって生成された画像を分析し、そのアウトプットが米国の労働人口層と相関しているのに対して、彼らは常に異なる範囲において、限界化されたアイデンティティを低く表現している。
  論文  参考訳（メタデータ） (2023-03-20T19:32:49Z)
• Easily Accessible Text-to-Image Generation Amplifies Demographic Stereotypes at Large Scale [61.555788332182395]
  危険で複雑なステレオタイプを増幅する機械学習モデルの可能性を検討する。 さまざまな通常のプロンプトがステレオタイプを生成しており、それらは単に特性、記述子、職業、オブジェクトに言及するプロンプトを含む。
  論文  参考訳（メタデータ） (2022-11-07T18:31:07Z)
• How well can Text-to-Image Generative Models understand Ethical Natural Language Interventions? [67.97752431429865]
  倫理的介入を加える際の画像の多様性への影響について検討した。 予備研究は、モデル予測の大きな変化が「性別の無視」のような特定のフレーズによって引き起こされることを示している。
  論文  参考訳（メタデータ） (2022-10-27T07:32:39Z)
• Image Representations Learned With Unsupervised Pre-Training Contain Human-like Biases [3.0349733976070015]
  本研究では,社会概念の表現とイメージの属性の相関関係を定量化する手法を開発した。 一般的なベンチマーク画像データセットであるImageNetでトレーニングされた最先端の教師なしモデルは、人種、性別、交差点バイアスを自動的に学習する。
  論文  参考訳（メタデータ） (2020-10-28T15:55:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。