論文の概要: OASIS Uncovers: High-Quality T2I Models, Same Old Stereotypes

• arxiv url: http://arxiv.org/abs/2501.00962v1
• Date: Wed, 01 Jan 2025 21:47:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-05 17:17:48.218030
• Title: OASIS Uncovers: High-Quality T2I Models, Same Old Stereotypes
• Title（参考訳）: OASIS、高品質なT2Iモデルを発表
• Authors: Sepehr Dehdashtian, Gautam Sreekumar, Vishnu Naresh Boddeti,
• Abstract要約: テキスト・トゥ・イメージ(T2I)モデルによって生成された画像は、しばしば文化や職業といった概念の視覚的バイアスやステレオタイプを示す。 本稿では,その社会学的定義に沿ったステレオタイプを定量的に測定する。 OASISには、生成された画像データセットからステレオタイプを測定するための2つのスコアが含まれている。
• 参考スコア（独自算出の注目度）: 12.89895306269771
• License:
• Abstract: Images generated by text-to-image (T2I) models often exhibit visual biases and stereotypes of concepts such as culture and profession. Existing quantitative measures of stereotypes are based on statistical parity that does not align with the sociological definition of stereotypes and, therefore, incorrectly categorizes biases as stereotypes. Instead of oversimplifying stereotypes as biases, we propose a quantitative measure of stereotypes that aligns with its sociological definition. We then propose OASIS to measure the stereotypes in a generated dataset and understand their origins within the T2I model. OASIS includes two scores to measure stereotypes from a generated image dataset: (M1) Stereotype Score to measure the distributional violation of stereotypical attributes, and (M2) WALS to measure spectral variance in the images along a stereotypical attribute. OASIS also includes two methods to understand the origins of stereotypes in T2I models: (U1) StOP to discover attributes that the T2I model internally associates with a given concept, and (U2) SPI to quantify the emergence of stereotypical attributes in the latent space of the T2I model during image generation. Despite the considerable progress in image fidelity, using OASIS, we conclude that newer T2I models such as FLUX.1 and SDv3 contain strong stereotypical predispositions about concepts and still generate images with widespread stereotypical attributes. Additionally, the quantity of stereotypes worsens for nationalities with lower Internet footprints.
• Abstract（参考訳）: テキスト・トゥ・イメージ(T2I)モデルによって生成された画像は、しばしば文化や職業といった概念の視覚的バイアスやステレオタイプを示す。 既存のステレオタイプの定量的尺度は、ステレオタイプの社会学的定義と一致しない統計パリティに基づいており、従ってバイアスをステレオタイプとして誤って分類する。 バイアスとしてのステレオタイプを過度に単純化するのではなく、その社会学的定義と整合したステレオタイプを定量的に測定する。 次に、生成されたデータセットのステレオタイプを測定し、その起源をT2Iモデル内で理解するためにOASISを提案する。 OASISは、生成された画像データセットからステレオタイプを測定するための2つのスコアを含む: (M1)ステレオタイプスコア、(M2)ステレオタイプ属性の分布違反を測定するためのステレオタイプスコア、(M2)ステレオタイプ属性に沿った画像のスペクトル分散を測定するためのWALS。 OASISはまた、T2Iモデルにおけるステレオタイプの起源を理解するための2つの方法を含む: (U1) StOP to find attributes that the T2I model internal associated with a concept, and (U2) SPI to Quantify the presence of stereotypeal attribute in the latent space of the T2I model during image generation。 OASISを用いて画像の忠実度が著しく向上したにもかかわらず、FLUX.1やSDv3のような新しいT2Iモデルには、概念に関する強いステレオタイプ前処理が含まれ、なおも広範なステレオタイプ特性を持つ画像を生成すると結論付けている。 さらに、インターネットのフットプリントが低い国ではステレオタイプが悪化する。

関連論文リスト

• GRADE: Quantifying Sample Diversity in Text-to-Image Models [66.12068246962762]
  本稿では,サンプルの多様性を定量化する手法であるGRADE: Granular Attribute Diversity Evaluationを提案する。 400のコンセプト属性ペアを用いて12のT2Iモデルの全体的な多様性を測定し、すべてのモデルが限定的な変動を示すことを示した。 我々の研究は、サンプルの多様性を測定するための現代的で意味論的に駆動されたアプローチを提案し、T2Iモデルによる出力の驚くべき均一性を強調している。
  論文  参考訳（メタデータ） (2024-10-29T23:10:28Z)
• Who is better at math, Jenny or Jingzhen? Uncovering Stereotypes in Large Language Models [9.734705470760511]
  我々はGlobalBiasを使って世界中の幅広いステレオタイプを研究しています。 与えられた名前に基づいて文字プロファイルを生成し、モデル出力におけるステレオタイプの有効性を評価する。
  論文  参考訳（メタデータ） (2024-07-09T14:52:52Z)
• Stereotype Detection in LLMs: A Multiclass, Explainable, and Benchmark-Driven Approach [4.908389661988191]
  本稿では, 性別, 人種, 職業, 宗教, その他のステレオタイプにまたがる51,867の事例からなるMulti-Grain Stereotype (MGS)データセットを提案する。 我々は、さまざまな機械学習アプローチを評価し、異なるアーキテクチャと大きさのベースラインと微調整言語モデルを確立する。 我々は、モデルが学習したパターンがステレオタイプに関する人間の直観と一致するかどうかを評価するために、SHAP、LIME、BertVizを含む説明可能なAI(XAI)ツールを採用する。
  論文  参考訳（メタデータ） (2024-04-02T09:31:32Z)
• The Male CEO and the Female Assistant: Evaluation and Mitigation of Gender Biases in Text-To-Image Generation of Dual Subjects [58.27353205269664]
  本稿では,Paired Stereotype Test (PST) フレームワークを提案する。 PSTクエリT2Iモデルは、男性ステレオタイプと女性ステレオタイプに割り当てられた2つの個人を描写する。 PSTを用いて、ジェンダーバイアスの2つの側面、つまり、ジェンダーの職業におけるよく知られたバイアスと、組織力におけるバイアスという新しい側面を評価する。
  論文  参考訳（メタデータ） (2024-02-16T21:32:27Z)
• ViSAGe: A Global-Scale Analysis of Visual Stereotypes in Text-to-Image Generation [24.862839173648467]
  我々は、T2Iモデルにおける国籍に基づくステレオタイプの評価を可能にするために、ViSAGeデータセットを導入する。 また, 他の属性と比較して, ViSAGe のステレオタイプ属性は, 対応するアイデンティティの生成画像中に存在する可能性が示唆された。
  論文  参考訳（メタデータ） (2024-01-12T00:43:57Z)
• Quantifying Bias in Text-to-Image Generative Models [49.60774626839712]
  テキスト・トゥ・イメージ(T2I)モデルにおけるバイアスは不公平な社会的表現を伝播させ、アイデアを積極的にマーケティングしたり、議論の的となっている議題を推進したりするのに用いられる。 既存のT2Iモデルバイアス評価手法は、社会的バイアスのみに焦点を当てる。 本稿では,T2I生成モデルにおける一般バイアスの定量化手法を提案する。
  論文  参考訳（メタデータ） (2023-12-20T14:26:54Z)
• Stable Bias: Analyzing Societal Representations in Diffusion Models [72.27121528451528]
  本稿では,テキスト・ツー・イメージ(TTI)システムにおける社会的バイアスを探索する新しい手法を提案する。 我々のアプローチは、プロンプト内の性別や民族のマーカーを列挙して生成された画像の変動を特徴づけることに依存している。 我々はこの手法を利用して3つのTTIシステムによって生成された画像を分析し、そのアウトプットが米国の労働人口層と相関しているのに対して、彼らは常に異なる範囲において、限界化されたアイデンティティを低く表現している。
  論文  参考訳（メタデータ） (2023-03-20T19:32:49Z)
• Easily Accessible Text-to-Image Generation Amplifies Demographic Stereotypes at Large Scale [61.555788332182395]
  危険で複雑なステレオタイプを増幅する機械学習モデルの可能性を検討する。 さまざまな通常のプロンプトがステレオタイプを生成しており、それらは単に特性、記述子、職業、オブジェクトに言及するプロンプトを含む。
  論文  参考訳（メタデータ） (2022-11-07T18:31:07Z)
• Understanding and Countering Stereotypes: A Computational Approach to the Stereotype Content Model [4.916009028580767]
  ステレオタイプコンテンツモデル(SCM)を用いてテキスト中のステレオタイプを解釈する計算手法を提案する。 SCMは、ステレオタイプは温かさと能力の2つの主要な次元に沿って理解することができると提案している。 反ステレオタイプ的な例によるステレオタイプに対抗することは、偏見的思考を減らす最も効果的な方法の1つであることが知られている。
  論文  参考訳（メタデータ） (2021-06-04T16:53:37Z)
• UnQovering Stereotyping Biases via Underspecified Questions [68.81749777034409]
  未特定質問からバイアスを探索・定量化するためのフレームワークUNQOVERを提案する。 モデルスコアの素直な使用は,2種類の推論誤差による誤ったバイアス推定につながる可能性があることを示す。 我々はこの指標を用いて、性別、国籍、民族、宗教の4つの重要なステレオタイプの分析を行う。
  論文  参考訳（メタデータ） (2020-10-06T01:49:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。