論文の概要: BAFIS: Dataset + Framework to assess occupational Bias and Human Preference in modern Text-to-image Models

• arxiv url: http://arxiv.org/abs/2606.20241v1
• Date: Thu, 18 Jun 2026 13:52:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-19 18:23:39.8908
• Title: BAFIS: Dataset + Framework to assess occupational Bias and Human Preference in modern Text-to-image Models
• Title（参考訳）: BAFIS:現代のテキスト・ツー・イメージモデルにおける職業バイアスと人間の嗜好を評価するためのデータセット+フレームワーク
• Abstract要約: 本研究は,テキスト・ツー・イメージ・モデルに存在する固有バイアスと言語によるバイアスについて検討する。 本稿では、性別と民族性バイアス、画像品質、即時アライメントに焦点を当てた5つの現行のテキスト・ツー・イメージモデルについて包括的な評価を行う。 本研究は,テキスト・ツー・イメージ・モデルにおいて,主観的ユーザ・レーティングと部分的相関に確立された評価指標を用いた系統的バイアスを明らかにした。
• 参考スコア（独自算出の注目度）: 0.8538830579425146
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generative artificial intelligence has the potential to improve productivity and transform the production of creative content. However, existing research indicates that image generation models are significantly influenced by biases. This work investigates the inherent biases and language-induced biases present in text-to-image models within the context of occupation-related image generation, complementing established metrics with human preference feedback. We present a comprehensive evaluation of five current text-to-image models: Midjourney v6.1, Stable Diffusion 3 Medium, DALL-E 3, Playground v2.5, and FLUX.1-dev , focusing on gender and ethnicity bias, image quality, and prompt alignment. To facilitate this evaluation, we developed the "Battle-Arena for Fair Image Synthesis" (BAFIS), a platform designed to collect human feedback on bias in generated images. Furthermore, we created a dataset comprising 21,140 synthetic images generated using multilingual prompts, which serves as a basis for our analysis. We further place our results within a broader social context by comparing them to official statistics from the German Federal Employment Agency. Our findings reveal systematic biases in text-to-image models, with established evaluation metrics in partial correlation with subjective user ratings. Thus, our research emphasizes the need for including human preferences to develop fairer and more inclusive text-to-image models.
• Abstract（参考訳）: 創造的な人工知能は、生産性を向上し、創造的なコンテンツの制作を変革する可能性がある。 しかし、既存の研究では、画像生成モデルはバイアスの影響を大きく受けていることが示されている。 本研究では、職業関連画像生成の文脈において、テキスト・ツー・イメージモデルに存在する固有のバイアスと言語によるバイアスについて検討し、確立された指標と人間の嗜好フィードバックを補完する。 そこで本研究では,現在行われている5つのテキスト・ツー・イメージモデル(Midjourney v6.1,Stable Diffusion 3 Medium,DALL-E 3, Playground v2.5,FLUX.1-dev)を総合的に評価し,性別・民族性バイアス,画像品質,即時アライメントに着目した。 この評価を容易にするために,生成された画像のバイアスに対する人間のフィードバックを収集するプラットフォームであるBattle-Arena for Fair Image Synthesis (BAFIS)を開発した。 さらに,多言語プロンプトを用いて生成した21,140個の合成画像からなるデータセットを作成し,解析の基盤となった。 我々は、その結果をドイツ連邦雇用庁の公式統計と比較することによって、より広い社会的文脈に配置する。 本研究は,テキスト・ツー・イメージ・モデルにおいて,主観的ユーザ・レーティングと部分的相関に確立された評価指標を用いた系統的バイアスを明らかにした。 そこで本研究では,より公平で包括的なテキスト・ツー・イメージ・モデルを開発するために,人間の好みを含めることの必要性を強調した。

関連論文リスト

• Exploring Bias in over 100 Text-to-Image Generative Models [49.60774626839712]
  本稿では,Hugging Faceのようなオープンプラットフォームによるモデルの利用率向上に着目し,テキストから画像への生成モデルにおけるバイアスの傾向について検討する。 我々は, (i) 分布バイアス, (ii) 生成幻覚, (iii) 生成ミスレートの3つの主要な次元にまたがるバイアスを評価する。 以上の結果から, 芸術的モデルとスタイル変換モデルに有意なバイアスが生じる一方で, より広範なトレーニング分布の恩恵を受ける基礎モデルでは, 徐々にバイアスが減っていることが示唆された。
  論文  参考訳（メタデータ） (2025-03-11T03:40:44Z)
• KITTEN: A Knowledge-Intensive Evaluation of Image Generation on Visual Entities [93.74881034001312]
  KITTENはKnowledge-InTensiveイメージジェネラティオンのベンチマークである。 我々は最新のテキスト・画像モデルと検索強化モデルについて体系的な研究を行う。 分析によると、高度なテキスト・ツー・イメージモデルでさえ、エンティティの正確な視覚的詳細を生成できない。
  論文  参考訳（メタデータ） (2024-10-15T17:50:37Z)
• Finding the Subjective Truth: Collecting 2 Million Votes for Comprehensive Gen-AI Model Evaluation [0.0]
  筆者らは4,512枚の画像から200万点以上のアノテーションを収集し,スタイル選好,コヒーレンス,テキスト・ツー・イメージアライメントの4つの顕著なモデルを評価した。 提案手法は,膨大なアノテータのプールに基づいて画像生成モデルを包括的にランク付けすることを可能にする。
  論文  参考訳（メタデータ） (2024-09-18T12:02:20Z)
• Gender Bias Evaluation in Text-to-image Generation: A Survey [25.702257177921048]
  テキスト・ツー・イメージ・ジェネレーションにおけるジェンダーバイアス評価に関する最近の研究についてレビューする。 安定拡散やDALL-E 2といった最近の人気モデルの評価に焦点をあてる。
  論文  参考訳（メタデータ） (2024-08-21T06:01:23Z)
• Analyzing Quality, Bias, and Performance in Text-to-Image Generative Models [0.0]
  生成モデルの発展にもかかわらず、ほとんどの研究はバイアスの存在を無視している。 本稿では,人間の顔,グループ,特定対象物の正確な画像を生成する上で,その性能を定性的に評価するだけでなく,社会的バイアス分析を行うことにより,複数のテキスト・画像モデルについて検討する。 期待通り、より大きな能力を持つモデルは、高品質な画像を生成する。しかし、これらのモデルが持つ固有の性別や社会的バイアスも文書化しており、それらの影響と限界をより完全に理解している。
  論文  参考訳（メタデータ） (2024-06-28T14:10:42Z)
• Multimodal Large Language Model is a Human-Aligned Annotator for Text-to-Image Generation [87.50120181861362]
  VisionPreferは高品質できめ細かい選好データセットで、複数の選好面をキャプチャする。 我々は、VisionPrefer上で報酬モデルVP-Scoreをトレーニングし、テキストから画像への生成モデルのトレーニングを指導し、VP-Scoreの嗜好予測精度は人間のアノテーションに匹敵する。
  論文  参考訳（メタデータ） (2024-04-23T14:53:15Z)
• Evaluating Text-to-Image Generative Models: An Empirical Study on Human Image Synthesis [21.619269792415903]
  本稿では,テキスト・ツー・イメージ(T2I)生成モデルのためのニュアンス評価フレームワークを提案する。 まず,美学やリアリズムといったイメージの質に着目し,第2に,概念的カバレッジと公平性を通じてテキスト条件を検証した。
  論文  参考訳（メタデータ） (2024-03-08T07:41:47Z)
• Exploring Social Bias in Downstream Applications of Text-to-Image Foundation Models [72.06006736916821]
  合成画像を用いて、社会的バイアスに対するテキスト・画像モデル、画像編集と分類の2つの応用を探索する。 提案手法を用いて,最先端のオープンソーステキスト・ツー・イメージ・モデルであるtextitStable Diffusion における有意義かつ有意義なセクション間社会的バイアスを明らかにする。 本研究は、下流業務・サービスにおけるテキスト・ツー・イメージ基盤モデルの導入について、未発表の点に注意を払っている。
  論文  参考訳（メタデータ） (2023-12-05T14:36:49Z)
• Aligning Text-to-Image Models using Human Feedback [104.76638092169604]
  現在のテキスト・ツー・イメージモデルは、しばしばテキスト・プロンプトと不適切に一致した画像を生成する。 そこで本研究では,人間のフィードバックを用いて,そのようなモデルを調整するための微調整手法を提案する。 その結果,人間のフィードバックから学び,テキスト・ツー・イメージ・モデルを大幅に改善する可能性が示された。
  論文  参考訳（メタデータ） (2023-02-23T17:34:53Z)
• How well can Text-to-Image Generative Models understand Ethical Natural Language Interventions? [67.97752431429865]
  倫理的介入を加える際の画像の多様性への影響について検討した。 予備研究は、モデル予測の大きな変化が「性別の無視」のような特定のフレーズによって引き起こされることを示している。
  論文  参考訳（メタデータ） (2022-10-27T07:32:39Z)
• DALL-Eval: Probing the Reasoning Skills and Social Biases of Text-to-Image Generation Models [73.12069620086311]
  テキスト・ツー・イメージ・モデルの視覚的推論能力と社会的バイアスについて検討する。 まず,物体認識,物体カウント,空間的関係理解という3つの視覚的推論スキルを計測する。 第2に、生成した画像の性別/肌の色調分布を測定することにより、性別と肌のトーンバイアスを評価する。
  論文  参考訳（メタデータ） (2022-02-08T18:36:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。