論文の概要: A Proxy-Based Method for Measuring Racial Disparities in~Text-to-Image~Generators
- arxiv url: http://arxiv.org/abs/2611.07132v1
- Date: Wed, 04 Nov 2026 20:58:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.451691
- Title: A Proxy-Based Method for Measuring Racial Disparities in~Text-to-Image~Generators
- Title(参考訳): テキスト・トゥ・イメージ・ジェネレータにおける視差のプロキシに基づく計測法
- Abstract要約: 我々は、米国反差別法で使用される人種的代用変数を適応させ、生成された画像における人種的表現のばらつきの詳細な比較分析を提供する。
我々は,CIELAB値を用いて皮膚のトーンを測定し,画像群間のコサイン類似性を算出し,人口統計学的比較に現れないバイアスを捉える。
- 参考スコア(独自算出の注目度): 3.1044144490479852
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present an automated method for auditing text-to-image generators for representational bias against ground-truth demographic benchmarks. Our approach adapts the racial proxy variables used in U.S. antidiscrimination law to provide a fine-grained comparative analysis of variations in racial representation in generated images. We classify each generated image by race and then compare the model's distribution to publicly available demographic benchmark data to identify patterns of over- and under-representation. We also measure skin tone using CIELAB values and calculate cosine similarity amongst groups of images in order to capture biases that don't show up in demographic comparisons such as differences in image quality across races and skin tones. We report on experiments testing three models (Imagen 4 Fast, Stable Diffusion 3.5 Large Turbo, and Flux Schnell) using three categories of proxies (geographic, occupational, and surname) and 50 variants within each category. We find notable variation across the models as well as by proxy category. For example, Imagen 4 Fast overrepresents white classified images more than the other models tested and produces images with lighter, more homogeneous skin tones. Imagen 4 Fast also had the largest representational disparity for Black demographics among surname and geographical prompts. Stable Diffusion 3.5 Large Turbo produces results that overall diverge most from census data but yield the most diverse range of skin tones. Our method yields a generalizable and legally-grounded auditing tool that surfaces detailed information about model outputs without relying on implicit normative definitions of fairness.
- Abstract(参考訳): 本稿では,テキスト・ツー・イメージ・ジェネレータの自動評価手法を提案する。
我々のアプローチは、米国反差別法で用いられる人種的代用変数を適応させ、生成された画像における人種的表現のバリエーションの詳細な比較分析を提供する。
生成した各画像をレース毎に分類し、そのモデルの分布を公開可能な統計学的ベンチマークデータと比較し、オーバー・アンド・アンダー・表現のパターンを特定する。
また、CIELAB値を用いて皮膚のトーンを測定し、画像群間のコサイン類似性を算出し、人種間の画像品質の違いや肌のトーンの違いなど、人口統計学的比較に現れないバイアスを捉える。
我々は,3種類のプロキシ(地理,職業,姓)と50種類のモデルを用いた3種類のモデル(Imagen 4 Fast, Stable Diffusion 3.5 Large Turbo, Flux Schnell)の実験を行った。
モデルによっても,プロキシカテゴリによっても,顕著なバリエーションが見られます。
例えば、Imagen 4 Fastは、テストされた他のモデルよりも白い分類されたイメージを過剰に表現し、より軽く、より均一な肌の色で画像を生成する。
画像4 ファストは、姓と地理的プロンプトの間の黒人人口の最も大きな格差も持っていた。
安定拡散3.5 大型ターボは、国勢調査データから最も大きく分岐するが、最も多様な皮膚のトーンを生み出す。
提案手法は, 正当性の暗黙的規範的定義に頼ることなく, モデル出力に関する詳細な情報を提示する汎用的かつ法的な監査ツールを提供する。
関連論文リスト
- D3G: Diverse Demographic Data Generation Increases Zero-Shot Image Classification Accuracy within Multimodal Models [4.56877715768796]
本稿では,事前学習型マルチモーダルモデルにおける階層バイアスを低減しつつ,分類精度を高める訓練自由ゼロショット手法を提案する。
推定時に多様な人口統計データを提供することで、これらのモデルの性能が向上することを示し、その結果の精度指標に対する個々の人口統計の影響を探索する。
論文 参考訳(メタデータ) (2025-12-10T20:41:29Z) - Prompting Away Stereotypes? Evaluating Bias in Text-to-Image Models for Occupations [9.58968557546246]
我々は、イメージキュレーションと評価タスクとして、表現的社会的バイアス評価の枠組みを定めている。
5つの最先端モデルを用いて、中立なベースラインプロンプトと公正な制御プロンプトを比較する。
その結果、プロンプトは人口統計学的表現を著しく変化させるが、モデル固有の効果は高い。
論文 参考訳(メタデータ) (2025-08-31T13:46:16Z) - DebiasPI: Inference-time Debiasing by Prompt Iteration of a Text-to-Image Generative Model [20.915693552625502]
本稿では,Debiasing-by-Prompt-Iterationのための推論時間プロセスであるDebiasPIを提案する。
DebiasPIにより、画像生成における個人の属性の分布を制御することができる。
論文 参考訳(メタデータ) (2025-01-28T23:17:20Z) - Classes Are Not Equal: An Empirical Study on Image Recognition Fairness [100.36114135663836]
我々は,クラスが等しくないことを実験的に証明し,様々なデータセットにまたがる画像分類モデルにおいて,公平性の問題が顕著であることを示した。
以上の結果から,モデルでは認識が困難であるクラスに対して,予測バイアスが大きくなる傾向が示唆された。
データ拡張および表現学習アルゴリズムは、画像分類のある程度の公平性を促進することにより、全体的なパフォーマンスを向上させる。
論文 参考訳(メタデータ) (2024-02-28T07:54:50Z) - Leveraging Diffusion Perturbations for Measuring Fairness in Computer
Vision [25.414154497482162]
拡散モデルを利用してそのようなデータセットを作成できることを実証する。
マルチクラスの職業分類タスクにおいて,複数の視覚言語モデルをベンチマークする。
非コーカサスラベルで生成された画像は、コーカサスラベルで生成された画像よりも、職業的誤分類率が高いことが判明した。
論文 参考訳(メタデータ) (2023-11-25T19:40:13Z) - Improving Fairness using Vision-Language Driven Image Augmentation [60.428157003498995]
公平性は、特に顔領域において、ディープラーニングの識別モデルを訓練する際に重要である。
モデルは、特定の特性(年齢や肌の色など)と無関係な属性(下流タスク)を関連付ける傾向がある
本稿では,これらの相関を緩和し,公平性を向上する手法を提案する。
論文 参考訳(メタデータ) (2023-11-02T19:51:10Z) - Word-Level Explanations for Analyzing Bias in Text-to-Image Models [72.71184730702086]
Text-to-image(T2I)モデルは、人種や性別に基づいて少数派を過小評価する画像を生成することができる。
本稿では,入力プロンプトのどの単語が生成画像のバイアスの原因となるかを検討する。
論文 参考訳(メタデータ) (2023-06-03T21:39:07Z) - Studying Bias in GANs through the Lens of Race [91.95264864405493]
本研究では, 画像生成モデルの性能と評価が, 学習データセットの人種構成にどのように影響するかを検討する。
その結果, 生成した画像の人種構成は, トレーニングデータの保存に成功していることがわかった。
しかし、推論中に高品質な画像を生成する手法であるトランケーションは、データの人種的不均衡を悪化させる。
論文 参考訳(メタデータ) (2022-09-06T22:25:56Z) - DALL-Eval: Probing the Reasoning Skills and Social Biases of
Text-to-Image Generation Models [73.12069620086311]
テキスト・ツー・イメージ・モデルの視覚的推論能力と社会的バイアスについて検討する。
まず,物体認識,物体カウント,空間的関係理解という3つの視覚的推論スキルを計測する。
第2に、生成した画像の性別/肌の色調分布を測定することにより、性別と肌のトーンバイアスを評価する。
論文 参考訳(メタデータ) (2022-02-08T18:36:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。