論文の概要: IMPLICIT-Bench: Measuring Implicit Bias in Text-to-Image Models under Neutral Prompts
- arxiv url: http://arxiv.org/abs/2609.24228v1
- Date: Mon, 21 Sep 2026 07:47:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-22 20:29:01.202699
- Title: IMPLICIT-Bench: Measuring Implicit Bias in Text-to-Image Models under Neutral Prompts
- Title（参考訳）: IMPLICIT-Bench:中性プロンプト下でのテキスト・画像モデルにおけるインシシットバイアスの測定
- Abstract要約: IMPLICIT-Benchは、自然なプロンプトの下でテキスト・トゥ・イメージ(T2I)モデルの暗黙バイアスを測定するためのベンチマークである。
現状のT2Iモデルでは,ニュートラルプロンプト下での系統的バイアスが示され,既存の評価ではほとんど見えない障害モードが示される。
- 参考スコア（独自算出の注目度）: 6.042709939598073
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Text-to-image (T2I) models are typically evaluated for bias using slot-based templates such as ``a photo of a [profession]''. Such templates probe only \emph{explicit} demographic attributes (e.g., gender, skin tone) in isolation. They overlook a broader \emph{implicit} bias that arises in natural prompts: when stereotype-relevant attributes are left unspecified, models still default to stereotypical outputs. We introduce IMPLICIT-Bench, a benchmark for measuring implicit bias in T2I models under such prompts. The key design is a structured-knowledge-graph (KG) construction of controlled prompt triplets: neutral, stereotype, and anti-stereotype variants that differ only along a single bias dimension while preserving scene semantics. This enables precise attribution of bias effects that template benchmarks cannot achieve. IMPLICIT-Bench comprises 5,493 prompts across 11 bias categories, validated through multi-model agreement, CLIP-based verification, and human evaluation. Using this benchmark, we show that state-of-the-art T2I models exhibit systematic bias under neutral prompts, a failure mode largely invisible to existing evaluations. We then use IMPLICIT-Bench to evaluate debiasing methods, uncovering a fundamental trade-off between bias reduction and semantic fidelity.
- Abstract（参考訳）: Text-to-image (T2I) モデルは一般に '`a photo of a [profession]'' のようなスロットベースのテンプレートを用いてバイアスとして評価される。
このようなテンプレートは、分離して \emph{explicit} の人口特性(例えば、性別、肌の色調)のみをプローブする。
彼らは、自然のプロンプトで生じるより広範な \emph{implicit} バイアスを見落としている: ステレオタイプ関連属性が未特定のまま残されているとき、モデルは依然としてステレオタイプ出力にデフォルトである。
このようなプロンプトの下でT2Iモデルの暗黙バイアスを測定するベンチマークであるIMPLICIT-Benchを紹介する。
鍵となる設計は、制御された三重項(中性、ステレオタイプ、アンチステレオタイプ)の構造化知識グラフ(KG)の構築である。
これにより、テンプレートベンチマークが達成できないバイアス効果の正確な帰属が可能になる。
IMPLICIT-Benchは、11のバイアスカテゴリにまたがる5,493のプロンプトで構成され、マルチモデル合意、CLIPベースの検証、人的評価を通じて検証される。
このベンチマークを用いて、現状のT2Iモデルは、中立的なプロンプトの下で体系的なバイアスを示し、既存の評価ではほとんど見えない障害モードを示す。
次に, IMPLICIT-Benchを用いてデバイアス法の評価を行い, バイアス低減と意味的忠実性の基本的なトレードオフを明らかにする。
関連論文リスト
- Exposing Hidden Biases in Text-to-Image Models via Automated Prompt Search [18.386455479798574]
Bias-Guided Prompt Search (BGPS)は、画像内のバイアスの存在を最大化するプロンプトを自動的に生成するフレームワークである。
BGPSは、(1)属性ニュートラルなプロンプトを生成するよう指示されたLLMと、(2)TTIの内部表現に作用する属性分類器の2つのコンポーネントから構成される。
我々は、安定拡散1.5と最先端の縮退モデルに関する広範な実験を行い、微妙で以前は文書化されていなかったバイアスの配列を発見する。
論文 参考訳（メタデータ） (2025-12-09T15:39:04Z) - BLADE: Bias-Linked Adaptive DEbiasing [2.7352017408152083]
BLADEは、バイアスやバイアスを伴うサンプルの事前知識を必要としない、生成的デバイアスのフレームワークである。
我々は,複数のベンチマークデータセット上でBLADEを評価し,最先端の手法を著しく上回ることを示す。
論文 参考訳（メタデータ） (2025-10-05T12:28:54Z) - AutoDebias: Automated Framework for Debiasing Text-to-Image Models [6.581606189725493]
テキスト・ツー・イメージ(T2I)モデルはテキスト・プロンプトから高品質な画像を生成するが、しばしば意図しない社会的偏見を示す。
本稿では,T2Iモデルにおける有害バイアスを自動的に識別・緩和するフレームワークであるAutoDebiasを提案する。
このフレームワークを25以上のバイアスシナリオをカバーするベンチマークで評価する。
論文 参考訳（メタデータ） (2025-08-01T09:05:45Z) - Bias Begets Bias: The Impact of Biased Embeddings on Diffusion Models [0.0]
テキスト・トゥ・イメージ(TTI)システムは、社会的偏見に対する精査が増加している。
組込み空間をTTIモデルのバイアス源として検討する。
CLIPのような偏りのあるマルチモーダル埋め込みは、表現バランスの取れたTTIモデルに対して低いアライメントスコアをもたらす。
論文 参考訳（メタデータ） (2024-09-15T01:09:55Z) - GradBias: Unveiling Word Influence on Bias in Text-to-Image Generative Models [75.04426753720553]
開集合におけるバイアスを特定し,定量化し,説明するための枠組みを提案する。
このパイプラインはLarge Language Model (LLM)を活用して、一連のキャプションから始まるバイアスを提案する。
このフレームワークには、OpenBiasとGradBiasの2つのバリエーションがあります。
論文 参考訳（メタデータ） (2024-08-29T16:51:07Z) - Projective Methods for Mitigating Gender Bias in Pre-trained Language Models [10.418595661963062]
プロジェクティブメソッドは実装が高速で、少数の保存されたパラメータを使用し、既存のモデルパラメータを更新しない。
射影法は内在バイアスと下流バイアス軽減の両方に有効であるが, 両者の結果は必ずしも相関しない。
論文 参考訳（メタデータ） (2024-03-27T17:49:31Z) - Take Care of Your Prompt Bias! Investigating and Mitigating Prompt Bias in Factual Knowledge Extraction [56.17020601803071]
近年の研究では、事前学習言語モデル(PLM)が、事実知識抽出において「急激なバイアス」に悩まされていることが示されている。
本稿では,突発バイアスを徹底的に調査し緩和することにより,既存のベンチマークの信頼性を向上させることを目的とする。
論文 参考訳（メタデータ） (2024-03-15T02:04:35Z) - Quantifying Bias in Text-to-Image Generative Models [49.60774626839712]
テキスト・トゥ・イメージ(T2I)モデルにおけるバイアスは不公平な社会的表現を伝播させ、アイデアを積極的にマーケティングしたり、議論の的となっている議題を推進したりするのに用いられる。
既存のT2Iモデルバイアス評価手法は、社会的バイアスのみに焦点を当てる。
本稿では,T2I生成モデルにおける一般バイアスの定量化手法を提案する。
論文 参考訳（メタデータ） (2023-12-20T14:26:54Z) - Discovering and Mitigating Visual Biases through Keyword Explanation [66.71792624377069]
視覚バイアスをキーワードとして解釈するBias-to-Text(B2T)フレームワークを提案する。
B2Tは、CelebAの性別バイアス、ウォーターバードの背景バイアス、ImageNet-R/Cの分布シフトなど、既知のバイアスを特定することができる。
B2Tは、Dollar StreetやImageNetのような大きなデータセットで、新しいバイアスを明らかにする。
論文 参考訳（メタデータ） (2023-01-26T13:58:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。