ContextBias: Controlled Evaluation of Bias Persistence Under Context Shift in Text-to-Image Models
Abstractの概要
本論文では、プロンプトのコンテキストが変化した際に、テキスト画像生成モデルにおける役割に関連した視覚的連想が持続するかどうかを評価するために設計された制御評価フレームワーク「ContextBias」を導入しています。著者らは、コンテキストなし、関連コンテキスト、非関連コンテキストの条件下で92の職業と1,656のセマンティックに制御されたプロンプトを含むベンチマーク「ContextBench」を構築しました。4つのテキスト画像生成モデルを対象に生成された66,240枚の画像を評価し、バイアス強度（Bias Intensity）とコンテキスト一貫性スコア（Context Consistency Score）を用いて属性の安定性を定量化しています。分析の結果、コンテキストの変化は主にシーンの構成やカメラフレーミングを変更する一方で、人物レベルの属性、特徴的な衣服、道具などは、セマンティックに無関係なコンテキストにおいても大半が安定して維持されることが示されました。この属性抽出パイプラインは、定量的検証テストおよび人間によるアノテーション調査によってさらに裏付けられています。
新規性
本研究は、役割を単独で評価するのではなく、場所や活動のコンテキストが役割に関連した視覚的表現に与える影響を分離して評価する制御フレームワークとベンチマークを提供します。また、一致、不一致、および言い換えられたコンテキストプロンプト全体での分布の集中度やラベルレベルの不変性を測定するために特別に策定された指標を導入しています。
成果
職業的役割をセマンティックに無関係なコンテキストに配置しても役割に関連した属性は抑制されず、むしろ無関係な条件下ではプールされた属性の集中度が+0.047増加しました。人口統計学的手がかり、特徴的な衣服、役割特有の道具はコンテキスト条件全体で高い持続性を示した一方、シーン属性やカメラの特性はより高いコンテキスト感受性を示しました。不変性テストでは、プロンプトの言い換えやコンテキストの置換下でも役割とラベルのタプルの93.3%が安定しており、特に人物やオブジェクトの属性において極めて高い安定性が確認されました。
論文の注目点
- ContextBiasおよびContextBenchは、コンテキストの変化に伴うバイアスの持続性を評価するために、92の職業的役割、1,656件のプロンプト、66,240枚の画像を対象とする制御されたプロトコルを確立しています。
- 4つのテキスト画像生成モデルにわたる実証的評価により、無関係なコンテキストは役割の事前分布を中和するのではなく、表現を共通のデフォルト属性へと引き寄せ、プールされたバイアス強度を増加させることが示されました。
- 人物レベルの人口統計学的手がかり、職業上の衣服、道具は、コンテキストの変動やプロンプトの言い換えに対しても高い持続性を示す一方で、シーン要素やカメラパラメータはより高いコンテキスト感受性を示します。