論文の概要: EmergencyBias: Bias in Text-to-Image Models under Emergency Scenarios
- arxiv url: http://arxiv.org/abs/2608.00598v1
- Date: Sat, 01 Aug 2026 11:28:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:24.807243
- Title: EmergencyBias: Bias in Text-to-Image Models under Emergency Scenarios
- Title（参考訳）: EmergencyBias: 緊急シナリオ下でのテキスト・画像モデルにおけるバイアス
- Abstract要約: 緊急シナリオは、そのようなバイアスを研究するための明らかな設定を提供します。
緊急シナリオでは、誰が存在するだけでなく、誰が危険にさらされ、誰が介入し、どのように責任が割り当てられるかをモデルで表現する必要がある。
本稿では、人口動態バイアスと行動バイアスの両方を含む緊急シナリオにおいて、T2I生成のバイアスの一形態であるAreasureBiasを定義する。
- 参考スコア（独自算出の注目度）: 2.6433125781349527
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Bias in Text-to-Image (T2I) generation has become an important problem in multimedia content creation and communication. However, existing studies have primarily focused on relatively static and explicit forms of bias, such as disparities in the representation of gender, race, and geo-cultural attributes. Less attention has been paid to behavioral bias in how different groups are portrayed acting, reacting, and occupying social roles. Emergency scenarios provide a revealing setting for studying such bias because they require models to depict not only who is present, but also who is at risk, who intervenes, and how responsibility is allocated. In this paper, we define EmergencyBias, a form of bias in T2I generation under emergency scenarios that includes both demographic bias and behavioral bias. We construct an evaluation framework to systematically study EmergencyBias across seven leading T2I models, six representative emergency scenarios, and three demographic dimensions. Our experimental results reveal three main findings. First, under blank prompts without demographic specification, T2I models exhibit clear demographic bias in emergency scenarios, reflected in the distributions of portrayed individuals across gender, age, and skin tone. Second, under controlled prompts, behavioral bias in emergency responses remains systematically associated with demographic variation, with particularly pronounced disparities along gender and substantial differences across models. Third, we introduce ActionAlign, a lightweight prompt-embedding calibration method that outperforms a representative prompt-based baseline in reducing behavioral disparities while largely preserving image quality. Overall, our work identifies emergency scenarios as an important setting for bias evaluation in T2I models and offers a practical direction toward fairer visual generation in socially consequential contexts.
- Abstract（参考訳）: テキスト・ツー・イメージ(T2I)生成におけるバイアスは,マルチメディアコンテンツ作成とコミュニケーションにおいて重要な問題となっている。
しかしながら、既存の研究は主に、性別、人種、地理的文化的属性の表現における格差のような、比較的静的で明示的な偏見の形式に焦点を当てている。
異なる集団がどう行動し、反応し、社会的役割を占有するかに関して、行動バイアスにはあまり注意が払われていない。
緊急シナリオは、そのようなバイアスを研究するための明らかな設定を提供する。なぜなら、モデルには、誰が存在するだけでなく、誰が危険にさらされているか、誰が介入し、どのように責任を割り当てているかを描写する必要があるからだ。
本稿では、人口動態バイアスと行動バイアスの両方を含む緊急シナリオにおいて、T2I生成のバイアスの一形態であるAreasureBiasを定義する。
7つのT2Iモデル,6つの代表的な緊急シナリオ,および3つの人口動態を網羅的に研究するための評価枠組みを構築した。
実験の結果,主に3つの所見が認められた。
第一に、人口統計仕様のない空白のプロンプトの下で、T2Iモデルは緊急シナリオにおいて明確な人口統計バイアスを示し、性別、年齢、肌のトーンにまたがる描写された個人の分布に反映される。
第二に、制御されたプロンプトの下では、緊急応答の行動バイアスは人口変動と体系的に関連しており、特に性別による差異とモデル間の実質的な差異が顕著である。
第3に、ActionAlignという軽量なプロンプト埋め込みキャリブレーション手法を導入し、画像の品質を保ちながら、行動の相違を抑えるために代表的なプロンプトベースベースラインよりも優れていた。
本研究は,緊急シナリオを,T2Iモデルにおけるバイアス評価の重要な設定として認識し,社会的に連続した状況下でのより公平な視覚生成に向けた実践的な方向性を提供する。
関連論文リスト
- Auditing demographic bias in AI-based emergency police dispatch: a cross-lingual evaluation of eleven large language models [3.85700834433791]
本稿では,警察プライオリティ・ディスパッチ・システムを運用するための言語間監査フレームワークを提案する。
事故の重大さがあいまいな場合に、人口統計バイアスが体系的に現れることがわかりました。
ジェンダーバイアスは中国語では顕著に増幅されるが、人種バイアスは英語ではより顕著である。
論文 参考訳（メタデータ） (2026-05-02T14:00:57Z) - Sociodemographic Biases in Educational Counselling by Large Language Models [61.30199414932204]
本研究では,Large Language Models(LLMs)における社会デマトグラフィーバイアスについて検討する。
多様な状況下で生徒を記述した900のヴィグネットに関する質問に答える6つのLDMからの回答を評価した。
論文 参考訳（メタデータ） (2026-04-03T14:08:22Z) - Measuring Social Bias in Vision-Language Models with Face-Only Counterfactuals from Real Photos [79.03150233804458]
現実のイメージは人種と性別を混在させ、背景や衣服などの関連要因や属性を隠蔽する。
テキストのみの対実的評価パラダイムを提案する。
我々は、人種や性別に関連する顔属性のみを編集し、他の視覚的要素を全て固定することで、反事実的変異を生成する。
論文 参考訳（メタデータ） (2026-01-11T14:35:06Z) - Mitigation of Gender and Ethnicity Bias in AI-Generated Stories through Model Explanations [2.86989372262348]
言語モデルは、特に性別と民族の表現において、そのアウトプットを通じて社会的偏見を伝播させることが示されている。
本稿では,AIが生み出す職業物語におけるジェンダーと民族のバイアスについて検討する。
提案した緩和戦略であるバイアス分析と説明による緩和(BAME)は,2%から20%の範囲の人口表現の改善を明らかにする。
論文 参考訳（メタデータ） (2025-09-03T00:25:25Z) - Biased Heritage: How Datasets Shape Models in Facial Expression Recognition [13.77824359359967]
画像に基づく表情認識システムにおいて,データセットから訓練されたモデルへのバイアス伝搬について検討する。
本稿では,複数の階層群を有する複数クラス問題に特化して設計された新しいバイアス指標を提案する。
その結果,FERデータセットの一般的な人口収支よりも,感情特異的な人口動態パターンの防止が優先されるべきであることが示唆された。
論文 参考訳（メタデータ） (2025-03-05T12:25:22Z) - More of the Same: Persistent Representational Harms Under Increased Representation [12.071592182704707]
生成したテキストにおける分布レベルのグループ表現バイアスを克服するための評価手法を開発した。
モデルがバイオグラフィーを生成するように促されたときのジェンダー分布は、女性の大きな表現につながるが、表現バイアスでさえ、異なるジェンダーの表現方法に持続する。
論文 参考訳（メタデータ） (2025-03-01T03:45:35Z) - Survey of Bias In Text-to-Image Generation: Definition, Evaluation, and Mitigation [47.770531682802314]
単純なプロンプトであっても、T2Iモデルは生成された画像に顕著な社会的偏見を示す可能性がある。
本研究は,T2I生成モデルにおけるバイアスに関する最初の広範な調査である。
これらの作業がどのようにしてバイアスの異なる側面を定義し、評価し、緩和するかについて議論する。
論文 参考訳（メタデータ） (2024-04-01T10:19:05Z) - The Male CEO and the Female Assistant: Evaluation and Mitigation of Gender Biases in Text-To-Image Generation of Dual Subjects [58.27353205269664]
本稿では,Paired Stereotype Test (PST) フレームワークを提案する。
PSTクエリT2Iモデルは、男性ステレオタイプと女性ステレオタイプに割り当てられた2つの個人を描写する。
PSTを用いて、ジェンダーバイアスの2つの側面、つまり、ジェンダーの職業におけるよく知られたバイアスと、組織力におけるバイアスという新しい側面を評価する。
論文 参考訳（メタデータ） (2024-02-16T21:32:27Z) - Stable Bias: Analyzing Societal Representations in Diffusion Models [72.27121528451528]
本稿では,テキスト・ツー・イメージ(TTI)システムにおける社会的バイアスを探索する新しい手法を提案する。
我々のアプローチは、プロンプト内の性別や民族のマーカーを列挙して生成された画像の変動を特徴づけることに依存している。
我々はこの手法を利用して3つのTTIシステムによって生成された画像を分析し、そのアウトプットが米国の労働人口層と相関しているのに対して、彼らは常に異なる範囲において、限界化されたアイデンティティを低く表現している。
論文 参考訳（メタデータ） (2023-03-20T19:32:49Z) - Towards Controllable Biases in Language Generation [87.89632038677912]
本研究では、特定の人口集団の言及を含む入力プロンプトによって生成されたテキストの社会的バイアスを誘導する手法を開発した。
1 つの人口統計学において負のバイアスを誘発し、もう1 つの人口統計学において正のバイアスを誘導し、2 つのシナリオを分析する。
論文 参考訳（メタデータ） (2020-05-01T08:25:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。