論文の概要: Context Matters: Auditing Gender Bias in T2I Generation through Risk-Tiered Use-Case Profiles

• arxiv url: http://arxiv.org/abs/2605.13113v1
• Date: Wed, 13 May 2026 07:25:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-14 23:30:27.875772
• Title: Context Matters: Auditing Gender Bias in T2I Generation through Risk-Tiered Use-Case Profiles
• Title（参考訳）: コンテキスト:リスク階層型ユースケースプロファイルによるT2I生成におけるジェンダーバイアスの監査
• Authors: Jose Luna, Yankun Wu, Xiaofei Xie, Noa Garcia,
• Abstract要約: 本稿では,テキスト・ツー・イメージ(T2I)モデルにおける性別バイアスに対するリスク整合型監査フレームワークを提案する。 メトリクスは、測定対象、どの仮定、どのように解釈されるべきかについて、共有ビューなしで報告されることが多い。 本研究では,ジェンダーバイアス評価手法を統合し,これらを3つの尺度に分類する計量カタログを構築した。
• 参考スコア（独自算出の注目度）: 21.959974661044992
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Text-to-image (T2I) generative models are increasingly used to produce content for education, media, and public-facing communication, and are starting to be integrated into higher-impact pipelines. Since generated images tend to reinforce stereotypes, producing representational erasure via "default" depictions and shaping perceptions of who belongs in certain roles, a growing body of work has proposed metrics to quantify gender bias in T2I outputs. Yet existing evaluations remain fragmented. Metrics are often reported without a shared view of what they measure, what assumptions they entail, or how their results should be interpreted under different deployment contexts. This limits the usefulness of gender bias measurement for both technical auditing and emerging governance discussions. We propose a risk-aligned auditing framework for gender bias in T2I models composed of three constituents that connects risk categories, evaluation metrics, and harms. First, we identify risk-tiered use-case profiles aligned with the EU AI Act's risk categories to motivate why auditing expectations may vary with deployment contexts and stakeholder exposure. Second, we construct a metric catalog that consolidates gender-bias evaluation methods and organizes them in three measurement categories: gender prediction, embedding similarity, and downstream task. Third, we introduce a harm typology that maps context-dependent harm categories (e.g., representational, quality-of-service) to specific risk-tired scenarios. Finally, we introduce THUMB cards (Text-to-image Harms-informed Use-case-aligned Metrics of gender Bias) that help formulate auditing systematically by the incorporation of context, scenario and bias manifestation, harm hypotheses, and audit strategy.
• Abstract（参考訳）: テキスト・ツー・イメージ(T2I)生成モデルは、教育、メディア、公共向けコミュニケーションのためのコンテンツの作成にますます使われており、よりインパクトの高いパイプラインに統合され始めています。 生成した画像はステレオタイプを強化し、"デフォルト"の描写を通じて表現的消去を生成し、特定の役割に属する人物の知覚を形作る傾向があるため、T2I出力の性別バイアスを定量化する指標が提案されている。 しかし、既存の評価は断片化されている。 メトリクスは、何を計測するか、どの仮定が必要なのか、どのようにして異なるデプロイメントコンテキスト下で結果が解釈されるべきなのかを、共有ビューなしで報告されることが多い。 これにより、技術監査と新たなガバナンスの議論の両方において、性別バイアス測定の有用性が制限される。 リスクカテゴリ,評価指標,害を結合する3つの構成成分からなるT2Iモデルにおいて,性別バイアスに対するリスク整合性監査フレームワークを提案する。 まず、EU AI Actのリスクカテゴリに沿ったリスク階層のユースケースプロファイルを特定し、なぜ監査の期待がデプロイメントコンテキストやステークホルダの露出によって異なるのかを動機付けます。 第2に,ジェンダーバイアス評価手法を統合し,ジェンダー予測,埋め込み類似性,下流課題の3つの尺度に分類する計量カタログを構築した。 第3に、コンテキストに依存した調和カテゴリー(例えば、表現的、サービス品質)を、特定のリスクを負ったシナリオにマッピングするハーフタイプロジを導入します。 最後に,THUMBカード(Hams-informed Use-case-aligned Metrics of gender Bias)を紹介する。

関連論文リスト

• Alignment Reduces Expressed but Not Encoded Gender Bias: A Unified Framework and Study [3.679036235271287]
  本研究では,大規模言語モデルにおける内在性および外在性バイアスを共同で分析するための統一的な枠組みを提案する。 統一されたプロトコルで測定すると、潜在性情報と表現バイアスが一貫した関連性を見出す。 以上の結果から,後者は表現バイアスを実際に減少させるが,測定可能な性別関連関係は依然として内部表現に存在していることが示唆された。
  論文  参考訳（メタデータ） (2026-03-25T09:35:18Z)
• When in Doubt, Deliberate: Confidence-Based Routing to Expert Debate for Sexism Detection [7.299050989302629]
  我々は,(i)低表現,(ii)雑音,(iii)データおよびモデル予測における概念的あいまいさの複合効果に対処する枠組みを提案する。 提案手法では,タスク EXIST 2025 タスク 1.1 では F1 が +2.72% 改善され,EDOS A と B では +4.48% と +1.30% が得られた。
  論文  参考訳（メタデータ） (2025-12-21T05:48:57Z)
• Understanding Gender Bias in AI-Generated Product Descriptions [24.246331833109416]
  我々は、製品記述生成の文脈において、性別バイアスのデータ駆動型分類カテゴリーを開発する。 AI生成した製品記述が、特別な検出と緩和のアプローチを必要とする方法で、ジェンダーバイアスを一意に表面化する方法について説明する。
  論文  参考訳（メタデータ） (2025-06-03T18:14:57Z)
• The Root Shapes the Fruit: On the Persistence of Gender-Exclusive Harms in Aligned Language Models [91.86718720024825]
  我々はトランスジェンダー、ノンバイナリ、その他のジェンダー・ディバースのアイデンティティを中心とし、アライメント手順が既存のジェンダー・ディバースバイアスとどのように相互作用するかを検討する。 以上の結果から,DPO対応モデルは特に教師付き微調整に敏感であることが示唆された。 DPOとより広範なアライメントプラクティスに合わせたレコメンデーションで締めくくります。
  論文  参考訳（メタデータ） (2024-11-06T06:50:50Z)
• GenderBias-\emph{VL}: Benchmarking Gender Bias in Vision Language Models via Counterfactual Probing [72.0343083866144]
  本稿では,GenderBias-emphVLベンチマークを用いて,大規模視覚言語モデルにおける職業関連性バイアスの評価を行う。 ベンチマークを用いて15のオープンソースLVLMと最先端の商用APIを広範囲に評価した。 既存のLVLMでは男女差が広くみられた。
  論文  参考訳（メタデータ） (2024-06-30T05:55:15Z)
• The Male CEO and the Female Assistant: Evaluation and Mitigation of Gender Biases in Text-To-Image Generation of Dual Subjects [58.27353205269664]
  本稿では,Paired Stereotype Test (PST) フレームワークを提案する。 PSTクエリT2Iモデルは、男性ステレオタイプと女性ステレオタイプに割り当てられた2つの個人を描写する。 PSTを用いて、ジェンダーバイアスの2つの側面、つまり、ジェンダーの職業におけるよく知られたバイアスと、組織力におけるバイアスという新しい側面を評価する。
  論文  参考訳（メタデータ） (2024-02-16T21:32:27Z)
• Gender Stereotype Reinforcement: Measuring the Gender Bias Conveyed by Ranking Algorithms [68.85295025020942]
  本稿では,性別ステレオタイプをサポートする検索エンジンの傾向を定量化するジェンダーステレオタイプ強化(GSR)尺度を提案する。 GSRは、表現上の害を定量化できる情報検索のための、最初の特別に調整された尺度である。
  論文  参考訳（メタデータ） (2020-09-02T20:45:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。