論文の概要: Operationalizing Fairness in Text-to-Image Models: A Survey of Bias, Fairness Audits and Mitigation Strategies

• arxiv url: http://arxiv.org/abs/2604.16516v1
• Date: Wed, 15 Apr 2026 11:11:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-21 21:52:52.045461
• Title: Operationalizing Fairness in Text-to-Image Models: A Survey of Bias, Fairness Audits and Mitigation Strategies
• Title（参考訳）: テキスト・ツー・イメージモデルにおけるフェアネスの運用:バイアス・フェアネス・オーディット・緩和方略の調査
• Authors: Megan Smith, Venkatesh Thirugnana Sambandham, Florian Richter, Laura Crompton, Matthias Uhl, Torsten Schön,
• Abstract要約: テキスト・ツー・イメージ(T2I)生成モデルは様々な産業で広く採用されているが、社会的ステレオタイプが頻発していることは批判されている。 本稿では,T2Iフェアネス文献の総合的な体系的レビューを行い,既存の研究をバイアスタイプとフェアネス概念の分類学にまとめる。 本稿では, 厳密な目標ベーステストに向けて, 記述的指標を超えて, 公平性を運用するための新たなフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 5.336565378315399
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Text-to-Image (T2I) generation models have been widely adopted across various industries, yet are criticized for frequently exhibiting societal stereotypes. While a growing body of research has emerged to evaluate and mitigate these biases, the field at present contends with conceptual ambiguity, for example terms like "bias" and "fairness" are not always clearly distinguished and often lack clear operational definitions. This paper provides a comprehensive systematic review of T2I fairness literature, organizing existing work into a taxonomy of bias types and fairness notions. We critically assess the gap between "target fairness" (normative ideals in T2I outputs) and "threshold fairness" (normative standards with actionable decision rules). Furthermore, we survey the landscape of mitigation strategies, ranging from prompt engineering to diffusion process manipulation. We conclude by proposing a new framework for operationalizing fairness that moves beyond descriptive metrics towards rigorous, target-based testing, offering an approach for more accountable generative AI development.
• Abstract（参考訳）: テキスト・ツー・イメージ(T2I)生成モデルは様々な産業で広く採用されているが、社会的ステレオタイプが頻発していることは批判されている。 これらのバイアスを評価し緩和するために成長する研究機関が現れたが、現時点では、例えば「バイアス」や「フェアネス」といった用語は必ずしも明確に区別されておらず、しばしば明確な運用定義が欠落しているような概念的曖昧さと競合している。 本稿では,T2Iフェアネス文献の総合的な体系的レビューを行い,既存の研究をバイアスタイプとフェアネス概念の分類学にまとめる。 我々は,「ターゲットフェアネス」(T2I出力におけるノーマティブイデアル)と「Thresholdフェアネス」(行動可能な決定規則付きノーマティブスタンダード)のギャップを批判的に評価する。 さらに,迅速な工学から拡散プロセス操作まで,緩和戦略の展望を調査した。 我々は、より説明可能な生成可能なAI開発のためのアプローチを提供する、厳密でターゲットベースのテストに向けて、記述的なメトリクスを超えて、公正性を運用するための新しいフレームワークを提案して、結論付けた。

関連論文リスト

• BiasIG: Benchmarking Multi-dimensional Social Biases in Text-to-Image Models [30.463069540851688]
  47,040のプロンプトをキュレートしたデータセット間で社会的バイアスを定量化する統一ベンチマークであるBiasIGを紹介する。 8つのT2Iモデルと3つのデバイアス法に関する大規模な実験は、BiasIGを堅牢な診断ツールとして検証している。 我々の研究は、AIGCにおける公正性に対する正確な分類駆動アプローチを提唱し、将来のクローズドループ緩和におけるフィードバック信号としてBiasIGのメトリクスを使用するための理論的枠組みを提供する。
  論文  参考訳（メタデータ） (2026-04-13T18:22:50Z)
• Intersectional Fairness via Mixed-Integer Optimization [2.664154603948153]
  真の公正性は、保護されたグループの交差点におけるバイアスに対処する必要があると我々は主張する。 本研究では,Mixed-Integer Optimization (MIO) を利用して,相互に公平かつ本質的に解釈可能な分類器を訓練する統合フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-01-27T13:29:25Z)
• On the Fairness, Diversity and Reliability of Text-to-Image Generative Models [68.62012304574012]
  マルチモーダル生成モデルは 信頼性 公正性 誤用の可能性について 批判的な議論を巻き起こしました 埋め込み空間におけるグローバルおよびローカルな摂動に対する応答を解析し、モデルの信頼性を評価するための評価フレームワークを提案する。 提案手法は, 信頼できない, バイアス注入されたモデルを検出し, 組込みバイアスの証明をトレースするための基礎となる。
  論文  参考訳（メタデータ） (2024-11-21T09:46:55Z)
• Bias Begets Bias: The Impact of Biased Embeddings on Diffusion Models [0.0]
  テキスト・トゥ・イメージ(TTI)システムは、社会的偏見に対する精査が増加している。 組込み空間をTTIモデルのバイアス源として検討する。 CLIPのような偏りのあるマルチモーダル埋め込みは、表現バランスの取れたTTIモデルに対して低いアライメントスコアをもたらす。
  論文  参考訳（メタデータ） (2024-09-15T01:09:55Z)
• Identifying and Mitigating Social Bias Knowledge in Language Models [52.52955281662332]
  個々人の社会的偏見をきめ細かなキャリブレーションを可能にする新しいデバイアス・アプローチであるFairness Stamp(FAST)を提案する。 FASTは最先端のベースラインを超え、デバイアス性能が優れている。 これは、大きな言語モデルにおける公平性を達成するためのきめ細かいデバイアス戦略の可能性を強調している。
  論文  参考訳（メタデータ） (2024-08-07T17:14:58Z)
• Quantifying Bias in Text-to-Image Generative Models [49.60774626839712]
  テキスト・トゥ・イメージ(T2I)モデルにおけるバイアスは不公平な社会的表現を伝播させ、アイデアを積極的にマーケティングしたり、議論の的となっている議題を推進したりするのに用いられる。 既存のT2Iモデルバイアス評価手法は、社会的バイアスのみに焦点を当てる。 本稿では,T2I生成モデルにおける一般バイアスの定量化手法を提案する。
  論文  参考訳（メタデータ） (2023-12-20T14:26:54Z)
• DualFair: Fair Representation Learning at Both Group and Individual Levels via Contrastive Self-supervision [73.80009454050858]
  この研究は、DualFairと呼ばれる自己教師型モデルを提示し、学習された表現から性別や人種などのセンシティブな属性をデバイアスすることができる。 我々のモデルは、グループフェアネスと対実フェアネスという2つのフェアネス基準を共同で最適化する。
  論文  参考訳（メタデータ） (2023-03-15T07:13:54Z)
• Fair Enough: Standardizing Evaluation and Model Selection for Fairness Research in NLP [64.45845091719002]
  現代のNLPシステムは様々なバイアスを示しており、モデル偏見に関する文献が増えている。 本稿では,その現状を解明し,公正学習における意味ある進歩の道筋を立案することを目的とする。
  論文  参考訳（メタデータ） (2023-02-11T14:54:00Z)
• Optimising Equal Opportunity Fairness in Model Training [60.0947291284978]
  既存のデバイアス法、例えば、敵の訓練や、表現から保護された情報を取り除くことは、バイアスを減らすことが示されている。 2つの新たな学習目標を提案し,2つの分類課題における高い性能を維持しつつ,バイアスの低減に有効であることを示す。
  論文  参考訳（メタデータ） (2022-05-05T01:57:58Z)
• The Long Arc of Fairness: Formalisations and Ethical Discourse [0.0]
  我々は、技術(形式化された)と公正に関する倫理的言説の関係は必ずしも明確で生産的であるとは限らないと論じる。 我々は、より包括的なアプローチであるダイナミックフェアネス・モデリングを導入し、倫理的言説からの議論とフォーマルフェアネス・メトリクスを実現する。 フェアネス関連プロセスのこれらの要素を文脈化することにより、動的フェアネスモデリングは、以前は遅滞した倫理的側面を明示する。
  論文  参考訳（メタデータ） (2022-03-08T09:54:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。