論文の概要: BiasMap: Leveraging Cross-Attentions to Discover and Mitigate Hidden Social Biases in Text-to-Image Generation

• arxiv url: http://arxiv.org/abs/2509.13496v1
• Date: Tue, 16 Sep 2025 19:52:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-18 18:41:50.630589
• Title: BiasMap: Leveraging Cross-Attentions to Discover and Mitigate Hidden Social Biases in Text-to-Image Generation
• Title（参考訳）: BiasMap:テキスト・ツー・イメージ・ジェネレーションにおける隠れたソーシャル・バイアスの発見と緩和のためのクロス・アテンションの活用
• Authors: Rajatsubhra Chakraborty, Xujun Che, Depeng Xu, Cori Faklaris, Xi Niu, Shuhan Yuan,
• Abstract要約: BiasMapは、潜在概念レベルの表現バイアスを明らかにするための、モデルに依存しないフレームワークである。 以上の結果から,既存のフェアネス介入は出力分布ギャップを減少させるが,概念レベルの結合を解離させることができないことが示唆された。
• 参考スコア（独自算出の注目度）: 14.110668963732273
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Bias discovery is critical for black-box generative models, especiall text-to-image (TTI) models. Existing works predominantly focus on output-level demographic distributions, which do not necessarily guarantee concept representations to be disentangled post-mitigation. We propose BiasMap, a model-agnostic framework for uncovering latent concept-level representational biases in stable diffusion models. BiasMap leverages cross-attention attribution maps to reveal structural entanglements between demographics (e.g., gender, race) and semantics (e.g., professions), going deeper into representational bias during the image generation. Using attribution maps of these concepts, we quantify the spatial demographics-semantics concept entanglement via Intersection over Union (IoU), offering a lens into bias that remains hidden in existing fairness discovery approaches. In addition, we further utilize BiasMap for bias mitigation through energy-guided diffusion sampling that directly modifies latent noise space and minimizes the expected SoftIoU during the denoising process. Our findings show that existing fairness interventions may reduce the output distributional gap but often fail to disentangle concept-level coupling, whereas our mitigation method can mitigate concept entanglement in image generation while complementing distributional bias mitigation.
• Abstract（参考訳）: バイアス発見は、ブラックボックス生成モデル、especiall text-to-image(TTI)モデルにおいて重要である。 既存の研究は主にアウトプットレベルの人口分布に重点を置いており、これは必ずしも概念表現が減弱後に絡まることを保証していない。 安定拡散モデルにおける潜在概念レベルの表現バイアスを明らかにするためのモデル非依存フレームワークであるBiasMapを提案する。 BiasMapは、横断的属性マップを利用して、人口動態(例えば、性別、人種)と意味論(例えば、職業)の間の構造的絡み合いを明らかにし、画像生成中に表現バイアスに深く入り込む。 これらの概念の属性マップを用いて、IoU(Intersection over Union)を通して空間的人口統計学-セマンティック概念の絡み合いを定量化し、既存の公正発見アプローチに隠れたバイアスにレンズを提供する。 さらに,BiasMapをエネルギー誘導拡散サンプリングによるバイアス緩和に利用し,遅延雑音空間を直接修正し,復調過程において期待されるSoftIoUを最小化する。 その結果,既存のフェアネス介入は出力分布のギャップを小さくするが,概念レベルの結合を弱めることがしばしばあり,一方,緩和法は分布バイアスの緩和を補完しながら画像生成における概念の絡み合いを軽減することができることがわかった。

関連論文リスト

• G4Seg: Generation for Inexact Segmentation Refinement with Diffusion Models [38.44872934965588]
  本稿では, 大規模テキスト・画像モデルを用いて不正確な拡散(IS)課題に取り組むことの問題点について考察する。 我々は,原画像とマスク条件生成画像とのパターンの相違を利用して,粗大なセグメント化改善を容易にする。
  論文  参考訳（メタデータ） (2025-06-02T11:05:28Z)
• TRACE: Trajectory-Constrained Concept Erasure in Diffusion Models [0.0]
  概念消去は、生成モデルにおいて特定の概念情報を削除または抑制することを目的としている。 Trajectory-Constrained Attentional Concept Erasure (TRACE) は拡散モデルから対象概念を消去する新しい手法である。 TRACEは最先端のパフォーマンスを実現し、ANT、EraseAnything、MACEといった最近の手法よりも、除去効率と出力品質の点で優れています。
  論文  参考訳（メタデータ） (2025-05-29T10:15:22Z)
• A Meaningful Perturbation Metric for Evaluating Explainability Methods [55.09730499143998]
  本稿では,画像生成モデルを用いて標的摂動を行う新しい手法を提案する。 具体的には,画像の忠実さを保ちながら,入力画像の高関連画素のみを塗布し,モデルの予測を変更することに焦点を当てる。 これは、しばしばアウト・オブ・ディストリビューションの修正を生み出し、信頼できない結果をもたらす既存のアプローチとは対照的である。
  論文  参考訳（メタデータ） (2025-04-09T11:46:41Z)
• DPBridge: Latent Diffusion Bridge for Dense Prediction [49.1574468325115]
  DPBridgeは、密度予測タスクのための最初の潜伏拡散ブリッジフレームワークである。 提案手法は,異なるシナリオ下での有効性と能力の一般化を実証し,優れた性能を継続的に達成する。
  論文  参考訳（メタデータ） (2024-12-29T15:50:34Z)
• Bias Begets Bias: The Impact of Biased Embeddings on Diffusion Models [0.0]
  テキスト・トゥ・イメージ(TTI)システムは、社会的偏見に対する精査が増加している。 組込み空間をTTIモデルのバイアス源として検討する。 CLIPのような偏りのあるマルチモーダル埋め込みは、表現バランスの取れたTTIモデルに対して低いアライメントスコアをもたらす。
  論文  参考訳（メタデータ） (2024-09-15T01:09:55Z)
• GLAD: Towards Better Reconstruction with Global and Local Adaptive Diffusion Models for Unsupervised Anomaly Detection [60.78684630040313]
  拡散モデルは、特定のノイズを付加したテスト画像の通常の画像を再構成する傾向がある。 世界的視点から見ると、異なる異常による画像再構成の難しさは不均一である。 本稿では,非教師付き異常検出のためのグローバルかつ局所的な適応拡散モデル(GLADと略す)を提案する。
  論文  参考訳（メタデータ） (2024-06-11T17:27:23Z)
• MIST: Mitigating Intersectional Bias with Disentangled Cross-Attention Editing in Text-to-Image Diffusion Models [3.3454373538792552]
  本稿では,拡散型テキスト・画像モデルにおける交叉バイアスに対処する手法を提案する。 提案手法では,事前学習した安定拡散モデルを用いて,参照画像の追加の必要性を排除し,未修正概念の本来の品質を維持する。
  論文  参考訳（メタデータ） (2024-03-28T17:54:38Z)
• Diffusion Model with Cross Attention as an Inductive Bias for Disentanglement [58.9768112704998]
  遠方表現学習は、観測データ内の本質的要因を抽出する試みである。 我々は新しい視点と枠組みを導入し、クロスアテンションを持つ拡散モデルが強力な帰納バイアスとなることを示す。 これは、複雑な設計を必要とせず、クロスアテンションを持つ拡散モデルの強力な解離能力を明らかにする最初の研究である。
  論文  参考訳（メタデータ） (2024-02-15T05:07:54Z)
• Projection Regret: Reducing Background Bias for Novelty Detection via Diffusion Models [72.07462371883501]
  本研究では,非意味情報のバイアスを緩和する効率的な新規性検出手法であるemphProjection Regret(PR)を提案する。 PRは、テスト画像とその拡散ベースの投影の間の知覚距離を計算し、異常を検出する。 拡張実験により、PRは生成モデルに基づく新規性検出手法の先行技術よりも有意なマージンで優れていることが示された。
  論文  参考訳（メタデータ） (2023-12-05T09:44:47Z)
• Unmasking Bias in Diffusion Model Training [40.90066994983719]
  拡散モデルが画像生成の主流のアプローチとして登場した。 トレーニングの収束が遅く、サンプリングのカラーシフトの問題に悩まされている。 本稿では,これらの障害は,既定のトレーニングパラダイムに固有のバイアスや準最適性に大きく起因していると考えられる。
  論文  参考訳（メタデータ） (2023-10-12T16:04:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。