論文の概要: How Bias Binds: Measuring Hidden Associations for Bias Control in Text-to-Image Compositions

• arxiv url: http://arxiv.org/abs/2511.07091v1
• Date: Mon, 10 Nov 2025 13:27:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-11 21:18:45.271762
• Title: How Bias Binds: Measuring Hidden Associations for Bias Control in Text-to-Image Compositions
• Title（参考訳）: Bias Binds:テキスト・画像合成におけるバイアス制御のための隠れたアソシエーションの測定
• Authors: Jeng-Lin Li, Ming-Ching Chang, Wei-Chao Chen,
• Abstract要約: 本研究は,セマンティックバインディング下でのバイアスの出現について検討する。 我々は,特定のオブジェクト-属性結合がどのようにバイアスを活性化するかを定量化するバイアスアテンデンススコアを導入する。 トークンデカップリングがセマンティックバインディングのデバイアス化をいかに促進するかを検討するために,トレーニング不要なコンテキストバイアス制御フレームワークを開発した。
• 参考スコア（独自算出の注目度）: 20.09444331826756
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Text-to-image generative models often exhibit bias related to sensitive attributes. However, current research tends to focus narrowly on single-object prompts with limited contextual diversity. In reality, each object or attribute within a prompt can contribute to bias. For example, the prompt "an assistant wearing a pink hat" may reflect female-inclined biases associated with a pink hat. The neglected joint effects of the semantic binding in the prompts cause significant failures in current debiasing approaches. This work initiates a preliminary investigation on how bias manifests under semantic binding, where contextual associations between objects and attributes influence generative outcomes. We demonstrate that the underlying bias distribution can be amplified based on these associations. Therefore, we introduce a bias adherence score that quantifies how specific object-attribute bindings activate bias. To delve deeper, we develop a training-free context-bias control framework to explore how token decoupling can facilitate the debiasing of semantic bindings. This framework achieves over 10% debiasing improvement in compositional generation tasks. Our analysis of bias scores across various attribute-object bindings and token decorrelation highlights a fundamental challenge: reducing bias without disrupting essential semantic relationships. These findings expose critical limitations in current debiasing approaches when applied to semantically bound contexts, underscoring the need to reassess prevailing bias mitigation strategies.
• Abstract（参考訳）: テキストから画像への生成モデルは、しばしば敏感な属性に関連するバイアスを示す。 しかし、現在の研究は、文脈の多様性が制限された単一対象のプロンプトに焦点を絞る傾向にある。 実際には、プロンプト内の各オブジェクトや属性はバイアスに寄与します。 例えば、「ピンクの帽子をかぶった助手」というプロンプトは、ピンクの帽子に関連する女性寄りの偏見を反映している可能性がある。 プロンプトにおける意味的結合の無視された共同効果は、現在の偏りのアプローチにおいて重大な失敗を引き起こす。 この研究は、オブジェクトと属性の文脈的関連が生成結果に影響を与えるセマンティックバインディングの下でのバイアスがどのように現れるかに関する予備的な調査を開始する。 これらの関係に基づいてバイアス分布を増幅できることを実証する。 そこで本研究では,特定のオブジェクト-属性結合がどのようにバイアスを活性化するかを定量化するバイアスアテンデンススコアを提案する。 より深く掘り下げるために、トークンデカップリングがセマンティックバインディングのデバイアス化を促進する方法を探るため、トレーニング不要なコンテキストバイアス制御フレームワークを開発した。 このフレームワークは、構成生成タスクの10%以上のデバイアス改善を実現する。 さまざまな属性オブジェクトのバインディングとトークンのデコレーションによるバイアススコアの分析は,本質的な意味的関係を損なうことなくバイアスを削減するという,基本的な課題を浮き彫りにしている。 これらの知見は、意味論的境界づけられた文脈に適用した場合の現在のバイアス緩和アプローチにおける重要な限界を明らかにし、偏見緩和戦略を再評価する必要性を強調している。

関連論文リスト

• Target-oriented Multimodal Sentiment Classification with Counterfactual-enhanced Debiasing [5.0175188046562385]
  マルチモーダル感情分類は、画像とテキストのペアから特定のターゲットに対する感情極性を予測しようとする。 既存の作業はしばしばテキストの内容に過度に依存し、データセットのバイアスを考慮できない。 本稿では,このような突発的相関を低減すべく,新たな反事実強化脱バイアスフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-09-11T05:40:53Z)
• BiasConnect: Investigating Bias Interactions in Text-to-Image Models [73.76853483463836]
  テキスト・ツー・イメージ・モデルにおけるバイアス相互作用の分析と定量化を目的とした新しいツールであるBiasConnectを紹介する。 我々の手法は、与えられたバイアスが修正されたとき、他のバイアス次元が理想的な分布に向かって、あるいは離れてどのように変化するかを示す経験的推定を提供する。 本稿では,最適なバイアス緩和軸の選択,学習する依存関係の異なるTTIモデルの比較,およびTTIモデルにおける交叉社会的バイアスの増幅を理解するためのBiasConnectの有用性を示す。
  論文  参考訳（メタデータ） (2025-03-12T19:01:41Z)
• Common-Sense Bias Modeling for Classification Tasks [15.683471433842492]
  テキスト記述に基づく画像データセットの包括的バイアスを抽出する新しい枠組みを提案する。 提案手法は,複数の画像ベンチマークデータセットにおける新しいモデルバイアスを明らかにする。 発見されたバイアスは、機能の非相関化のために、単純なデータ再重み付けによって緩和することができる。
  論文  参考訳（メタデータ） (2024-01-24T03:56:07Z)
• Self-supervised debiasing using low rank regularization [59.84695042540525]
  純粋な相関は、ディープニューラルネットワークの強いバイアスを引き起こし、一般化能力を損なう可能性がある。 ラベルのないサンプルと互換性のある自己監督型脱バイアスフレームワークを提案する。 注目すべきは,提案フレームワークが自己教師付き学習ベースラインの一般化性能を著しく向上させることである。
  論文  参考訳（メタデータ） (2022-10-11T08:26:19Z)
• The SAME score: Improved cosine based bias score for word embeddings [49.75878234192369]
  埋め込みにおけるセマンティックバイアスのための新しいバイアススコアであるPetを紹介した。 本研究は,下水道作業における意味バイアスを測定し,社会的バイアスの潜在的な原因を特定することができることを示す。
  論文  参考訳（メタデータ） (2022-03-28T09:28:13Z)
• Balancing out Bias: Achieving Fairness Through Training Reweighting [58.201275105195485]
  自然言語処理におけるバイアスは、性別や人種などの著者の特徴を学習するモデルから生じる。 既存のバイアスの緩和と測定方法は、著者の人口統計学と言語変数の相関を直接考慮していない。 本稿では,インスタンス再重み付けを用いたバイアス対策法を提案する。
  論文  参考訳（メタデータ） (2021-09-16T23:40:28Z)
• Learning Debiased Representation via Disentangled Feature Augmentation [19.348340314001756]
  本稿では, 様々なバイアスを伴うサンプルを用いたトレーニングが, 脱バイアスに不可欠であることを示す実験的検討を行った。 本稿では, 多様なバイアス分散サンプルを合成するために, 特徴レベルのデータ拡張手法を提案する。
  論文  参考訳（メタデータ） (2021-07-03T08:03:25Z)
• Dynamic Semantic Matching and Aggregation Network for Few-shot Intent Detection [69.2370349274216]
  利用可能な注釈付き発話が不足しているため、インテント検出は困難である。 セマンティック成分はマルチヘッド自己認識によって発話から蒸留される。 本手法はラベル付きインスタンスとラベルなしインスタンスの両方の表現を強化するための総合的なマッチング手段を提供する。
  論文  参考訳（メタデータ） (2020-10-06T05:16:38Z)
• Don't Judge an Object by Its Context: Learning to Overcome Contextual Bias [113.44471186752018]
  既存のモデルは、認識精度を向上させるために、オブジェクトとそのコンテキスト間の共起を利用することが多い。 この研究は、学習した特徴表現の堅牢性を改善するために、そのような文脈バイアスに対処することに焦点を当てている。
  論文  参考訳（メタデータ） (2020-01-09T18:31:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。