論文の概要: Vision-Language Models Suppress Female Representations Under Ambiguous Input

• arxiv url: http://arxiv.org/abs/2605.31556v1
• Date: Fri, 29 May 2026 17:20:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-01 20:56:50.767274
• Title: Vision-Language Models Suppress Female Representations Under Ambiguous Input
• Title（参考訳）: 視覚言語モデルによる曖昧な入力による女性表現の抑制
• Abstract要約: 入力画像が不明瞭な場合に、最小限のプロンプト圧力が占有性デフォルトを露出していることが分かる。 LALS(Latent Association Leaning Score)は,モデル内のテキスト埋め込み空間に視覚的なアクティベーションを投影し,概念関連性を測定するメトリクスである。
• 参考スコア（独自算出の注目度）: 0.30586855806896035
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Alignment teaches vision-language models (VLMs) to avoid expressing demographic biases, and when gender is clearly visible they largely succeed. Far less is known about ambiguous inputs (a worker in full gear, a figure seen from behind) cases common in practice yet rarely studied. We find that minimal prompting pressure exposes occupation-gender defaults when prompting ambiguous input images, with models collapsing to male even for strongly female-stereotyped occupations. But do these outputs reflect what models actually encode internally? We introduce LALS (Latent Association Leaning Score), a zero-shot metric that projects visual-token activations into the model's text-embedding space to measure concept associations per token and layer. Across 15 occupations, over 800 gender-ambiguous images, and four VLMs, internal representations and outputs are systematically decoupled: models often encode a female association internally yet output male. Layer-wise analysis reveals an asymmetric filter -- male signal amplifies end-to-end while female signal peaks mid-network and is suppressed before generation -- and a color ablation shows that culturally loaded visual cues such as clothing color further modulate these internal associations.
• Abstract（参考訳）: アライメントは、人口統計バイアスの表現を避けるために視覚言語モデル(VLM)を教える。 あいまいな入力(フルギアの労働者、後ろから見た図)についてはあまり知られていないが、実際によく見られるケースはめったに研究されていない。 入力画像が不明瞭な場合, 女性のステレオタイプが強い場合であっても, モデルが男性に崩壊するので, 最小限のプロンプト圧力は, 職業男女のデフォルトを露呈することがわかった。 しかし、これらのアウトプットは、実際に内部でコード化されているモデルを反映しているのか? LALS(Latent Association Leaning Score)は、ゼロショットのメトリクスであり、トークンとレイヤごとに概念関連を測定するために、モデル内のテキスト埋め込み空間に視覚的なアクティベーションを投影する。 15の職業、800以上の性別のあいまいなイメージ、4つのVLM、内部表現とアウトプットは体系的に分離される。 階層的な分析では、男性の信号がエンドツーエンドを増幅し、女性の信号がネットワークの途中でピークに達し、生成前に抑制される非対称なフィルタが示され、カラーアブレーションは、衣料などの文化的にロードされた視覚的手がかりが、これらの内部の関連性をさらに調整していることを示している。

関連論文リスト

• Beyond Performance Disparities: A Three-Level Audit of Representational Harm in CelebA [0.0]
  本稿では,年齢と美の男女差がデータにエンコードされ,モデル行動に再現されるかを検討する。 女性の顔は、年齢や男性によってコードされたクラスターに割り当てられると、厳しい罰を受ける。 年上の男性は最も精度が高いが、平均的な正確度は低く、データセットの評価テンプレートの外側の群を分類的に排除することを示している。
  論文  参考訳（メタデータ） (2026-05-14T18:25:17Z)
• Is She Even Relevant? When BERT Ignores Explicit Gender Cues [0.962211505591938]
  本稿では,オランダのBERTモデルにおいて,スクラッチから学習した性別情報がどのように出現するかについて検討する。 これはトランスフォーマーアーキテクチャにおいて、過剰な形態的性別マーキングとジェネリックフォームを組み合わせた言語のための最初のチェックポイントレベルのバイアス生成分析の1つである。
  論文  参考訳（メタデータ） (2026-05-08T11:48:22Z)
• BioPro: On Difference-Aware Gender Fairness for Vision-Language Models [50.40913324046528]
  VLM(Vision-Language Models)は、特にジェンダー表現において、トレーニングデータから重要な社会的バイアスを継承する。 我々は、画像キャプションとテキスト・ツー・イメージ生成における差認識性フェアネスの問題を定式化するために、テキストのみのモデルにおける差認識性フェアネスの最近の進歩の上に構築する。 我々は、中立な文脈における望ましくないバイアスを軽減し、明示的な文脈における有効な区別を保ちながら、BioProを提案する。
  論文  参考訳（メタデータ） (2025-11-30T09:33:09Z)
• Vision-Language Models display a strong gender bias [1.4633779950109127]
  職業や活動を記述した短いフレーズの埋め込みの近くに顔画像の埋め込みを配置する際、対照的な視覚言語エンコーダが性関係を示すかどうかを検証する。 感情労働、認知労働、国内労働、技術労働、専門職、身体労働を含む6つのカテゴリにまたがる150のユニークな言明と220枚の顔写真からなるデータセットを収集した。 この結果は、不確実性、単純な正当性チェック、頑健な性別バイアス評価フレームワークを伴い、対照的な視覚言語空間における性関係の声明的およびカテゴリー的マップである。
  論文  参考訳（メタデータ） (2025-08-15T06:57:26Z)
• Who Gets the Callback? Generative AI and Gender Bias [0.030693357740321777]
  大規模言語モデル(LLM)は特に高賃金の役割において男性を好む傾向にある。 求人広告における言語的特徴の包括的分析は、モデルレコメンデーションと伝統的なジェンダーステレオタイプとの強い整合性を示す。 我々の調査結果は、AIによる雇用が労働市場のバイアスを持続させ、企業内の公正性と多様性に影響を及ぼす可能性があることを強調している。
  論文  参考訳（メタデータ） (2025-04-30T07:55:52Z)
• More Women, Same Stereotypes: Unpacking the Gender Bias Paradox in Large Language Models [3.154053412440065]
  大規模言語モデル(LLM)は自然言語処理に革命をもたらしたが、社会的偏見を反映または増幅する傾向について懸念が持たれている。 本研究では,LSMにおける性別バイアスを明らかにするための新しい評価枠組みを提案する。 10の著名なLSMの体系的な分析は、職業全体にわたって女性キャラクターを過剰に表現する一貫したパターンを示している。
  論文  参考訳（メタデータ） (2025-03-20T07:15:45Z)
• GenderBias-\emph{VL}: Benchmarking Gender Bias in Vision Language Models via Counterfactual Probing [72.0343083866144]
  本稿では,GenderBias-emphVLベンチマークを用いて,大規模視覚言語モデルにおける職業関連性バイアスの評価を行う。 ベンチマークを用いて15のオープンソースLVLMと最先端の商用APIを広範囲に評価した。 既存のLVLMでは男女差が広くみられた。
  論文  参考訳（メタデータ） (2024-06-30T05:55:15Z)
• The Male CEO and the Female Assistant: Evaluation and Mitigation of Gender Biases in Text-To-Image Generation of Dual Subjects [58.27353205269664]
  本稿では,Paired Stereotype Test (PST) フレームワークを提案する。 PSTクエリT2Iモデルは、男性ステレオタイプと女性ステレオタイプに割り当てられた2つの個人を描写する。 PSTを用いて、ジェンダーバイアスの2つの側面、つまり、ジェンダーの職業におけるよく知られたバイアスと、組織力におけるバイアスという新しい側面を評価する。
  論文  参考訳（メタデータ） (2024-02-16T21:32:27Z)
• Will the Prince Get True Love's Kiss? On the Model Sensitivity to Gender Perturbation over Fairytale Texts [80.21033860436081]
  本稿では, モデルが非現実的データ拡張を通じて, ジェンダーステレオタイプ摂動にどう反応するかを検討する。 実験結果から, 性別の摂動に直面すると, モデルの性能低下がわずかであることがわかった。 反現実的なトレーニングデータに基づいて微調整を行うと、モデルは反ステレオタイプな物語に対してより堅牢になる。
  論文  参考訳（メタデータ） (2023-10-16T22:25:09Z)
• VisoGender: A dataset for benchmarking gender bias in image-text pronoun resolution [80.57383975987676]
  VisoGenderは、視覚言語モデルで性別バイアスをベンチマークするための新しいデータセットである。 We focus to occupation-related biases in a hegemonic system of binary gender, inspired by Winograd and Winogender schemas。 我々は、最先端の視覚言語モデルをいくつかベンチマークし、それらが複雑な場面における二項性解消のバイアスを示すことを発見した。
  論文  参考訳（メタデータ） (2023-06-21T17:59:51Z)
• Mitigating Gender Bias in Captioning Systems [56.25457065032423]
  ほとんどのキャプションモデルは性別バイアスを学習し、特に女性にとって高い性別予測エラーにつながる。 本稿では, 視覚的注意を自己指導し, 正しい性的な視覚的証拠を捉えるためのガイド付き注意画像キャプチャーモデル(GAIC)を提案する。
  論文  参考訳（メタデータ） (2020-06-15T12:16:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。