論文の概要: Think Before You Act: A Two-Stage Framework for Mitigating Gender Bias Towards Vision-Language Tasks

• arxiv url: http://arxiv.org/abs/2405.16860v1
• Date: Mon, 27 May 2024 06:20:58 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-28 16:50:47.284268
• Title: Think Before You Act: A Two-Stage Framework for Mitigating Gender Bias Towards Vision-Language Tasks
• Title（参考訳）: ジェンダーバイアスをビジョンランゲージタスクに移行するための2段階のフレームワーク
• Authors: Yunqi Zhang, Songda Li, Chunyuan Deng, Luyi Wang, Hui Zhao,
• Abstract要約: 視覚言語モデル(VLM)における性バイアスは、有害なステレオタイプや差別を強化することができる。 本稿では,ジェンダーバイアスを軽減するためのタスク依存生成フレームワークGAMAを提案する。 物語生成の際、GAMAは全面的だが性的に難解な物語を産み出す。 回答推論の間、GAMAは画像、生成された物語、タスク固有の質問プロンプトを統合し、異なる視覚言語タスクに対する回答を推測する。
• 参考スコア（独自算出の注目度）: 5.123567809055078
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Gender bias in vision-language models (VLMs) can reinforce harmful stereotypes and discrimination. In this paper, we focus on mitigating gender bias towards vision-language tasks. We identify object hallucination as the essence of gender bias in VLMs. Existing VLMs tend to focus on salient or familiar attributes in images but ignore contextualized nuances. Moreover, most VLMs rely on the co-occurrence between specific objects and gender attributes to infer the ignored features, ultimately resulting in gender bias. We propose GAMA, a task-agnostic generation framework to mitigate gender bias. GAMA consists of two stages: narrative generation and answer inference. During narrative generation, GAMA yields all-sided but gender-obfuscated narratives, which prevents premature concentration on localized image features, especially gender attributes. During answer inference, GAMA integrates the image, generated narrative, and a task-specific question prompt to infer answers for different vision-language tasks. This approach allows the model to rethink gender attributes and answers. We conduct extensive experiments on GAMA, demonstrating its debiasing and generalization ability.
• Abstract（参考訳）: 視覚言語モデル(VLM)におけるジェンダーバイアスは有害なステレオタイプや差別を強化することができる。 本稿では,視覚言語タスクに対するジェンダーバイアスの軽減に焦点をあてる。 対象の幻覚を,VLMにおける性バイアスの本質として認識する。 既存のVLMは、画像に精通した属性や慣れ親しんだ属性にフォーカスする傾向があるが、文脈化されたニュアンスを無視する。 さらに、ほとんどのVLMは、無視された特徴を推測するために、特定のオブジェクトと性別属性の共起に依存し、最終的に性別バイアスをもたらす。 本稿では,ジェンダーバイアスを軽減するためのタスク依存生成フレームワークGAMAを提案する。 GAMAは物語生成と回答推論の2つの段階から構成される。 物語生成中、GAMAは全面的だが性的に難解な物語を生み出し、局所化画像の特徴、特に性別属性に早めに集中するのを防ぐ。 回答推論の間、GAMAはイメージ、生成された物語、タスク固有の質問プロンプトを統合し、異なる視覚言語タスクに対する回答を推測する。 このアプローチは、モデルが性別の属性と答えを再考することを可能にする。 我々はGAMAに関する広範な実験を行い、その偏りと一般化能力を実証した。

関連論文リスト

• Revealing and Reducing Gender Biases in Vision and Language Assistants (VLAs) [82.57490175399693]
  画像・テキスト・ビジョン言語アシスタント(VLA)22種における性別バイアスの検討 以上の結果から,VLAは実世界の作業不均衡など,データ中の人間のバイアスを再現する可能性が示唆された。 これらのモデルにおける性別バイアスを排除するため、微調整に基づくデバイアス法は、下流タスクにおけるデバイアスとパフォーマンスの最良のトレードオフを実現する。
  論文  参考訳（メタデータ） (2024-10-25T05:59:44Z)
• GenderBias-\emph{VL}: Benchmarking Gender Bias in Vision Language Models via Counterfactual Probing [72.0343083866144]
  本稿では,GenderBias-emphVLベンチマークを用いて,大規模視覚言語モデルにおける職業関連性バイアスの評価を行う。 ベンチマークを用いて15のオープンソースLVLMと最先端の商用APIを広範囲に評価した。 既存のLVLMでは男女差が広くみられた。
  論文  参考訳（メタデータ） (2024-06-30T05:55:15Z)
• Disclosure and Mitigation of Gender Bias in LLMs [64.79319733514266]
  大規模言語モデル(LLM)はバイアス応答を生成することができる。 条件生成に基づく間接探索フレームワークを提案する。 LLMにおける明示的・暗黙的な性バイアスを明らかにするための3つの戦略を探求する。
  論文  参考訳（メタデータ） (2024-02-17T04:48:55Z)
• Probing Explicit and Implicit Gender Bias through LLM Conditional Text Generation [64.79319733514266]
  大規模言語モデル(LLM)はバイアスと有害な応答を生成する。 本研究では,あらかじめ定義されたジェンダーフレーズやステレオタイプを必要としない条件付きテキスト生成機構を提案する。
  論文  参考訳（メタデータ） (2023-11-01T05:31:46Z)
• VisoGender: A dataset for benchmarking gender bias in image-text pronoun resolution [80.57383975987676]
  VisoGenderは、視覚言語モデルで性別バイアスをベンチマークするための新しいデータセットである。 We focus to occupation-related biases in a hegemonic system of binary gender, inspired by Winograd and Winogender schemas。 我々は、最先端の視覚言語モデルをいくつかベンチマークし、それらが複雑な場面における二項性解消のバイアスを示すことを発見した。
  論文  参考訳（メタデータ） (2023-06-21T17:59:51Z)
• Model-Agnostic Gender Debiased Image Captioning [29.640940966944697]
  イメージキャプションモデルは、トレーニングセットにおける有害な社会的バイアスを永続化し、増幅することが知られている。 我々は、合成バイアスされたサンプルから学習し、両方のバイアスを減少させるLIBRAというフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-04-07T15:30:49Z)
• Type B Reflexivization as an Unambiguous Testbed for Multilingual Multi-Task Gender Bias [5.239305978984572]
  我々は,B型回帰型言語の場合,性別バイアスを検出するためにマルチタスクチャレンジデータセットを構築することができることを示した。 これらの言語では「医者がマスクを取り除いた」という直訳は中音読みと不一致読みのあいまいさではない。 4つの言語と4つのNLPタスクにまたがる多言語・マルチタスク課題データセットを提案する。
  論文  参考訳（メタデータ） (2020-09-24T23:47:18Z)
• Multi-Dimensional Gender Bias Classification [67.65551687580552]
  機械学習モデルは、性別に偏ったテキストでトレーニングする際に、社会的に望ましくないパターンを不注意に学習することができる。 本稿では,テキスト中の性バイアスを複数の実用的・意味的な次元に沿って分解する一般的な枠組みを提案する。 このきめ細かいフレームワークを用いて、8つの大規模データセットにジェンダー情報を自動的にアノテートする。
  論文  参考訳（メタデータ） (2020-05-01T21:23:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。