論文の概要: Gender Bias in Multimodal Models: A Transnational Feminist Approach
Considering Geographical Region and Culture
- arxiv url: http://arxiv.org/abs/2309.04997v1
- Date: Sun, 10 Sep 2023 11:11:18 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-12 15:07:40.993109
- Title: Gender Bias in Multimodal Models: A Transnational Feminist Approach
Considering Geographical Region and Culture
- Title(参考訳): マルチモーダルモデルにおけるジェンダーバイアス:地理的地域と文化を考慮したトランスナショナルフェミニストアプローチ
- Authors: Abhishek Mandal, Suzanne Little and Susan Leavy
- Abstract要約: 本稿では、トランスナショナルフェミニズムの概念を取り入れたジェンダーを考慮したマルチモーダルモデルの監査手法を提案する。
男女差の有意な証拠は, 地域によって異なる。
有害なステレオタイプ・アソシエーションは、視覚的な文化的手がかりやテロリズムのようなラベルに関連していることも判明した。
- 参考スコア(独自算出の注目度): 3.101600812051321
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep learning based visual-linguistic multimodal models such as Contrastive
Language Image Pre-training (CLIP) have become increasingly popular recently
and are used within text-to-image generative models such as DALL-E and Stable
Diffusion. However, gender and other social biases have been uncovered in these
models, and this has the potential to be amplified and perpetuated through AI
systems. In this paper, we present a methodology for auditing multimodal models
that consider gender, informed by concepts from transnational feminism,
including regional and cultural dimensions. Focusing on CLIP, we found evidence
of significant gender bias with varying patterns across global regions. Harmful
stereotypical associations were also uncovered related to visual cultural cues
and labels such as terrorism. Levels of gender bias uncovered within CLIP for
different regions aligned with global indices of societal gender equality, with
those from the Global South reflecting the highest levels of gender bias.
- Abstract(参考訳): Contrastive Language Image Pre-Training (CLIP) のような深層学習に基づく視覚言語型マルチモーダルモデルが最近普及し、DALL-EやStable Diffusionといったテキストから画像への生成モデルで使用されている。
しかし、性別やその他の社会的バイアスがこれらのモデルで発見されており、これはAIシステムを通じて増幅され、永続される可能性がある。
本稿では,地域・文化的側面を含む超国家的フェミニズムの概念に基づくジェンダーを考慮したマルチモーダルモデルの監査手法を提案する。
CLIPに焦点をあてて、世界各地の様々なパターンで有意な性別バイアスの証拠を見出した。
有害なステレオタイプ・アソシエーションは、視覚文化の手がかりやテロリズムなどのラベルに関連しても発見された。
クリップ内で発見された性別バイアスのレベルは、社会性平等のグローバル指標と一致し、世界南部のものは性別バイアスの最高レベルを反映している。
関連論文リスト
- Non-discrimination Criteria for Generative Language Models [5.325297567945828]
本稿では、生成言語モデルにおけるジェンダーバイアスの存在を解明し、定量化する方法について研究する。
我々は、独立性、分離性、充足性という3つのよく知られた非識別基準のジェネレーティブAIアナログを導出する。
本研究は,このような対話型言語モデルにおける職業性バイアスの存在に対処するものである。
論文 参考訳(メタデータ) (2024-03-13T14:19:08Z) - The Male CEO and the Female Assistant: Probing Gender Biases in
Text-To-Image Models Through Paired Stereotype Test [68.84245853250906]
DALLE-3のような最近の大規模テキスト・ツー・イメージ(T2I)モデルは、新しいアプリケーションにおいて大きな可能性を秘めているが、前例のない公平さの課題に直面している。
本稿では,Paired Stereotype Test (PST) のバイアス評価フレームワークを提案する。
以上の結果から,現代T2Iモデルにおける男女差の複雑なパターンが明らかとなり,マルチモーダル生成システムにおける批判的公平性の課題が浮き彫りになった。
論文 参考訳(メタデータ) (2024-02-16T21:32:27Z) - VisoGender: A dataset for benchmarking gender bias in image-text pronoun
resolution [80.57383975987676]
VisoGenderは、視覚言語モデルで性別バイアスをベンチマークするための新しいデータセットである。
We focus to occupation-related biases in a hegemonic system of binary gender, inspired by Winograd and Winogender schemas。
我々は、最先端の視覚言語モデルをいくつかベンチマークし、それらが複雑な場面における二項性解消のバイアスを示すことを発見した。
論文 参考訳(メタデータ) (2023-06-21T17:59:51Z) - "I'm fully who I am": Towards Centering Transgender and Non-Binary
Voices to Measure Biases in Open Language Generation [69.25368160338043]
トランスジェンダーとノンバイナリ(TGNB)の個人は、日常生活から差別や排除を不当に経験している。
オープン・ランゲージ・ジェネレーションにおいて,経験豊富なTGNB人物の疎外化を取り巻く社会的現実がいかに貢献し,持続するかを評価する。
我々はTGNB指向のコミュニティからキュレートされたテンプレートベースの実世界のテキストのデータセットであるTANGOを紹介する。
論文 参考訳(メタデータ) (2023-05-17T04:21:45Z) - Fairness in AI Systems: Mitigating gender bias from language-vision
models [0.913755431537592]
既存のデータセットにおける性別バイアスの影響について検討する。
本稿では,キャプションに基づく言語視覚モデルにおけるその影響を緩和する手法を提案する。
論文 参考訳(メタデータ) (2023-05-03T04:33:44Z) - Stable Bias: Analyzing Societal Representations in Diffusion Models [72.27121528451528]
本稿では,テキスト・ツー・イメージ(TTI)システムにおける社会的バイアスを探索する新しい手法を提案する。
我々のアプローチは、プロンプト内の性別や民族のマーカーを列挙して生成された画像の変動を特徴づけることに依存している。
我々はこの手法を利用して3つのTTIシステムによって生成された画像を分析し、そのアウトプットが米国の労働人口層と相関しているのに対して、彼らは常に異なる範囲において、限界化されたアイデンティティを低く表現している。
論文 参考訳(メタデータ) (2023-03-20T19:32:49Z) - The Birth of Bias: A case study on the evolution of gender bias in an
English language model [1.6344851071810076]
私たちは、英語のウィキペディアコーパスでトレーニングされたLSTMアーキテクチャを使って、比較的小さな言語モデルを使用します。
性別の表現は動的であり、訓練中に異なる位相を識別する。
モデルの入力埋め込みにおいて,ジェンダー情報が局所的に表現されることが示される。
論文 参考訳(メタデータ) (2022-07-21T00:59:04Z) - Worst of Both Worlds: Biases Compound in Pre-trained Vision-and-Language
Models [17.90351661475405]
この研究は、テキストベースのバイアス分析手法を拡張し、マルチモーダル言語モデルを調べる。
VL-BERTが性別バイアスを示し、視覚シーンを忠実に表現するよりもステレオタイプを強化することを好むことが多いことを実証します。
論文 参考訳(メタデータ) (2021-04-18T00:02:32Z) - How True is GPT-2? An Empirical Analysis of Intersectional Occupational
Biases [50.591267188664666]
下流のアプリケーションは、自然言語モデルに含まれるバイアスを継承するリスクがある。
一般的な生成言語モデルであるGPT-2の作業バイアスを分析した。
特定の仕事について、GPT-2は米国におけるジェンダーと民族の社会的偏見を反映しており、場合によってはジェンダー・パリティの傾向を反映している。
論文 参考訳(メタデータ) (2021-02-08T11:10:27Z) - Multi-Dimensional Gender Bias Classification [67.65551687580552]
機械学習モデルは、性別に偏ったテキストでトレーニングする際に、社会的に望ましくないパターンを不注意に学習することができる。
本稿では,テキスト中の性バイアスを複数の実用的・意味的な次元に沿って分解する一般的な枠組みを提案する。
このきめ細かいフレームワークを用いて、8つの大規模データセットにジェンダー情報を自動的にアノテートする。
論文 参考訳(メタデータ) (2020-05-01T21:23:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。