論文の概要: A Stereotype Content Analysis on Color-related Social Bias in Large Vision Language Models

• arxiv url: http://arxiv.org/abs/2505.20901v1
• Date: Tue, 27 May 2025 08:44:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-28 17:05:58.525406
• Title: A Stereotype Content Analysis on Color-related Social Bias in Large Vision Language Models
• Title（参考訳）: 大規模視覚言語モデルにおける色関連社会バイアスのステレオタイプ分析
• Authors: Junhyuk Choi, Minju Kim, Yeseon Hong, Bugeun Kim,
• Abstract要約: 本研究では,ステレオタイプコンテンツモデル(SCM)に基づく新しい評価指標を提案する。 また、性別、人種、色彩のステレオタイプを評価するためのベンチマークであるBASICを提案する。
• 参考スコア（独自算出の注目度）: 5.12659586713042
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As large vision language models(LVLMs) rapidly advance, concerns about their potential to learn and generate social biases and stereotypes are increasing. Previous studies on LVLM's stereotypes face two primary limitations: metrics that overlooked the importance of content words, and datasets that overlooked the effect of color. To address these limitations, this study introduces new evaluation metrics based on the Stereotype Content Model (SCM). We also propose BASIC, a benchmark for assessing gender, race, and color stereotypes. Using SCM metrics and BASIC, we conduct a study with eight LVLMs to discover stereotypes. As a result, we found three findings. (1) The SCM-based evaluation is effective in capturing stereotypes. (2) LVLMs exhibit color stereotypes in the output along with gender and race ones. (3) Interaction between model architecture and parameter sizes seems to affect stereotypes. We release BASIC publicly on [anonymized for review].
• Abstract（参考訳）: 大規模視覚言語モデル(LVLM)が急速に進歩するにつれて、社会バイアスやステレオタイプを学習・生成する可能性への懸念が高まっている。 LVLMのステレオタイプに関するこれまでの研究は、コンテンツワードの重要性を見落としているメトリクスと、色の影響を見落としているデータセットの2つの主要な制限に直面していた。 これらの制約に対処するため,本研究では,ステレオタイプコンテンツモデル(SCM)に基づく新しい評価指標を導入する。 また、性別、人種、色彩のステレオタイプを評価するためのベンチマークであるBASICを提案する。 SCMメトリクスとBASICを用いて,8つのLVLMを用いてステレオタイプを発見する。 その結果,3つの所見が得られた。 1)SCMによる評価はステレオタイプを捉えるのに有効である。 2) LVLMは, 性別や人種とともに, 出力にカラーステレオタイプを呈する。 3) モデルアーキテクチャとパラメータサイズとの相互作用はステレオタイプに影響を及ぼすと思われる。 BASICを公開して[レビューのために匿名化]します。

関連論文リスト

• Fact-or-Fair: A Checklist for Behavioral Testing of AI Models on Fairness-Related Queries [85.909363478929]
  本研究では,権威ある情報源から収集した19の実世界統計に着目した。 主観的および主観的な問合せからなるチェックリストを作成し,大規模言語モデルの振る舞いを解析する。 事実性と公平性を評価するためのメトリクスを提案し、これらの2つの側面の間に固有のトレードオフを正式に証明する。
  論文  参考訳（メタデータ） (2025-02-09T10:54:11Z)
• Spoken Stereoset: On Evaluating Social Bias Toward Speaker in Speech Large Language Models [50.40276881893513]
  本研究では,音声大言語モデル(SLLM)における社会的バイアスの評価を目的としたデータセットであるSpken Stereosetを紹介する。 多様な人口集団の発話に対して異なるモデルがどのように反応するかを調べることで、これらのバイアスを特定することを目指している。 これらの結果から,ほとんどのモデルではバイアスが最小であるが,ステレオタイプや反ステレオタイプ傾向がわずかにみられた。
  論文  参考訳（メタデータ） (2024-08-14T16:55:06Z)
• Inclusivity in Large Language Models: Personality Traits and Gender Bias in Scientific Abstracts [49.97673761305336]
  我々は,3つの大きな言語モデル (LLM) を,人間の物語スタイルと潜在的な性別バイアスに適合させることで評価した。 以上の結果から,これらのモデルは一般的にヒトの投稿内容によく似たテキストを生成するが,スタイル的特徴の変化は有意な性差を示すことが示唆された。
  論文  参考訳（メタデータ） (2024-06-27T19:26:11Z)
• Probing Explicit and Implicit Gender Bias through LLM Conditional Text Generation [64.79319733514266]
  大規模言語モデル(LLM)はバイアスと有害な応答を生成する。 本研究では,あらかじめ定義されたジェンダーフレーズやステレオタイプを必要としない条件付きテキスト生成機構を提案する。
  論文  参考訳（メタデータ） (2023-11-01T05:31:46Z)
• StereoMap: Quantifying the Awareness of Human-like Stereotypes in Large Language Models [11.218531873222398]
  大規模言語モデル(LLM)は、トレーニングデータに存在する有害な関連を符号化し、永続する。 本稿では,人口集団が社会によってどのように見られているかについての認識を得るために,StereoMapという理論的基盤を持つフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-10-20T17:22:30Z)
• Easily Accessible Text-to-Image Generation Amplifies Demographic Stereotypes at Large Scale [61.555788332182395]
  危険で複雑なステレオタイプを増幅する機械学習モデルの可能性を検討する。 さまざまな通常のプロンプトがステレオタイプを生成しており、それらは単に特性、記述子、職業、オブジェクトに言及するプロンプトを含む。
  論文  参考訳（メタデータ） (2022-11-07T18:31:07Z)
• Theory-Grounded Measurement of U.S. Social Stereotypes in English Language Models [12.475204687181067]
  我々は、言語モデル(LM)におけるステレオタイプ・トレーディングの体系的研究と発見のための枠組みとして、エージェンシー・ビリーフ・コミュニオン・ステレオタイプモデルを適用した。 言語モデルからステレオタイプ関係を測定するための感度テスト(SeT)を導入する。 我々は、米国在住の被験者からグループトレイト判断を収集し、英語のLMステレオタイプと比較した。
  論文  参考訳（メタデータ） (2022-06-23T13:22:24Z)
• Towards Understanding and Mitigating Social Biases in Language Models [107.82654101403264]
  大規模事前訓練言語モデル(LM)は、望ましくない表現バイアスを示すのに潜在的に危険である。 テキスト生成における社会的バイアスを軽減するためのステップを提案する。 我々の経験的結果と人的評価は、重要な文脈情報を保持しながらバイアスを緩和する効果を示す。
  論文  参考訳（メタデータ） (2021-06-24T17:52:43Z)
• Understanding and Countering Stereotypes: A Computational Approach to the Stereotype Content Model [4.916009028580767]
  ステレオタイプコンテンツモデル(SCM)を用いてテキスト中のステレオタイプを解釈する計算手法を提案する。 SCMは、ステレオタイプは温かさと能力の2つの主要な次元に沿って理解することができると提案している。 反ステレオタイプ的な例によるステレオタイプに対抗することは、偏見的思考を減らす最も効果的な方法の1つであることが知られている。
  論文  参考訳（メタデータ） (2021-06-04T16:53:37Z)
• CrowS-Pairs: A Challenge Dataset for Measuring Social Biases in Masked Language Models [30.582132471411263]
  Crowd Stereotype Pairsベンチマーク(CrowS-Pairs)を紹介する。 CrowS-Pairsには1508の例があり、人種、宗教、年齢など9種類の偏見を扱うステレオタイプをカバーしている。 その結果, CrowS-Pairs の各カテゴリーにおいて, 広く使われている3つの文のすべてが, 実質的にステレオタイプを好んでいることがわかった。
  論文  参考訳（メタデータ） (2020-09-30T22:38:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。