論文の概要: How Reasoning Influences Intersectional Biases in Vision Language Models

• arxiv url: http://arxiv.org/abs/2511.06005v1
• Date: Sat, 08 Nov 2025 13:25:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-11 21:18:44.705648
• Title: How Reasoning Influences Intersectional Biases in Vision Language Models
• Title（参考訳）: 視覚言語モデルにおける補間が断面積に与える影響
• Authors: Adit Desai, Sudipta Roy, Mohna Chakraborty,
• Abstract要約: 視覚言語モデル(VLM)は、下流のタスクにまたがってデプロイされるようになっている。 彼らのトレーニングデータは、アウトプットに現れる社会的バイアスを符号化することが多い。 VLMの理由を分析することで、本質的なバイアスがいかに永続的であり、下流のパフォーマンスに悪影響を及ぼすかを理解することができる。
• 参考スコア（独自算出の注目度）: 5.894342004453925
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision Language Models (VLMs) are increasingly deployed across downstream tasks, yet their training data often encode social biases that surface in outputs. Unlike humans, who interpret images through contextual and social cues, VLMs process them through statistical associations, often leading to reasoning that diverges from human reasoning. By analyzing how a VLM reasons, we can understand how inherent biases are perpetuated and can adversely affect downstream performance. To examine this gap, we systematically analyze social biases in five open-source VLMs for an occupation prediction task, on the FairFace dataset. Across 32 occupations and three different prompting styles, we elicit both predictions and reasoning. Our findings reveal that the biased reasoning patterns systematically underlie intersectional disparities, highlighting the need to align VLM reasoning with human values prior to its downstream deployment.
• Abstract（参考訳）: 視覚言語モデル(VLM)は、下流のタスクにまたがってデプロイされることが多いが、トレーニングデータは出力に表される社会的バイアスを符号化することが多い。 文脈や社会的手がかりを通じて画像を解釈する人間とは異なり、VLMはそれらを統計的に関連づけて処理し、しばしば人間の推論から分岐する推論へと導く。 VLMの理由を分析することで、本質的なバイアスがいかに永続的であり、下流のパフォーマンスに悪影響を及ぼすかを理解することができる。 このギャップを明らかにするために,FairFaceデータセットを用いて,5つのオープンソースのVLMにおける社会的バイアスを,職業予測タスクとして体系的に解析する。 32人以上の職業と3つの異なるプロンプトスタイルにより、予測と推論の両方が引き起こされる。 以上の結果から,VLM推論と人的価値との整合性の必要性が示唆された。

関連論文リスト

• Addressing Bias in LLMs: Strategies and Application to Fair AI-based Recruitment [49.81946749379338]
  この研究は、トランスフォーマーベースのシステムの能力を分析して、データに存在する人口統計バイアスを学習する。 最終ツールにおける偏りを緩和する手段として,学習パイプラインからの性別情報を削減するためのプライバシー向上フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-13T15:29:43Z)
• VIGNETTE: Socially Grounded Bias Evaluation for Vision-Language Models [23.329280888159744]
  本稿では、視覚言語モデル(VLM)のバイアスを評価するために、30M以上の画像を持つ大規模VQAベンチマークであるVIGNETTEを紹介する。 我々は、VLMが文脈的設定におけるアイデンティティをどう解釈するかを評価し、モデルがどのように特性と能力の仮定を作成し、差別のパターンを示すかを明らかにする。 我々の発見は微妙で多面的で驚くべきステレオタイプパターンを明らかにし、VLMが入力から社会的意味をどう構築するかについての洞察を提供する。
  論文  参考訳（メタデータ） (2025-05-28T22:00:30Z)
• Interpreting Social Bias in LVLMs via Information Flow Analysis and Multi-Round Dialogue Evaluation [1.7997395646080083]
  大規模視覚言語モデル (LVLM) はマルチモーダルタスクにおいて顕著な進歩を遂げているが、社会的偏見も顕著である。 本稿では,情報フロー解析と多ラウンド対話評価を組み合わせた説明フレームワークを提案する。 実験により、LVLMは異なる人口集団の画像を処理する際に、情報利用の体系的な差異を示すことが明らかとなった。
  論文  参考訳（メタデータ） (2025-05-27T12:28:44Z)
• My Answer Is NOT 'Fair': Mitigating Social Bias in Vision-Language Models via Fair and Biased Residuals [6.321884145362591]
  我々は,モデルの応答と確率分布の両方に対する社会的バイアスの評価と緩和に焦点をあてる。 モデルがジェンダーバイアスや人種バイアスの反応を発生させることに悩まされていることがわかりました。 本稿では,学習自由でモデルに依存しない,社会的偏見を軽減するための推論段階のポストホック手法を提案する。
  論文  参考訳（メタデータ） (2025-05-26T15:14:16Z)
• VisuLogic: A Benchmark for Evaluating Visual Reasoning in Multi-modal Large Language Models [121.03333569013148]
  VisuLogicは、6つのカテゴリにまたがる1,000の人間認証された問題のベンチマークです。 これらの質問は、複数の視点からMLLMの視覚的推論能力を評価するために評価することができる。 ほとんどのモデルは精度が30%以下で、25%のランダムベースラインよりわずかに高く、人間によって達成された51.4%よりはるかに低い。
  論文  参考訳（メタデータ） (2025-04-21T17:59:53Z)
• Actions Speak Louder than Words: Agent Decisions Reveal Implicit Biases in Language Models [10.565316815513235]
  大規模言語モデル(LLM)は、人間の振る舞いをシミュレートする際にも暗黙の偏見を示すことがある。 ほぼすべてのシミュレーションにおいて,最先端のLDMは社会デマトグラフィーの相違が顕著であることを示す。 実験結果と実世界の格差を比較すると、我々が発見したバイアスは方向整列されているが、顕著に増幅されていることがわかった。
  論文  参考訳（メタデータ） (2025-01-29T05:21:31Z)
• A Unified Framework and Dataset for Assessing Societal Bias in Vision-Language Models [9.025958469582363]
  視覚言語モデル(VLM)における性別・人種・年齢バイアスを統一的に評価するための枠組みを提案する。 我々は、異なる専門分野の性別、人種、年齢情報を意図的に隠蔽する高品質な合成データセットを生成する。 このデータセットには、各専門職の行動に基づく記述が含まれており、視覚言語モデル(VLM)における社会的バイアスを評価するためのベンチマークとして機能している。
  論文  参考訳（メタデータ） (2024-02-21T09:17:51Z)
• Exploring the Jungle of Bias: Political Bias Attribution in Language Models via Dependency Analysis [86.49858739347412]
  大規模言語モデル(LLM)は、これらのモデルにおけるバイアスの頻度とその緩和に関する激しい議論を引き起こしている。 本稿では,意思決定プロセスに寄与する属性の抽出と仲介を行うためのプロンプトベースの手法を提案する。 観察された異なる治療は、少なくとも部分的には、属性の相違とモデルの相違によるものであることが判明した。
  論文  参考訳（メタデータ） (2023-11-15T00:02:25Z)
• Bias and Fairness in Large Language Models: A Survey [73.87651986156006]
  本稿では,大規模言語モデル(LLM)のバイアス評価と緩和手法に関する総合的な調査を行う。 まず、自然言語処理における社会的偏見と公平性の概念を統合し、形式化し、拡張する。 次に,3つの直感的な2つのバイアス評価法と1つの緩和法を提案し,文献を統一する。
  論文  参考訳（メタデータ） (2023-09-02T00:32:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。