論文の概要: ViD: Vision-Dominant Gender Bias Mitigation for Large Vision-Language Models
- arxiv url: http://arxiv.org/abs/2609.16647v1
- Date: Tue, 15 Sep 2026 05:08:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 14:56:08.351754
- Title: ViD: Vision-Dominant Gender Bias Mitigation for Large Vision-Language Models
- Title（参考訳）: ViD:大規模視覚言語モデルのための視覚支配性性バイアス軽減
- Abstract要約: 大規模視覚言語モデル(LVLM)におけるジェンダーバイアスは、その公正性と信頼性を損なうものであり、出力の信頼性を損なう。
我々は5つの異なるパターンにまたがる注意機構を解析する因果的に着想を得たフレームワークであるViDを提案する。
一般的な推論能力とテキスト生成品質を保ちながら、視覚と言語間のクロスアテンションはバイアスを効果的に抑制する。
我々の統合的アプローチは、LVLMにおける多次元社会的属性間の性バイアスを著しく軽減し、視覚的グラウンド化と出力公正性を改善する。
- 参考スコア（独自算出の注目度）: 1.3160250584906181
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Gender bias in large vision-language models (LVLMs) undermines their fairness and reliability, compromising output trustworthiness. Current mitigation methods rely on training-phase adjustments or post-hoc calibration, but face limitations in dynamic visual bias mitigation. These include inability to capture real-time visual-textual incongruence, dependence on predefined gender bias taxonomies, and degraded cross-modal alignment with emergent bias patterns. To address these challenges, we propose ViD, a causally-inspired framework that analyzes attention mechanisms across five distinct patterns, revealing confounding effects from strong language priors. ViD demonstrates that visual-to-language cross-attention effectively suppresses bias while preserving general reasoning capabilities and text generation quality. ViD incorporates dual mechanisms: backdoor adjustment counters strong language priors, while refined token selection in decoding layers optimizes processing. This enhances model robustness and inference efficiency. Our integrated approach significantly mitigates gender bias across multidimensional social attributes in LVLMs, improving visual grounding and output fairness. Cross-benchmark validation shows ViD reduces gender bias by 14.7\% on single-attribute evaluations (FACET) and achieves significant improvements on image captioning tasks (MS COCO), with gender bias score improving from 0.6708 to 0.9978 for LLaVA. Crucially, these improvements require no additional training overhead, making ViD a scalable and practical solution for bias mitigation in LVLMs.
- Abstract（参考訳）: 大規模視覚言語モデル(LVLM)におけるジェンダーバイアスは、その公正性と信頼性を損なうものであり、出力の信頼性を損なう。
現在の緩和法は、トレーニングフェーズ調整やポストホック校正に頼っているが、動的視覚バイアス緩和の限界に直面している。
これには、リアルタイムの視覚的・テクスト的不整合を捉えることができないこと、事前に定義された性別バイアスの分類に依存しないこと、創発的バイアスパターンと経時的アライメントの低下が含まれる。
これらの課題に対処するために,5つの異なるパターンにまたがる注意機構を解析し,強い言語前駆者による相反する影響を明らかにするために,因果的に着想を得たフレームワークであるViDを提案する。
ViDは、一般的な推論能力とテキスト生成品質を維持しながら、視覚と言語間の相互注意がバイアスを効果的に抑制することを示した。
ViDには2つのメカニズムが組み込まれている: バックドア調整は、強い言語前兆に対処する一方、復号層における洗練されたトークン選択は処理を最適化する。
これによりモデル堅牢性と推論効率が向上する。
我々の統合的アプローチは、LVLMにおける多次元社会的属性間の性バイアスを著しく軽減し、視覚的グラウンド化と出力公正性を改善する。
クロスベンチマーク検証では、シングルアトリビュート評価(FACET)の性別バイアスを14.7%削減し、画像キャプションタスク(MS COCO)を大幅に改善し、LLaVAの性別バイアススコアは0.6708から0.9978に改善されている。
重要な点として、これらの改善は追加のトレーニングオーバーヘッドを必要としないため、VDはLVLMのバイアス軽減のためのスケーラブルで実用的なソリューションである。
関連論文リスト
- CofactVLA: Deconfounding Vision-Language-Action Models via Counterfactual Intervention [48.20065816234311]
VLA(Vision-Language-Action)モデルはロボット操作に大きな進歩をもたらしたが、ビジョンオーバーライド現象に苦戦している。
本稿では,新たな因果介入フレームワークCofactVLAを提案する。
我々は、CofactVLAが様々なシミュレーションベンチマークにまたがって新しい最先端のベンチマークを確立していることを示す。
論文 参考訳（メタデータ） (2026-08-05T02:58:41Z) - Mechanics of Bias and Reasoning: Interpreting the Impact of Chain-of-Thought Prompting on Gender Bias in LLMs [9.546109127678625]
CoT(Chain-of-Thought)プロンプトはバイアス緩和手法として提案されている。
メカニスティック分析により、CoTは特定の注目ヘッドクラスタにおけるバイアスの振る舞いのバランスを保っているが、性別バイアスは隠された表現に埋もれていることが明らかになった。
論文 参考訳（メタデータ） (2026-05-19T19:05:13Z) - ReViP: Reducing False Completion in Vision-Language-Action Models with Vision-Proprioception Rebalance [50.05984919728878]
本稿では、視覚的接地と摂動下での堅牢性を高めるために、視覚-受容器リバランスを備えた新しいVLAフレームワークReViPを提案する。
具体的には、タスクステージオブザーバとして外部VLMを使用して、視覚的な観察からリアルタイムなタスク中心の視覚的手がかりを抽出する。
本稿では,オブジェクトドロップのような制御された設定を持つLIBERO上に構築された最初のFalse-Completion Benchmark Suiteを提案する。
論文 参考訳（メタデータ） (2026-01-23T11:31:07Z) - Bias in Gender Bias Benchmarks: How Spurious Features Distort Evaluation [116.86965910589775]
対象物の10%だけをマスクしたり、背景が弱くぼやけたりといった、最小限の摂動でさえ、バイアススコアを劇的に変える可能性がある。
これは、現在のバイアス評価がモデル応答を、性別バイアスよりも刺激的な特徴に反映していることを示唆している。
論文 参考訳（メタデータ） (2025-09-09T11:14:11Z) - Freeze and Reveal: Exposing Modality Bias in Vision-Language Models [5.368169150936655]
視覚言語モデルは、印象的なマルチモーダルパフォーマンスを達成するが、しばしばトレーニングデータから性別バイアスを継承する。
本研究では,これらのバイアスに対する視覚とテキストのバックボーンの寄与を,対象の偏りを適用して判別する。
我々の研究は、将来のマルチモーダルシステムにおけるより標的的で効果的なバイアス緩和戦略を可能にする。
論文 参考訳（メタデータ） (2025-08-10T17:08:10Z) - Mitigating Hallucination in Large Vision-Language Models via Adaptive Attention Calibration [2.19036693868242]
大規模視覚言語モデル(LVLM)はマルチモーダルタスクにおいて印象的な性能を発揮するが、幻覚に悩まされることが多い。
2つの重要なバイアスをターゲットとして、この問題に対処するために、信頼性意識(CAAC)フレームワークを導入します。
CAACでは、視覚トークン間の注意のバランスをとるためにVTC(Visual-Token)と、視覚的接地を強化するためにAdaptive Attention Re-Scaling(Adaptive Re-Scaling)という2段階のアプローチを採用している。
論文 参考訳（メタデータ） (2025-05-27T17:45:21Z) - Transparent and Coherent Procedural Mistake Detection [30.540514590818265]
手続き的誤り検出(英: Procedural mis detection、PMD)は、人間がタスクをうまく実行したかどうかを分類する難しい問題である(手続き的テキストで特定)。
我々は、意思決定に視覚的自己対話的合理性を生成するためにPMDを拡張した。
近年のヴィジュアル・アンド・ランゲージモデル(VLM)で観察される印象的かつ成熟した画像理解能力を考えると、個々のフレームに基づいてPMDに適したベンチマークデータセットをキュレートする。
論文 参考訳（メタデータ） (2024-12-16T16:13:55Z) - The Root Shapes the Fruit: On the Persistence of Gender-Exclusive Harms in Aligned Language Models [91.86718720024825]
我々はトランスジェンダー、ノンバイナリ、その他のジェンダー・ディバースのアイデンティティを中心とし、アライメント手順が既存のジェンダー・ディバースバイアスとどのように相互作用するかを検討する。
以上の結果から,DPO対応モデルは特に教師付き微調整に敏感であることが示唆された。
DPOとより広範なアライメントプラクティスに合わせたレコメンデーションで締めくくります。
論文 参考訳（メタデータ） (2024-11-06T06:50:50Z) - Revealing and Reducing Gender Biases in Vision and Language Assistants (VLAs) [82.57490175399693]
画像・テキスト・ビジョン言語アシスタント(VLA)22種における性別バイアスの検討
以上の結果から,VLAは実世界の作業不均衡など,データ中の人間のバイアスを再現する可能性が示唆された。
これらのモデルにおける性別バイアスを排除するため、微調整に基づくデバイアス法は、デバイアス化と性能維持の最良のトレードオフを実現する。
論文 参考訳（メタデータ） (2024-10-25T05:59:44Z) - GenderCARE: A Comprehensive Framework for Assessing and Reducing Gender Bias in Large Language Models [73.23743278545321]
大規模言語モデル(LLM)は、自然言語生成において顕著な能力を示してきたが、社会的バイアスを増大させることも観察されている。
GenderCAREは、革新的な基準、バイアス評価、リダクションテクニック、評価メトリクスを含む包括的なフレームワークである。
論文 参考訳（メタデータ） (2024-08-22T15:35:46Z) - Debiasing Multimodal Large Language Models via Penalization of Language Priors [38.97645845493758]
MLLM(Multimodal Large Language Models)は、コンピュータビジョンや自然言語処理において欠かせないツールとなっている。
生成されたコンテンツは、入力画像よりも、基礎となるLarge Language Models (LLMs) の本質的な先行性によって駆動されることが多い。
本稿では、これらのバイアスを補正し、視覚情報に対するモデルの焦点をリダイレクトするための、単純でトレーニングのない2つの戦略を提案する。
論文 参考訳（メタデータ） (2024-03-08T12:35:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。