論文の概要: Quantifying Societal Bias Amplification in Image Captioning

• arxiv url: http://arxiv.org/abs/2203.15395v1
• Date: Tue, 29 Mar 2022 09:42:11 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-30 16:35:40.009064
• Title: Quantifying Societal Bias Amplification in Image Captioning
• Title（参考訳）: 画像キャプションにおける社会バイアス増幅の定量化
• Authors: Yusuke Hirota, Yuta Nakashima, Noa Garcia
• Abstract要約: 画像キャプションでは,保護属性の正しい予測に焦点を合わせるだけでは十分ではない。 従来の画像キャプションモデルと最先端画像キャプションモデルについて広範な評価を行い、保護属性予測のみに着目して、バイアス緩和モデルが予想外にバイアスを増幅していることに驚きを感じた。
• 参考スコア（独自算出の注目度）: 24.075869811508404
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study societal bias amplification in image captioning. Image captioning models have been shown to perpetuate gender and racial biases, however, metrics to measure, quantify, and evaluate the societal bias in captions are not yet standardized. We provide a comprehensive study on the strengths and limitations of each metric, and propose LIC, a metric to study captioning bias amplification. We argue that, for image captioning, it is not enough to focus on the correct prediction of the protected attribute, and the whole context should be taken into account. We conduct extensive evaluation on traditional and state-of-the-art image captioning models, and surprisingly find that, by only focusing on the protected attribute prediction, bias mitigation models are unexpectedly amplifying bias.
• Abstract（参考訳）: 画像キャプションにおける社会バイアスの増幅について検討した。 イメージキャプションモデルは、性別や人種的偏見を永久に表しているが、キャプションの社会的偏見を測定し、定量化し、評価する指標はまだ標準化されていない。 我々は,各指標の強みと限界に関する包括的研究を行い,キャプションのバイアス増幅を研究するための指標であるlicを提案する。 画像キャプションに関しては、保護された属性の正しい予測に焦点を合わせるだけでは不十分であり、コンテキスト全体を考慮に入れる必要がある、と主張する。 従来の画像キャプションモデルや最先端画像キャプションモデルについて広範な評価を行い,保護属性予測のみに注目することで,バイアス緩和モデルが予期せぬほどバイアスを増幅していることに驚いた。

関連論文リスト

• GradBias: Unveiling Word Influence on Bias in Text-to-Image Generative Models [75.04426753720553]
  開集合におけるバイアスを特定し,定量化し,説明するための枠組みを提案する。 このパイプラインはLarge Language Model (LLM)を活用して、一連のキャプションから始まるバイアスを提案する。 このフレームワークには、OpenBiasとGradBiasの2つのバリエーションがあります。
  論文  参考訳（メタデータ） (2024-08-29T16:51:07Z)
• Balancing the Picture: Debiasing Vision-Language Datasets with Synthetic Contrast Sets [52.77024349608834]
  視覚言語モデルは、インターネットから未計算の画像テキストペアの事前トレーニング中に学んだ社会的バイアスを永続し、増幅することができる。 COCO Captionsは、背景コンテキストとその場にいる人々の性別間のバイアスを評価するために最も一般的に使用されるデータセットである。 本研究では,COCOデータセットを男女バランスの取れたコントラストセットで拡張する新しいデータセットデバイアスパイプラインを提案する。
  論文  参考訳（メタデータ） (2023-05-24T17:59:18Z)
• ImageCaptioner$^2$: Image Captioner for Image Captioning Bias Amplification Assessment [30.71835197717301]
  画像キャプションに$ImageCaptioner2$と呼ばれる新しいバイアス評価指標を導入する。 モデルやデータの絶対バイアスを測定する代わりに、$ImageCaptioner2$はモデルによって導入されたバイアスにもっと注意を払う。 さらに、生成したキャプションのバイアスをプロンプトベースの画像キャプションとして測定するための定式化を設計する。
  論文  参考訳（メタデータ） (2023-04-10T21:40:46Z)
• Measuring Representational Harms in Image Captioning [5.543867614999908]
  本稿では,5種類の表現的害を測定するための一連の手法と,その結果を述べる。 我々の目標は、この画像キャプションシステムを評価することではなく、基準的基礎計測技術を開発することであった。 測定手法の根底にある仮定を議論し、それが持たないことを指摘する。
  論文  参考訳（メタデータ） (2022-06-14T21:08:01Z)
• A Prompt Array Keeps the Bias Away: Debiasing Vision-Language Models with Adversarial Learning [55.96577490779591]
  視覚言語モデルは社会的バイアスやステレオタイプを符号化することができる。 これらのマルチモーダル害の測定と緩和には課題がある。 バイアス尺度を調査し,画像テキスト表現にランキング指標を適用した。
  論文  参考訳（メタデータ） (2022-03-22T17:59:04Z)
• Understanding and Evaluating Racial Biases in Image Captioning [18.184279793253634]
  画像キャプション内のバイアス伝搬経路について検討し,特にCOCOデータセットに着目した。 より軽い人と暗い肌の人の画像のキャプション性能,感情,言葉選択の差異を示す。
  論文  参考訳（メタデータ） (2021-06-16T01:07:24Z)
• Fine-Grained Image Captioning with Global-Local Discriminative Objective [80.73827423555655]
  本研究では, 細粒度記述キャプションの生成を容易にするため, グローバルな識別目的を提案する。 提案手法をMS-COCOデータセット上で評価した。
  論文  参考訳（メタデータ） (2020-07-21T08:46:02Z)
• Mitigating Gender Bias Amplification in Distribution by Posterior Regularization [75.3529537096899]
  本稿では,男女差の増幅問題について,分布の観点から検討する。 後続正則化に基づくバイアス緩和手法を提案する。 私たちの研究はバイアス増幅の理解に光を当てている。
  論文  参考訳（メタデータ） (2020-05-13T11:07:10Z)
• Egoshots, an ego-vision life-logging dataset and semantic fidelity metric to evaluate diversity in image captioning models [63.11766263832545]
  我々は,字幕のない実生活画像978枚からなる新しい画像キャプションデータセット,Egoshotsを提案する。 生成されたキャプションの品質を評価するために,新しい画像キャプション指標,オブジェクトベースセマンティックフィデリティ(SF)を提案する。
  論文  参考訳（メタデータ） (2020-03-26T04:43:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。