論文の概要: Fairness in Image Search: A Study of Occupational Stereotyping in Image
Retrieval and its Debiasing
- arxiv url: http://arxiv.org/abs/2305.03881v2
- Date: Tue, 22 Aug 2023 16:09:59 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-23 21:00:03.321138
- Title: Fairness in Image Search: A Study of Occupational Stereotyping in Image
Retrieval and its Debiasing
- Title(参考訳): 画像検索の公正性:画像検索における職業ステレオタイピングとそのデバイアスに関する研究
- Authors: Swagatika Dash
- Abstract要約: 本稿では,キーワードに基づく画像検索に着目し,Web検索におけるバイアスと公平性について検討する。
まず,検索システムに存在するいくつかのバイアスと,それらを軽減することが重要である理由について論じる。
いくつかの職業的キーワードで得られたトップタグ付き画像検索における性別バイアスの程度について検討した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-modal search engines have experienced significant growth and widespread
use in recent years, making them the second most common internet use. While
search engine systems offer a range of services, the image search field has
recently become a focal point in the information retrieval community, as the
adage goes, "a picture is worth a thousand words". Although popular search
engines like Google excel at image search accuracy and agility, there is an
ongoing debate over whether their search results can be biased in terms of
gender, language, demographics, socio-cultural aspects, and stereotypes. This
potential for bias can have a significant impact on individuals' perceptions
and influence their perspectives.
In this paper, we present our study on bias and fairness in web search, with
a focus on keyword-based image search. We first discuss several kinds of biases
that exist in search systems and why it is important to mitigate them. We
narrow down our study to assessing and mitigating occupational stereotypes in
image search, which is a prevalent fairness issue in image retrieval. For the
assessment of stereotypes, we take gender as an indicator. We explore various
open-source and proprietary APIs for gender identification from images. With
these, we examine the extent of gender bias in top-tanked image search results
obtained for several occupational keywords. To mitigate the bias, we then
propose a fairness-aware re-ranking algorithm that optimizes (a) relevance of
the search result with the keyword and (b) fairness w.r.t genders identified.
We experiment on 100 top-ranked images obtained for 10 occupational keywords
and consider random re-ranking and re-ranking based on relevance as baselines.
Our experimental results show that the fairness-aware re-ranking algorithm
produces rankings with better fairness scores and competitive relevance scores
than the baselines.
- Abstract(参考訳): マルチモーダル検索エンジンは近年大きく成長し、広く利用されている。
検索エンジンシステムは様々なサービスを提供しているが、画像検索分野は最近、情報検索コミュニティの焦点となっている。
Googleのような人気検索エンジンは画像検索の精度と俊敏性に優れているが、検索結果が性別、言語、人口統計、社会文化的側面、ステレオタイプに偏っているかどうかについては議論が続いている。
このバイアスの可能性は個人の知覚に重大な影響を与え、視点に影響を与える可能性がある。
本稿では,web検索におけるバイアスと公平性について,キーワードに基づく画像検索を中心に検討する。
まず,検索システムに存在する複数のバイアスと,それらを軽減することが重要である理由について論じる。
我々は,画像検索における作業的ステレオタイプの評価と緩和に本研究を絞り込み,画像検索におけるフェアネス問題となっている。
ステレオタイプの評価では、ジェンダーを指標として捉えている。
画像から性別を識別するための様々なオープンソースおよびプロプライエタリなAPIについて検討する。
本研究では,複数の作業用キーワードを用いたトップタンク画像検索結果における性別バイアスの程度について検討する。
バイアスを軽減するために、最適化する公平性を考慮した再格付けアルゴリズムを提案する。
(a)キーワードによる検索結果の関連性及び
b) 性別の公平性。
10個の作業キーワードから得られた上位100画像について実験を行い,関連度に基づく無作為な再ランク付けと再ランク付けをベースラインとして検討した。
実験の結果,公平度対応再ランク付けアルゴリズムは,基準値よりも公平度スコアと競合性スコアの高いランキングを生成することがわかった。
関連論文リスト
- Classes Are Not Equal: An Empirical Study on Image Recognition Fairness [100.36114135663836]
我々は,クラスが等しくないことを実験的に証明し,様々なデータセットにまたがる画像分類モデルにおいて,公平性の問題が顕著であることを示した。
以上の結果から,モデルでは認識が困難であるクラスに対して,予測バイアスが大きくなる傾向が示唆された。
データ拡張および表現学習アルゴリズムは、画像分類のある程度の公平性を促進することにより、全体的なパフォーマンスを向上させる。
論文 参考訳(メタデータ) (2024-02-28T07:54:50Z) - VisoGender: A dataset for benchmarking gender bias in image-text pronoun
resolution [80.57383975987676]
VisoGenderは、視覚言語モデルで性別バイアスをベンチマークするための新しいデータセットである。
We focus to occupation-related biases in a hegemonic system of binary gender, inspired by Winograd and Winogender schemas。
我々は、最先端の視覚言語モデルをいくつかベンチマークし、それらが複雑な場面における二項性解消のバイアスを示すことを発見した。
論文 参考訳(メタデータ) (2023-06-21T17:59:51Z) - Mitigating Test-Time Bias for Fair Image Retrieval [18.349154934096784]
我々は、中立なテキストクエリにより、公平で偏りのない画像検索結果を生成するという課題に対処する。
本稿では,事前学習した視覚言語モデルから出力を後処理する簡単な手法であるポストホックバイアス緩和手法を提案する。
提案手法は,テキストによる画像検索結果において,既存の様々なバイアス軽減手法と比較して,最も低いバイアスを実現する。
論文 参考訳(メタデータ) (2023-05-23T21:31:16Z) - Ranking Loss and Sequestering Learning for Reducing Image Search Bias in
Histopathology [0.6595290783361959]
本稿では,画像検索性能を改善するための2つの新しいアイデアを提案する。
まず、ランキング損失関数を用いて特徴抽出を検索のマッチング指向性に向けて誘導する。
第2に,特徴抽出の一般化を促進するために,選択学習の概念を導入する。
論文 参考訳(メタデータ) (2023-04-15T03:38:09Z) - Bias-to-Text: Debiasing Unknown Visual Biases through Language
Interpretation [72.02386627482056]
本稿では,視覚モデルにおけるバイアスを識別・緩和するB2Tフレームワークを提案する。
視覚バイアスの言語記述は、新しいバイアスの発見と効果的なモデルバイアスの発見を可能にする説明可能な形式を提供する。
様々な画像分類・生成タスクにおけるフレームワークの有効性を実証する。
論文 参考訳(メタデータ) (2023-01-26T13:58:46Z) - Abstract Images Have Different Levels of Retrievability Per Reverse
Image Search Engine [6.370905925442655]
画像の再検索がいかに困難か(検索可能性)、返却された画像の割合が関連しているか(精度)、訪問者が提出した画像を見つける前にレビューしなければならない結果の平均数を測定する。
同じ画像を同じ画像の中に再発見しようとすると、Yandexは最高に機能する。
GoogleとYandexは、それぞれ0.8191点から0.8297点の精度で写真を発見したとき、他より優れていた。
論文 参考訳(メタデータ) (2022-11-03T19:40:46Z) - Are Gender-Neutral Queries Really Gender-Neutral? Mitigating Gender Bias
in Image Search [8.730027941735804]
我々は、画像検索において、独特なジェンダーバイアスを研究する。
検索画像は、ジェンダーニュートラルな自然言語クエリに対して、しばしば性別不均衡である。
我々は2つの新しいデバイアスのアプローチを導入する。
論文 参考訳(メタデータ) (2021-09-12T04:47:33Z) - Automatic Main Character Recognition for Photographic Studies [78.88882860340797]
画像の主人公は、最初に見る人の注意を引く最も重要な人間である。
画像中の主文字の同定は,従来の写真研究やメディア分析において重要な役割を担っている。
機械学習に基づく人間のポーズ推定を用いて主文字を識別する手法を提案する。
論文 参考訳(メタデータ) (2021-06-16T18:14:45Z) - Gender Stereotype Reinforcement: Measuring the Gender Bias Conveyed by
Ranking Algorithms [68.85295025020942]
本稿では,性別ステレオタイプをサポートする検索エンジンの傾向を定量化するジェンダーステレオタイプ強化(GSR)尺度を提案する。
GSRは、表現上の害を定量化できる情報検索のための、最初の特別に調整された尺度である。
論文 参考訳(メタデータ) (2020-09-02T20:45:04Z) - Learning Preference-Based Similarities from Face Images using Siamese
Multi-Task CNNs [78.24964622317633]
オンラインデートプラットフォームの大きな課題は、ユーザに適したマッチングを決定することだ。
ディープラーニングアプローチは、人間の顔からある程度まで様々な特性を予測できることを示した。
画像ベースマッチングの実現可能性について検討し,個人の関心や嗜好,態度とマッチングする方法について検討した。
論文 参考訳(メタデータ) (2020-01-25T23:08:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。