論文の概要: Fairness in Image Search: A Study of Occupational Stereotyping in Image Retrieval and its Debiasing

• arxiv url: http://arxiv.org/abs/2305.03881v1
• Date: Sat, 6 May 2023 00:24:44 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-09 18:53:09.660484
• Title: Fairness in Image Search: A Study of Occupational Stereotyping in Image Retrieval and its Debiasing
• Title（参考訳）: 画像検索の公正性:画像検索における職業ステレオタイピングとそのデバイアスに関する研究
• Authors: Swagatika Dash, Yunhe Feng
• Abstract要約: 本稿では,キーワードに基づく画像検索に着目し,Web検索におけるバイアスと公平性について検討する。 まず,検索システムに存在するいくつかのバイアスと,それらを軽減することが重要である理由について論じる。 いくつかの職業的キーワードで得られたトップタグ付き画像検索における性別バイアスの程度について検討した。
• 参考スコア（独自算出の注目度）: 1.479413555822768
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multi-modal search engines have experienced significant growth and widespread use in recent years, making them the second most common internet use. While search engine systems offer a range of services, the image search field has recently become a focal point in the information retrieval community, as the adage goes, "a picture is worth a thousand words". Although popular search engines like Google excel at image search accuracy and agility, there is an ongoing debate over whether their search results can be biased in terms of gender, language, demographics, socio-cultural aspects, and stereotypes. This potential for bias can have a significant impact on individuals' perceptions and influence their perspectives. In this paper, we present our study on bias and fairness in web search, with a focus on keyword-based image search. We first discuss several kinds of biases that exist in search systems and why it is important to mitigate them. We narrow down our study to assessing and mitigating occupational stereotypes in image search, which is a prevalent fairness issue in image retrieval. For the assessment of stereotypes, we take gender as an indicator. We explore various open-source and proprietary APIs for gender identification from images. With these, we examine the extent of gender bias in top-tanked image search results obtained for several occupational keywords. To mitigate the bias, we then propose a fairness-aware re-ranking algorithm that optimizes (a) relevance of the search result with the keyword and (b) fairness w.r.t genders identified. We experiment on 100 top-ranked images obtained for 10 occupational keywords and consider random re-ranking and re-ranking based on relevance as baselines. Our experimental results show that the fairness-aware re-ranking algorithm produces rankings with better fairness scores and competitive relevance scores than the baselines.
• Abstract（参考訳）: マルチモーダル検索エンジンは近年大きく成長し、広く利用されている。 検索エンジンシステムは様々なサービスを提供しているが、画像検索分野は最近、情報検索コミュニティの焦点となっている。 Googleのような人気検索エンジンは画像検索の精度と俊敏性に優れているが、検索結果が性別、言語、人口統計、社会文化的側面、ステレオタイプに偏っているかどうかについては議論が続いている。 このバイアスの可能性は個人の知覚に重大な影響を与え、視点に影響を与える可能性がある。 本稿では,web検索におけるバイアスと公平性について,キーワードに基づく画像検索を中心に検討する。 まず,検索システムに存在する複数のバイアスと,それらを軽減することが重要である理由について論じる。 我々は,画像検索における作業的ステレオタイプの評価と緩和に本研究を絞り込み,画像検索におけるフェアネス問題となっている。 ステレオタイプの評価では、ジェンダーを指標として捉えている。 画像から性別を識別するための様々なオープンソースおよびプロプライエタリなAPIについて検討する。 本研究では,複数の作業用キーワードを用いたトップタンク画像検索結果における性別バイアスの程度について検討する。 バイアスを軽減するために、最適化する公平性を考慮した再格付けアルゴリズムを提案する。 (a)キーワードによる検索結果の関連性及び b) 性別の公平性。 10個の作業キーワードから得られた上位100画像について実験を行い,関連度に基づく無作為な再ランク付けと再ランク付けをベースラインとして検討した。 実験の結果,公平度対応再ランク付けアルゴリズムは,基準値よりも公平度スコアと競合性スコアの高いランキングを生成することがわかった。

関連論文リスト

• Identifying Implicit Social Biases in Vision-Language Models [34.53206726136747]
  我々は、視覚言語モデルに存在する社会的バイアスを体系的に分析する。 CLIPは有害な単語と特定の人口集団の間に望ましくない関連性を示すことが多い。 本研究は,視覚言語モデルにおけるバイアスの評価と対処の重要性を強調した。
  論文  参考訳（メタデータ） (2024-11-01T19:41:28Z)
• Auditing Google's Search Algorithm: Measuring News Diversity Across Brazil, the UK, and the US [0.0]
  本研究では,ブラジル,イギリス,米国における検索結果の分析により,Googleの検索アルゴリズムがニュースの多様性に与える影響について検討した。 Googleのシステムは、限られた数のニュースメディアを優先的に好んでいる。 発見は、検索結果のわずかに左に偏りを示し、人気のある、しばしば全国のメディアを好んでいることを示している。
  論文  参考訳（メタデータ） (2024-10-31T11:49:16Z)
• Classes Are Not Equal: An Empirical Study on Image Recognition Fairness [100.36114135663836]
  我々は,クラスが等しくないことを実験的に証明し,様々なデータセットにまたがる画像分類モデルにおいて,公平性の問題が顕著であることを示した。 以上の結果から,モデルでは認識が困難であるクラスに対して,予測バイアスが大きくなる傾向が示唆された。 データ拡張および表現学習アルゴリズムは、画像分類のある程度の公平性を促進することにより、全体的なパフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2024-02-28T07:54:50Z)
• VisoGender: A dataset for benchmarking gender bias in image-text pronoun resolution [80.57383975987676]
  VisoGenderは、視覚言語モデルで性別バイアスをベンチマークするための新しいデータセットである。 We focus to occupation-related biases in a hegemonic system of binary gender, inspired by Winograd and Winogender schemas。 我々は、最先端の視覚言語モデルをいくつかベンチマークし、それらが複雑な場面における二項性解消のバイアスを示すことを発見した。
  論文  参考訳（メタデータ） (2023-06-21T17:59:51Z)
• Mitigating Test-Time Bias for Fair Image Retrieval [18.349154934096784]
  我々は、中立なテキストクエリにより、公平で偏りのない画像検索結果を生成するという課題に対処する。 本稿では,事前学習した視覚言語モデルから出力を後処理する簡単な手法であるポストホックバイアス緩和手法を提案する。 提案手法は,テキストによる画像検索結果において,既存の様々なバイアス軽減手法と比較して,最も低いバイアスを実現する。
  論文  参考訳（メタデータ） (2023-05-23T21:31:16Z)
• Ranking Loss and Sequestering Learning for Reducing Image Search Bias in Histopathology [0.6595290783361959]
  本稿では,画像検索性能を改善するための2つの新しいアイデアを提案する。 まず、ランキング損失関数を用いて特徴抽出を検索のマッチング指向性に向けて誘導する。 第2に,特徴抽出の一般化を促進するために,選択学習の概念を導入する。
  論文  参考訳（メタデータ） (2023-04-15T03:38:09Z)
• Discovering and Mitigating Visual Biases through Keyword Explanation [66.71792624377069]
  視覚バイアスをキーワードとして解釈するBias-to-Text(B2T)フレームワークを提案する。 B2Tは、CelebAの性別バイアス、ウォーターバードの背景バイアス、ImageNet-R/Cの分布シフトなど、既知のバイアスを特定することができる。 B2Tは、Dollar StreetやImageNetのような大きなデータセットで、新しいバイアスを明らかにする。
  論文  参考訳（メタデータ） (2023-01-26T13:58:46Z)
• Are Gender-Neutral Queries Really Gender-Neutral? Mitigating Gender Bias in Image Search [8.730027941735804]
  我々は、画像検索において、独特なジェンダーバイアスを研究する。 検索画像は、ジェンダーニュートラルな自然言語クエリに対して、しばしば性別不均衡である。 我々は2つの新しいデバイアスのアプローチを導入する。
  論文  参考訳（メタデータ） (2021-09-12T04:47:33Z)
• Automatic Main Character Recognition for Photographic Studies [78.88882860340797]
  画像の主人公は、最初に見る人の注意を引く最も重要な人間である。 画像中の主文字の同定は,従来の写真研究やメディア分析において重要な役割を担っている。 機械学習に基づく人間のポーズ推定を用いて主文字を識別する手法を提案する。
  論文  参考訳（メタデータ） (2021-06-16T18:14:45Z)
• Gender Stereotype Reinforcement: Measuring the Gender Bias Conveyed by Ranking Algorithms [68.85295025020942]
  本稿では,性別ステレオタイプをサポートする検索エンジンの傾向を定量化するジェンダーステレオタイプ強化(GSR)尺度を提案する。 GSRは、表現上の害を定量化できる情報検索のための、最初の特別に調整された尺度である。
  論文  参考訳（メタデータ） (2020-09-02T20:45:04Z)
• Learning Preference-Based Similarities from Face Images using Siamese Multi-Task CNNs [78.24964622317633]
  オンラインデートプラットフォームの大きな課題は、ユーザに適したマッチングを決定することだ。 ディープラーニングアプローチは、人間の顔からある程度まで様々な特性を予測できることを示した。 画像ベースマッチングの実現可能性について検討し,個人の関心や嗜好,態度とマッチングする方法について検討した。
  論文  参考訳（メタデータ） (2020-01-25T23:08:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。