論文の概要: From Bias to Balance: Detecting Facial Expression Recognition Biases in Large Multimodal Foundation Models

• arxiv url: http://arxiv.org/abs/2408.14842v1
• Date: Tue, 27 Aug 2024 07:54:01 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-28 14:45:05.192089
• Title: From Bias to Balance: Detecting Facial Expression Recognition Biases in Large Multimodal Foundation Models
• Title（参考訳）: バイアスからバランスへ:大規模マルチモーダルファンデーションモデルにおける表情認識バイアスの検出
• Authors: Kaylee Chhua, Zhoujinyi Wen, Vedant Hathalia, Kevin Zhu, Sean O'Brien,
• Abstract要約: 本研究では,大規模マルチモーダルファンデーションモデル(LMFM)における表情認識(FER)システムの人種的偏見について考察する。 既存の研究は主に従来のFERモデル(CNN、RNN、ViT)に焦点を当てており、LMFMにおける人種的バイアスの理解のギャップを残している。 GPT-4o、PaliGemma、Gemini、CLIPの4つの主要なLMFMをベンチマークし、異なる人種層にわたる顔の感情検出のパフォーマンスを評価する。
• 参考スコア（独自算出の注目度）: 3.1927733045184885
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This study addresses the racial biases in facial expression recognition (FER) systems within Large Multimodal Foundation Models (LMFMs). Despite advances in deep learning and the availability of diverse datasets, FER systems often exhibit higher error rates for individuals with darker skin tones. Existing research predominantly focuses on traditional FER models (CNNs, RNNs, ViTs), leaving a gap in understanding racial biases in LMFMs. We benchmark four leading LMFMs: GPT-4o, PaliGemma, Gemini, and CLIP to assess their performance in facial emotion detection across different racial demographics. A linear classifier trained on CLIP embeddings obtains accuracies of 95.9\% for RADIATE, 90.3\% for Tarr, and 99.5\% for Chicago Face. Furthermore, we identify that Anger is misclassified as Disgust 2.1 times more often in Black Females than White Females. This study highlights the need for fairer FER systems and establishes a foundation for developing unbiased, accurate FER technologies. Visit https://kvjvhub.github.io/FERRacialBias/ for further information regarding the biases within facial expression recognition.
• Abstract（参考訳）: 本研究では,大規模なマルチモーダルファンデーションモデル(LMFM)における表情認識(FER)システムの人種的偏見について考察する。 深層学習の進歩と多様なデータセットの可用性にもかかわらず、FERシステムは、より暗い肌色を持つ個人に対して高いエラー率を示すことが多い。 既存の研究は主に伝統的なFERモデル(CNN、RNN、ViT)に焦点を当てており、LMFMにおける人種的偏見を理解するためのギャップを残している。 GPT-4o、PaliGemma、Gemini、CLIPの4つの主要なLMFMをベンチマークし、異なる人種層にわたる顔の感情検出のパフォーマンスを評価する。 CLIP埋め込みで訓練された線形分類器は、RADIATEでは95.9\%、Tarでは90.3\%、Chicago Faceでは99.5\%の精度が得られる。 さらに、アンガーは白人女性よりも黒人女性の方が2.1倍多いと誤分類されている。 本研究は、より公平なFERシステムの必要性を強調し、偏りのない正確なFER技術を開発するための基盤を確立する。 顔の認識におけるバイアスに関するさらなる情報については、https://kvvvhub.github.io/FERRacialBias/を参照してください。

関連論文リスト

• GenderBias-\emph{VL}: Benchmarking Gender Bias in Vision Language Models via Counterfactual Probing [72.0343083866144]
  本稿では,GenderBias-emphVLベンチマークを用いて,大規模視覚言語モデルにおける職業関連性バイアスの評価を行う。 ベンチマークを用いて15のオープンソースLVLMと最先端の商用APIを広範囲に評価した。 既存のLVLMでは男女差が広くみられた。
  論文  参考訳（メタデータ） (2024-06-30T05:55:15Z)
• Fast Model Debias with Machine Unlearning [54.32026474971696]
  ディープニューラルネットワークは多くの現実世界のシナリオでバイアスのある振る舞いをする。 既存のデバイアス法は、バイアスラベルやモデル再トレーニングのコストが高い。 バイアスを特定し,評価し,除去するための効率的なアプローチを提供する高速モデル脱バイアスフレームワーク(FMD)を提案する。
  論文  参考訳（メタデータ） (2023-10-19T08:10:57Z)
• Are Face Detection Models Biased? [69.68854430664399]
  顔領域の局所化による顔検出領域のバイアスについて検討した。 既存の顔検出データセットの多くは、このような分析に適したアノテーションを欠いている。 性別や肌の音色による検出精度の相違を観察し, 画像診断以外の要因の相互関係を考察した。
  論文  参考訳（メタデータ） (2022-11-07T14:27:55Z)
• Mitigating Gender Bias in Face Recognition Using the von Mises-Fisher Mixture Model [7.049738935364298]
  本研究では,ディープ顔認識ネットワークの性別バイアスについて検討する。 幾何学的考察により、新しいポストプロセッシング手法により性別バイアスを緩和する。 実際、様々なデータセットに関する広範な数値実験は、慎重に選択することで性バイアスが大幅に減少することを示している。
  論文  参考訳（メタデータ） (2022-10-24T23:53:56Z)
• Rethinking Bias Mitigation: Fairer Architectures Make for Fairer Face Recognition [107.58227666024791]
  顔認識システムは、法執行を含む安全クリティカルなアプリケーションに広くデプロイされている。 彼らは、性別や人種など、様々な社会的デデノグラフィー次元に偏見を示す。 バイアス軽減に関するこれまでの研究は、主にトレーニングデータの事前処理に重点を置いていた。
  論文  参考訳（メタデータ） (2022-10-18T15:46:05Z)
• Gender Stereotyping Impact in Facial Expression Recognition [1.5340540198612824]
  近年,機械学習に基づくモデルが表情認識(FER)における最も一般的なアプローチとなっている。 公開可能なFERデータセットでは、見かけ上の性別表現は概ねバランスが取れているが、個々のラベルでの性別表現はそうではない。 我々は、特定のラベルの性別比を変化させることで、異なる量のステレオタイプバイアスを持つ微分データセットを生成する。 我々は、最低バイアス条件下で、性別間の特定の感情の認識において、最大で29 % の差を観察する。
  論文  参考訳（メタデータ） (2022-10-11T10:52:23Z)
• IFBiD: Inference-Free Bias Detection [13.492626767817017]
  本論文は、重みを単純に見れば、深層畳み込みニューラルネットワークのバイアスを自動的に検出する方法を初めて探求するものである。 我々は、Colored MNISTデータベースを用いて、おもちゃの例を用いて、ディープネットワークの重み付けにおけるバイアスのエンコード方法を分析する。
  論文  参考訳（メタデータ） (2021-09-09T16:01:31Z)
• An Examination of Fairness of AI Models for Deepfake Detection [5.4852920337961235]
  我々は保護されたサブグループ間のディープフェイクデータセットおよび検出モデルに存在するバイアスを評価する。 人種と性別のバランスをとる顔データセットを用いて,3つの一般的なディープフェイク検出器を調べ,人種間の予測性能に大きな差を見出した。
  論文  参考訳（メタデータ） (2021-05-02T21:55:04Z)
• Balancing Biases and Preserving Privacy on Balanced Faces in the Wild [50.915684171879036]
  現在の顔認識(FR)モデルには、人口統計バイアスが存在する。 さまざまな民族と性別のサブグループにまたがる偏見を測定するために、我々のバランス・フェイススをWildデータセットに導入します。 真偽と偽のサンプルペアを区別するために1点のスコアしきい値に依存すると、最適以下の結果が得られます。 本稿では,最先端ニューラルネットワークから抽出した顔特徴を用いたドメイン適応学習手法を提案する。
  論文  参考訳（メタデータ） (2021-03-16T15:05:49Z)
• Do Neural Ranking Models Intensify Gender Bias? [13.37092521347171]
  まず、IRモデルのランキングリストにおいて、性別関連概念の非バランスの存在度を定量化するための2つの指標を含むバイアス測定フレームワークを提供する。 これらのクエリをMS MARCOパッセージ検索コレクションに適用し、BM25モデルと最近のニューラルランキングモデルの性別バイアスを測定する。 結果は、すべてのモデルが男性に対して強く偏りを呈する一方で、神経モデル、特に文脈化された埋め込みモデルに基づくモデルは、性バイアスを著しく強めていることを示している。
  論文  参考訳（メタデータ） (2020-05-01T13:31:11Z)
• InsideBias: Measuring Bias in Deep Networks and Application to Face Gender Biometrics [73.85525896663371]
  この研究は、ディープニューラルネットワークアーキテクチャに基づく学習プロセスのバイアスについて検討する。 一般的なディープニューラルネットワークに基づく2つの性別検出モデルを採用している。 バイアスモデルを検出する新しい手法であるInsideBiasを提案する。
  論文  参考訳（メタデータ） (2020-04-14T15:20:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。