論文の概要: Gone With the Bits: Revealing Racial Bias in Low-Rate Neural Compression for Facial Images

• arxiv url: http://arxiv.org/abs/2505.02949v1
• Date: Mon, 05 May 2025 18:27:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-07 18:50:11.097115
• Title: Gone With the Bits: Revealing Racial Bias in Low-Rate Neural Compression for Facial Images
• Title（参考訳）: 顔画像の低レートニューラル圧縮におけるラシアルバイアスの発見
• Authors: Tian Qiu, Arjun Nichani, Rasta Tadayontahmasebi, Haewon Jeong,
• Abstract要約: 本稿では,ニューラルネットワーク圧縮モデルにおけるバイアス評価のための汎用的,構造化された,スケーラブルなフレームワークを提案する。 従来の歪み指標は, ニューラル圧縮モデルにおけるバイアスの捕捉に有効でないことを示す。 さらに、圧縮モデルバイアスと分類モデルバイアスに起因するバイアスを示す。
• 参考スコア（独自算出の注目度）: 5.952011729053457
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural compression methods are gaining popularity due to their superior rate-distortion performance over traditional methods, even at extremely low bitrates below 0.1 bpp. As deep learning architectures, these models are prone to bias during the training process, potentially leading to unfair outcomes for individuals in different groups. In this paper, we present a general, structured, scalable framework for evaluating bias in neural image compression models. Using this framework, we investigate racial bias in neural compression algorithms by analyzing nine popular models and their variants. Through this investigation, we first demonstrate that traditional distortion metrics are ineffective in capturing bias in neural compression models. Next, we highlight that racial bias is present in all neural compression models and can be captured by examining facial phenotype degradation in image reconstructions. We then examine the relationship between bias and realism in the decoded images and demonstrate a trade-off across models. Finally, we show that utilizing a racially balanced training set can reduce bias but is not a sufficient bias mitigation strategy. We additionally show the bias can be attributed to compression model bias and classification model bias. We believe that this work is a first step towards evaluating and eliminating bias in neural image compression models.
• Abstract（参考訳）: ニューラル圧縮法は、0.1bpp以下の極低ビットレートでも従来の方法よりも高い速度歪み性能で人気を集めている。 ディープラーニングアーキテクチャとして、これらのモデルはトレーニングプロセス中にバイアスを起こしやすいため、異なるグループの個人に対して不公平な結果をもたらす可能性がある。 本稿では,ニューラルネットワーク圧縮モデルにおけるバイアス評価のための汎用的,構造化された,スケーラブルなフレームワークを提案する。 この枠組みを用いて,9つの人気モデルとその変種を解析することにより,ニューラル圧縮アルゴリズムの人種バイアスを解明する。 この調査を通じて、従来の歪み指標がニューラル圧縮モデルにおけるバイアスを捉えないことを示す。 次に、すべてのニューラル圧縮モデルに人種的偏見があり、画像再構成における顔の表現型劣化を調べることで捉えることができる点を強調した。 次に、デコードされた画像におけるバイアスとリアリズムの関係を調べ、モデル間のトレードオフを示す。 最後に、人種的バランスの取れたトレーニングセットを利用することでバイアスを減らすことができるが、十分なバイアス軽減戦略ではないことを示す。 さらに、圧縮モデルバイアスと分類モデルバイアスに起因するバイアスを示す。 この研究は、ニューラル画像圧縮モデルにおけるバイアスの評価と排除に向けた第一歩であると考えています。

関連論文リスト

• Bias in Pruned Vision Models: In-Depth Analysis and Countermeasures [93.17009514112702]
  ニューラルネットワークのパラメータのかなりの部分集合をゼロに設定するプルーニングは、モデル圧縮の最も一般的な方法の1つである。 この現象の既存の証拠にもかかわらず、ニューラルネットワークのプルーニングと誘導バイアスの関係はよく理解されていない。
  論文  参考訳（メタデータ） (2023-04-25T07:42:06Z)
• Spuriosity Rankings: Sorting Data to Measure and Mitigate Biases [62.54519787811138]
  本稿では,突発的手がかりに依存したモデルバイアスを簡易かつ効果的に測定・緩和する手法を提案する。 我々は,解釈可能なネットワークの深部神経的特徴をベースとして,それらのクラス内の画像のランク付けを行う。 以上の結果から,素早い特徴依存によるモデルバイアスは,モデルがどのようにトレーニングされたかよりも,モデルがトレーニングされていることの影響がはるかに大きいことが示唆された。
  論文  参考訳（メタデータ） (2022-12-05T23:15:43Z)
• Rethinking Bias Mitigation: Fairer Architectures Make for Fairer Face Recognition [107.58227666024791]
  顔認識システムは、法執行を含む安全クリティカルなアプリケーションに広くデプロイされている。 彼らは、性別や人種など、様々な社会的デデノグラフィー次元に偏見を示す。 バイアス軽減に関するこれまでの研究は、主にトレーニングデータの事前処理に重点を置いていた。
  論文  参考訳（メタデータ） (2022-10-18T15:46:05Z)
• IFBiD: Inference-Free Bias Detection [13.492626767817017]
  本論文は、重みを単純に見れば、深層畳み込みニューラルネットワークのバイアスを自動的に検出する方法を初めて探求するものである。 我々は、Colored MNISTデータベースを用いて、おもちゃの例を用いて、ディープネットワークの重み付けにおけるバイアスのエンコード方法を分析する。
  論文  参考訳（メタデータ） (2021-09-09T16:01:31Z)
• BiaSwap: Removing dataset bias with bias-tailored swapping augmentation [20.149645246997668]
  ディープニューラルネットワークは、データセット固有のスプリットな相関に基づいて決定することが多く、偏りのないデータ分布を一般化することができない。 本稿では,バイアスタイプの監督を必要とせず,非バイアス表現を学習するための,バイアス調整強化に基づく新しいアプローチBiaSwapを提案する。
  論文  参考訳（メタデータ） (2021-08-23T08:35:26Z)
• Unravelling the Effect of Image Distortions for Biased Prediction of Pre-trained Face Recognition Models [86.79402670904338]
  画像歪みの存在下での4つの最先端深層顔認識モデルの性能評価を行った。 我々は、画像歪みが、異なるサブグループ間でのモデルの性能ギャップと関係していることを観察した。
  論文  参考訳（メタデータ） (2021-08-14T16:49:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。