論文の概要: Feature and Label Embedding Spaces Matter in Addressing Image Classifier Bias

• arxiv url: http://arxiv.org/abs/2110.14336v1
• Date: Wed, 27 Oct 2021 10:37:35 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-28 14:24:45.256049
• Title: Feature and Label Embedding Spaces Matter in Addressing Image Classifier Bias
• Title（参考訳）: 画像分類バイアスに対処する空間の埋め込み特性とラベル
• Authors: William Thong, Cees G. M. Snoek
• Abstract要約: 以前の研究では、年齢、性別、肌の色といった保護された属性からの急激な相関が、悪い決定を引き起こす可能性があることが示されている。 特徴空間においてバイアス方向を識別し,各クラスに対する保護属性値のクラスプロトタイプを計算する。 画像入力をラベル埋め込み空間にマッピングすることでバイアスを軽減する。
• 参考スコア（独自算出の注目度）: 38.297649008463345
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper strives to address image classifier bias, with a focus on both feature and label embedding spaces. Previous works have shown that spurious correlations from protected attributes, such as age, gender, or skin tone, can cause adverse decisions. To balance potential harms, there is a growing need to identify and mitigate image classifier bias. First, we identify in the feature space a bias direction. We compute class prototypes of each protected attribute value for every class, and reveal an existing subspace that captures the maximum variance of the bias. Second, we mitigate biases by mapping image inputs to label embedding spaces. Each value of the protected attribute has its projection head where classes are embedded through a latent vector representation rather than a common one-hot encoding. Once trained, we further reduce in the feature space the bias effect by removing its direction. Evaluation on biased image datasets, for multi-class, multi-label and binary classifications, shows the effectiveness of tackling both feature and label embedding spaces in improving the fairness of the classifier predictions, while preserving classification performance.
• Abstract（参考訳）: 本稿では,特徴空間とラベル埋め込み空間の両方に着目し,画像分類子バイアスに対処する。 以前の研究では、年齢、性別、肌の色などの保護された属性からのスプリアス相関が、有害な決定を引き起こす可能性があることが示されている。 潜在的な害のバランスをとるために、画像分類器のバイアスを特定し緩和する必要がある。 まず、特徴空間においてバイアス方向を識別する。 各クラスに対して保護された属性値のクラスプロトタイプを計算し、バイアスの最大分散をキャプチャする既存のサブスペースを明らかにする。 第2に、画像入力をラベル埋め込み空間にマッピングすることでバイアスを軽減する。 protected属性の各値は、共通の1ホットエンコーディングではなく、潜在ベクトル表現を通じてクラスが埋め込まれた射影ヘッドを持つ。 トレーニングが完了すると、その方向を除去することで、特徴空間のバイアス効果をさらに削減します。 マルチクラス・マルチラベル・バイナリ分類のためのバイアス画像データセットの評価は、分類性能を維持しつつ、分類器の公平性を向上する上で、特徴空間とラベル埋め込み空間の両方に対処する効果を示す。

関連論文リスト

• Leveraging vision-language models for fair facial attribute classification [19.93324644519412]
  汎用視覚言語モデル(英: General-purpose Vision-Language Model, VLM)は、共通感性属性のための豊富な知識源である。 我々は,VLM予測値と人間定義属性分布の対応関係を解析した。 複数のベンチマークの顔属性分類データセットの実験は、既存の教師なしベースラインよりもモデルの公平性の向上を示している。
  論文  参考訳（メタデータ） (2024-03-15T18:37:15Z)
• Classes Are Not Equal: An Empirical Study on Image Recognition Fairness [100.36114135663836]
  我々は,クラスが等しくないことを実験的に証明し,様々なデータセットにまたがる画像分類モデルにおいて,公平性の問題が顕著であることを示した。 以上の結果から,モデルでは認識が困難であるクラスに対して,予測バイアスが大きくなる傾向が示唆された。 データ拡張および表現学習アルゴリズムは、画像分類のある程度の公平性を促進することにより、全体的なパフォーマンスを向上させる。
  論文  参考訳（メタデータ） (2024-02-28T07:54:50Z)
• Semi-FairVAE: Semi-supervised Fair Representation Learning with Adversarial Variational Autoencoder [92.67156911466397]
  逆変分オートエンコーダに基づく半教師付き公正表現学習手法を提案する。 我々は、バイアス認識モデルを用いて、機密属性の固有バイアス情報をキャプチャする。 また、偏見のないモデルを用いて、対立学習を用いて偏見情報を取り除き、偏見のない公正表現を学習する。
  論文  参考訳（メタデータ） (2022-04-01T15:57:47Z)
• Prototypical Classifier for Robust Class-Imbalanced Learning [64.96088324684683]
  埋め込みネットワークに付加的なパラメータを必要としないtextitPrototypealを提案する。 プロトタイプは、訓練セットがクラス不均衡であるにもかかわらず、すべてのクラスに対してバランスと同等の予測を生成する。 我々は, CIFAR-10LT, CIFAR-100LT, Webvision のデータセットを用いて, プロトタイプが芸術の状況と比較した場合, サブスタンスの改善が得られることを検証した。
  論文  参考訳（メタデータ） (2021-10-22T01:55:01Z)
• Universal Weakly Supervised Segmentation by Pixel-to-Segment Contrastive Learning [28.498782661888775]
  半教師付きメトリック学習問題として弱教師付きセグメンテーションを定式化する。 特徴空間における画素とセグメント間のコントラスト関係を4種類提案する。 我々はPascal VOCとDensePoseに大きな利益をもたらす、普遍的な弱教師付きセグメンタを提供する。
  論文  参考訳（メタデータ） (2021-05-03T15:49:01Z)
• Matched sample selection with GANs for mitigating attribute confounding [30.488267816304177]
  保護属性間の属性分布のバランスのとれたフルデータセットから画像のサブセットを選択するマッチングアプローチを提案する。 私たちのマッチングアプローチでは、セマンティック属性を保存する方法で、まず実際の画像を生成ネットワークの潜在空間に投影します。 次に、選択された保護属性にまたがるこの潜在空間で敵の一致を見つけ、セマンティクスと知覚属性が保護属性間でバランスをとるデータセットを生成する。
  論文  参考訳（メタデータ） (2021-03-24T19:18:44Z)
• Towards Learning an Unbiased Classifier from Biased Data via Conditional Adversarial Debiasing [17.113618920885187]
  本稿では,訓練画像のラベルに急激に結びついている特徴に対処する,新しい逆脱バイアス法を提案する。 我々は、上記の偏見に対する既存の手法よりも、我々のアプローチが優れているという数学的証明によって論じる。 実験の結果,本手法は猫や犬の実世界画像を用いたベンチマークデータセットにおいて,最先端技術よりも優れた性能を示すことがわかった。
  論文  参考訳（メタデータ） (2021-03-10T16:50:42Z)
• Isometric Propagation Network for Generalized Zero-shot Learning [72.02404519815663]
  一般的な戦略は、クラス属性の意味空間と、見たクラスとそのデータに基づいて画像の視覚空間とのマッピングを学ぶことである。 本稿では,各空間内のクラス間の関係を強化し,2つの空間におけるクラス依存性を整合させるIsometric propagation Network (IPN)を提案する。 IPNは3つの人気のあるゼロショット学習ベンチマークで最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2021-02-03T12:45:38Z)
• Null It Out: Guarding Protected Attributes by Iterative Nullspace Projection [51.041763676948705]
  Iterative Null-space Projection (INLP) は神経表現から情報を取り除く新しい方法である。 提案手法は,単語埋め込みにおけるバイアスを軽減するとともに,複数クラス分類の設定において公平性を高めることができることを示す。
  論文  参考訳（メタデータ） (2020-04-16T14:02:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。