論文の概要: Is invariance all you need for algorithmic fairness? Removing demographic information can create new bias

• arxiv url: http://arxiv.org/abs/2609.32004v1
• Date: Fri, 25 Sep 2026 21:07:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 03:53:20.227161
• Title: Is invariance all you need for algorithmic fairness? Removing demographic information can create new bias
• Title（参考訳）: アルゴリズムの公平性のために必要となる不変性は何か? 人口統計情報の除去は新たなバイアスを生み出す
• Abstract要約: 内部モデル表現の符号化された人口統計情報は、アルゴリズムバイアスのリスク要因として一般的に想定される。 数学的にも経験的にも、人口格差を強制することは、実際にバイアス緩和を妨げ、新たなバイアスを生じさせる可能性があることを示しています。
• 参考スコア（独自算出の注目度）: 9.524765707531023
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Encoded demographic information in internal model representations is a commonly assumed risk factor for algorithmic bias, with demographic representation invariance often being touted as the ideal state. However, while demographic shortcut learning is a genuine threat, some degree of encoding is necessary when demographics correlate with target labels. Here, we show, mathematically and empirically, that enforcing demographic invariance can actually hamper bias mitigation and even create new biases. We distinguish marginal from class-conditional representation invariance, and show that they imply the standard group fairness notions of demographic parity and equalized odds, respectively. We evaluate the effects on predictive performance and fairness of enforcing both invariance types, both theoretically and empirically across five tabular and two chest X-ray imaging datasets. Our findings support our mathematical argument that demographic representation invariance is neither desirable nor sufficient for fairness.
• Abstract（参考訳）: 内部モデル表現の符号化された人口統計情報は、アルゴリズムバイアスのリスク要因として一般的に想定されるものであり、人口統計学的表現の不変性はしばしば理想的な状態として表される。 しかし、人口統計学のショートカット学習は真の脅威であるが、人口統計学がターゲットラベルと相関する場合、ある程度のエンコーディングが必要である。 ここでは、数学的にも経験的にも、人口変動を強制することは、実際にバイアス緩和を妨げ、さらに新しいバイアスを生じさせる可能性があることを示します。 我々は、クラス条件の表現不変性とを区別し、それらがそれぞれ、人口統計学的パリティの標準群フェアネス概念と等化オッズの概念を暗示していることを示す。 我々は,5つの表と2つの胸部X線画像データセットの理論的および実験的に,両者の非分散型を強制する際の予測性能と公平性について評価した。 本研究は, 人口分布の不変性は, 公平性には十分ではない, という数学的議論を支持する。

関連論文リスト

• FairForensics: Seeing Expressions and Parsing Demographics via Vision-Language Modeling for Generalizable Fair Deepfake Detection [60.2868121662026]
  既存のフェアネスを増強した検出器は、しばしば人口統計群全体にわたって目に見えない操作とフェアネスの最適下一般化に悩まされる。 我々は、バランスの取れない人口シナリオと不均衡な人口シナリオの両方の下で、検出器の公平性を訓練し、評価するために、新しい人口動態バランスFDDベンチマークを構築した。 また,FairForensicsと呼ばれる新しい表現と階層型視覚言語モデルを導入する。
  論文  参考訳（メタデータ） (2026-08-03T03:51:14Z)
• Leveraging Prototypical Representations for Mitigating Social Bias without Demographic Information [50.29934517930506]
  DAFairは、言語モデルにおける社会的バイアスに対処する新しいアプローチである。 偏見を緩和するために、原型的人口統計テキストを活用し、微調整プロセス中に正規化用語を取り入れる。
  論文  参考訳（メタデータ） (2024-03-14T15:58:36Z)
• Leveraging Diffusion Perturbations for Measuring Fairness in Computer Vision [25.414154497482162]
  拡散モデルを利用してそのようなデータセットを作成できることを実証する。 マルチクラスの職業分類タスクにおいて,複数の視覚言語モデルをベンチマークする。 非コーカサスラベルで生成された画像は、コーカサスラベルで生成された画像よりも、職業的誤分類率が高いことが判明した。
  論文  参考訳（メタデータ） (2023-11-25T19:40:13Z)
• Are demographically invariant models and representations in medical imaging fair? [7.688389513970338]
  人口統計属性をエンコードしないモデルが望ましいかどうかを問う。 医用画像の公平性には,人口的不変表現は必要ではなく,十分ではないと結論づける。
  論文  参考訳（メタデータ） (2023-05-02T13:16:04Z)
• Fair Group-Shared Representations with Normalizing Flows [68.29997072804537]
  本研究では,異なるグループに属する個人を1つのグループにマッピングできる公正表現学習アルゴリズムを開発した。 提案手法は,他の公正表現学習アルゴリズムと競合することを示す。
  論文  参考訳（メタデータ） (2022-01-17T10:49:49Z)
• Balancing Biases and Preserving Privacy on Balanced Faces in the Wild [50.915684171879036]
  現在の顔認識(FR)モデルには、人口統計バイアスが存在する。 さまざまな民族と性別のサブグループにまたがる偏見を測定するために、我々のバランス・フェイススをWildデータセットに導入します。 真偽と偽のサンプルペアを区別するために1点のスコアしきい値に依存すると、最適以下の結果が得られます。 本稿では,最先端ニューラルネットワークから抽出した顔特徴を用いたドメイン適応学習手法を提案する。
  論文  参考訳（メタデータ） (2021-03-16T15:05:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。