論文の概要: Impact of Data Distribution on Fairness Guarantees in Equitable Deep Learning

• arxiv url: http://arxiv.org/abs/2412.20377v1
• Date: Sun, 29 Dec 2024 06:43:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-31 16:05:28.676099
• Title: Impact of Data Distribution on Fairness Guarantees in Equitable Deep Learning
• Title（参考訳）: 等価深層学習におけるデータ分布が公正保証に及ぼす影響
• Authors: Yan Luo, Congcong Wen, Min Shi, Hao Huang, Yi Fang, Mengyu Wang,
• Abstract要約: 等価深層学習におけるデータ分布と公平性保証の関係を理論的に解析する枠組みを提案する。 フェアネス誤差と収束率の包括的理論的境界を導出し、グループ間の分布差がフェアネスと精度の基本的なトレードオフにどのように影響するかを特徴付ける。 この研究は、AIベースの診断システムにおける公正性の理解を深め、より公平なアルゴリズムを開発するための理論的基盤を提供する。
• 参考スコア（独自算出の注目度）: 24.911440326496574
• License:
• Abstract: We present a comprehensive theoretical framework analyzing the relationship between data distributions and fairness guarantees in equitable deep learning. Our work establishes novel theoretical bounds that explicitly account for data distribution heterogeneity across demographic groups, while introducing a formal analysis framework that minimizes expected loss differences across these groups. We derive comprehensive theoretical bounds for fairness errors and convergence rates, and characterize how distributional differences between groups affect the fundamental trade-off between fairness and accuracy. Through extensive experiments on diverse datasets, including FairVision (ophthalmology), CheXpert (chest X-rays), HAM10000 (dermatology), and FairFace (facial recognition), we validate our theoretical findings and demonstrate that differences in feature distributions across demographic groups significantly impact model fairness, with performance disparities particularly pronounced in racial categories. The theoretical bounds we derive crroborate these empirical observations, providing insights into the fundamental limits of achieving fairness in deep learning models when faced with heterogeneous data distributions. This work advances our understanding of fairness in AI-based diagnosis systems and provides a theoretical foundation for developing more equitable algorithms. The code for analysis is publicly available via \url{https://github.com/Harvard-Ophthalmology-AI-Lab/fairness_guarantees}.
• Abstract（参考訳）: 等価深層学習におけるデータ分布と公平性保証の関係を解析する包括的な理論的枠組みを提案する。 我々の研究は、人口集団間でのデータ分散の不均一性を明示的に説明する新しい理論的境界を確立するとともに、これらのグループ間で期待される損失差を最小化する形式的な分析フレームワークを導入する。 フェアネス誤差と収束率の包括的理論的境界を導出し、グループ間の分布差がフェアネスと精度の基本的なトレードオフにどのように影響するかを特徴付ける。 FairVision(眼科)、CheXpert(胸部X線)、HAM10000(皮膚科)、FairFace(顔認識)など、多様なデータセットに関する広範な実験を通じて、我々の理論的知見を検証し、人口集団間での特徴分布の違いがモデルフェアネスに大きく影響し、特に人種カテゴリーにおけるパフォーマンス格差が顕著であることを示した。 理論的境界は、これらの経験的観測をクラボレートし、不均一なデータ分布に直面した深層学習モデルにおける公平性の基本的な限界を洞察する。 この研究は、AIベースの診断システムにおける公正性の理解を深め、より公平なアルゴリズムを開発するための理論的基盤を提供する。 解析のコードは \url{https://github.com/Harvard-Ophthalmology-AI-Lab/fairness_guarantees} で公開されている。

関連論文リスト

• Quantifying the Cross-sectoral Intersecting Discrepancies within Multiple Groups Using Latent Class Analysis Towards Fairness [6.683051393349788]
  本研究は,クロスセクタ間差分を定量化するための革新的アプローチを導入する。 プロプライエタリなデータセットとパブリックなデータセットの両方を使用して、私たちのアプローチを検証する。 我々の発見は、少数民族間の大きな相違が明らかとなり、現実世界のAIアプリケーションにおいて標的となる介入の必要性が浮かび上がっている。
  論文  参考訳（メタデータ） (2024-05-24T08:10:31Z)
• Intrinsic Fairness-Accuracy Tradeoffs under Equalized Odds [8.471466670802817]
  等化確率の統計的概念の下で、公正性と精度のトレードオフについて検討する。 フェアネス予算の関数として, 精度の新たな上限を提示する。 以上の結果から,低バイアス群に対する高い精度の達成は,グループ間の統計的格差に基づいて根本的に制限される可能性が示唆された。
  論文  参考訳（メタデータ） (2024-05-12T23:15:21Z)
• Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
  公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。 カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。 本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
  論文  参考訳（メタデータ） (2023-07-17T04:08:29Z)
• The Flawed Foundations of Fair Machine Learning [0.0]
  統計的に正確な結果と類似した結果とのトレードオフが存在することを示す。 本稿では,統計的に正確な結果とグループ類似の結果の関係を理解する上で,研究者やデザイナーを支援するための概念実証手法を提案する。
  論文  参考訳（メタデータ） (2023-06-02T10:07:12Z)
• Fairness meets Cross-Domain Learning: a new perspective on Models and Metrics [80.07271410743806]
  クロスドメイン学習(CD)とモデルフェアネスの関係について検討する。 いくつかの人口集団にまたがる顔画像と医療画像のベンチマークと、分類とローカライゼーションタスクについて紹介する。 本研究は,3つの最先端フェアネスアルゴリズムとともに,14のCDアプローチをカバーし,前者が後者に勝ることを示す。
  論文  参考訳（メタデータ） (2023-03-25T09:34:05Z)
• Chasing Fairness Under Distribution Shift: A Model Weight Perturbation Approach [72.19525160912943]
  まず,分布シフト,データ摂動,モデルウェイト摂動の関連性を理論的に検証した。 次に、ターゲットデータセットの公平性を保証するのに十分な条件を分析します。 これらの十分な条件により、ロバストフェアネス正則化(RFR)を提案する。
  論文  参考訳（メタデータ） (2023-03-06T17:19:23Z)
• Fair Inference for Discrete Latent Variable Models [12.558187319452657]
  デュエルケアなしでデータに基づいて訓練された機械学習モデルは、特定の人口に対して不公平で差別的な行動を示すことが多い。 本研究では,変動分布に公平なペナルティを含む離散潜伏変数に対して,公平な変分推論手法を開発した。 提案手法の一般化と実世界への影響の可能性を示すため,刑事司法リスク評価のための特別目的グラフィカルモデルを構築した。
  論文  参考訳（メタデータ） (2022-09-15T04:54:21Z)
• Causal Fairness Analysis [68.12191782657437]
  意思決定設定における公平性の問題を理解し、モデル化し、潜在的に解決するためのフレームワークを導入します。 我々のアプローチの主な洞察は、観測データに存在する格差の定量化と、基礎となる、しばしば観測されていない、因果的なメカニズムの収集を結びつけることである。 本研究は,文献中の異なる基準間の関係を整理し,説明するための最初の体系的試みであるフェアネスマップにおいて,本研究の成果を左右するものである。
  論文  参考訳（メタデータ） (2022-07-23T01:06:34Z)
• MultiFair: Multi-Group Fairness in Machine Learning [52.24956510371455]
  機械学習におけるマルチグループフェアネスの研究(MultiFair) この問題を解決するために,汎用的なエンドツーエンドのアルゴリズムフレームワークを提案する。 提案するフレームワークは多くの異なる設定に一般化可能である。
  論文  参考訳（メタデータ） (2021-05-24T02:30:22Z)
• Fairness in Semi-supervised Learning: Unlabeled Data Help to Reduce Discrimination [53.3082498402884]
  機械学習の台頭における投機は、機械学習モデルによる決定が公正かどうかである。 本稿では,未ラベルデータのラベルを予測するための擬似ラベリングを含む,前処理フェーズにおける公平な半教師付き学習の枠組みを提案する。 偏見、分散、ノイズの理論的分解分析は、半教師付き学習における差別の異なる源とそれらが公平性に与える影響を浮き彫りにする。
  論文  参考訳（メタデータ） (2020-09-25T05:48:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。