論文の概要: Fairness-enhancing mixed effects deep learning improves fairness on in- and out-of-distribution clustered (non-iid) data

• arxiv url: http://arxiv.org/abs/2310.03146v4
• Date: Thu, 28 Nov 2024 04:00:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-02 15:15:54.680614
• Title: Fairness-enhancing mixed effects deep learning improves fairness on in- and out-of-distribution clustered (non-iid) data
• Title（参考訳）: フェアネス・エンハンス・ミックス・エフェクトの深層学習による分布内および分布外(非ID)データの公平性向上
• Authors: Son Nguyen, Adam Wang, Albert Montillo,
• Abstract要約: フェア・ミックスド・エフェクト・ディープ・ラーニング(Fair MEDL)フレームワークを提案する。 本フレームワークは,1)不変なFEを学習するためのクラスタ逆効果,2)REのためのベイズニューラルネットワーク,3)最終的な予測のためにFEとREを組み合わせた混合関数,を通じて,クラスタ不変な固定効果(FE)とクラスタ固有ランダムエフェクト(RE)を定量化する。 公正なMEDLフレームワークは、年齢で86.4%、人種で64.9%、性で57.8%、結婚で36.2%の公正性を向上し、堅牢な予測性能を維持している。
• 参考スコア（独自算出の注目度）: 6.596656267996196
• License:
• Abstract: Traditional deep learning (DL) models have two ubiquitous limitations. First, they assume training samples are independent and identically distributed (i.i.d), an assumption often violated in real-world datasets where samples are grouped by shared measurements (e.g., participants or cells). This leads to performance degradation, limited generalization, and covariate confounding, which induces Type 1 and Type 2 errors. Second, DL models typically prioritize overall accuracy, favoring accuracy on the majority, while sacrificing performance for underrepresented subpopulations, leading to unfair, biased models. This is critical to remediate, particularly in models influencing decisions regarding loan approvals and healthcare. To address these issues, we propose the Fair Mixed Effects Deep Learning (Fair MEDL) framework. This framework quantifies cluster-invariant fixed effects (FE) and cluster-specific random effects (RE) through: 1) a cluster adversary for learning invariant FE, 2) a Bayesian neural network for RE, and 3) a mixing function combining FE and RE for final predictions. Fairness is enhanced through the architectural and loss function changes introduced by an adversarial debiasing network. We formally define and demonstrate improved fairness across three metrics on both classification and regression tasks: equalized odds, demographic parity, and counterfactual fairness. Our method also identifies and de-weights confounded covariates, mitigating Type 1 and 2 errors. The framework is comprehensively evaluated across three datasets spanning two industries, including finance and healthcare. The Fair MEDL framework improves fairness by 86.4% for Age, 64.9% for Race, 57.8% for Sex, and 36.2% for Marital status, while maintaining robust predictive performance. Our implementation is publicly available on GitHub.
• Abstract（参考訳）: 従来のディープラーニング(DL)モデルには、2つのユビキタスな制限がある。 まず、トレーニングサンプルは独立しており、同一の分散(d)であると仮定し、サンプルが共有測定(例えば、参加者や細胞)によってグループ化される実世界のデータセットにしばしば違反する仮定である。 これによりパフォーマンスが低下し、一般化が制限され、共変分が混在し、タイプ1とタイプ2のエラーが引き起こされる。 第2に、DLモデルは一般的に全体的な精度を優先し、多数派で精度を優先する一方で、人口不足のサブ集団のパフォーマンスを犠牲にし、不公平で偏りのあるモデルを生み出します。 これは、特にローン承認と医療に関する決定に影響を及ぼすモデルにおいて、修正に不可欠である。 これらの課題に対処するために,Fair Mixed Effects Deep Learning (Fair MEDL) フレームワークを提案する。 このフレームワークは、クラスタ不変固定効果(FE)とクラスタ固有ランダム効果(RE)を次のように定量化する。 1)不変FEを学習するためのクラスタ敵 2)REのためのベイズニューラルネットワーク 3)最終予測にFEとREを組み合わせた混合関数。 フェアネスは、対向的デバイアスネットワークによって導入されたアーキテクチャと損失関数の変更によって強化される。 分類および回帰作業の3つの指標(等化オッズ、人口比率、反事実フェアネス)で改善されたフェアネスを正式に定義し、実証した。 また,1型と2型の誤りを軽減し,共変量(共変量)を縮減する手法も提案した。 このフレームワークは、金融とヘルスケアを含む2つの業界にまたがる3つのデータセットで包括的に評価されている。 フェアMEDLフレームワークは、年齢で86.4%、人種で64.9%、性で57.8%、結婚で36.2%の公正性を向上し、堅牢な予測性能を維持している。 私たちの実装はGitHubで公開されています。

関連論文リスト

• Editable Fairness: Fine-Grained Bias Mitigation in Language Models [52.66450426729818]
  個々人の社会的偏見をきめ細かなキャリブレーションを可能にする新しいデバイアス・アプローチであるFairness Stamp(FAST)を提案する。 FASTは最先端のベースラインを超え、デバイアス性能が優れている。 これは、大きな言語モデルにおける公平性を達成するためのきめ細かいデバイアス戦略の可能性を強調している。
  論文  参考訳（メタデータ） (2024-08-07T17:14:58Z)
• Multi-dimensional Fair Federated Learning [25.07463977553212]
  フェデレートラーニング(FL)は、分散データからモデルをトレーニングするための、有望な協調的でセキュアなパラダイムとして登場した。 群フェアネスとクライアントフェアネスは、FLにとって重要である2次元のフェアネスである。 グループフェアネスとクライアントフェアネスを同時に達成するために,mFairFLと呼ばれる手法を提案する。
  論文  参考訳（メタデータ） (2023-12-09T11:37:30Z)
• Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
  公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。 カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。 本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
  論文  参考訳（メタデータ） (2023-07-17T04:08:29Z)
• Learning Fair Classifiers via Min-Max F-divergence Regularization [13.81078324883519]
  公平な分類モデルを学ぶための新しい min-max F-divergence regularization フレームワークを提案する。 F分割測度は凸性と微分可能性特性を有することを示す。 提案手法は, 精度と公平性のトレードオフに関して, 最先端の性能を実現するものであることを示す。
  論文  参考訳（メタデータ） (2023-06-28T20:42:04Z)
• FairAdaBN: Mitigating unfairness with adaptive batch normalization and its application to dermatological disease classification [14.589159162086926]
  バッチ正規化をセンシティブ属性に適応させるFairAdaBNを提案する。 本研究では,FATE(Fairness-Accuracy Trade-off efficiency)と呼ばれる新しい指標を提案する。 2つの皮膚科学データセットを用いた実験により,提案手法はフェアネス基準とFATEの他の手法よりも優れていた。
  論文  参考訳（メタデータ） (2023-03-15T02:22:07Z)
• Chasing Fairness Under Distribution Shift: A Model Weight Perturbation Approach [72.19525160912943]
  まず,分布シフト,データ摂動,モデルウェイト摂動の関連性を理論的に検証した。 次に、ターゲットデータセットの公平性を保証するのに十分な条件を分析します。 これらの十分な条件により、ロバストフェアネス正則化(RFR)を提案する。
  論文  参考訳（メタデータ） (2023-03-06T17:19:23Z)
• Learning Informative Representation for Fairness-aware Multivariate Time-series Forecasting: A Group-based Perspective [50.093280002375984]
  多変量時系列予測モデル(MTS)では変数間の性能不公平性が広く存在する。 フェアネスを意識したMTS予測のための新しいフレームワークであるFairForを提案する。
  論文  参考訳（メタデータ） (2023-01-27T04:54:12Z)
• How Robust is Your Fairness? Evaluating and Sustaining Fairness under Unseen Distribution Shifts [107.72786199113183]
  CUMA(CUrvature Matching)と呼ばれる新しいフェアネス学習手法を提案する。 CUMAは、未知の分布シフトを持つ未知の領域に一般化可能な頑健な公正性を達成する。 提案手法を3つの人気フェアネスデータセットで評価する。
  論文  参考訳（メタデータ） (2022-07-04T02:37:50Z)
• Towards Multi-Objective Statistically Fair Federated Learning [1.2687030176231846]
  フェデレートラーニング(FL)は、データの所有権とプライバシーに関する懸念の結果生まれた。 本稿では,様々な統計的公正度指標を含む複数の目的を満足できる新しいFLフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-01-24T19:22:01Z)
• Adversarial Learning for Counterfactual Fairness [15.302633901803526]
  近年、フェアネスは機械学習研究コミュニティにおいて重要なトピックとなっている。 我々は,MDDの罰則よりも強力な推論を可能にする,対向的ニューラルネットワークアプローチに頼ることを提案する。 実験では、離散的および連続的な設定の両方に対して、対実的公正性の観点から、顕著な改善が示された。
  論文  参考訳（メタデータ） (2020-08-30T09:06:03Z)
• Deep F-measure Maximization for End-to-End Speech Understanding [52.36496114728355]
  本稿では,F測度に対する微分可能な近似法を提案し,標準バックプロパゲーションを用いてネットワークをトレーニングする。 我々は、アダルト、コミュニティ、犯罪の2つの標準フェアネスデータセットの実験を行い、ATISデータセットの音声・インテリジェンス検出と音声・COCOデータセットの音声・イメージ概念分類を行った。 これらの4つのタスクのすべてにおいて、F測定は、クロスエントロピー損失関数で訓練されたモデルと比較して、最大8%の絶対的な絶対的な改善を含む、マイクロF1スコアの改善をもたらす。
  論文  参考訳（メタデータ） (2020-08-08T03:02:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。