論文の概要: Overcoming Fairness Trade-offs via Pre-processing: A Causal Perspective

• arxiv url: http://arxiv.org/abs/2501.14710v1
• Date: Fri, 24 Jan 2025 18:33:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-27 14:58:18.753283
• Title: Overcoming Fairness Trade-offs via Pre-processing: A Causal Perspective
• Title（参考訳）: 事前処理による公正取引の克服:因果的展望
• Authors: Charlotte Leininger, Simon Rittel, Ludwig Bothmann,
• Abstract要約: 公正な判断のための機械学習モデルのトレーニングには、2つの重要な課題がある。 公平さと正確さのトレードオフは、その予測性能を低下させる公正さを強制することによる。 異なる公正度の測定の不整合性は、別のトレードオフを引き起こします。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Training machine learning models for fair decisions faces two key challenges: The \emph{fairness-accuracy trade-off} results from enforcing fairness which weakens its predictive performance in contrast to an unconstrained model. The incompatibility of different fairness metrics poses another trade-off -- also known as the \emph{impossibility theorem}. Recent work identifies the bias within the observed data as a possible root cause and shows that fairness and predictive performance are in fact in accord when predictive performance is measured on unbiased data. We offer a causal explanation for these findings using the framework of the FiND (fictitious and normatively desired) world, a "fair" world, where protected attributes have no causal effects on the target variable. We show theoretically that (i) classical fairness metrics deemed to be incompatible are naturally satisfied in the FiND world, while (ii) fairness aligns with high predictive performance. We extend our analysis by suggesting how one can benefit from these theoretical insights in practice, using causal pre-processing methods that approximate the FiND world. Additionally, we propose a method for evaluating the approximation of the FiND world via pre-processing in practical use cases where we do not have access to the FiND world. In simulations and empirical studies, we demonstrate that these pre-processing methods are successful in approximating the FiND world and resolve both trade-offs. Our results provide actionable solutions for practitioners to achieve fairness and high predictive performance simultaneously.
• Abstract（参考訳）: 公正な判断のための機械学習モデルのトレーニングには、以下の2つの重要な課題がある。 異なる公正度尺度の不整合性は、別のトレードオフを生じさせ、例えば \emph{impossibility theorem} とも呼ばれる。 最近の研究は、観測データ内のバイアスを根本原因として特定し、偏りのないデータに対して予測性能が測定されたときに、公正性と予測性能が実際に一致していることを示す。 対象変数に因果的影響を持たない「公正な」世界であるFiND(Factitious and normatively desired)の枠組みを用いて,これらの発見の因果的説明を行う。 理論的には 一 相容れないとされる古典的公正度は、FiNDの世界では自然に満足している。 (二)公正性は高い予測性能と整合する。 我々は、FiNDの世界を近似する因果前処理手法を用いて、これらの理論的洞察を実際にどのように活用できるかを提案し、分析を拡張した。 さらに,我々は,FiNDの世界にアクセスできない実践的なユースケースにおいて,前処理によるFiND世界の近似を評価する手法を提案する。 シミュレーションおよび実証研究において、これらの前処理手法がFiND世界を近似し、両方のトレードオフを解決することに成功していることを示す。 本研究は,実践者が公正性と高い予測性能を同時に達成するための実用的なソリューションを提供する。

関連論文リスト

• Targeted Learning for Data Fairness [52.59573714151884]
  データ生成プロセス自体の公平性を評価することにより、公平性推論を拡張する。 我々は、人口統計学的平等、平等機会、条件付き相互情報から推定する。 提案手法を検証するため,いくつかのシミュレーションを行い,実データに適用する。
  論文  参考訳（メタデータ） (2025-02-06T18:51:28Z)
• Fair Bilevel Neural Network (FairBiNN): On Balancing fairness and accuracy via Stackelberg Equilibrium [0.3350491650545292]
  バイアスを緩和する現在の方法は、情報損失と精度と公平性のバランスが不十分であることが多い。 本稿では,二段階最適化の原理に基づく新しい手法を提案する。 私たちのディープラーニングベースのアプローチは、正確性と公平性の両方を同時に最適化します。
  論文  参考訳（メタデータ） (2024-10-21T18:53:39Z)
• Counterfactual Fairness by Combining Factual and Counterfactual Predictions [18.950415688199993]
  医療や雇用といった高度な分野において、意思決定における機械学習(ML)の役割は、かなりの公平さの懸念を提起する。 この研究は、あらゆる個人に対するMLモデルの結果が、異なる人口集団に属していた場合、変化しないべきであると仮定する対実公正(CF)に焦点を当てている。 本稿では,CFと予測性能のトレードオフをモデルに依存しない形で理論的に検討する。
  論文  参考訳（メタデータ） (2024-09-03T15:21:10Z)
• Editable Fairness: Fine-Grained Bias Mitigation in Language Models [52.66450426729818]
  個々人の社会的偏見をきめ細かなキャリブレーションを可能にする新しいデバイアス・アプローチであるFairness Stamp(FAST)を提案する。 FASTは最先端のベースラインを超え、デバイアス性能が優れている。 これは、大きな言語モデルにおける公平性を達成するためのきめ細かいデバイアス戦略の可能性を強調している。
  論文  参考訳（メタデータ） (2024-08-07T17:14:58Z)
• Interventional Fairness on Partially Known Causal Graphs: A Constrained Optimization Approach [44.48385991344273]
  本稿では,真の因果グラフが部分的に知られている場合の介入の概念に基づく因果フェアネスを実現するための枠組みを提案する。 提案手法は、観測データとドメイン知識を組み合わせて学習できる因果DAGのクラスを用いて、公正な予測をモデル化することを含む。 シミュレーションと実世界の両方のデータセットの結果から,本手法の有効性が示された。
  論文  参考訳（メタデータ） (2024-01-19T11:20:31Z)
• Fairness Explainability using Optimal Transport with Applications in Image Classification [0.46040036610482665]
  機械学習アプリケーションにおける差別の原因を明らかにするための包括的アプローチを提案する。 We leverage Wasserstein barycenters to achieve fair predictions and introduce an extension to pinpoint bias-associated region。 これにより、各特徴がバイアスに影響を及ぼすかどうかを測定するために強制的公正性を使用する凝集系を導出することができる。
  論文  参考訳（メタデータ） (2023-08-22T00:10:23Z)
• Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
  公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。 カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。 本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
  論文  参考訳（メタデータ） (2023-07-17T04:08:29Z)
• Delving into Identify-Emphasize Paradigm for Combating Unknown Bias [52.76758938921129]
  同定精度を高めるため,有効バイアス強調スコアリング法(ECS)を提案する。 また, マイニングされたバイアスアライメントとバイアスコンプリケート試料のコントリビューションのバランスをとるために, 勾配アライメント(GA)を提案する。 様々な環境で複数のデータセットで実験を行い、提案されたソリューションが未知のバイアスの影響を軽減することを実証した。
  論文  参考訳（メタデータ） (2023-02-22T14:50:24Z)
• Fairness and Explainability: Bridging the Gap Towards Fair Model Explanations [12.248793742165278]
  我々は、説明に基づく手続き指向公正の新たな視点を提示することにより、公正性と説明可能性のギャップを埋める。 本稿では,複数の目的を同時に達成する包括的公正性アルゴリズム (CFA) を提案する。
  論文  参考訳（メタデータ） (2022-12-07T18:35:54Z)
• Systematic Evaluation of Predictive Fairness [60.0947291284978]
  バイアス付きデータセットのトレーニングにおけるバイアスの緩和は、重要なオープンな問題である。 複数のタスクにまたがる様々なデバイアス化手法の性能について検討する。 データ条件が相対モデルの性能に強い影響を与えることがわかった。
  論文  参考訳（メタデータ） (2022-10-17T05:40:13Z)
• Optimising Equal Opportunity Fairness in Model Training [60.0947291284978]
  既存のデバイアス法、例えば、敵の訓練や、表現から保護された情報を取り除くことは、バイアスを減らすことが示されている。 2つの新たな学習目標を提案し,2つの分類課題における高い性能を維持しつつ,バイアスの低減に有効であることを示す。
  論文  参考訳（メタデータ） (2022-05-05T01:57:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。