論文の概要: Causal Conceptions of Fairness and their Consequences

• arxiv url: http://arxiv.org/abs/2207.05302v1
• Date: Tue, 12 Jul 2022 04:26:26 GMT
• ステータス: 処理完了
• システム内更新日: 2022-07-14 01:02:16.790507
• Title: Causal Conceptions of Fairness and their Consequences
• Title（参考訳）: フェアネスの因果概念とその原因
• Authors: Hamed Nilforoshan, Johann Gaebler, Ravi Shroff, Sharad Goel
• Abstract要約: アルゴリズムフェアネスの因果的定義の2つのファミリーが、決定ポリシーを強く支配する結果をもたらすことを示す。 結果として得られた政策は、学術的資格やグループメンバーシップに関係なく、すべての学生に同じ確率で受け入れる必要があることを証明します。
• 参考スコア（独自算出の注目度）: 1.9006392177894293
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent work highlights the role of causality in designing equitable decision-making algorithms. It is not immediately clear, however, how existing causal conceptions of fairness relate to one another, or what the consequences are of using these definitions as design principles. Here, we first assemble and categorize popular causal definitions of algorithmic fairness into two broad families: (1) those that constrain the effects of decisions on counterfactual disparities; and (2) those that constrain the effects of legally protected characteristics, like race and gender, on decisions. We then show, analytically and empirically, that both families of definitions \emph{almost always} -- in a measure theoretic sense -- result in strongly Pareto dominated decision policies, meaning there is an alternative, unconstrained policy favored by every stakeholder with preferences drawn from a large, natural class. For example, in the case of college admissions decisions, policies constrained to satisfy causal fairness definitions would be disfavored by every stakeholder with neutral or positive preferences for both academic preparedness and diversity. Indeed, under a prominent definition of causal fairness, we prove the resulting policies require admitting all students with the same probability, regardless of academic qualifications or group membership. Our results highlight formal limitations and potential adverse consequences of common mathematical notions of causal fairness.
• Abstract（参考訳）: 最近の研究は、公平な意思決定アルゴリズムの設計における因果関係の役割を強調している。 しかし、フェアネスの既存の因果概念が互いにどう関係しているか、あるいはこれらの定義を設計原則として使用する結果がどのようなものであるかは、すぐには明らかではない。 ここでは,アルゴリズムフェアネスの一般的な因果的定義を,(1)反現実的格差に対する決定の影響を制限するもの,(2)人種や性別といった法的に保護された特徴が決定に与える影響を制限するもの,の2つに分類する。 次に、分析的かつ実証的に、両方の定義の族が -- 測定理論的な意味で -- 強いパレートの支配的な決定政策をもたらすことを示し、つまり、大きな自然クラスから引き出された選好を持つ利害関係者に好まれる代替的で拘束力のない政策が存在することを示します。 例えば、大学の入学決定の場合、因果的公平性の定義を満たすために制約された政策は、学術的準備と多様性の両方に対して中立的または肯定的な選好を持つすべての利害関係者によって不利になる。 実際、因果フェアネスの明確な定義の下では、学術的資格やグループメンバーシップに関係なく、すべての学生に同じ確率で受け入れる必要があることが証明されている。 本研究は, 因果公正性の数学的概念の形式的限界と潜在的な悪影響を明らかにするものである。

関連論文リスト

• Fairness-Accuracy Trade-Offs: A Causal Perspective [58.06306331390586]
  我々は、初めて因果レンズから公正性と正確性の間の張力を分析する。 因果的制約を強制することは、しばしば人口集団間の格差を減少させることを示す。 因果制約付きフェアラーニングのための新しいニューラルアプローチを導入する。
  論文  参考訳（メタデータ） (2024-05-24T11:19:52Z)
• Reconciling Predictive and Statistical Parity: A Causal Approach [68.59381759875734]
  本稿では,予測パリティに付随する公平度対策のための因果分解式を提案する。 統計的および予測パリティの概念は、実際には互いに排他的ではなく、相補的であり、公正の概念のスペクトルにまたがっていることを示す。
  論文  参考訳（メタデータ） (2023-06-08T09:23:22Z)
• Fairness in Matching under Uncertainty [78.39459690570531]
  アルゴリズム的な二面市場は、こうした設定における公平性の問題に注意を向けている。 我々は、利益の不確実性を尊重する両面の市場設定において、個々人の公正性の概念を公理化する。 そこで我々は,配当よりも公平なユーティリティ最大化分布を求めるために,線形プログラミングフレームワークを設計する。
  論文  参考訳（メタデータ） (2023-02-08T00:30:32Z)
• Causal Fairness Analysis [68.12191782657437]
  意思決定設定における公平性の問題を理解し、モデル化し、潜在的に解決するためのフレームワークを導入します。 我々のアプローチの主な洞察は、観測データに存在する格差の定量化と、基礎となる、しばしば観測されていない、因果的なメカニズムの収集を結びつけることである。 本研究は,文献中の異なる基準間の関係を整理し,説明するための最初の体系的試みであるフェアネスマップにおいて,本研究の成果を左右するものである。
  論文  参考訳（メタデータ） (2022-07-23T01:06:34Z)
• Fairness Through Counterfactual Utilities [0.0]
  Demographic Parity や Equal Opportunity のようなグループフェアネスの定義は、それらが分類問題に制限される基本的な決定確率について仮定する。 我々は、すべての機械学習環境に明確に拡張されたグループフェアネス定義の一般化セットを提供する。
  論文  参考訳（メタデータ） (2021-08-11T16:51:27Z)
• Survey on Causal-based Machine Learning Fairness Notions [4.157415305926584]
  本稿では,因果関係に基づくフェアネス概念の包括的リストについて検討し,実世界のシナリオにおける適用性について検討する。 因果関係に基づく公平性の概念の大部分は、観測不可能な量という観点で定義されるため、実際にはそれらの量を計算するか、見積もる必要がある。
  論文  参考訳（メタデータ） (2020-10-19T14:28:55Z)
• On the Fairness of Causal Algorithmic Recourse [36.519629650529666]
  グループレベルでの公平度基準と個人レベルでの公平度基準を提案する。 ここでは,会話の公平さは予測の公平さと相補的であることを示す。 本稿では, 社会的介入によって, データ生成プロセスの公正性違反に対処できるかどうかを論じる。
  論文  参考訳（メタデータ） (2020-10-13T16:35:06Z)
• Algorithmic Decision Making with Conditional Fairness [48.76267073341723]
  条件付きフェアネスを、条件付きフェアネス変数の条件付けにより、より健全なフェアネス計量として定義する。 本稿では,アルゴリズム決定の精度と公平性のトレードオフを追跡するために,導出条件公正規則化器(DCFR)を提案する。
  論文  参考訳（メタデータ） (2020-06-18T12:56:28Z)
• Principal Fairness for Human and Algorithmic Decision-Making [1.2691047660244335]
  我々は、人間とアルゴリズムによる意思決定のために、主公正と呼ばれる新しい公正の概念を導入する。 既存の統計的公正の定義とは異なり、主公正性は個人が決定に影響を及ぼすことができるという事実をはっきりと説明している。
  論文  参考訳（メタデータ） (2020-05-21T00:24:54Z)
• On Consequentialism and Fairness [64.35872952140677]
  機械学習におけるフェアネスの共通定義について、逐次的批判を行う。 学習とランダム化の問題に関するより広範な議論で締めくくります。
  論文  参考訳（メタデータ） (2020-01-02T05:39:48Z)
• The Measure and Mismeasure of Fairness [6.6697126372463345]
  我々は、アルゴリズムの公平な設計は、それらの文脈固有の結果に不満を抱く必要があると論じる。 私たちは、アルゴリズムがポリシーの目標に適合するようにするための戦略を提供します。
  論文  参考訳（メタデータ） (2018-07-31T18:38:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。