論文の概要: A Theoretical Approach to Characterize the Accuracy-Fairness Trade-off Pareto Frontier

• arxiv url: http://arxiv.org/abs/2310.12785v1
• Date: Thu, 19 Oct 2023 14:35:26 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-20 14:55:44.594670
• Title: A Theoretical Approach to Characterize the Accuracy-Fairness Trade-off Pareto Frontier
• Title（参考訳）: パレート・フロンティアの正確さ・公正さを特徴付ける理論的アプローチ
• Authors: Hua Tang, Lu Cheng, Ninghao Liu, Mengnan Du
• Abstract要約: 正確さと公正さのトレードオフは、公正な機械学習の文献でよく観察されている。 この研究は、精度-公正トレードオフの形状を特徴付けることによって理論的枠組みの開発を目指している。 提案した研究は、精度と公正性のトレードオフの深い理解を可能にし、現在の公正な機械学習研究を新たなフロンティアに押し上げる。
• 参考スコア（独自算出の注目度）: 42.18013955576355
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: While the accuracy-fairness trade-off has been frequently observed in the literature of fair machine learning, rigorous theoretical analyses have been scarce. To demystify this long-standing challenge, this work seeks to develop a theoretical framework by characterizing the shape of the accuracy-fairness trade-off Pareto frontier (FairFrontier), determined by a set of all optimal Pareto classifiers that no other classifiers can dominate. Specifically, we first demonstrate the existence of the trade-off in real-world scenarios and then propose four potential categories to characterize the important properties of the accuracy-fairness Pareto frontier. For each category, we identify the necessary conditions that lead to corresponding trade-offs. Experimental results on synthetic data suggest insightful findings of the proposed framework: (1) When sensitive attributes can be fully interpreted by non-sensitive attributes, FairFrontier is mostly continuous. (2) Accuracy can suffer a \textit{sharp} decline when over-pursuing fairness. (3) Eliminate the trade-off via a two-step streamlined approach. The proposed research enables an in-depth understanding of the accuracy-fairness trade-off, pushing current fair machine-learning research to a new frontier.
• Abstract（参考訳）: 公正な機械学習の文献では精度と公正性のトレードオフが頻繁に観測されているが、厳密な理論的分析は乏しい。 この長年の課題を解き明かすため、この研究は、他の分類器が支配できない最適パレート分類器の集合によって決定される精度-公正トレードオフパレートフロンティア(FairFrontier)の形状を特徴付けることによって理論的枠組みの開発を目指す。 具体的には,まず実世界のシナリオにおけるトレードオフの存在を実演し,その上で,精度・フェアネス・パレートフロンティアの重要な特性を特徴付ける4つの潜在的なカテゴリを提案する。 各カテゴリについて、対応するトレードオフにつながる必要な条件を特定します。 1) センシティブな属性が非センシティブな属性によって完全に解釈できる場合、fairfrontierはほとんど連続的である。 2) フェアネスが過度に低下すると, 精度が低下する可能性がある。 (3) 2段階の合理化アプローチによるトレードオフの排除。 提案した研究は、精度と公正性のトレードオフの深い理解を可能にし、現在の公正な機械学習研究を新たなフロンティアに押し上げる。

関連論文リスト

• Fairness-Accuracy Trade-Offs: A Causal Perspective [58.06306331390586]
  我々は、初めて因果レンズから公正性と正確性の間の張力を分析する。 因果的制約を強制することは、しばしば人口集団間の格差を減少させることを示す。 因果制約付きフェアラーニングのための新しいニューラルアプローチを導入する。
  論文  参考訳（メタデータ） (2024-05-24T11:19:52Z)
• Understanding Fairness Surrogate Functions in Algorithmic Fairness [21.555040357521907]
  フェアネスの定義とフェアネスのサロゲート関数の間には、サロゲートとフェアネスのギャップがあることが示される。 我々は、不公平を緩和するギャップを反復的に減少させる「バランスド・サロゲート」という、新規で一般的なアルゴリズムを精査する。
  論文  参考訳（メタデータ） (2023-10-17T12:40:53Z)
• DualFair: Fair Representation Learning at Both Group and Individual Levels via Contrastive Self-supervision [73.80009454050858]
  この研究は、DualFairと呼ばれる自己教師型モデルを提示し、学習された表現から性別や人種などのセンシティブな属性をデバイアスすることができる。 我々のモデルは、グループフェアネスと対実フェアネスという2つのフェアネス基準を共同で最適化する。
  論文  参考訳（メタデータ） (2023-03-15T07:13:54Z)
• Fairness in Matching under Uncertainty [78.39459690570531]
  アルゴリズム的な二面市場は、こうした設定における公平性の問題に注意を向けている。 我々は、利益の不確実性を尊重する両面の市場設定において、個々人の公正性の概念を公理化する。 そこで我々は,配当よりも公平なユーティリティ最大化分布を求めるために,線形プログラミングフレームワークを設計する。
  論文  参考訳（メタデータ） (2023-02-08T00:30:32Z)
• Practical Approaches for Fair Learning with Multitype and Multivariate Sensitive Attributes [70.6326967720747]
  現実世界に展開された機械学習アルゴリズムが不公平さや意図しない社会的結果をもたらすことはないことを保証することが重要である。 本稿では,カーネルHilbert Spacesの相互共分散演算子上に構築されたフェアネス尺度であるFairCOCCOを紹介する。 実世界のデータセットにおける予測能力と公正性のバランスをとる上で、最先端技術に対する一貫した改善を実証的に示す。
  論文  参考訳（メタデータ） (2022-11-11T11:28:46Z)
• Conformalized Fairness via Quantile Regression [8.180169144038345]
  本稿では,デモグラフィックパリティの公正性要件に基づき,実数値量子関数を学習するための新しいフレームワークを提案する。 フェア量子化法により構築された誘導予測区間に対する分布自由被覆の理論的保証と正確な公正性を確立する。 本研究は, フェアネス・正確性トレードオフの基盤となるメカニズムを, 幅広い社会的・医療的応用において明らかにする能力を示すものである。
  論文  参考訳（メタデータ） (2022-10-05T04:04:15Z)
• To the Fairness Frontier and Beyond: Identifying, Quantifying, and Optimizing the Fairness-Accuracy Pareto Frontier [1.5293427903448022]
  アルゴリズムフェアネスは、機械学習を用いて高い社会的決定を行う際に重要な考慮事項として現れてきた。 しかし、改善された公正さは、しばしばモデルの正確さを犠牲にする。 フェアネス・正確性トレードオフの実証的パレートフロンティアを特定し、定量化し、最適化することを模索する。
  論文  参考訳（メタデータ） (2022-05-31T19:35:53Z)
• Emergent Unfairness in Algorithmic Fairness-Accuracy Trade-Off Research [2.6397379133308214]
  このような仮定は、しばしば暗黙的かつ未検討のまま残され、矛盾した結論につながると我々は主張する。 この研究の目的は、機械学習モデルの公平性を改善することだが、これらの未検討の暗黙の仮定は、実際、突発的な不公平をもたらす可能性がある。
  論文  参考訳（メタデータ） (2021-02-01T22:02:14Z)
• Fairness in Semi-supervised Learning: Unlabeled Data Help to Reduce Discrimination [53.3082498402884]
  機械学習の台頭における投機は、機械学習モデルによる決定が公正かどうかである。 本稿では,未ラベルデータのラベルを予測するための擬似ラベリングを含む,前処理フェーズにおける公平な半教師付き学習の枠組みを提案する。 偏見、分散、ノイズの理論的分解分析は、半教師付き学習における差別の異なる源とそれらが公平性に与える影響を浮き彫りにする。
  論文  参考訳（メタデータ） (2020-09-25T05:48:56Z)
• Accuracy and Fairness Trade-offs in Machine Learning: A Stochastic Multi-Objective Approach [0.0]
  機械学習を実生活の意思決定システムに適用すると、予測結果は機密性の高い属性を持つ人々に対して差別され、不公平になる可能性がある。 公正機械学習における一般的な戦略は、予測損失の最小化において、制約や罰則として公正さを含めることである。 本稿では,多目的最適化問題を定式化して公平性を扱うための新しい手法を提案する。
  論文  参考訳（メタデータ） (2020-08-03T18:51:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。