論文の概要: Fair Representation: Guaranteeing Approximate Multiple Group Fairness for Unknown Tasks

• arxiv url: http://arxiv.org/abs/2109.00545v1
• Date: Wed, 1 Sep 2021 17:29:11 GMT
• ステータス: 処理完了
• システム内更新日: 2021-09-04 07:58:38.043040
• Title: Fair Representation: Guaranteeing Approximate Multiple Group Fairness for Unknown Tasks
• Title（参考訳）: フェア表現:未知タスクに対する近似多重グループフェアネスの保証
• Authors: Xudong Shen, Yongkang Wong, Mohan Kankanhalli
• Abstract要約: 本研究では,未知のタスクに対して公平性を保証し,複数のフェアネス概念を同時に活用できるかどうかを考察する。 公平な表現は全ての予測タスクに対して公平性を保証するわけではないが、重要なタスクのサブセットに対して公平性を保証する。
• 参考スコア（独自算出の注目度）: 17.231251035416648
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Motivated by scenarios where data is used for diverse prediction tasks, we study whether fair representation can be used to guarantee fairness for unknown tasks and for multiple fairness notions simultaneously. We consider seven group fairness notions that cover the concepts of independence, separation, and calibration. Against the backdrop of the fairness impossibility results, we explore approximate fairness. We prove that, although fair representation might not guarantee fairness for all prediction tasks, it does guarantee fairness for an important subset of tasks -- the tasks for which the representation is discriminative. Specifically, all seven group fairness notions are linearly controlled by fairness and discriminativeness of the representation. When an incompatibility exists between different fairness notions, fair and discriminative representation hits the sweet spot that approximately satisfies all notions. Motivated by our theoretical findings, we propose to learn both fair and discriminative representations using pretext loss which self-supervises learning, and Maximum Mean Discrepancy as a fair regularizer. Experiments on tabular, image, and face datasets show that using the learned representation, downstream predictions that we are unaware of when learning the representation indeed become fairer for seven group fairness notions, and the fairness guarantees computed from our theoretical results are all valid.
• Abstract（参考訳）: 多様な予測タスクにデータが使用されるシナリオによって動機付けられ、未知のタスクに対する公平性と複数の公正性の概念を同時に保証するために公正表現が使用できるかどうかを考察する。 独立性、分離性、校正性の7つのグループフェアネス概念を考察する。 フェアネス不合理な結果の背景に対して、近似フェアネスを探索する。 公正表現はすべての予測タスクの公平性を保証するものではないが、重要なタスクのサブセット -- 表現が判別可能なタスク -- の公正性を保証することが証明される。 特に、7つの群のフェアネス概念はすべて、表現のフェアネスと判別性によって線形に制御される。 異なるフェアネス概念の間に非互換性が存在するとき、フェアと判別表現は、ほぼすべての概念を満たすスイートスポットにぶつかる。 理論的な知見に動機づけられ, 学習を自己管理する前文ロスと, 正則化として最大平均偏差を用いて, 公正表現と判別表現の両方を学ぶことを提案する。 表、画像、顔のデータセットに関する実験では、学習した表現を用いることで、その表現を学習する際に認識できない下流の予測が7つのグループフェアネス概念に対して公正になり、理論結果から計算されたフェアネス保証がすべて有効であることが示されている。

関連論文リスト

• Implementing Fairness: the view from a FairDream [0.0]
  私たちはAIモデルをトレーニングし、不平等を検出して修正するために、独自の公正パッケージFairDreamを開発します。 本実験は,FairDreamの特性として,真理を条件としたフェアネスの目標を達成できることを実証した。
  論文  参考訳（メタデータ） (2024-07-20T06:06:24Z)
• DualFair: Fair Representation Learning at Both Group and Individual Levels via Contrastive Self-supervision [73.80009454050858]
  この研究は、DualFairと呼ばれる自己教師型モデルを提示し、学習された表現から性別や人種などのセンシティブな属性をデバイアスすることができる。 我々のモデルは、グループフェアネスと対実フェアネスという2つのフェアネス基準を共同で最適化する。
  論文  参考訳（メタデータ） (2023-03-15T07:13:54Z)
• Conditional Supervised Contrastive Learning for Fair Text Classification [59.813422435604025]
  対照的な学習を通してテキスト分類のための等化オッズとして知られる公平性の概念を満たす学習公正表現について研究する。 具体的には、まず、公正性制約のある学習表現と条件付き教師付きコントラスト目的との間の関係を理論的に分析する。
  論文  参考訳（メタデータ） (2022-05-23T17:38:30Z)
• On Disentangled and Locally Fair Representations [95.6635227371479]
  人種や性別などのセンシティブなグループに対して公平な方法で分類を行うという課題について検討する。 局所的公正表現を学習し、学習された表現の下で、各サンプルの近傍は感度特性の観点からバランスをとる。
  論文  参考訳（メタデータ） (2022-05-05T14:26:50Z)
• Measuring Fairness of Text Classifiers via Prediction Sensitivity [63.56554964580627]
  加速度予測感度は、入力特徴の摂動に対するモデルの予測感度に基づいて、機械学習モデルの公正度を測定する。 この計量は、群フェアネス(統計パリティ)と個人フェアネスという特定の概念と理論的に関連付けられることを示す。
  論文  参考訳（メタデータ） (2022-03-16T15:00:33Z)
• Fairness Through Counterfactual Utilities [0.0]
  Demographic Parity や Equal Opportunity のようなグループフェアネスの定義は、それらが分類問題に制限される基本的な決定確率について仮定する。 我々は、すべての機械学習環境に明確に拡張されたグループフェアネス定義の一般化セットを提供する。
  論文  参考訳（メタデータ） (2021-08-11T16:51:27Z)
• Impossibility results for fair representations [12.483260526189447]
  我々は、それを用いて訓練された異なるタスクに対して、分類器の公平性を保証できないことを論じる。 Odds Equalityのようなより洗練された公正の概念は、タスク固有のラベル付け規則を考慮していない表現によって保証されない。
  論文  参考訳（メタデータ） (2021-07-07T21:12:55Z)
• MultiFair: Multi-Group Fairness in Machine Learning [52.24956510371455]
  機械学習におけるマルチグループフェアネスの研究(MultiFair) この問題を解決するために,汎用的なエンドツーエンドのアルゴリズムフレームワークを提案する。 提案するフレームワークは多くの異なる設定に一般化可能である。
  論文  参考訳（メタデータ） (2021-05-24T02:30:22Z)
• Machine learning fairness notions: Bridging the gap with real-world applications [4.157415305926584]
  フェアネスは、機械学習予測システムが特定の個人やサブ人口全体に対して差別しないことを保証する重要な要件として現れた。 本稿では,多くの事例とシナリオを通じて,公平性の概念間の微妙な関係について述べる。
  論文  参考訳（メタデータ） (2020-06-30T13:01:06Z)
• Two Simple Ways to Learn Individual Fairness Metrics from Data [47.6390279192406]
  個人的公正はアルゴリズム的公正の直感的な定義であり、グループ的公正の欠点のいくつかに対処する。 多くのMLタスクに対して広く受け入れられている公正な基準が欠如していることが、個人の公正を広く採用する大きな障壁である。 学習した指標による公正なトレーニングが、性別や人種的偏見に影響を受けやすい3つの機械学習タスクの公平性を改善することを実証的に示す。
  論文  参考訳（メタデータ） (2020-06-19T23:47:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。