論文の概要: Improving Fairness and Privacy in Selection Problems
- arxiv url: http://arxiv.org/abs/2012.03812v1
- Date: Mon, 7 Dec 2020 15:55:28 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-18 11:48:58.361564
- Title: Improving Fairness and Privacy in Selection Problems
- Title(参考訳): 選択問題における公平性とプライバシーの改善
- Authors: Mohammad Mahdi Khalili, Xueru Zhang, Mahed Abroshan, Somayeh Sojoudi
- Abstract要約: 教師付き学習モデルの公平性とプライバシーの両方を改善するための後処理のステップとして、微分的プライベート指数関数機構を使用することの可能性を検討する。
この指数関数的メカニズムは, プライバシと公平性の両方を向上し, ポストプロセッシングを伴わないモデルと比較して, 精度がわずかに低下することを示した。
- 参考スコア(独自算出の注目度): 21.293367386282902
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Supervised learning models have been increasingly used for making decisions
about individuals in applications such as hiring, lending, and college
admission. These models may inherit pre-existing biases from training datasets
and discriminate against protected attributes (e.g., race or gender). In
addition to unfairness, privacy concerns also arise when the use of models
reveals sensitive personal information. Among various privacy notions,
differential privacy has become popular in recent years. In this work, we study
the possibility of using a differentially private exponential mechanism as a
post-processing step to improve both fairness and privacy of supervised
learning models. Unlike many existing works, we consider a scenario where a
supervised model is used to select a limited number of applicants as the number
of available positions is limited. This assumption is well-suited for various
scenarios, such as job application and college admission. We use ``equal
opportunity'' as the fairness notion and show that the exponential mechanisms
can make the decision-making process perfectly fair. Moreover, the experiments
on real-world datasets show that the exponential mechanism can improve both
privacy and fairness, with a slight decrease in accuracy compared to the model
without post-processing.
- Abstract(参考訳): 教師付き学習モデルは、雇用、貸付、大学入学などのアプリケーションにおける個人に関する意思決定にますます使われてきた。
これらのモデルは、トレーニングデータセットから既存のバイアスを継承し、保護された属性(例えば、人種や性別)を識別する。
不公平さに加えて、モデルの使用が機密性の高い個人情報を明らかにすると、プライバシーの懸念が生じる。
さまざまなプライバシー概念の中で、ディファレンシャルプライバシは近年普及している。
本研究では,教師付き学習モデルの公平性とプライバシの両方を改善するための後処理ステップとして,微分的にプライベートな指数関数的メカニズムを用いる可能性について検討する。
既存の多くの作品と異なり、利用可能なポジションの数が限られているため、教師付きモデルを用いて限られた数の応募者を選定するシナリオを考える。
この仮定は、就職申請や大学入学など、様々なシナリオに適している。
我々は「平等の機会」を公平性の概念として使用し、指数関数的メカニズムによって意思決定プロセスが完全に公平になることを示す。
さらに,実世界のデータセットに関する実験では,指数関数的メカニズムがプライバシと公平性の両方を改善し,後処理を伴わないモデルと比較して精度をわずかに低下させることが示されている。
関連論文リスト
- Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。
カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。
本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
論文 参考訳(メタデータ) (2023-07-17T04:08:29Z) - Training Private Models That Know What They Don't Know [40.19666295972155]
いくつかの一般的な選択的予測手法は、差分的にプライベートな環境では効果がないことがわかった。
モデルユーティリティレベルを越えた選択予測性能を分離する新しい評価機構を提案する。
論文 参考訳(メタデータ) (2023-05-28T12:20:07Z) - Learning Differentially Private Probabilistic Models for
Privacy-Preserving Image Generation [67.47979276739144]
差分プライバシー保証付き高解像度画像を生成するために,差分プライベート確率モデルの学習を提案する。
我々のアプローチは、目立った視覚的品質とデータユーティリティで256x256までの画像を生成することができる。
論文 参考訳(メタデータ) (2023-05-18T02:51:17Z) - Position: Considerations for Differentially Private Learning with Large-Scale Public Pretraining [75.25943383604266]
大規模なWebスクレイプデータセットの使用は、差分プライバシ保存と見なすべきかどうかを疑問視する。
Webデータ上で事前訓練されたこれらのモデルを“プライベート”として公開することで、市民のプライバシーに対する信頼を意味のあるプライバシの定義として損なう可能性があることを警告します。
公的な事前学習がより普及し、強力になるにつれて、私的な学習分野への道のりを議論することで、我々は結論づける。
論文 参考訳(メタデータ) (2022-12-13T10:41:12Z) - "You Can't Fix What You Can't Measure": Privately Measuring Demographic
Performance Disparities in Federated Learning [78.70083858195906]
グループメンバーシップのプライバシを保護しつつ,グループ間でのパフォーマンスの差異を測定するための,差分プライベートなメカニズムを提案する。
我々の結果は、以前の研究の示唆に反して、プライバシ保護は必ずしもフェデレーションモデルの性能格差の特定と矛盾しているわけではないことを示している。
論文 参考訳(メタデータ) (2022-06-24T09:46:43Z) - SF-PATE: Scalable, Fair, and Private Aggregation of Teacher Ensembles [50.90773979394264]
本稿では、個人の機密情報のプライバシーを保護しつつ、差別的でない予測者の学習を可能にするモデルについて検討する。
提案モデルの主な特徴は、プライバシ保護とフェアモデルを作成するために、オフ・ザ・セルフと非プライベートフェアモデルの採用を可能にすることである。
論文 参考訳(メタデータ) (2022-04-11T14:42:54Z) - The Influence of Dropout on Membership Inference in Differentially
Private Models [0.0]
異なるプライベートモデルは、モデルがトレーニングしたデータのプライバシ保護を目指している。
我々は、差分プライバシーのないモデルに対する会員推測攻撃を行う。
論文 参考訳(メタデータ) (2021-03-16T12:09:51Z) - Differentially Private and Fair Deep Learning: A Lagrangian Dual
Approach [54.32266555843765]
本稿では,個人の機密情報のプライバシを保護するとともに,非差別的予測器の学習を可能にするモデルについて検討する。
この方法は、微分プライバシーの概念と、公正性制約を満たすニューラルネットワークの設計にラグランジアン双対性(Lagrangian duality)を用いることに依存している。
論文 参考訳(メタデータ) (2020-09-26T10:50:33Z) - Fairness-Aware Online Personalization [16.320648868892526]
個人格付けを含むオンラインパーソナライズ設定における公平性について検討する。
最初に、オンラインパーソナライゼーションが、ユーザが応答に偏っている場合、モデルが不公平に行動することを学ぶことを実証する。
次に、公正な制約の下でパーソナライズされたモデルを学習する問題を定式化し、機械学習におけるバイアスを軽減するための正規化に基づくアプローチを提案する。
論文 参考訳(メタデータ) (2020-07-30T07:16:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。