論文の概要: A Systematic and Formal Study of the Impact of Local Differential Privacy on Fairness: Preliminary Results
- arxiv url: http://arxiv.org/abs/2405.14725v1
- Date: Thu, 23 May 2024 15:54:03 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-24 14:06:33.646876
- Title: A Systematic and Formal Study of the Impact of Local Differential Privacy on Fairness: Preliminary Results
- Title（参考訳）: 地域差分プライバシが公正性に及ぼす影響に関する体系的および形式的研究:予備的結果
- Authors: Karima Makhlouf, Tamara Stefanovic, Heber H. Arcolezi, Catuscia Palamidessi,
- Abstract要約: 差分プライバシー(DP)は、プライバシ保護機械学習(ML)アルゴリズムの主要なソリューションである。
近年の研究では、ローカルDPが個人の異なるサブグループに対するML予測に影響を及ぼすことが示されている。
ローカルDPの下でのMLモデルによる決定の公平性は,プライバシやデータ分布の異なるレベルにおいてどのように変化するかを検討する。
- 参考スコア（独自算出の注目度）: 5.618541935188389
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine learning (ML) algorithms rely primarily on the availability of training data, and, depending on the domain, these data may include sensitive information about the data providers, thus leading to significant privacy issues. Differential privacy (DP) is the predominant solution for privacy-preserving ML, and the local model of DP is the preferred choice when the server or the data collector are not trusted. Recent experimental studies have shown that local DP can impact ML prediction for different subgroups of individuals, thus affecting fair decision-making. However, the results are conflicting in the sense that some studies show a positive impact of privacy on fairness while others show a negative one. In this work, we conduct a systematic and formal study of the effect of local DP on fairness. Specifically, we perform a quantitative study of how the fairness of the decisions made by the ML model changes under local DP for different levels of privacy and data distributions. In particular, we provide bounds in terms of the joint distributions and the privacy level, delimiting the extent to which local DP can impact the fairness of the model. We characterize the cases in which privacy reduces discrimination and those with the opposite effect. We validate our theoretical findings on synthetic and real-world datasets. Our results are preliminary in the sense that, for now, we study only the case of one sensitive attribute, and only statistical disparity, conditional statistical disparity, and equal opportunity difference.
- Abstract（参考訳）: 機械学習(ML)アルゴリズムは、主にトレーニングデータの可用性に依存しており、ドメインによっては、これらのデータはデータプロバイダに関する機密情報を含んでいるため、重大なプライバシー問題を引き起こす可能性がある。
差別化プライバシ(DP)はプライバシ保護MLの主要なソリューションであり、サーバやデータコレクタが信頼されていない場合、DPのローカルモデルが望ましい選択である。
近年の研究では、ローカルDPが個人の異なるサブグループのML予測に影響を与え、公正な意思決定に影響を及ぼすことが示されている。
しかし、結果が矛盾しているのは、一部の研究がプライバシーが公正に与える影響を肯定的に示す一方で、他の研究は否定的な影響を示すという意味でである。
本研究では,ローカルDPが公正性に与える影響について,体系的および形式的な研究を行う。
具体的には、ローカルDPの下でMLモデルによる決定の公平さが、異なるレベルのプライバシとデータ分散に対してどのように変化するかを定量的に研究する。
特に、局所DPがモデルの公平性に影響を与える範囲を減らし、共同分布とプライバシのレベルでのバウンダリを提供する。
プライバシーが差別を減少させるケースと、その逆の効果を持つケースを特徴付ける。
合成および実世界のデータセットに関する理論的知見を検証した。
本研究の結果は,1つの感度特性,統計的差異,条件的統計的相違,機会的相違についてのみ検討するという意味で予備的である。
関連論文リスト
- Privacy at a Price: Exploring its Dual Impact on AI Fairness [24.650648702853903]
機械学習モデルにおける差分プライバシーは、予測精度に関して異なる階層群に不平等に影響を及ぼすことを示した。
これは公平性への懸念を招き、パフォーマンスのバイアスとして現れます。
微分プライベート勾配降下ML法における勾配クリッピングの実装は、DPノイズの公平性に対する負の影響を軽減することができる。
論文 参考訳（メタデータ） (2024-04-15T00:23:41Z) - On the Impact of Multi-dimensional Local Differential Privacy on
Fairness [5.237044436478256]
偏差プライバシー(LDP)が不公平性に与える影響について検討した。
特に、多次元 LDP は格差を減らすための効率的なアプローチである。
本研究は,実践者の効果的なプライバシ保護プラクティスの実践を指導するための勧告の形で要約した。
論文 参考訳（メタデータ） (2023-12-07T16:17:34Z) - Causal Inference with Differentially Private (Clustered) Outcomes [16.166525280886578]
ランダム化実験から因果効果を推定することは、参加者が反応を明らかにすることに同意すれば実現可能である。
我々は,任意のクラスタ構造を利用する新たな差分プライバシメカニズムであるCluster-DPを提案する。
クラスタの品質を直感的に測定することで,プライバシ保証を維持しながら分散損失を改善することができることを示す。
論文 参考訳（メタデータ） (2023-08-02T05:51:57Z) - (Local) Differential Privacy has NO Disparate Impact on Fairness [4.157415305926584]
ローカル微分プライバシー(LDP)は、現実世界のアプリケーションで広く採用されている。
本稿では,LPP下での複数属性の収集が公平性に及ぼす影響を実証研究する。
論文 参考訳（メタデータ） (2023-04-25T14:18:12Z) - How Do Input Attributes Impact the Privacy Loss in Differential Privacy? [55.492422758737575]
DPニューラルネットワークにおけるオブジェクトごとの規範と個人のプライバシ損失との関係について検討する。
プライバシ・ロス・インプット・サセプティビリティ(PLIS)と呼ばれる新しい指標を導入し、被験者のプライバシ・ロスを入力属性に適応させることを可能にした。
論文 参考訳（メタデータ） (2022-11-18T11:39:03Z) - Post-processing of Differentially Private Data: A Fairness Perspective [53.29035917495491]
本稿では,ポストプロセッシングが個人やグループに異なる影響を与えることを示す。
差分的にプライベートなデータセットのリリースと、ダウンストリームの決定にそのようなプライベートなデータセットを使用するという、2つの重要な設定を分析している。
それは、異なる公正度尺度の下で(ほぼ)最適である新しい後処理機構を提案する。
論文 参考訳（メタデータ） (2022-01-24T02:45:03Z) - Partial sensitivity analysis in differential privacy [58.730520380312676]
それぞれの入力特徴が個人のプライバシ損失に与える影響について検討する。
プライベートデータベース上でのクエリに対する我々のアプローチを実験的に評価する。
また、合成データにおけるニューラルネットワークトレーニングの文脈における知見についても検討する。
論文 参考訳（メタデータ） (2021-09-22T08:29:16Z) - Decision Making with Differential Privacy under a Fairness Lens [65.16089054531395]
アメリカ国勢調査局は、多くの重要な意思決定プロセスの入力として使用される個人のグループに関するデータセットと統計を公表している。
プライバシと機密性要件に従うために、これらの機関は、しばしば、プライバシを保存するバージョンのデータを公開する必要がある。
本稿では,差分的プライベートデータセットのリリースについて検討し,公平性の観点から重要な資源配分タスクに与える影響を考察する。
論文 参考訳（メタデータ） (2021-05-16T21:04:19Z) - Robustness Threats of Differential Privacy [70.818129585404]
我々は、いくつかの設定で差分プライバシーをトレーニングしたネットワークが、非プライベートバージョンに比べてさらに脆弱であることを実験的に実証した。
本研究では,勾配クリッピングや雑音付加などのニューラルネットワークトレーニングの主成分が,モデルの堅牢性に与える影響について検討する。
論文 参考訳（メタデータ） (2020-12-14T18:59:24Z) - Differentially Private and Fair Deep Learning: A Lagrangian Dual
Approach [54.32266555843765]
本稿では,個人の機密情報のプライバシを保護するとともに,非差別的予測器の学習を可能にするモデルについて検討する。
この方法は、微分プライバシーの概念と、公正性制約を満たすニューラルネットワークの設計にラグランジアン双対性(Lagrangian duality)を用いることに依存している。
論文 参考訳（メタデータ） (2020-09-26T10:50:33Z) - Neither Private Nor Fair: Impact of Data Imbalance on Utility and
Fairness in Differential Privacy [5.416049433853457]
本研究では,データの不均衡レベルの違いが,モデルによる決定の正確性と公平性に与える影響について検討する。
私たちは、小さな不均衡やプライバシー保証の緩やかささえも、異なる影響を引き起こすことを実証しています。
論文 参考訳（メタデータ） (2020-09-10T18:35:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。