論文の概要: (Local) Differential Privacy has NO Disparate Impact on Fairness

• arxiv url: http://arxiv.org/abs/2304.12845v1
• Date: Tue, 25 Apr 2023 14:18:12 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-26 20:23:36.958140
• Title: (Local) Differential Privacy has NO Disparate Impact on Fairness
• Title（参考訳）: (地方)差別プライバシーは公平性に異なる影響を与えない
• Authors: H\'eber H. Arcolezi, Karima Makhlouf, Catuscia Palamidessi
• Abstract要約: ローカル微分プライバシー(LDP)は、現実世界のアプリケーションで広く採用されている。 本稿では,LPP下での複数属性の収集が公平性に及ぼす影響を実証研究する。
• 参考スコア（独自算出の注目度）: 4.157415305926584
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In recent years, Local Differential Privacy (LDP), a robust privacy-preserving methodology, has gained widespread adoption in real-world applications. With LDP, users can perturb their data on their devices before sending it out for analysis. However, as the collection of multiple sensitive information becomes more prevalent across various industries, collecting a single sensitive attribute under LDP may not be sufficient. Correlated attributes in the data may still lead to inferences about the sensitive attribute. This paper empirically studies the impact of collecting multiple sensitive attributes under LDP on fairness. We propose a novel privacy budget allocation scheme that considers the varying domain size of sensitive attributes. This generally led to a better privacy-utility-fairness trade-off in our experiments than the state-of-art solution. Our results show that LDP leads to slightly improved fairness in learning problems without significantly affecting the performance of the models. We conduct extensive experiments evaluating three benchmark datasets using several group fairness metrics and seven state-of-the-art LDP protocols. Overall, this study challenges the common belief that differential privacy necessarily leads to worsened fairness in machine learning.
• Abstract（参考訳）: 近年、堅牢なプライバシー保護手法であるローカル微分プライバシー(LDP)が、現実世界のアプリケーションに広く採用されている。 LDPを使えば、ユーザーは分析のためにデータを送信する前にデバイス上でデータを摂動することができる。 しかし、複数の機密情報の収集が様々な産業で普及するにつれて、LDPの下での単一機密属性の収集は不十分である。 データ内の関連属性は、それでも機密属性に関する推論につながる可能性がある。 本稿では,LPP下での複数属性の収集が公平性に及ぼす影響を実証研究する。 機密属性のドメインサイズの変化を考慮した新しいプライバシ予算配分方式を提案する。 これは一般的に、最先端のソリューションよりも、私たちの実験におけるプライバシーと実用性と公正性のトレードオフに結びつきました。 その結果, LDPは, モデルの性能に悪影響を及ぼすことなく, 学習問題の公平性をわずかに向上させることがわかった。 我々は,グループフェアネスの指標と7つの最新LDPプロトコルを用いて,3つのベンチマークデータセットの評価実験を行った。 全体として、この研究は、差分プライバシーが機械学習における公平性の悪化につながるという一般的な信念に挑戦する。

関連論文リスト

• RL in Latent MDPs is Tractable: Online Guarantees via Off-Policy Evaluation [73.2390735383842]
  付加的な構造仮定を伴わずにLMDPのサンプル効率アルゴリズムを初めて導入する。 楽観的な探索アルゴリズムのほぼ最適保証を導出するためにどのように使用できるかを示す。 これらの結果は、LMDP以外の幅広い対話型学習問題、特に部分的に観察された環境において有用である。
  論文  参考訳（メタデータ） (2024-06-03T14:51:27Z)
• A Systematic and Formal Study of the Impact of Local Differential Privacy on Fairness: Preliminary Results [5.618541935188389]
  差分プライバシー(DP)は、プライバシ保護機械学習(ML)アルゴリズムの主要なソリューションである。 近年の研究では、ローカルDPが個人の異なるサブグループに対するML予測に影響を及ぼすことが示されている。 ローカルDPの下でのMLモデルによる決定の公平性は,プライバシやデータ分布の異なるレベルにおいてどのように変化するかを検討する。
  論文  参考訳（メタデータ） (2024-05-23T15:54:03Z)
• Privacy at a Price: Exploring its Dual Impact on AI Fairness [24.650648702853903]
  機械学習モデルにおける差分プライバシーは、予測精度に関して異なる階層群に不平等に影響を及ぼすことを示した。 これは公平性への懸念を招き、パフォーマンスのバイアスとして現れます。 微分プライベート勾配降下ML法における勾配クリッピングの実装は、DPノイズの公平性に対する負の影響を軽減することができる。
  論文  参考訳（メタデータ） (2024-04-15T00:23:41Z)
• Privacy Constrained Fairness Estimation for Decision Trees [2.9906966931843093]
  任意のAIモデルの公平さを測定するには、データセット内の個人の敏感な属性が必要である。 プライバシ・アウェア・フェアネス・オブ・ルール(PAFER)と呼ばれる新しい手法を提案する。 提案手法は,ラプラシアン機構を用いて,データセット内の個人のプライバシーを高い確度で保証しつつ,低い誤差でSPを推定できることを示す。
  論文  参考訳（メタデータ） (2023-12-13T14:54:48Z)
• On the Impact of Multi-dimensional Local Differential Privacy on Fairness [5.237044436478256]
  偏差プライバシー(LDP)が不公平性に与える影響について検討した。 特に、多次元 LDP は格差を減らすための効率的なアプローチである。 本研究は,実践者の効果的なプライバシ保護プラクティスの実践を指導するための勧告の形で要約した。
  論文  参考訳（メタデータ） (2023-12-07T16:17:34Z)
• FedLAP-DP: Federated Learning by Sharing Differentially Private Loss Approximations [53.268801169075836]
  我々は,フェデレーション学習のための新しいプライバシ保護手法であるFedLAP-DPを提案する。 公式なプライバシー分析は、FedLAP-DPが典型的な勾配共有方式と同じプライバシーコストを発生させることを示している。 提案手法は, 通常の勾配共有法に比べて高速な収束速度を示す。
  論文  参考訳（メタデータ） (2023-02-02T12:56:46Z)
• How Do Input Attributes Impact the Privacy Loss in Differential Privacy? [55.492422758737575]
  DPニューラルネットワークにおけるオブジェクトごとの規範と個人のプライバシ損失との関係について検討する。 プライバシ・ロス・インプット・サセプティビリティ(PLIS)と呼ばれる新しい指標を導入し、被験者のプライバシ・ロスを入力属性に適応させることを可能にした。
  論文  参考訳（メタデータ） (2022-11-18T11:39:03Z)
• DP2-Pub: Differentially Private High-Dimensional Data Publication with Invariant Post Randomization [58.155151571362914]
  本稿では,2つのフェーズで動作する差分プライベートな高次元データパブリッシング機構(DP2-Pub)を提案する。 属性をクラスタ内凝集度の高い低次元クラスタに分割し、クラスタ間の結合度を低くすることで、適切なプライバシ予算を得ることができる。 また、DP2-Pubメカニズムを、ローカルの差分プライバシーを満たす半正直なサーバでシナリオに拡張します。
  論文  参考訳（メタデータ） (2022-08-24T17:52:43Z)
• When Fairness Meets Privacy: Fair Classification with Semi-Private Sensitive Attributes [18.221858247218726]
  半私的な環境での公平な分類の新規かつ実践的な問題について検討する。 センシティブな属性のほとんどはプライベートであり、クリーンな属性はごくわずかである。 半原始的環境下での公正な予測を実現するための新しいフレームワークであるFairSPを提案する。
  論文  参考訳（メタデータ） (2022-07-18T01:10:25Z)
• Partial sensitivity analysis in differential privacy [58.730520380312676]
  それぞれの入力特徴が個人のプライバシ損失に与える影響について検討する。 プライベートデータベース上でのクエリに対する我々のアプローチを実験的に評価する。 また、合成データにおけるニューラルネットワークトレーニングの文脈における知見についても検討する。
  論文  参考訳（メタデータ） (2021-09-22T08:29:16Z)
• Decision Making with Differential Privacy under a Fairness Lens [65.16089054531395]
  アメリカ国勢調査局は、多くの重要な意思決定プロセスの入力として使用される個人のグループに関するデータセットと統計を公表している。 プライバシと機密性要件に従うために、これらの機関は、しばしば、プライバシを保存するバージョンのデータを公開する必要がある。 本稿では,差分的プライベートデータセットのリリースについて検討し,公平性の観点から重要な資源配分タスクに与える影響を考察する。
  論文  参考訳（メタデータ） (2021-05-16T21:04:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。