論文の概要: Privacy Cost as Equity Input: A Group Fairness Criterion for Differentially Private Machine Learning
- arxiv url: http://arxiv.org/abs/2607.16620v1
- Date: Sat, 18 Jul 2026 03:41:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-21 18:48:37.198469
- Title: Privacy Cost as Equity Input: A Group Fairness Criterion for Differentially Private Machine Learning
- Title（参考訳）: エクイティ入力としてのプライバシコスト: 異なるプライベート機械学習のためのグループフェアネス基準
- Abstract要約: プライバシーのコストは、各グループによって引き起こされる情報漏洩であり、それ自体が害である、と我々は主張する。
我々は、グループごとのオーバーフィッティングギャップによって正規化されるグループの正の予測率として定義されるグループフェアネス計量を導出する。
- 参考スコア（独自算出の注目度）: 0.609170287691728
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Differential privacy (DP) is increasingly deployed to limit membership inference risk in machine-learning systems. Prior work has shown that DP-SGD can widen accuracy disparities across demographic groups, but this framing treats fairness as a purely outcome-side concern. We argue that privacy cost, the information leakage borne by each group, is itself a form of harm, and adopt a compensatory-fairness framework in which a group that involuntarily bears greater privacy exposure is owed proportionally greater benefit from the system. From this principle we derive the \emph{Privacy-Cost Equity Ratio} (PCER), a group fairness metric defined as a group's positive prediction rate normalized by its per-group overfitting gap. By a standard membership inference bound, this overfitting gap upper-bounds each group's vulnerability to inference attacks, making PCER a conservative measure of benefit relative to exposure. PCER needs only per-group train and test accuracy (no shadow models), making it a practical post-hoc audit tool. We evaluate PCER alongside standard fairness metrics across six benchmark--attribute combinations spanning tabular and NLP domains, under DP-SGD at a range of privacy budgets, and validate the overfitting-gap proxy against a direct threshold membership-inference attack. The results reveal patterns that outcome-based metrics miss. On COMPAS, PCER uncovers a persistent double disadvantage: the protected group bears both greater privacy exposure and worse predictive outcomes, something demographic parity gap masks entirely. Sensitivity analysis shows very strong privacy guarantees collapse both groups' overfitting to a numerical floor, rendering exposure-based audits uninformative in that regime. Together, these findings show that fairness audits of privacy-preserving systems must account for who bears the cost of protection, not only who benefits from its outcomes.
- Abstract（参考訳）: 差分プライバシー(DP)は、機械学習システムのメンバシップ推論リスクを制限するために、ますます多くデプロイされている。
以前の研究では、DP-SGDは人口集団間での精度格差を拡大できることが示されたが、このフレーミングは公正を純粋に結果側の懸念として扱う。
プライバシコストは、各グループによってもたらされる情報漏洩であり、それ自体は害の一種であり、不随意により大きなプライバシ暴露に耐えるグループがシステムに比例して大きな利益を負う補償公正性フレームワークを採用している、と我々は主張する。
この原理から、グループごとのオーバーフィッティングギャップによって正規化されるグループの正の予測率として定義される群フェアネス計量である「emph{Privacy-Cost Equity Ratio} (PCER)」を導出する。
標準メンバーシップ推論バウンドにより、このオーバーフィッティングギャップは、各グループの攻撃に対する脆弱性を上位に制限し、PCERを露出に対する利益の保守的な尺度にする。
PCERはグループごとの列車とテストの精度しか必要とせず(シャドウモデルがない)、事実上のポストホック監査ツールである。
我々は,PCERを,表領域とNLP領域にまたがる6つのベンチマーク属性の組み合わせの標準公正度指標と並行して,DP-SGDのプライバシ予算の範囲で評価し,直接しきい値メンバーシップ推論攻撃に対するオーバーフィッティングギャッププロキシの有効性を検証した。
結果は結果ベースの指標が見逃すパターンを明らかにします。
CompASでは、PCERは永続的な二重のデメリットを明らかにしている。保護されたグループは、プライバシーの露出と予測結果の悪化の両方をカバーしている。
感度分析は、両グループの数値的なフロアへの過度な適合が崩壊し、エクスポージャーベースの監査は、その体制において非形式的であることを非常に強く保証している。
これらの結果は、プライバシ保護システムの公正性監査は、その結果の恩恵を受けるだけでなく、保護コストを負担する人物を考慮しなければならないことを示している。
関連論文リスト
- Auditing Fairness-Privacy Trade-offs: Subpopulation-Level Effects of Fairness-Enhancing Algorithms [9.177020525465272]
本研究は,公平な介入がサブ人口レベルでの会員推定プライバシリスクにどのように影響するかを,初めて包括的に検討する。
その結果、公正な介入はプライバシーリスクを均一に増加させるものではないことが示され、その影響はモデルアーキテクチャ、サブグループサイズ、緩和戦略に依存している。
論文 参考訳（メタデータ） (2026-07-16T06:10:42Z) - Your Privacy Depends on Others: Collusion Vulnerabilities in Individual Differential Privacy [50.66105844449181]
個々の差別的プライバシ(iDP)は、ユーザが自身のプライバシをコントロールすることを約束するが、この約束は実際には破られる可能性がある。
我々は、サンプリングベースのiDPメカニズムにおいて、これまで見過ごされていた脆弱性を明らかにした。
我々は、$(varepsilon_i,_i,overline)$-iDPというプライバシー契約を提案します。
論文 参考訳（メタデータ） (2026-01-19T10:26:12Z) - Privacy-Preserving Federated Learning with Verifiable Fairness Guarantees [0.0]
フェデレートラーニングは、センシティブなデータを集中化せずに、分散機関間で協調的なモデルトレーニングを可能にする。
本稿では,フェデレートされた学習システムに対して,初めて検証可能な公正性を保証する新しい暗号フレームワークであるCryptoFair-FLを紹介する。
論文 参考訳（メタデータ） (2026-01-18T15:06:30Z) - On the Fairness of Privacy Protection: Measuring and Mitigating the Disparity of Group Privacy Risks for Differentially Private Machine Learning [11.838077209919875]
データレコードの最悪のプライバシーリスクを効率的に評価できる新しい会員推論ゲームを導入する。
提案アルゴリズムは,グループプライバシリスクの格差を効果的に低減し,DPMLにおけるプライバシ保護の公平性を高める。
論文 参考訳（メタデータ） (2025-10-10T08:09:08Z) - Privacy Amplification for the Gaussian Mechanism via Bounded Support [64.86780616066575]
インスタンスごとの差分プライバシー(pDP)やフィッシャー情報損失(FIL)といったデータ依存のプライバシ会計フレームワークは、固定されたトレーニングデータセット内の個人に対してきめ細かいプライバシー保証を提供する。
本稿では,データ依存会計下でのプライバシ保証を向上することを示すとともに,バウンドサポートによるガウス機構の簡単な修正を提案する。
論文 参考訳（メタデータ） (2024-03-07T21:22:07Z) - FairDP: Certified Fairness with Differential Privacy [55.51579601325759]
本稿では,FairDPについて紹介する。FairDPは,トレーニングされたモデルの判断に対して,グループフェアネスの認定を提供するために設計された,新しいトレーニングメカニズムである。
FairDPの鍵となる考え方は、独立した個別グループのためのモデルをトレーニングし、データプライバシ保護のための各グループの勾配にノイズを加え、グループモデルの知識を統合して、下流タスクにおけるプライバシ、ユーティリティ、公正性のバランスをとるモデルを構築することである。
論文 参考訳（メタデータ） (2023-05-25T21:07:20Z) - A Randomized Approach for Tight Privacy Accounting [63.67296945525791]
推定検証リリース(EVR)と呼ばれる新しい差分プライバシーパラダイムを提案する。
EVRパラダイムは、まずメカニズムのプライバシパラメータを推定し、その保証を満たすかどうかを確認し、最後にクエリ出力を解放する。
我々の実証的な評価は、新たに提案されたEVRパラダイムが、プライバシ保護機械学習のユーティリティプライバシトレードオフを改善することを示している。
論文 参考訳（メタデータ） (2023-04-17T00:38:01Z) - On the Alignment of Group Fairness with Attribute Privacy [1.6574413179773757]
グループフェアネスとプライバシは、信頼できる機械学習モデルを設計する上での基本的な側面である。
ブラックボックスの設定において、グループフェアネスと属性プライバシという特定のプライバシー概念との整合性を初めて示す。
論文 参考訳（メタデータ） (2022-11-18T13:00:34Z) - "You Can't Fix What You Can't Measure": Privately Measuring Demographic
Performance Disparities in Federated Learning [78.70083858195906]
グループメンバーシップのプライバシを保護しつつ,グループ間でのパフォーマンスの差異を測定するための,差分プライベートなメカニズムを提案する。
我々の結果は、以前の研究の示唆に反して、プライバシ保護は必ずしもフェデレーションモデルの性能格差の特定と矛盾しているわけではないことを示している。
論文 参考訳（メタデータ） (2022-06-24T09:46:43Z) - The Impact of Differential Privacy on Group Disparity Mitigation [28.804933301007644]
差分プライバシーが4つのタスクの公平性に与える影響を評価する。
私たちは、経験的リスク最小化を伴う$(varepsilon,delta)$-differentially privateモデルをトレーニングします。
基本設定におけるグループ間性能差は,差分プライバシが増加することが判明した。
しかし、差分プライバシーは、ロバストな設定におけるグループ間のパフォーマンス差を減少させる。
論文 参考訳（メタデータ） (2022-03-05T13:55:05Z) - Private Reinforcement Learning with PAC and Regret Guarantees [69.4202374491817]
エピソード強化学習(RL)のためのプライバシー保護探索ポリシーを設計する。
まず、共同微分プライバシー(JDP)の概念を用いた有意義なプライバシー定式化を提供する。
そこで我々は,強いPACと後悔境界を同時に達成し,JDP保証を享受する,プライベートな楽観主義に基づく学習アルゴリズムを開発した。
論文 参考訳（メタデータ） (2020-09-18T20:18:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。