論文の概要: Auditing Fairness-Privacy Trade-offs: Subpopulation-Level Effects of Fairness-Enhancing Algorithms

• arxiv url: http://arxiv.org/abs/2607.14607v1
• Date: Thu, 16 Jul 2026 06:10:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-17 17:01:33.009053
• Title: Auditing Fairness-Privacy Trade-offs: Subpopulation-Level Effects of Fairness-Enhancing Algorithms
• Title（参考訳）: フェアネス・プライバシトレードオフの監査:フェアネス・エンハンシング・アルゴリズムのサブポピュレーション・レベル効果
• Abstract要約: 本研究は,公平な介入がサブ人口レベルでの会員推定プライバシリスクにどのように影響するかを,初めて包括的に検討する。 その結果、公正な介入はプライバシーリスクを均一に増加させるものではないことが示され、その影響はモデルアーキテクチャ、サブグループサイズ、緩和戦略に依存している。
• 参考スコア（独自算出の注目度）: 9.177020525465272
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine learning (ML) models deployed in sensitive domains such as healthcare, law enforcement, and finance must satisfy not only utility requirements but also fairness and privacy guarantees. While prior work has largely examined how privacy-preserving techniques affect fairness, the inverse question-how fairness-enhancing algorithms influence privacy leakage-remains underexplored. We present the first comprehensive study of how fairness interventions affect membership inference privacy risks at the subpopulation level. By adapting the Likelihood Ratio Attack (LiRA) for subgroup auditing, we uncover privacy disparities that aggregate evaluations obscure. We further analyze how Differential Privacy (DP) interacts with fairness-enhancing methods across different categories, showing that DP's privacy benefits and utility costs are unevenly distributed across subpopulations. Our results demonstrate that fairness interventions do not uniformly increase privacy risk; their impact depends on model architecture, subgroup size, and mitigation strategy. These findings reveal that fairness, privacy, and utility must be jointly evaluated at the subpopulation level, and we introduce the first unified empirical framework to support such auditing in practice.
• Abstract（参考訳）: 医療、法執行機関、財務といった機密性の高いドメインにデプロイされる機械学習(ML)モデルは、ユーティリティ要件だけでなく、公正性とプライバシ保証も満たさなければならない。 これまでの研究は、プライバシー保護技術が公正性にどのように影響するかを主に検討してきたが、逆問題-公正性向上アルゴリズムは、未調査のプライバシー漏洩履歴に影響を与えている。 本研究は,公平な介入がサブ人口レベルでの会員推定プライバシリスクにどのように影響するかを,初めて包括的に検討する。 サブグループ監査にLiRA(Likelihood Ratio Attack)を適用することで、評価を不明瞭に集約するプライバシー格差を明らかにする。 さらに、DPのプライバシー利益とユーティリティコストが、サブポピュレーション全体にわたって不均一に分散されていることを示すため、異なるカテゴリにわたる公平性向上手法との相互作用について分析する。 その結果、公正な介入はプライバシーリスクを均一に増加させるものではないことが示され、その影響はモデルアーキテクチャ、サブグループサイズ、緩和戦略に依存している。 これらの結果から, 公平性, プライバシ, ユーティリティをサブポピュレーションレベルで共同評価する必要があることが明らかとなった。

関連論文リスト

• Privacy Cost as Equity Input: A Group Fairness Criterion for Differentially Private Machine Learning [0.609170287691728]
  プライバシーのコストは、各グループによって引き起こされる情報漏洩であり、それ自体が害である、と我々は主張する。 我々は、グループごとのオーバーフィッティングギャップによって正規化されるグループの正の予測率として定義されるグループフェアネス計量を導出する。
  論文  参考訳（メタデータ） (2026-07-18T03:41:01Z)
• Fairness Meets Privacy: Integrating Differential Privacy and Demographic Parity in Multi-class Classification [6.28122931748758]
  差分プライバシーは、公平性保証に最小限の影響を与える公平性向上パイプラインに統合可能であることを示す。 我々はDP2DPと呼ばれるポストプロセッシングアルゴリズムを設計し、人口統計と差分プライバシーの両方を強制する。 分析の結果,我々のアルゴリズムは,文献から得られる最良な非私的手法と基本的に同じ割合で,その人口的平等目標に向かって収束していることが判明した。
  論文  参考訳（メタデータ） (2025-11-24T08:31:02Z)
• On the Fairness of Privacy Protection: Measuring and Mitigating the Disparity of Group Privacy Risks for Differentially Private Machine Learning [11.838077209919875]
  データレコードの最悪のプライバシーリスクを効率的に評価できる新しい会員推論ゲームを導入する。 提案アルゴリズムは,グループプライバシリスクの格差を効果的に低減し,DPMLにおけるプライバシ保護の公平性を高める。
  論文  参考訳（メタデータ） (2025-10-10T08:09:08Z)
• Partial Identification Approach to Counterfactual Fairness Assessment [50.88100567472179]
  未知の対実的公正度尺度を高い信頼性で有界化するためのベイズ的アプローチを導入する。 以上の結果から、人種をアフリカ系アメリカ人に転換する際のCompASスコアに対する肯定的な(不快な)効果と、若年から高齢に移行する際の否定的な(直接的な因果関係)効果が明らかとなった。
  論文  参考訳（メタデータ） (2025-09-30T18:35:08Z)
• On the MIA Vulnerability Gap Between Private GANs and Diffusion Models [51.53790101362898]
  GAN(Generative Adversarial Networks)と拡散モデルが高品質な画像合成のための主要なアプローチとして登場している。 差分自己生成モデルが直面するプライバシーリスクの統一的および実証的分析について述べる。
  論文  参考訳（メタデータ） (2025-09-03T14:18:22Z)
• Do Fairness Interventions Come at the Cost of Privacy: Evaluations for Binary Classifiers [17.243744418309593]
  我々は、メンバーシップ推論攻撃(MIA)と属性推論攻撃(AIA)により、公平性向上したバイナリ分類器のプライバシーリスクを評価する。 公正なモデルと偏見のあるモデルの間の予測不一致を利用して、MIAとAIAの両方に対する高度な攻撃結果をもたらす潜在的な脅威メカニズムを明らかにする。 本研究は、フェアネス研究における未調査のプライバシー上の脅威を明らかにし、モデル展開前に潜在的なセキュリティ脆弱性を徹底的に評価することを提唱する。
  論文  参考訳（メタデータ） (2025-03-08T10:21:21Z)
• Privacy at a Price: Exploring its Dual Impact on AI Fairness [24.650648702853903]
  機械学習モデルにおける差分プライバシーは、予測精度に関して異なる階層群に不平等に影響を及ぼすことを示した。 これは公平性への懸念を招き、パフォーマンスのバイアスとして現れます。 微分プライベート勾配降下ML法における勾配クリッピングの実装は、DPノイズの公平性に対する負の影響を軽減することができる。
  論文  参考訳（メタデータ） (2024-04-15T00:23:41Z)
• TernaryVote: Differentially Private, Communication Efficient, and Byzantine Resilient Distributed Optimization on Heterogeneous Data [50.797729676285876]
  本稿では, 3次圧縮機と多数決機構を組み合わせて, 差分プライバシー, 勾配圧縮, ビザンチンレジリエンスを同時に実現するternaryVoteを提案する。 提案アルゴリズムのF差分プライバシー(DP)とビザンチンレジリエンスのレンズによるプライバシー保証を理論的に定量化する。
  論文  参考訳（メタデータ） (2024-02-16T16:41:14Z)
• Theoretically Principled Federated Learning for Balancing Privacy and Utility [61.03993520243198]
  モデルパラメータを歪ませることでプライバシを保護する保護機構の一般学習フレームワークを提案する。 フェデレートされた学習における各コミュニケーションラウンドにおいて、各クライアント上の各モデルパラメータに対して、パーソナライズされたユーティリティプライバシトレードオフを実現することができる。
  論文  参考訳（メタデータ） (2023-05-24T13:44:02Z)
• Is Vertical Logistic Regression Privacy-Preserving? A Comprehensive Privacy Analysis and Beyond [57.10914865054868]
  垂直ロジスティック回帰(VLR)をミニバッチ降下勾配で訓練した。 我々は、オープンソースのフェデレーション学習フレームワークのクラスにおいて、VLRの包括的で厳密なプライバシー分析を提供する。
  論文  参考訳（メタデータ） (2022-07-19T05:47:30Z)
• Measuring Fairness Under Unawareness of Sensitive Attributes: A Quantification-Based Approach [131.20444904674494]
  センシティブな属性の無意識下でのグループフェアネスを測定する問題に取り組む。 定量化手法は, フェアネスと無意識の問題に対処するのに特に適していることを示す。
  論文  参考訳（メタデータ） (2021-09-17T13:45:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。