論文の概要: Spurious Privacy Leakage in Neural Networks

• arxiv url: http://arxiv.org/abs/2505.20095v2
• Date: Mon, 06 Oct 2025 09:21:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-07 14:28:09.956983
• Title: Spurious Privacy Leakage in Neural Networks
• Title（参考訳）: ニューラルネットワークにおけるSpurious Privacy Leakage
• Authors: Chenxiang Zhang, Jun Pang, Sjouke Mauw,
• Abstract要約: スパイラル集団は、非スパイラルグループよりもはるかにプライバシー攻撃に弱い現象である。 我々は、突発的なバイアスを減らすために設計された、突発的な堅牢な方法が、プライバシーの格差を軽減することができないことを実証した。 解析の結果,ロバストな手法は,予測の急激な特徴への依存を軽減できるが,トレーニング中の記憶を抑えることはできないことが示唆された。
• 参考スコア（独自算出の注目度）: 13.439099770154948
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural networks trained on real-world data often exhibit biases while simultaneously being vulnerable to privacy attacks aimed at extracting sensitive information. Despite extensive research on each problem individually, their intersection remains poorly understood. In this work, we investigate the privacy impact of spurious correlation bias. We introduce \emph{spurious privacy leakage}, a phenomenon in which spurious groups are significantly more vulnerable to privacy attacks than non-spurious groups. We observe that privacy disparity between groups increases in tasks with simpler objectives (e.g. fewer classes) due to spurious features. Counterintuitively, we demonstrate that spurious robust methods, designed to reduce spurious bias, fail to mitigate privacy disparity. Our analysis reveals that this occurs because robust methods can reduce reliance on spurious features for prediction, but do not prevent their memorization during training. Finally, we systematically compare the privacy of different model architectures trained with spurious data, demonstrating that, contrary to previous work, architectural choice can affect privacy evaluation.
• Abstract（参考訳）: 現実世界のデータに基づいてトレーニングされたニューラルネットワークは、しばしばバイアスを示し、同時に機密情報を抽出することを目的としたプライバシー攻撃に弱い。 個々の問題に関する広範な研究にもかかわらず、それらの交点はいまだに理解されていない。 本研究では,突発的相関バイアスによるプライバシーへの影響について検討する。 これは、スパイラル集団が非スパイラルグループよりもはるかにプライバシー攻撃に弱い現象である。 グループ間でのプライバシー格差は、より単純な目的(例えば、クラスが少ない)のタスクにおいて、突発的な特徴によって増大する。 対極的には、突発的なバイアスを減らすために設計された、突発的な堅牢な方法が、プライバシーの格差を軽減することができないことを実証します。 解析の結果,ロバストな手法は,予測の急激な特徴への依存を軽減できるが,トレーニング中の記憶を抑えることはできないことが示唆された。 最後に、予備的なデータで訓練された異なるモデルアーキテクチャのプライバシを体系的に比較し、以前の作業とは違い、アーキテクチャの選択がプライバシ評価に影響を与えることを示した。

関連論文リスト

• Enforcing Demographic Coherence: A Harms Aware Framework for Reasoning about Private Data Release [14.939460540040459]
  データプライバシに必要であると主張するプライバシ攻撃にインスパイアされた、人口統計コヒーレンスを導入します。 我々のフレームワークは信頼性評価予測に重点を置いており、ほぼすべてのデータインフォームドプロセスから蒸留することができる。 差分的にプライベートなデータリリースはすべて、人口統計学的にコヒーレントであること、および、差分的にプライベートではない人口統計学的にコヒーレントなアルゴリズムがあることを実証する。
  論文  参考訳（メタデータ） (2025-02-04T20:42:30Z)
• Activity Recognition on Avatar-Anonymized Datasets with Masked Differential Privacy [64.32494202656801]
  プライバシを保存するコンピュータビジョンは、機械学習と人工知能において重要な問題である。 本稿では,ビデオデータセット中の感性のある被験者を文脈内の合成アバターに置き換える匿名化パイプラインを提案する。 また、匿名化されていないがプライバシーに敏感な背景情報を保護するため、MaskDPを提案する。
  論文  参考訳（メタデータ） (2024-10-22T15:22:53Z)
• Unveiling Privacy Vulnerabilities: Investigating the Role of Structure in Graph Data [17.11821761700748]
  本研究では,ネットワーク構造から生じるプライバシーリスクに対する理解と保護を推し進める。 我々は,ネットワーク構造によるプライバシー漏洩の可能性を評価するための重要なツールとして機能する,新しいグラフプライベート属性推論攻撃を開発した。 攻撃モデルはユーザのプライバシに重大な脅威を与え,グラフデータ公開手法は最適なプライバシとユーティリティのトレードオフを実現する。
  論文  参考訳（メタデータ） (2024-07-26T07:40:54Z)
• How Do Input Attributes Impact the Privacy Loss in Differential Privacy? [55.492422758737575]
  DPニューラルネットワークにおけるオブジェクトごとの規範と個人のプライバシ損失との関係について検討する。 プライバシ・ロス・インプット・サセプティビリティ(PLIS)と呼ばれる新しい指標を導入し、被験者のプライバシ・ロスを入力属性に適応させることを可能にした。
  論文  参考訳（メタデータ） (2022-11-18T11:39:03Z)
• Algorithms with More Granular Differential Privacy Guarantees [65.3684804101664]
  我々は、属性ごとのプライバシー保証を定量化できる部分微分プライバシー(DP)について検討する。 本研究では,複数の基本データ分析および学習タスクについて検討し,属性ごとのプライバシパラメータが個人全体のプライバシーパラメータよりも小さい設計アルゴリズムについて検討する。
  論文  参考訳（メタデータ） (2022-09-08T22:43:50Z)
• On the Privacy Effect of Data Enhancement via the Lens of Memorization [20.63044895680223]
  我々は,記憶化という新たな視点からプライバシを調査することを提案する。 記憶のレンズを通して、以前デプロイされたMIAは、より高いプライバシーリスクを持つサンプルを特定する可能性が低いため、誤解を招く結果をもたらすことがわかった。 一般化ギャップとプライバシリークは, これまでの結果に比べて相関が低いことを示す。
  論文  参考訳（メタデータ） (2022-08-17T13:02:17Z)
• Smooth Anonymity for Sparse Graphs [69.1048938123063]
  しかし、スパースデータセットを共有するという点では、差分プライバシーがプライバシのゴールドスタンダードとして浮上している。 本研究では、スムーズな$k$匿名性(スムーズな$k$匿名性)と、スムーズな$k$匿名性(スムーズな$k$匿名性)を提供する単純な大規模アルゴリズムを設計する。
  論文  参考訳（メタデータ） (2022-07-13T17:09:25Z)
• The Privacy Onion Effect: Memorization is Relative [76.46529413546725]
  もっとも脆弱な外接点の"層"を取り除くことで、前もって安全だった点の新たな層を同じ攻撃に晒す。 これは、機械学習のようなプライバシー強化技術が、他のユーザーのプライバシーに悪影響を及ぼす可能性を示唆している。
  論文  参考訳（メタデータ） (2022-06-21T15:25:56Z)
• Robustness Threats of Differential Privacy [70.818129585404]
  我々は、いくつかの設定で差分プライバシーをトレーニングしたネットワークが、非プライベートバージョンに比べてさらに脆弱であることを実験的に実証した。 本研究では,勾配クリッピングや雑音付加などのニューラルネットワークトレーニングの主成分が,モデルの堅牢性に与える影響について検討する。
  論文  参考訳（メタデータ） (2020-12-14T18:59:24Z)
• Learning With Differential Privacy [3.618133010429131]
  異なるプライバシーは、漏洩に対する適切な保護を約束して救助にやってくる。 データの収集時にランダムな応答技術を使用し、より優れたユーティリティで強力なプライバシを保証します。
  論文  参考訳（メタデータ） (2020-06-10T02:04:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。