論文の概要: Let's Ask Gauss: Improved One-Run Privacy Auditing
- arxiv url: http://arxiv.org/abs/2606.12733v2
- Date: Fri, 12 Jun 2026 01:57:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-15 13:53:03.594906
- Title: Let's Ask Gauss: Improved One-Run Privacy Auditing
- Title（参考訳）: ガウスに質問しよう:1回のプライバシー監査が改善された
- Authors: Adya Agrawal, Yu Wei, Jaspal Singh, Malik Magdon-Ismail, Vassilis Zikas,
- Abstract要約: 差分プライベート(DP)機械学習における経験的プライバシ監査について検討する。
DP監査フレームワークを開発し、単一のトレーニング実行からプライバシーの低いバウンダリを厳格化する。
- 参考スコア（独自算出の注目度）: 6.481993597228151
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Privacy auditing provides an important safeguard by estimating the actual information leaked by a model, thus ensuring that theoretical privacy guarantees hold in practice. We study empirical privacy auditing for differentially private (DP) machine learning, focusing on efficient one-run methods for mechanisms such as DP-SGD. Prior one-run approaches threshold training examples or "canaries" into binary membership guesses, which discards useful information. We show that, in the white-box DP-SGD setting, canary-aligned signals naturally form a sequence of random variables whose normalized sum is asymptotically Gaussian. Leveraging this distributional perspective, we develop a DP-auditing framework that leads to tighter privacy lower bounds from a single training run.
- Abstract（参考訳）: プライバシ監査は、モデルによってリークされた実際の情報を推定し、理論的プライバシ保証が実際に保持されることを保証することで、重要な保護を提供する。
本研究では,DP-SGDなどのメカニズムの効率的なワンラン手法に着目し,差分プライベート(DP)機械学習のための経験的プライバシ監査について検討する。
以前のワンランは閾値トレーニングの例や"カナリア"をバイナリメンバシップの推測にアプローチし、有用な情報を捨てる。
ホワイトボックスDP-SGD設定において、カナリア整列信号は正規化和が漸近的にガウス的である確率変数列を自然に形成することを示す。
この分散的な視点を生かして、DP監査フレームワークを開発し、単一のトレーニング実行によるプライバシーの低いバウンドを厳しくする。
関連論文リスト
- Rethinking the Security of DP-SGD: A Corrected Analysis of Differentially Private Machine Learning [16.83879548734828]
Differentially Private Gradient Descent (DP-SGD)は機械学習のトレーニングデータを保護するために広く使われている。
我々は,DP-SGD のプライバシー保証を,期待平均 SGM と Batch平均 SGM の定式化に基づいて再解析する。
我々の理論的結果は、これらの保証が標準のSGMベースの保証よりも弱いことを示し、これは真のプライバシー漏洩が一部の政権で報告された保証を上回る可能性があることを示唆している。
論文 参考訳（メタデータ） (2026-05-15T06:04:00Z) - Verifiable Exponential Mechanism for Median Estimation [4.083860866484599]
本稿では,zk-SNARKを用いた指数関数機構の最初の検証実装を提案する。
具体的応用として、最初の検証可能な微分プライベート(DP)中央値推定法を示す。
論文 参考訳（メタデータ） (2025-05-22T05:31:22Z) - Differentially Private Random Feature Model [47.35176457481132]
プライバシを保存するカーネルマシンに対して,差分的にプライベートな特徴モデルを作成する。
本手法は,プライバシを保護し,一般化誤差を導出する。
論文 参考訳（メタデータ） (2024-12-06T05:31:08Z) - Pseudo-Probability Unlearning: Towards Efficient and Privacy-Preserving Machine Unlearning [59.29849532966454]
本稿では,PseudoProbability Unlearning (PPU)を提案する。
提案手法は,最先端の手法に比べて20%以上の誤りを忘れる改善を実現している。
論文 参考訳（メタデータ） (2024-11-04T21:27:06Z) - Revisiting Privacy-Utility Trade-off for DP Training with Pre-existing Knowledge [40.44144653519249]
異種雑音(DP-Hero)を有する一般微分プライバシーフレームワークを提案する。
DP-Heroでは、DP-SGDの異種バージョンをインスタンス化し、さらにフェデレーショントレーニングに拡張する。
提案するDP-Heroの有効性を検証・説明するための総合的な実験を行い,最新技術と比較するとトレーニング精度が向上した。
論文 参考訳（メタデータ） (2024-09-05T08:40:54Z) - Auditing Differential Privacy Guarantees Using Density Estimation [3.830092569453011]
DP機構の差分プライバシー保証を正確に評価するための新しい手法を提案する。
特に、我々のソリューションは、機械学習(ML)モデルのDP保証の監査に適用できる。
論文 参考訳（メタデータ） (2024-06-07T10:52:15Z) - How Private are DP-SGD Implementations? [61.19794019914523]
2種類のバッチサンプリングを使用する場合、プライバシ分析の間に大きなギャップがあることが示される。
その結果,2種類のバッチサンプリングでは,プライバシ分析の間に大きなギャップがあることが判明した。
論文 参考訳（メタデータ） (2024-03-26T13:02:43Z) - Individual Privacy Accounting for Differentially Private Stochastic Gradient Descent [69.14164921515949]
DP-SGDで訓練されたモデルをリリースする際の個々の事例に対するプライバシー保証を特徴付ける。
ほとんどの例では、最悪のケースよりも強力なプライバシー保証を享受しています。
これは、モデルユーティリティの観点からは守られないグループが同時に、より弱いプライバシー保証を経験することを意味する。
論文 参考訳（メタデータ） (2022-06-06T13:49:37Z) - Gaussian Processes with Differential Privacy [3.934224774675743]
我々は、差分プライバシー(DP)を介して、ガウス過程(GP)に強力なプライバシー保護を加える。
我々は、スパースGP手法を用いて、既知の誘導点に関するプライベートな変分近似を公開することによってこれを達成した。
我々の実験は、十分な量のデータがあれば、強力なプライバシー保護下で正確なモデルを生成することができることを示した。
論文 参考訳（メタデータ） (2021-06-01T13:23:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。