論文の概要: Unifying Privacy Accounting: Information Equivalence and Information Loss
- arxiv url: http://arxiv.org/abs/2610.02414v1
- Date: Thu, 01 Oct 2026 19:37:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:30.070486
- Title: Unifying Privacy Accounting: Information Equivalence and Information Loss
- Title(参考訳): プライバシ会計の統一:情報等価性と情報損失
- Abstract要約: 統合情報理論フレームワークでは,4つの主流の曲線に基づくプライバシ概念を考察する。
標準ノイズメカニズムに対して、正確な曲線とそのz境界間の情報損失を定量化する。
我々の情報理論的視点は実践的な結果をもたらす。
- 参考スコア(独自算出の注目度): 3.1848820580333737
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Differential privacy (DP) admits several notions, but the choice among them may affect both privacy analysis and utility. In this paper, we consider four mainstream curve-based privacy notions within a unified information-theoretic framework. For a fixed ordered pair of output distributions, we establish information equivalence among the two directional privacy profiles of $(\varepsilon,δ)$-DP, the pair of hypothesis-testing trade-off functions, and the extended privacy-loss distribution. The exact Rényi differential privacy (RDP) curve joins this equivalence class whenever it is finite at some order greater than one. Under this mild condition, choosing among these notions changes only their semantic interpretation and computational requirements. In contrast, taking the maximum of the directional privacy profiles or compressing the RDP curve into a single zero-concentrated differential privacy (zCDP) parameter can lose information. We quantify the information loss between the exact RDP curve and its zCDP bound for standard noise mechanisms. This gap is zero for Gaussian noise but generally positive for Gaussian-mixture, Laplace, discrete Gaussian, and Poisson-subsampled Gaussian mechanisms. Moreover, this gap grows linearly with the number of independently composed mechanisms. Our information-theoretic perspective has practical consequences. At the same certified privacy level, retaining the full RDP curve rather than using zCDP reduces the required noise variance by up to $45\%$ for Gaussian-mixture noise in workloads comparable in size to the American Community Survey. For DP-SGD on Fashion-MNIST under Poisson subsampling, an RDP-based privacy accountant improves test accuracy by up to $8.73$ percentage points compared to a zCDP-based accountant when both are calibrated to the same $(\varepsilon,δ)$ guarantee.
- Abstract(参考訳): 差分プライバシー(DP)にはいくつかの概念があるが、その選択はプライバシー分析とユーティリティの両方に影響を与える可能性がある。
本稿では,統合情報理論の枠組みの中で,4つの主流の曲線に基づくプライバシ概念について考察する。
固定整列された出力分布に対して、$(\varepsilon,δ)$-DPの2方向プライバシープロファイル、仮説テストのトレードオフ関数のペア、および拡張されたプライバシロス分布の情報を等価に設定する。
正確なレニイ微分プライバシー曲線(RDP)は、1より大きい順序で有限であるときにこの同値類と結合する。
この穏やかな条件下では、これらの概念の中から選ぶことは意味論的解釈と計算的要求だけを変える。
対照的に、指向性プライバシープロファイルの最大値を取るか、RDP曲線を1つのゼロ集中差分プライバシー(zCDP)パラメータに圧縮するかは、情報を失う可能性がある。
標準ノイズメカニズムに対して正確なRDP曲線とzCDPの間の情報損失を定量化する。
このギャップはガウスノイズに対してはゼロであるが、一般にガウス混合、ラプラス、離散ガウス、ポアソン置換ガウス機構に対して正である。
さらに、このギャップは独立に構成された機構の数とともに直線的に増大する。
我々の情報理論的視点は実践的な結果をもたらす。
同じ認定されたプライバシレベルでは、zCDPを使用するのではなく、完全なRDP曲線を維持することで、American Community Surveyに匹敵する規模のワークロードにおけるガウス混合ノイズに対して、必要なノイズ分散を最大45\%削減することができる。
ポアソン・サブサンプリングの下でのFashion-MNIST上のDP-SGDでは、RDPベースのプライバシ会計士は同じ$(\varepsilon,δ)でキャリブレーションされたzCDPベースの会計士と比較して、テスト精度を最大8.73ドルまで改善する。
関連論文リスト
- Noise Variance Optimization in Differential Privacy: A Game-Theoretic Approach Through Per-Instance Differential Privacy [7.264378254137811]
差分プライバシー(DP)は、個人をターゲットデータセットに含めることによる分布の変化を観察することにより、プライバシー損失を測定することができる。
DPは、AppleやGoogleのような業界巨人の機械学習におけるデータセットの保護において際立っている。
本稿では,PDPを制約として提案し,各データインスタンスのプライバシ損失を測定し,個々のインスタンスに適したノイズを最適化する。
論文 参考訳(メタデータ) (2024-04-24T06:51:16Z) - Privacy Amplification for the Gaussian Mechanism via Bounded Support [64.86780616066575]
インスタンスごとの差分プライバシー(pDP)やフィッシャー情報損失(FIL)といったデータ依存のプライバシ会計フレームワークは、固定されたトレーニングデータセット内の個人に対してきめ細かいプライバシー保証を提供する。
本稿では,データ依存会計下でのプライバシ保証を向上することを示すとともに,バウンドサポートによるガウス機構の簡単な修正を提案する。
論文 参考訳(メタデータ) (2024-03-07T21:22:07Z) - On the Privacy of Selection Mechanisms with Gaussian Noise [44.577599546904736]
ガウス雑音によるReport Noisy MaxとAbove Thresholdの分析を再検討する。
その結果,Report Noisy Max の純元 DP 境界と Above Threshold の純元 DP 境界を提供することが可能であることがわかった。
論文 参考訳(メタデータ) (2024-02-09T02:11:25Z) - General Gaussian Noise Mechanisms and Their Optimality for Unbiased Mean
Estimation [58.03500081540042]
プライベート平均推定に対する古典的なアプローチは、真の平均を計算し、バイアスのないがおそらく相関のあるガウスノイズを加えることである。
すべての入力データセットに対して、集中的な差分プライバシーを満たす非バイアス平均推定器が、少なくとも多くのエラーをもたらすことを示す。
論文 参考訳(メタデータ) (2023-01-31T18:47:42Z) - Individual Privacy Accounting with Gaussian Differential Privacy [8.81666701090743]
個別のプライバシ会計は、分析に関わる各関係者に対して、差分プライバシー(DP)の損失を個別に制限することを可能にする。
個人のプライバシー損失を原則的に説明するためには、ランダム化機構の適応的な構成のためのプライバシー会計士が必要である。
論文 参考訳(メタデータ) (2022-09-30T17:19:40Z) - Normalized/Clipped SGD with Perturbation for Differentially Private
Non-Convex Optimization [94.06564567766475]
DP-SGDとDP-NSGDは、センシティブなトレーニングデータを記憶する大規模モデルのリスクを軽減する。
DP-NSGD は DP-SGD よりも比較的チューニングが比較的容易であるのに対して,これらの2つのアルゴリズムは同様の精度を実現する。
論文 参考訳(メタデータ) (2022-06-27T03:45:02Z) - Auditing Differential Privacy in High Dimensions with the Kernel Quantum
R\'enyi Divergence [29.796646032324514]
本稿では,確率分布の新たな相違点に基づく差分プライバシーの緩和を提案する。
正規化カーネル R'enyi の発散は高次元においてもサンプルから推定可能であることを示す。
論文 参考訳(メタデータ) (2022-05-27T12:34:17Z) - Smoothed Differential Privacy [55.415581832037084]
微分プライバシー(DP)は、最悪のケース分析に基づいて広く受け入れられ、広く適用されているプライバシーの概念である。
本稿では, 祝賀されたスムーズな解析の背景にある最悪の平均ケースのアイデアに倣って, DPの自然な拡張を提案する。
サンプリング手順による離散的なメカニズムはDPが予測するよりもプライベートであるのに対して,サンプリング手順による連続的なメカニズムはスムーズなDP下では依然としてプライベートではないことが証明された。
論文 参考訳(メタデータ) (2021-07-04T06:55:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。