論文の概要: Less is More: Revisiting the Gaussian Mechanism for Differential Privacy
- arxiv url: http://arxiv.org/abs/2306.02256v3
- Date: Thu, 14 Mar 2024 02:31:01 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-17 13:47:35.128320
- Title: Less is More: Revisiting the Gaussian Mechanism for Differential Privacy
- Title（参考訳）: 差別化のためのガウス的メカニズムを再考する
- Authors: Tianxi Ji, Pan Li,
- Abstract要約: 出力摂動による差分プライバシーは、機密データに対してクエリや計算結果をリリースするためのデファクトスタンダードとなっている。
既存のガウスのメカニズムはすべて、フルランクの共分散行列の呪いに苦しむ。
- 参考スコア（独自算出の注目度）: 8.89234867625102
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Differential privacy via output perturbation has been a de facto standard for releasing query or computation results on sensitive data. However, we identify that all existing Gaussian mechanisms suffer from the curse of full-rank covariance matrices. To lift this curse, we design a Rank-1 Singular Multivariate Gaussian (R1SMG) mechanism. It achieves DP on high dimension query results by perturbing the results with noise following a singular multivariate Gaussian distribution, whose covariance matrix is a randomly generated rank-1 positive semi-definite matrix. In contrast, the classic Gaussian mechanism and its variants all consider deterministic full-rank covariance matrices. Our idea is motivated by a clue from Dwork et al.'s seminal work on the classic Gaussian mechanism that has been ignored in the literature: when projecting multivariate Gaussian noise with a full-rank covariance matrix onto a set of orthonormal basis, only the coefficient of a single basis can contribute to the privacy guarantee. This paper makes the following technical contributions. The R1SMG mechanisms achieves DP guarantee on high dimension query results, while its expected accuracy loss is lower bounded by a term that is on a lower order of magnitude by at least the dimension of query results compared existing Gaussian mechanisms. Compared with other mechanisms, the R1SMG mechanism is more stable and less likely to generate noise with large magnitude that overwhelms the query results, because the kurtosis and skewness of the nondeterministic accuracy loss introduced by this mechanism is larger than that introduced by other mechanisms.
- Abstract（参考訳）: 出力摂動による差分プライバシーは、機密データに対してクエリや計算結果をリリースするためのデファクトスタンダードとなっている。
しかし、既存のガウスのメカニズムは全て、フルランクの共分散行列の呪いに悩まされている。
この呪いを解くために、Ranc-1 Singular Multivariate Gaussian (R1SMG) 機構を設計する。
共分散行列がランダムに生成されるランク1正の半定行列である特異な多変量ガウス分布に従って、ノイズで結果を摂動することで、高次元クエリー結果のDPを実現する。
対照的に、古典的なガウス機構とその変種は、すべて決定論的フルランク共分散行列を考える。
我々のアイデアは、Dworkらによる古典的なガウスのメカニズムに関する先駆的な研究によって、文献で無視されている。多変量ガウスノイズをフルランクの共分散行列で正規直交基底に投影すると、単一の基底の係数のみがプライバシー保証に寄与する。
本稿では,以下の技術貢献を行う。
R1SMG機構は高次元のクエリ結果に対してDP保証を達成し、その予測精度の損失は、少なくともクエリ結果の次元が既存のガウスのメカニズムと比較して、桁違いに低い項によって制限される。
他のメカニズムと比較して、R1SMG機構はより安定しており、このメカニズムによって導入された非決定論的精度損失の曲率と歪度は他のメカニズムよりも大きいため、クエリ結果に圧倒される大きなノイズを発生させる可能性が低い。
関連論文リスト
- Variance-Reducing Couplings for Random Features [57.73648780299374]
ランダム機能(RF)は、機械学習においてカーネルメソッドをスケールアップする一般的なテクニックである。
ユークリッド空間と離散入力空間の両方で定義されるRFを改善するための結合を求める。
パラダイムとしての分散還元の利点と限界について、驚くほどの結論に達した。
論文 参考訳（メタデータ） (2024-05-26T12:25:09Z) - Convex Parameter Estimation of Perturbed Multivariate Generalized
Gaussian Distributions [18.95928707619676]
本稿では,MGGDパラメータの確立された特性を持つ凸定式化を提案する。
提案するフレームワークは, 精度行列, 平均, 摂動の様々な正規化を組み合わせ, 柔軟である。
実験により, 平均ベクトルパラメータに対して, 同様の性能でより正確な精度と共分散行列推定を行うことができた。
論文 参考訳（メタデータ） (2023-12-12T18:08:04Z) - Differential Privacy with Higher Utility by Exploiting Coordinate-wise Disparity: Laplace Mechanism Can Beat Gaussian in High Dimensions [9.20186865054847]
我々は、i.n.d. Gaussian と Laplace のメカニズムを研究し、これらのメカニズムがプライバシーを保証する条件を得る。
i.n.d.ノイズは, (a) 座標降下, (b) 主成分分析, (c) グループクリッピングによる深層学習における性能を向上することを示す。
論文 参考訳（メタデータ） (2023-02-07T14:54:20Z) - General Gaussian Noise Mechanisms and Their Optimality for Unbiased Mean
Estimation [58.03500081540042]
プライベート平均推定に対する古典的なアプローチは、真の平均を計算し、バイアスのないがおそらく相関のあるガウスノイズを加えることである。
すべての入力データセットに対して、集中的な差分プライバシーを満たす非バイアス平均推定器が、少なくとも多くのエラーをもたらすことを示す。
論文 参考訳（メタデータ） (2023-01-31T18:47:42Z) - Introducing the Huber mechanism for differentially private low-rank
matrix completion [9.944551494217075]
差分プライバシーを維持するための新しいノイズ付加機構を提案する。
提案するHuberメカニズムは,既存の差分プライバシーメカニズムに対して評価される。
提案機構は,Laplace機構と同様のエプシロン差分プライバシーを実現する。
論文 参考訳（メタデータ） (2022-06-16T04:33:06Z) - A unified interpretation of the Gaussian mechanism for differential
privacy through the sensitivity index [61.675604648670095]
GMの一般的な3つの解釈、すなわち$(varepsilon, delta)$-DP, f-DP, R'enyi DPは1つのパラメータ$psi$で表現できる。
$psi$は、クエリの感度とノイズ摂動の大きさの2つの基本量をカプセル化することによって、GMとその特性を特徴付ける。
論文 参考訳（メタデータ） (2021-09-22T06:20:01Z) - Robust 1-bit Compressive Sensing with Partial Gaussian Circulant
Matrices and Generative Priors [54.936314353063494]
我々は,ロバストな1ビット圧縮センシングのための相関に基づく最適化アルゴリズムのリカバリ保証を提供する。
我々は,実用的な反復アルゴリズムを用いて,画像データセットの数値実験を行い,結果の相関付けを行う。
論文 参考訳（メタデータ） (2021-08-08T05:28:06Z) - Improved Matrix Gaussian Mechanism for Differential Privacy [29.865497421453917]
差分プライバシー(DP)メカニズムは、従来のスカラー値ではなく、行列のような構造データのために開発されている。
本研究は,行列値DPのための改良行列ガウス機構 (IMGM) を提案し,その必要十分条件を$(varepsilon,delta) $-differential privacy とした。
行列値DPの正規ノイズ分布のうち、最適ノイズ分布はi.i.dであることが判明した。
さまざまなモデルとデータセットに関する実験も、IMGMが同じプライバシー保証で最先端のメカニズムよりもはるかに高い有用性をもたらすことを検証しています。
論文 参考訳（メタデータ） (2021-04-30T07:44:53Z) - Understanding Implicit Regularization in Over-Parameterized Single Index
Model [55.41685740015095]
我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。
暗黙正則化現象の理論的保証を提供する。
論文 参考訳（メタデータ） (2020-07-16T13:27:47Z) - Robust Compressed Sensing using Generative Models [98.64228459705859]
本稿では,Median-of-Means (MOM) にヒントを得たアルゴリズムを提案する。
我々のアルゴリズムは、外れ値が存在する場合でも、重み付きデータの回復を保証する。
論文 参考訳（メタデータ） (2020-06-16T19:07:41Z) - M-estimators of scatter with eigenvalue shrinkage [19.82023576081279]
本稿では,より一般的な手法として,SCMを散乱行列のM推定器に置き換える方法を考える。
我々のアプローチでは、ガウス関数、フーバー関数、または$t$重み関数など、任意の重み関数の使用が可能である。
シミュレーション例では,提案した最適チューニングと頑健な重み関数を併用した縮小M推定器は,ガウス的データの場合の縮小SCM推定器の性能が低下しないことを示した。
論文 参考訳（メタデータ） (2020-02-12T13:47:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。