論文の概要: Privacy Loss of Noise Perturbation via Concentration Analysis of A Product Measure
- arxiv url: http://arxiv.org/abs/2512.06253v3
- Date: Sat, 13 Dec 2025 19:26:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-16 15:10:29.065904
- Title: Privacy Loss of Noise Perturbation via Concentration Analysis of A Product Measure
- Title(参考訳): 製品濃度分析による騒音摂動のプライバシ損失
- Authors: Shuainan Liu, Tianxi Ji, Zhongshuo Fang, Lu Wei, Pan Li,
- Abstract要約: 本稿では,このノイズが典型的に球対称であるという事実を活用して$mathbfn$を生成する新しいスキームを提案する。
同じ$(,)$-DPの保証の下で、我々のメカニズムは、高次元の古典ガウスノイズよりも期待される音の大きさが小さい。
- 参考スコア(独自算出の注目度): 9.081364242189691
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Noise perturbation is one of the most fundamental approaches for achieving $(ε,δ)$-differential privacy (DP) guarantees when releasing the result of a query or function $f(\cdot)\in\mathbb{R}^M$ evaluated on a sensitive dataset $\mathbf{x}$. In this approach, calibrated noise $\mathbf{n}\in\mathbb{R}^M$ is used to obscure the difference vector $f(\mathbf{x})-f(\mathbf{x}')$, where $\mathbf{x}'$ is known as a neighboring dataset. A DP guarantee is obtained by studying the tail probability bound of a privacy loss random variable (PLRV), defined as the Radon-Nikodym derivative between two distributions. When $\mathbf{n}$ follows a multivariate Gaussian distribution, the PLRV is characterized as a specific univariate Gaussian. In this paper, we propose a novel scheme to generate $\mathbf{n}$ by leveraging the fact that the perturbation noise is typically spherically symmetric (i.e., the distribution is rotationally invariant around the origin). The new noise generation scheme allows us to investigate the privacy loss from a geometric perspective and express the resulting PLRV using a product measure, $W\times U$; measure $W$ is related to a radius random variable controlling the magnitude of $\mathbf{n}$, while measure $U$ involves a directional random variable governing the angle between $\mathbf{n}$ and the difference $f(\mathbf{x})-f(\mathbf{x}')$. We derive a closed-form moment bound on the product measure to prove $(ε,δ)$-DP. Under the same $(ε,δ)$-DP guarantee, our mechanism yields a smaller expected noise magnitude than the classic Gaussian noise in high dimensions, thereby significantly improving the utility of the noisy result $f(\mathbf{x})+\mathbf{n}$. To validate this, we consider convex and non-convex empirical risk minimization (ERM) problems in high dimensional space and apply the proposed product noise to achieve privacy.
- Abstract(参考訳): ノイズ摂動は、クエリ結果や関数 $f(\cdot)\in\mathbb{R}^M$ をセンシティブなデータセット $\mathbf{x}$ で評価する際に、$(ε,δ)$-differential privacy (DP) を保証するための最も基本的なアプローチの1つである。
このアプローチでは、キャリブレーションされたノイズ $\mathbf{n}\in\mathbb{R}^M$ は差ベクトル $f(\mathbf{x})-f(\mathbf{x}')$ を曖昧にするために用いられる。
DP保証は、2つの分布間のラドン-ニコディム微分として定義されるプライバシー損失確率変数(PLRV)のテール確率境界を研究することによって得られる。
$\mathbf{n}$ が多変数ガウス分布に従うとき、PLRV は特定の単変数ガウスとして特徴づけられる。
本稿では、摂動ノイズが典型的には球対称であるという事実(すなわち、分布は原点の周りで回転不変である)を活用することにより、$\mathbf{n}$を生成する新しいスキームを提案する。
新しいノイズ発生方式により、幾何的な視点からプライバシー損失を調査し、製品測度を用いてPLRVを表現できる。$W\times U$; measure $W$は、$\mathbf{n}$の大きさを制御する半径ランダム変数に関連するが、 measure $U$は、$\mathbf{n}$と差$f(\mathbf{x})-f(\mathbf{x}')$の間の角度を決定する方向のランダム変数を含む。
積測度に束縛された閉形式モーメントを導出し、$(ε,δ)$-DP を証明する。
同じ$(ε,δ)$-DPの保証の下で、我々のメカニズムは、高次元のガウスノイズよりも期待される音の大きさを小さくし、ノイズ結果 $f(\mathbf{x})+\mathbf{n}$ の有用性を大幅に改善する。
これを検証するために,高次元空間における凸性および非凸性経験的リスク最小化(ERM)問題を考察し,提案した製品ノイズを適用してプライバシを実現する。
関連論文リスト
- Spike-and-Slab Posterior Sampling in High Dimensions [11.458504242206862]
スパイク・アンド・スラブ先行法[MB88]による後方サンプリングは,ベイズ・スパース線形回帰の理論的金標準法であると考えられる。
我々は,任意のSNRに適用可能なスパイク・アンド・スラブ後続サンプリングのための最初の証明可能なアルゴリズムを提示し,問題次元における測定カウントサブを使用する。
ラプラス拡散密度を用いたスパイク・アンド・スラブ後方サンプリングに拡張し、$sigma = O(frac1k)$が有界である場合にも同様の保証を達成する。
論文 参考訳(メタデータ) (2025-03-04T17:16:07Z) - Outsourced diffusion sampling: Efficient posterior inference in latent spaces of generative models [65.71506381302815]
本稿では、$p(mathbfxmidmathbfy) propto p_theta(mathbfx)$ という形式の後続分布からサンプリングするコストを償却する。
多くのモデルや制約に対して、後部ノイズ空間はデータ空間よりも滑らかであり、償却推論により適している。
論文 参考訳(メタデータ) (2025-02-10T19:49:54Z) - Dimension-free Private Mean Estimation for Anisotropic Distributions [55.86374912608193]
以前の$mathRd上の分布に関する民間推定者は、次元性の呪いに苦しむ。
本稿では,サンプルの複雑さが次元依存性を改善したアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-11-01T17:59:53Z) - Some Constructions of Private, Efficient, and Optimal $K$-Norm and Elliptic Gaussian Noise [54.34628844260993]
微分プライベートな計算は、しばしば$d$次元統計学の感度に束縛されて始まる。
純粋な微分プライバシーのために、$K$-normメカニズムは統計学の感度空間に合わせた規範を用いてこのアプローチを改善することができる。
本稿では,総和,数,投票の単純な統計量について両問題を解く。
論文 参考訳(メタデータ) (2023-09-27T17:09:36Z) - Robust Mean Estimation Without Moments for Symmetric Distributions [7.105512316884493]
大規模な対称分布に対して、ガウス的設定と同じ誤差を効率的に達成できることが示される。
この最適誤差にアプローチする効率的なアルゴリズムの列を提案する。
我々のアルゴリズムは、よく知られたフィルタリング手法の一般化に基づいている。
論文 参考訳(メタデータ) (2023-02-21T17:52:23Z) - Multimeasurement Generative Models [7.502947376736449]
我々は、密度$p_X$ in $mathbbRd$を未知分布からサンプリングする問題を学習とサンプリングの問題を$p_mathbfY$ in $mathbbRMd$とする。
論文 参考訳(メタデータ) (2021-12-18T02:11:36Z) - Random matrices in service of ML footprint: ternary random features with
no performance loss [55.30329197651178]
我々は、$bf K$ の固有スペクトルが$bf w$ の i.d. 成分の分布とは独立であることを示す。
3次ランダム特徴(TRF)と呼ばれる新しいランダム手法を提案する。
提案したランダムな特徴の計算には乗算が不要であり、古典的なランダムな特徴に比べてストレージに$b$のコストがかかる。
論文 参考訳(メタデータ) (2021-10-05T09:33:49Z) - Convergence of Sparse Variational Inference in Gaussian Processes
Regression [29.636483122130027]
計算コストが$mathcalO(log N)2D(log N)2)$の手法を推論に利用できることを示す。
論文 参考訳(メタデータ) (2020-08-01T19:23:34Z) - Agnostic Learning of a Single Neuron with Gradient Descent [92.7662890047311]
期待される正方形損失から、最も適合した単一ニューロンを学習することの問題点を考察する。
ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
論文 参考訳(メタデータ) (2020-05-29T07:20:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。