論文の概要: On Inherent Privacy of Posterior Sampling: A Unified Rényi-Divergence Framework
- arxiv url: http://arxiv.org/abs/2610.19573v1
- Date: Wed, 14 Oct 2026 04:40:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.962379
- Title: On Inherent Privacy of Posterior Sampling: A Unified Rényi-Divergence Framework
- Title(参考訳): 後方サンプリングの遺伝的プライバシについて:統一されたレニー・ディバージェンス・フレームワーク
- Abstract要約: 我々は,ベイズ後部分布からのサンプリングのDP保証を特徴付けるために,統一されたレナイ発散フレームワークを開発した。
一方,OPS(One-Posterior-Sampling)によるプライバシ損失は,単一レコードのログライクな比率の指数的な後続モーメントによって制御されていることを示す。
- 参考スコア(独自算出の注目度): 3.665985268436828
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Differential Privacy (DP) provides a rigorous framework for quantifying privacy guarantees. While most methods achieve DP by injecting calibrated random noise, the intrinsic randomness of certain procedures such as sampling can yield DP guarantees ``for free''. In this work, we develop a unified Rényi divergence framework to characterize the inherent DP guarantees of sampling from a Bayesian posterior distribution. We show that the privacy loss incurred by One-Posterior-Sampling (OPS) is governed by posterior exponential moments of the single-record log-likelihood ratio, and establish explicit DP guarantees under uniformly bounded, sub-Gaussian, or sub-exponential tail regimes. We apply the framework to representative Bayesian models, including categorical likelihoods with arbitrary priors, Gaussian-Gaussian conjugate pair, generalized linear models from the exponential family and linear regression with Gaussian likelihood, both with Gaussian priors on the regression coefficients. Our results elucidate sample size, model structure, neighboring relations in DP (bounded or unbounded), and how prior if applicable, jointly determine the inherent DP guarantees of OPS. Furthermore, our results recover the existing DP guarantees for OPS as special cases -- often with tighter privacy loss bounds -- and substantially broaden the class of Bayesian models for which the inherent DP guarantees of OPS can be rigorously characterized.
- Abstract(参考訳): 差別化プライバシ(DP)は、プライバシ保証を定量化する厳格なフレームワークを提供する。
ほとんどの方法は校正ランダムノイズを注入することでDPを達成するが、サンプリングのような特定の手順の固有のランダム性は、DPが「無料」を保証できる。
本研究では,ベイジアン後部分布からのサンプリングのDP保証を特徴付けるために,統一されたレニイ発散フレームワークを開発する。
単一記録対数類似度比の指数指数モーメントによりOPS(One-Posterior-Sampling)が引き起こしたプライバシー損失が制御され,一様有界,準ガウス的,亜指数的テールレジームの下で明示的なDP保証が確立されることを示す。
任意の事前を持つカテゴリー的可能性、ガウス・ガウス共役ペア、指数族からの一般化された線形モデル、ガウスの回帰係数に関するガウス的事前を持つガウス的確率を持つ線形回帰を含むベイズモデルの代表的モデルに適用する。
その結果, 標本サイズ, モデル構造, DP(有界あるいは非有界)の隣り合う関係, 適用される場合, OPS の固有 DP の保証をいかに事前に決定するかが明らかとなった。
さらに, OPS の既存の DP 保証を, 多くの場合, より厳密なプライバシ損失境界を持つ特別なケースとして回収し, OPS の固有 DP 保証を厳格に評価できるベイズモデルのクラスを大幅に広げた。
関連論文リスト
- Differential Privacy of Gaussian Process Posterior Sampling [0.0]
ガウス過程(GP)から後部サンプルパスを放出するプライバシーについて検討する。
外部ノイズを付加する標準微分プライバシ(DP)メカニズムとは異なり、後続サンプリングは構成によってランダムである。
この本質的なランダム性は,GP後部サンプルパス解放のための明示的なRényi-DP境界を導出することによりDP保証が得られることを示す。
論文 参考訳(メタデータ) (2026-06-16T14:43:16Z) - Let's Ask Gauss: Improved One-Run Privacy Auditing [6.481993597228151]
差分プライベート(DP)機械学習における経験的プライバシ監査について検討する。
DP監査フレームワークを開発し、単一のトレーニング実行からプライバシーの低いバウンダリを厳格化する。
論文 参考訳(メタデータ) (2026-06-10T22:44:47Z) - Context-aware Privacy Bounds for Linear Queries [18.643148110719736]
最大漏洩点レンズを用いてLaplace機構のプライバシ解析を再検討する。
DPフレームワークの分布に依存しない定義は、しばしば過度なノイズを課すことを実証する。
論文 参考訳(メタデータ) (2026-01-06T09:34:04Z) - Weights Shuffling for Improving DPSGD in Transformer-based Models [7.356743536182233]
本研究は,DPSGD(differially-Private Gradient Descent)における革新的なシャッフル機構を導入し,非シャッフルケースと同じプライバシ保証で大規模モデルの実用性を向上する。
順列化は理論上はDPSGDのプライバシー保証を改善するが、シャッフルモデル上での正確なプライバシー損失の追跡は特に困難である。
論文 参考訳(メタデータ) (2024-07-22T06:41:59Z) - How Private are DP-SGD Implementations? [61.19794019914523]
2種類のバッチサンプリングを使用する場合、プライバシ分析の間に大きなギャップがあることが示される。
その結果,2種類のバッチサンプリングでは,プライバシ分析の間に大きなギャップがあることが判明した。
論文 参考訳(メタデータ) (2024-03-26T13:02:43Z) - On the Privacy of Selection Mechanisms with Gaussian Noise [44.577599546904736]
ガウス雑音によるReport Noisy MaxとAbove Thresholdの分析を再検討する。
その結果,Report Noisy Max の純元 DP 境界と Above Threshold の純元 DP 境界を提供することが可能であることがわかった。
論文 参考訳(メタデータ) (2024-02-09T02:11:25Z) - Differentially Private SGD Without Clipping Bias: An Error-Feedback Approach [62.000948039914135]
Differentially Private Gradient Descent with Gradient Clipping (DPSGD-GC) を使用して、差分プライバシ(DP)がモデルパフォーマンス劣化の犠牲となることを保証する。
DPSGD-GCに代わる新しいエラーフィードバック(EF)DPアルゴリズムを提案する。
提案アルゴリズムに対するアルゴリズム固有のDP解析を確立し,R'enyi DPに基づくプライバシ保証を提供する。
論文 参考訳(メタデータ) (2023-11-24T17:56:44Z) - Generalised Likelihood Ratio Testing Adversaries through the
Differential Privacy Lens [69.10072367807095]
微分プライバシー(DP)は、最適な敵の能力に厳格な上限を提供する。
我々は,NPO(Neyman-Pearson-Pearson-Pearson-Pearson-Pearson-Pearson)対GLRT(Generalized Likelihood Test)対向の仮定を緩和する。
この緩やかな緩和は、プライバシー保証の改善につながる。
論文 参考訳(メタデータ) (2022-10-24T08:24:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。