論文の概要: Counting on Dummies: Privacy Amplification with Observable Counts and Truncated Batches
- arxiv url: http://arxiv.org/abs/2610.42139v1
- Date: Fri, 30 Oct 2026 17:58:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 22:05:31.867091
- Title: Counting on Dummies: Privacy Amplification with Observable Counts and Truncated Batches
- Title(参考訳): Dummiesのカウント: 監視可能なカウントとトランシットバッチによるプライバシの増幅
- Abstract要約: ランダムにバッチをサンプリングすることで、プライバシの増幅結果を通じて、より優れたプライバシ境界を実現することができる。
分散設定では、メモリと制約は各バッチを最大サイズ$s$でなければならない。
そこで本研究では,ランダムな数のEmphdummyポイントを用いて,バッチサイズを民営化し,トランケーション下においてもプライバシ保証を維持する機構を提案する。
- 参考スコア(独自算出の注目度): 29.571427305559002
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In many practical deployments of Differentially Private Stochastic Gradient Descent (DP-SGD), the server processes data in batches. Randomly sampling these batches allows for better privacy bounds via privacy amplification results. Most sampling schemes with provable privacy amplification, including Poisson sampling and random allocation, result in variable batch sizes. The privacy guarantee of these schemes requires that the batch sizes are not revealed. In distributed settings, the server performing the aggregation or any party observing the communication traffic may learn these batch sizes. Furthermore, in both centralized and distributed settings, memory and computation constraints may require each batch to be of some maximum size $s$, necessitating truncation of the batch when it exceeds this limit. It is known that this truncation can result in a significant increase in privacy loss. In this work, we address both of these challenges via a simple mechanism that uses a random number of \emph{dummy points} to privatize the batch size and maintain the privacy guarantee even under truncation. We demonstrate that our mechanism is easy to implement in a distributed setting, and provide a general analysis of this mechanism for both Poisson sampling and random allocation. Our analysis is designed to support efficient and relatively tight privacy accounting. It also effectively amplifies the privacy of the count releases by subsampling, making the expected number of dummy points asymptotically smaller than what is needed to directly privatize the (sensitivity-one) batch sizes with non-negative noise. For Poisson sampling with truncated batches, we demonstrate empirically that our mechanism achieves better privacy--efficiency tradeoffs than the direct accounting for truncation recently given by (Ganesh, 2025).
- Abstract(参考訳): Differentially Private Stochastic Gradient Descent (DP-SGD) の実践的なデプロイでは、サーバがデータをバッチで処理する。
これらのバッチをランダムにサンプリングすると、プライバシーの増幅結果によって、より優れたプライバシー境界が得られる。
Poissonサンプリングやランダムアロケーションを含む、証明可能なプライバシアンプリフィケーションを持つほとんどのサンプリングスキームは、バッチサイズが変化する。
これらのスキームのプライバシー保証には、バッチサイズが明らかにされない必要がある。
分散環境では、アグリゲーションを実行するサーバや、通信トラフィックを観察するパーティは、これらのバッチサイズを学習することができる。
さらに、集中型と分散型の両方の設定では、メモリと計算の制約により、各バッチは最大サイズ$s$でなければならない。
この混乱がプライバシーの損失を著しく増加させることが知られている。
本研究では,これらの課題に,ランダムな数の \emph{dummy points} を用いて,バッチサイズを民営化し,トランケーション下においてもプライバシ保証を維持する機構を用いて対処する。
分散環境では,本機構の実装が容易であることが実証され,ポアソンサンプリングとランダムアロケーションの両方において,この機構の一般的な解析結果が得られた。
私たちの分析は、効率的で比較的厳密なプライバシ会計をサポートするように設計されています。
また、サブサンプリングによってカウントリリースのプライバシを効果的に増幅し、非負のノイズで(感度1の)バッチサイズを直接民営化するために必要なものよりも、期待されるダミーポイントの数が漸近的に小さくする。
トランケートされたバッチを用いたPoissonサンプリングでは、最近与えられたトランケーションの直接会計(Ganesh, 2025)よりも、我々のメカニズムがより優れたプライバシー効率トレードオフを実現することを実証的に実証する。
関連論文リスト
- Efficient privacy loss accounting for subsampling and random allocation [13.186391867041394]
本研究では,ユーザのデータをランダムなステップで使用するサンプリング方式のプライバシアンプリフィケーション特性について考察する。
ランダムなアロケーションのためのプライバシユーティリティのトレードオフは、少なくともPoissonサブサンプリングのそれと同程度であることを示す。
論文 参考訳(メタデータ) (2026-02-19T11:44:25Z) - Improving Statistical Privacy by Subsampling [0.0]
プライバシメカニズムとしてよく使われるのは、クエリに応答するデータのサンプルを取得することだ。
本論文は, 統計的条件下で, サンプリング方法の違いが, プライバシを増加させるかどうかを, 正確に検証する。
DP設定のトレードオフ関数は (epsilon,delta)-pairs よりもプライバシーの指標として提案されている。
論文 参考訳(メタデータ) (2025-04-15T17:40:45Z) - Scalable DP-SGD: Shuffling vs. Poisson Subsampling [61.19794019914523]
バッチサンプリングをシャッフルしたマルチエポック適応線形クエリ(ABLQ)機構のプライバシ保証に対する新たな下位境界を提供する。
ポアソンのサブサンプリングと比較すると大きな差がみられ, 以前の分析は1つのエポックに限られていた。
本稿では,大規模な並列計算を用いて,Poissonサブサンプリングを大規模に実装する実践的手法を提案する。
論文 参考訳(メタデータ) (2024-11-06T19:06:16Z) - Avoiding Pitfalls for Privacy Accounting of Subsampled Mechanisms under Composition [13.192083588571384]
我々は、サブサンプルの差分秘密機構の構成に対する厳密なプライバシー保証の計算の問題を考える。
近年のアルゴリズムでは、プライバシーパラメータを任意の精度で数値計算できるが、慎重に適用する必要がある。
論文 参考訳(メタデータ) (2024-05-27T20:30:12Z) - How Private are DP-SGD Implementations? [61.19794019914523]
2種類のバッチサンプリングを使用する場合、プライバシ分析の間に大きなギャップがあることが示される。
その結果,2種類のバッチサンプリングでは,プライバシ分析の間に大きなギャップがあることが判明した。
論文 参考訳(メタデータ) (2024-03-26T13:02:43Z) - Privacy Amplification for the Gaussian Mechanism via Bounded Support [64.86780616066575]
インスタンスごとの差分プライバシー(pDP)やフィッシャー情報損失(FIL)といったデータ依存のプライバシ会計フレームワークは、固定されたトレーニングデータセット内の個人に対してきめ細かいプライバシー保証を提供する。
本稿では,データ依存会計下でのプライバシ保証を向上することを示すとともに,バウンドサポートによるガウス機構の簡単な修正を提案する。
論文 参考訳(メタデータ) (2024-03-07T21:22:07Z) - Privacy Amplification via Shuffling: Unified, Simplified, and Tightened [20.10078781197001]
シングルメッセージとマルチメッセージのシャッフルプロトコルの両方において、プライバシーを増幅するための包括的なフレームワークを提案する。
我々の理論的な結果は、特に極端確率設計を持つ局所確率化器に対して、我々のフレームワークがより厳密な境界を提供することを示している。
私たちのバウンダリは、非常に効率的な$tildeO(n)$アルゴリズムで、$n=108$ユーザに対して10$秒未満で、数値的にプライバシを増幅します。
論文 参考訳(メタデータ) (2023-04-11T06:27:25Z) - Smoothed Differential Privacy [55.415581832037084]
微分プライバシー(DP)は、最悪のケース分析に基づいて広く受け入れられ、広く適用されているプライバシーの概念である。
本稿では, 祝賀されたスムーズな解析の背景にある最悪の平均ケースのアイデアに倣って, DPの自然な拡張を提案する。
サンプリング手順による離散的なメカニズムはDPが予測するよりもプライベートであるのに対して,サンプリング手順による連続的なメカニズムはスムーズなDP下では依然としてプライベートではないことが証明された。
論文 参考訳(メタデータ) (2021-07-04T06:55:45Z) - Hiding Among the Clones: A Simple and Nearly Optimal Analysis of Privacy
Amplification by Shuffling [49.43288037509783]
ランダムシャッフルは、局所的ランダム化データの差分プライバシー保証を増幅する。
私たちの結果は、以前の作業よりも単純で、ほぼ同じ保証で差分プライバシーに拡張された新しいアプローチに基づいています。
論文 参考訳(メタデータ) (2020-12-23T17:07:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。