論文の概要: Privacy Amplification via Shuffled Check-Ins
- arxiv url: http://arxiv.org/abs/2206.03151v2
- Date: Tue, 4 Jul 2023 06:28:47 GMT
- ステータス: 処理完了
- システム内更新日: 2023-07-07 00:24:44.697231
- Title: Privacy Amplification via Shuffled Check-Ins
- Title(参考訳): シャッフルチェックによるプライバシ増幅
- Authors: Seng Pei Liew, Satoshi Hasegawa, Tsubasa Takahashi
- Abstract要約: シャッフルチェックインと呼ばれる分散計算のためのプロトコルについて検討する。
信頼できるシャフラー以上の信頼の前提を必要とせずに、強力なプライバシー保証を実現する。
シャッフルされたチェックインは、プライバシーの強化によって、厳格なプライバシー保証を実現する。
- 参考スコア(独自算出の注目度): 2.3333090554192615
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study a protocol for distributed computation called shuffled check-in,
which achieves strong privacy guarantees without requiring any further trust
assumptions beyond a trusted shuffler. Unlike most existing work, shuffled
check-in allows clients to make independent and random decisions to participate
in the computation, removing the need for server-initiated subsampling.
Leveraging differential privacy, we show that shuffled check-in achieves tight
privacy guarantees through privacy amplification, with a novel analysis based
on R{\'e}nyi differential privacy that improves privacy accounting over
existing work. We also introduce a numerical approach to track the privacy of
generic shuffling mechanisms, including Gaussian mechanism, which is the first
evaluation of a generic mechanism under the distributed setting within the
local/shuffle model in the literature. Empirical studies are also given to
demonstrate the efficacy of the proposed approach.
- Abstract(参考訳): 我々は、信頼できるシャッフル器以上の信頼の仮定を必要とせずに強力なプライバシー保証を実現する、shuffled check-inと呼ばれる分散計算プロトコルについて検討する。
既存のほとんどの作業とは異なり、シャッフルチェックインにより、クライアントは独立してランダムに計算に参加できるようになり、サーバ初期化サブサンプリングの必要性がなくなる。
差分プライバシーを活用することで、シャッフルチェックインはプライバシーの増幅を通じて厳密なプライバシー保証を実現することを示し、既存の作業よりもプライバシー会計を改善するR{\'e}nyi差分プライバシーに基づく新たな分析を行った。
また,本論文のローカル/シャッフルモデルにおける分散環境下での汎用メカニズムの最初の評価であるガウス機構を含む,汎用シャッフル機構のプライバシを追跡する数値的手法を導入する。
提案手法の有効性を示す実証的研究も行われている。
関連論文リスト
- Auditing $f$-Differential Privacy in One Run [43.34594422920125]
実証監査は、プライバシ保護アルゴリズムの実装におけるいくつかの欠陥をキャッチする手段として登場した。
本稿では,メカニズムのプライバシを効果的に評価できる,厳密で効率的な監査手順と分析法を提案する。
論文 参考訳(メタデータ) (2024-10-29T17:02:22Z) - Enhanced Privacy Bound for Shuffle Model with Personalized Privacy [32.08637708405314]
Differential Privacy(DP)は、ローカルユーザと中央データキュレーターの間の中間信頼サーバを導入する、強化されたプライバシプロトコルである。
これは、局所的にランダム化されたデータを匿名化しシャッフルすることで、中央のDP保証を著しく増幅する。
この研究は、各ユーザーごとにパーソナライズされたローカルプライバシを必要とする、より実践的な設定のために、中央のプライバシ境界を導出することに焦点を当てている。
論文 参考訳(メタデータ) (2024-07-25T16:11:56Z) - Unified Mechanism-Specific Amplification by Subsampling and Group Privacy Amplification [54.1447806347273]
サブサンプリングによる増幅は、差分プライバシーを持つ機械学習の主要なプリミティブの1つである。
本稿では、メカニズム固有の保証を導出するための最初の一般的なフレームワークを提案する。
サブサンプリングが複数のユーザのプライバシに与える影響を分析する。
論文 参考訳(メタデータ) (2024-03-07T19:36:05Z) - A Randomized Approach for Tight Privacy Accounting [63.67296945525791]
推定検証リリース(EVR)と呼ばれる新しい差分プライバシーパラダイムを提案する。
EVRパラダイムは、まずメカニズムのプライバシパラメータを推定し、その保証を満たすかどうかを確認し、最後にクエリ出力を解放する。
我々の実証的な評価は、新たに提案されたEVRパラダイムが、プライバシ保護機械学習のユーティリティプライバシトレードオフを改善することを示している。
論文 参考訳(メタデータ) (2023-04-17T00:38:01Z) - Breaking the Communication-Privacy-Accuracy Tradeoff with
$f$-Differential Privacy [51.11280118806893]
サーバが複数のユーザの協調的なデータ分析を,プライバシの懸念と限られた通信能力で調整する,フェデレートされたデータ分析問題を考える。
有限出力空間を有する離散値機構の局所的差分プライバシー保証を$f$-differential privacy (DP) レンズを用いて検討する。
より具体的には、様々な離散的評価機構の厳密な$f$-DP保証を導出することにより、既存の文献を前進させる。
論文 参考訳(メタデータ) (2023-02-19T16:58:53Z) - Tight Auditing of Differentially Private Machine Learning [77.38590306275877]
プライベート機械学習では、既存の監査メカニズムは厳格である。
彼らは不確実な最悪の仮定の下でのみ厳密な見積もりを行う。
我々は、自然(逆向きではない)データセットの厳密なプライバシー推定を得られる改善された監査スキームを設計する。
論文 参考訳(メタデータ) (2023-02-15T21:40:33Z) - Debugging Differential Privacy: A Case Study for Privacy Auditing [60.87570714269048]
監査は、微分プライベートなスキームの欠陥を見つけるためにも利用できることを示す。
このケーススタディでは、微分プライベートなディープラーニングアルゴリズムの最近のオープンソース実装を監査し、99.9999999999%の信頼を得て、この実装が要求される差分プライバシー保証を満たさないことを発見した。
論文 参考訳(メタデータ) (2022-02-24T17:31:08Z) - Uniformity Testing in the Shuffle Model: Simpler, Better, Faster [0.0]
均一性テスト(英: Uniformity testing)または独立した観察が均一に分散されているかどうかをテストすることは、分散テストにおける問題である。
本研究では,シャッフルモデルにおける既知の一様性試験アルゴリズムの解析を大幅に単純化する。
論文 参考訳(メタデータ) (2021-08-20T03:43:12Z) - Renyi Differential Privacy of the Subsampled Shuffle Model in
Distributed Learning [7.197592390105457]
クライアントは、プライバシを必要とするサーバとのインタラクションを通じて、学習モデルを反復的に構築する分散学習フレームワークで、プライバシを研究する。
最適化とフェデレートラーニング(FL)パラダイムによって動機付けられ、各ラウンドで少数のデータサンプルがランダムにサブサンプリングされた場合に焦点を当てる。
より強力なローカルプライバシ保証を得るために,各クライアントがローカルディファレンシャル・プライベート(LDP)機構を用いて応答をランダム化するシャッフルプライバシ・モデルを用いてこれを検証した。
論文 参考訳(メタデータ) (2021-07-19T11:43:24Z) - The Distributed Discrete Gaussian Mechanism for Federated Learning with
Secure Aggregation [28.75998313625891]
本稿では,データを適切に識別し,セキュアアグリゲーションを行う前に離散ガウス雑音を付加する総合的なエンドツーエンドシステムを提案する。
私達の理論的保証はコミュニケーション、プライバシーおよび正確さ間の複雑な緊張を強調します。
論文 参考訳(メタデータ) (2021-02-12T08:20:18Z) - Private Prediction Sets [72.75711776601973]
機械学習システムは、個人のプライバシーの確実な定量化と保護を必要とする。
これら2つのデシラタを共同で扱う枠組みを提案する。
本手法を大規模コンピュータビジョンデータセット上で評価する。
論文 参考訳(メタデータ) (2021-02-11T18:59:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。