論文の概要: Breaking the Communication-Privacy-Accuracy Trilemma

• arxiv url: http://arxiv.org/abs/2007.11707v3
• Date: Tue, 20 Apr 2021 19:13:09 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-07 22:39:12.847270
• Title: Breaking the Communication-Privacy-Accuracy Trilemma
• Title（参考訳）: 通信・プライバシー・正確性三要素法を破る
• Authors: Wei-Ning Chen, Peter Kairouz, Ayfer \"Ozg\"ur
• Abstract要約: 分散学習における2つの大きな課題は、ローカルサンプルのプライバシを保持し、それらを中央サーバに効率的に伝達することである。 我々は、最適なプライバシーと通信効率を同時に達成する新しい符号化・復号機構を開発する。
• 参考スコア（独自算出の注目度）: 19.399122892615573
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Two major challenges in distributed learning and estimation are 1) preserving the privacy of the local samples; and 2) communicating them efficiently to a central server, while achieving high accuracy for the end-to-end task. While there has been significant interest in addressing each of these challenges separately in the recent literature, treatments that simultaneously address both challenges are still largely missing. In this paper, we develop novel encoding and decoding mechanisms that simultaneously achieve optimal privacy and communication efficiency in various canonical settings. In particular, we consider the problems of mean estimation and frequency estimation under $\varepsilon$-local differential privacy and $b$-bit communication constraints. For mean estimation, we propose a scheme based on Kashin's representation and random sampling, with order-optimal estimation error under both constraints. For frequency estimation, we present a mechanism that leverages the recursive structure of Walsh-Hadamard matrices and achieves order-optimal estimation error for all privacy levels and communication budgets. As a by-product, we also construct a distribution estimation mechanism that is rate-optimal for all privacy regimes and communication constraints, extending recent work that is limited to $b=1$ and $\varepsilon=O(1)$. Our results demonstrate that intelligent encoding under joint privacy and communication constraints can yield a performance that matches the optimal accuracy achievable under either constraint alone.
• Abstract（参考訳）: 分散学習と見積もりの2つの大きな課題は 1) 現地サンプルのプライバシーを守ること,及び 2) エンド・ツー・エンドのタスクに対して高い精度を確保しつつ, 効率よく中央サーバに通信する。 最近の文献ではこれらの課題を個別に扱うことには大きな関心が寄せられているが、両方の課題に同時に対処する治療法はいまだにほとんど失われている。 本論文では,種々の標準設定における最適プライバシーと通信効率を同時に達成する新しい符号化・復号機構を開発する。 特に,$\varepsilon$-local differential privacy と $b$-bit の通信制約の下での平均推定と周波数推定の問題を考える。 平均推定のために,両制約下での順序最適推定誤差を伴う,kashinの表現とランダムサンプリングに基づくスキームを提案する。 周波数推定のために,walsh-hadamard行列の帰納的構造を活用し,すべてのプライバシーレベルと通信予算に対して順序最適推定誤差を達成する機構を提案する。 副産物として、すべてのプライバシ体制と通信制約に最適である分布推定機構を構築し、最近の作業が$b=1$と$\varepsilon=O(1)$に制限されるように拡張する。 以上の結果から,プライバシと通信の制約が組み合わさったインテリジェントエンコーディングは,いずれの制約でも実現可能な最適な精度に匹敵する性能が得られることを示す。

関連論文リスト

• Decentralized Multi-Task Online Convex Optimization Under Random Link Failures [5.513958040574729]
  我々は不均一な確率を持つランダムリンク障害に対する頑健な分散型サドルポイントアルゴリズムを開発した。 我々はアルゴリズムと分析を2点の帯域フィードバックシナリオに拡張する。
  論文  参考訳（メタデータ） (2024-01-04T00:57:33Z)
• Optimal Private Discrete Distribution Estimation with One-bit Communication [63.413106413939836]
  1ビット通信制約を伴う個別分布推定問題を考える。 1ビット通信制約下での最悪のトレードオフの1次を特徴付ける。 これらの結果は,1ビット通信制約下でのプライバシユーティリティトレードオフの最適依存性を示す。
  論文  参考訳（メタデータ） (2023-10-17T05:21:19Z)
• Differential Privacy via Distributionally Robust Optimization [8.409434654561789]
  非漸近的かつ無条件の最適性を保証するメカニズムのクラスを開発する。 上界 (primal) は実装可能な摂動に対応しており、その準最適性は下界 (dual) で有界である。 数値実験により、我々の摂動は、人工的および標準ベンチマーク問題に関する文献から得られた最も優れた結果よりも優れていることが示された。
  論文  参考訳（メタデータ） (2023-04-25T09:31:47Z)
• Breaking the Communication-Privacy-Accuracy Tradeoff with $f$-Differential Privacy [51.11280118806893]
  サーバが複数のユーザの協調的なデータ分析を,プライバシの懸念と限られた通信能力で調整する,フェデレートされたデータ分析問題を考える。 有限出力空間を有する離散値機構の局所的差分プライバシー保証を$f$-differential privacy (DP) レンズを用いて検討する。 より具体的には、様々な離散的評価機構の厳密な$f$-DP保証を導出することにより、既存の文献を前進させる。
  論文  参考訳（メタデータ） (2023-02-19T16:58:53Z)
• Decentralized Nonconvex Optimization with Guaranteed Privacy and Accuracy [34.24521534464185]
  プライバシ保護と中立性は、分散化された最適化学習の機密データにおいて難しい2つの問題である。 プライバシー保護と回避の両方を可能にするアルゴリズムを提案する。 このアルゴリズムは通信と計算の両方において効率的である。
  論文  参考訳（メタデータ） (2022-12-14T22:36:13Z)
• Quantization for decentralized learning under subspace constraints [61.59416703323886]
  エージェントがサブスペース制約を最小化するために個々のコスト関数を持つ分散最適化問題を考察する。 本稿では,エージェントが確率化量子化器を用いて推定値を圧縮する適応分散型戦略を提案し,検討する。 この分析は、量子化ノイズのいくつかの一般的な条件下では、平均二乗誤差と平均ビットレートの両方で戦略が安定であることを示している。
  論文  参考訳（メタデータ） (2022-09-16T09:38:38Z)
• On Differential Privacy for Federated Learning in Wireless Systems with Multiple Base Stations [90.53293906751747]
  複数の基地局とセル間干渉を持つ無線システムにおける連合学習モデルを考える。 本稿では,学習過程の収束挙動を,その最適性ギャップの上限を導出することによって示す。 提案するスケジューラは,ランダムなスケジューラと比較して予測平均精度を向上する。
  論文  参考訳（メタデータ） (2022-08-25T03:37:11Z)
• Robust and Differentially Private Mean Estimation [40.323756738056616]
  異なるプライバシーは、米国国勢調査から商用デバイスで収集されたデータまで、さまざまなアプリケーションで標準要件として浮上しています。 このようなデータベースの数は、複数のソースからのデータからなり、それらすべてが信頼できるわけではない。 これにより、既存のプライベート分析は、腐敗したデータを注入する敵による攻撃に弱い。
  論文  参考訳（メタデータ） (2021-02-18T05:02:49Z)
• Graph-Homomorphic Perturbations for Private Decentralized Learning [64.26238893241322]
  ローカルな見積もりの交換は、プライベートデータに基づくデータの推測を可能にする。 すべてのエージェントで独立して選択された摂動により、パフォーマンスが著しく低下する。 本稿では,特定のヌル空間条件に従って摂動を構成する代替スキームを提案する。
  論文  参考訳（メタデータ） (2020-10-23T10:35:35Z)
• Differential Privacy of Hierarchical Census Data: An Optimization Approach [53.29035917495491]
  国勢調査局(Census Bureaus)は、個人に関する機密情報を明らかにすることなく、大人口に関する社会経済的データをまとめて公開することに興味を持っている。 最近の出来事では、これらの組織が直面しているプライバシー上の課題がいくつか特定されている。 本稿では,階層的な個人数を解放する新たな差分プライバシ機構を提案する。
  論文  参考訳（メタデータ） (2020-06-28T18:19:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。