論文の概要: Federated Learning with Local Differential Privacy: Trade-offs between Privacy, Utility, and Communication

• arxiv url: http://arxiv.org/abs/2102.04737v1
• Date: Tue, 9 Feb 2021 10:04:18 GMT
• ステータス: 処理完了
• システム内更新日: 2021-02-10 16:15:40.199448
• Title: Federated Learning with Local Differential Privacy: Trade-offs between Privacy, Utility, and Communication
• Title（参考訳）: 地域差分プライバシによるフェデレーション学習 - プライバシとユーティリティ,コミュニケーションのトレードオフ
• Authors: Muah Kim, Onur G\"unl\"u, and Rafael F. Schaefer
• Abstract要約: フェデレートラーニング(FL)は、分散された構造のため、大量のデータをプライベートにトレーニングすることができる。 SGDを用いたFLモデルにおいて,ユーザデータのローカル差分プライバシー(LDP)を維持するためのガウス的メカニズムを検討する。 その結果,既存のプライバシ会計法と比較して,実用性が大きく,伝送速度も低いことが保証された。
• 参考スコア（独自算出の注目度）: 22.171647103023773
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Federated learning (FL) allows to train a massive amount of data privately due to its decentralized structure. Stochastic gradient descent (SGD) is commonly used for FL due to its good empirical performance, but sensitive user information can still be inferred from weight updates shared during FL iterations. We consider Gaussian mechanisms to preserve local differential privacy (LDP) of user data in the FL model with SGD. The trade-offs between user privacy, global utility, and transmission rate are proved by defining appropriate metrics for FL with LDP. Compared to existing results, the query sensitivity used in LDP is defined as a variable and a tighter privacy accounting method is applied. The proposed utility bound allows heterogeneous parameters over all users. Our bounds characterize how much utility decreases and transmission rate increases if a stronger privacy regime is targeted. Furthermore, given a target privacy level, our results guarantee a significantly larger utility and a smaller transmission rate as compared to existing privacy accounting methods.
• Abstract（参考訳）: フェデレーションラーニング(FL)は、分散構造のため、大量のデータをプライベートにトレーニングすることができます。 確率勾配降下 (SGD) は経験的性能がよいため一般的にはFLに使用されるが, FLイテレーション中に共有される重み更新から, 感度の高いユーザ情報を推測することができる。 SGDを用いたFLモデルにおけるユーザデータの局所差分プライバシー(LDP)を維持するためのガウス機構を検討する。 ユーザプライバシ,グローバルユーティリティ,トランスミッションレートのトレードオフは,FL と LDP の適切なメトリクスを定義することによって証明される。 既存の結果と比較して, LDPで使用されるクエリ感度は変数として定義され, より厳密なプライバシ会計法が適用される。 提案するユーティリティバウンドは、全ユーザにわたって異種パラメータを許容する。 私たちの境界は、より強いプライバシー体制がターゲットとされている場合、ユーティリティの減少と伝送速度の増加を特徴づけます。 さらに,対象とするプライバシレベルを考慮すれば,従来のプライバシ会計手法に比べて,はるかに大きなユーティリティとより少ない送信率を保証できる。

関連論文リスト

• Fed-GLOSS-DP: Federated, Global Learning using Synthetic Sets with Record Level Differential Privacy [62.45153213451055]
  Fed-GLOSS-DPは、合成データを使用してフェデレーションモデルをトレーニングするプライバシー保護学習の新しいアプローチである。 従来の勾配に基づく線形近似とは対照的に、我々の定式化は大域最適化の種別を可能にする。
  論文  参考訳（メタデータ） (2023-02-02T12:56:46Z)
• Over-the-Air Federated Learning with Privacy Protection via Correlated Additive Perturbations [57.20885629270732]
  我々は、複数のユーザ/エージェントからエッジサーバへの勾配更新をOtA(Over-the-Air)で送信することで、無線フェデレーション学習のプライバシー面を考察する。 従来の摂動に基づく手法は、トレーニングの精度を犠牲にしてプライバシー保護を提供する。 本研究では,エッジサーバにおけるプライバシリークの最小化とモデル精度の低下を目標とする。
  論文  参考訳（メタデータ） (2022-10-05T13:13:35Z)
• Local Learning Matters: Rethinking Data Heterogeneity in Federated Learning [61.488646649045215]
  フェデレートラーニング(FL)は、クライアントのネットワーク(エッジデバイス)でプライバシ保護、分散ラーニングを行うための有望な戦略である。
  論文  参考訳（メタデータ） (2021-11-28T19:03:39Z)
• Understanding Clipping for Federated Learning: Convergence and Client-Level Differential Privacy [67.4471689755097]
  本稿では, 切断したFedAvgが, 実質的なデータ均一性でも驚くほど良好に動作できることを実証的に示す。 本稿では,差分プライベート(DP)FedAvgアルゴリズムの収束解析を行い,クリッピングバイアスとクライアント更新の分布との関係を明らかにする。
  論文  参考訳（メタデータ） (2021-06-25T14:47:19Z)
• Privacy Assessment of Federated Learning using Private Personalized Layers [0.9023847175654603]
  Federated Learning(FL)は、データを共有することなく、複数の参加者にまたがって学習モデルをトレーニングするコラボレーティブスキームである。 プライベートなパーソナライズされたレイヤを用いてFLスキームの実用性とプライバシのトレードオフを定量化する。
  論文  参考訳（メタデータ） (2021-06-15T11:40:16Z)
• Wireless Federated Learning with Limited Communication and Differential Privacy [21.328507360172203]
  本稿では,空力計算(AirComp)に基づくフェデレーション学習(FL)モデルにおいて,リモートユーザにおけるローカルデータセットの効率的な通信と差分プライバシー(DP)における次元性低減の役割について検討する。
  論文  参考訳（メタデータ） (2021-06-01T15:23:12Z)
• Voting-based Approaches For Differentially Private Federated Learning [87.2255217230752]
  この研究はPapernotらによる非フェデレーションプライバシ学習の知識伝達にインスパイアされている。 我々は,各局所モデルから返されるデータラベル間で投票を行うことで,勾配を平均化する代わりに2つの新しいDPFLスキームを設計する。 我々のアプローチはDPFLの最先端技術に対するプライバシーとユーティリティのトレードオフを大幅に改善します。
  論文  参考訳（メタデータ） (2020-10-09T23:55:19Z)
• Federated Learning with Sparsification-Amplified Privacy and Adaptive Optimization [27.243322019117144]
  フェデレートラーニング(FL)により、分散エージェントは、生データを互いに共有することなく、集中型モデルを共同で学習することができる。 スパーシフィケーションを増幅した新しいFLフレームワークを提案する。 提案手法では,ランダムなスペーシフィケーションと各エージェントの勾配摂動を統合し,プライバシー保証を増幅する。
  論文  参考訳（メタデータ） (2020-08-01T20:22:57Z)
• Differentially Private Federated Learning with Laplacian Smoothing [72.85272874099644]
  フェデレートラーニングは、ユーザ間でプライベートデータを共有せずに、協調的にモデルを学習することで、データのプライバシを保護することを目的としている。 敵は、リリースしたモデルを攻撃することによって、プライベートトレーニングデータを推測することができる。 差別化プライバシは、トレーニングされたモデルの正確性や実用性を著しく低下させる価格で、このような攻撃に対する統計的保護を提供する。
  論文  参考訳（メタデータ） (2020-05-01T04:28:38Z)
• FedSel: Federated SGD under Local Differential Privacy with Top-k Dimension Selection [26.54574385850849]
  本研究では,LDP下でのフェデレーションSGDのための2段階フレームワークFedSelを提案する。 具体的には,3つの私的次元選択機構を提案し,蓄積手法を適用し,ノイズのある更新で学習プロセスを安定化させる。 また、FedSelのプライバシー、正確性、時間的複雑さも理論的に分析し、最先端のソリューションよりも優れています。
  論文  参考訳（メタデータ） (2020-03-24T03:31:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。