論文の概要: Compressed Private Aggregation for Scalable and Robust Federated Learning over Massive Networks

• arxiv url: http://arxiv.org/abs/2308.00540v2
• Date: Thu, 08 May 2025 05:47:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-09 21:43:49.461602
• Title: Compressed Private Aggregation for Scalable and Robust Federated Learning over Massive Networks
• Title（参考訳）: 大規模ネットワーク上でのスケーラブルでロバストなフェデレーション学習のための圧縮プライベートアグリゲーション
• Authors: Natalie Lang, Nir Shlezinger, Rafael G. L. D'Oliveira, Salim El Rouayheb,
• Abstract要約: フェデレーション・ラーニング(FL)は、中央サーバーがリモートユーザーのデータを使って機械学習モデルをトレーニングできる新興パラダイムである。 FLは、ローカルデータセットのプライバシ保護、悪意のあるユーザによる攻撃に対する感受性、通信オーバーヘッドといった課題に直面している。 提案する圧縮プライベートアグリゲーション(CPA)は,大規模デプロイメントを極端に低ビットレートで同時通信することを可能にする。
• 参考スコア（独自算出の注目度）: 34.29747990203208
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated learning (FL) is an emerging paradigm that allows a central server to train machine learning models using remote users' data. Despite its growing popularity, FL faces challenges in preserving the privacy of local datasets, its sensitivity to poisoning attacks by malicious users, and its communication overhead. The latter is additionally considerably dominant in large-scale networks. These limitations are often individually mitigated by local differential privacy (LDP) mechanisms, robust aggregation, compression, and user selection techniques, which typically come at the cost of accuracy. In this work, we present compressed private aggregation (CPA), that allows massive deployments to simultaneously communicate at extremely low bit rates while achieving privacy, anonymity, and resilience to malicious users. CPA randomizes a codebook for compressing the data into a few bits using nested lattice quantizers, while ensuring anonymity and robustness, with a subsequent perturbation to hold LDP. The proposed CPA is proven to result in FL convergence in the same asymptotic rate as FL without privacy, compression, and robustness considerations, while satisfying both anonymity and LDP requirements. These analytical properties are empirically confirmed in a numerical study, where we demonstrate the performance gains of CPA compared with separate mechanisms for compression and privacy for training different image classification models, as well as its robustness in mitigating the harmful effects of malicious users.
• Abstract（参考訳）: フェデレーション・ラーニング(FL)は、中央サーバーがリモートユーザーのデータを使って機械学習モデルをトレーニングできる新興パラダイムである。 FLは人気が高まっているにもかかわらず、ローカルデータセットのプライバシ保護、悪意のあるユーザによる攻撃に対する感受性、通信オーバーヘッドといった課題に直面している。 後者は大規模ネットワークでも圧倒的に支配的である。 これらの制限は、ローカルディファレンシャルプライバシ(LDP)機構、ロバストアグリゲーション、圧縮、ユーザ選択技術によって個別に緩和されることが多い。 本研究では,プライバシー,匿名性,レジリエンスを悪質ユーザに対して達成しつつ,大規模なデプロイメントを極めて低ビットレートで同時通信することのできる圧縮プライベートアグリゲーション(CPA)を提案する。 CPAは、ネストされた格子量子化器を用いてデータを数ビットに圧縮するコードブックをランダム化し、匿名性とロバスト性を確保し、その後の摂動でLDPを保持する。 提案したCPAは、プライバシー、圧縮、ロバスト性を考慮せずにFLと同じ漸近速度でFL収束し、匿名性とLDP要件の両方を満たすことが証明されている。 これらの分析特性は, 画像分類モデルの訓練における圧縮とプライバシの分離メカニズムと, 悪意のあるユーザによる有害な影響を緩和するロバスト性を比較検討し, CPAの性能向上を実証的に確認した。

関連論文リスト

• DMM: Distributed Matrix Mechanism for Differentially-Private Federated Learning using Packed Secret Sharing [51.336015600778396]
  フェデレーテッド・ラーニング(FL)は最近、産業とアカデミックの両方で多くの注目を集めています。 FLでは、機械学習モデルは、複数のラウンドにまたがって委員会に配置されたさまざまなエンドユーザのデータを使用して訓練される。 このようなデータは、しばしばセンシティブであるため、FLの主な課題は、モデルの実用性を維持しながらプライバシを提供することである。
  論文  参考訳（メタデータ） (2024-10-21T16:25:14Z)
• ACCESS-FL: Agile Communication and Computation for Efficient Secure Aggregation in Stable Federated Learning Networks [26.002975401820887]
  Federated Learning(FL)は、プライバシ対応アプリケーション用に設計された分散学習フレームワークである。 従来のFLは、プレーンモデルのアップデートがサーバに送信されると、機密性の高いクライアントデータを露出するリスクにアプローチする。 GoogleのSecure Aggregation(SecAgg)プロトコルは、二重マスキング技術を使用することで、この脅威に対処する。 通信・計算効率の高いセキュアアグリゲーション手法であるACCESS-FLを提案する。
  論文  参考訳（メタデータ） (2024-09-03T09:03:38Z)
• PriRoAgg: Achieving Robust Model Aggregation with Minimum Privacy Leakage for Federated Learning [49.916365792036636]
  フェデレートラーニング(FL)は、大規模分散ユーザデータを活用する可能性から、最近大きな勢いを増している。 送信されたモデル更新は、センシティブなユーザ情報をリークする可能性があり、ローカルなトレーニングプロセスの集中的な制御の欠如は、モデル更新に対する悪意のある操作の影響を受けやすいグローバルモデルを残します。 我々は、Lagrange符号化計算と分散ゼロ知識証明を利用した汎用フレームワークPriRoAggを開発し、集約されたプライバシを満たすとともに、幅広いロバストな集約アルゴリズムを実行する。
  論文  参考訳（メタデータ） (2024-07-12T03:18:08Z)
• Noise-Aware Algorithm for Heterogeneous Differentially Private Federated Learning [21.27813247914949]
  本稿では,クライアントモデル更新における真のノイズレベルを効率的に推定するRobust-HDPを提案する。 ユーティリティと収束速度を改善し、不正なプライバシパラメータをサーバに送信する可能性のあるクライアントに対して安全である。
  論文  参考訳（メタデータ） (2024-06-05T17:41:42Z)
• Fed-CVLC: Compressing Federated Learning Communications with Variable-Length Codes [54.18186259484828]
  フェデレートラーニング(FL)パラダイムでは、パラメータサーバ(PS)がモデル収集、更新アグリゲーション、複数のラウンドでのモデル分散のために、分散参加クライアントと同時通信する。 FLの圧縮には可変長が有用であることを示す。 本稿では,Fed-CVLC(Federated Learning Compression with Variable-Length Codes)を提案する。
  論文  参考訳（メタデータ） (2024-02-06T07:25:21Z)
• Breaking the Communication-Privacy-Accuracy Tradeoff with $f$-Differential Privacy [51.11280118806893]
  サーバが複数のユーザの協調的なデータ分析を,プライバシの懸念と限られた通信能力で調整する,フェデレートされたデータ分析問題を考える。 有限出力空間を有する離散値機構の局所的差分プライバシー保証を$f$-differential privacy (DP) レンズを用いて検討する。 より具体的には、様々な離散的評価機構の厳密な$f$-DP保証を導出することにより、既存の文献を前進させる。
  論文  参考訳（メタデータ） (2023-02-19T16:58:53Z)
• Over-the-Air Federated Learning with Privacy Protection via Correlated Additive Perturbations [57.20885629270732]
  我々は、複数のユーザ/エージェントからエッジサーバへの勾配更新をOtA(Over-the-Air)で送信することで、無線フェデレーション学習のプライバシー面を考察する。 従来の摂動に基づく手法は、トレーニングの精度を犠牲にしてプライバシー保護を提供する。 本研究では,エッジサーバにおけるプライバシリークの最小化とモデル精度の低下を目標とする。
  論文  参考訳（メタデータ） (2022-10-05T13:13:35Z)
• Joint Privacy Enhancement and Quantization in Federated Learning [23.36363480217293]
  Federated Learning(FL)は、エッジデバイスで利用可能なプライベートデータを使用して機械学習モデルをトレーニングするための新興パラダイムである。 共同プライバシー強化・量子化法(JoPEQ)を提案する。 所望のプライバシレベルを保持しながら、必要なビットレートに応じてデータを同時に定量化することを示す。
  論文  参考訳（メタデータ） (2022-08-23T11:42:58Z)
• FedCG: Leverage Conditional GAN for Protecting Privacy and Maintaining Competitive Performance in Federated Learning [11.852346300577494]
  フェデレートラーニング(FL)は、クライアントがプライベートデータを共有せずに、協調して機械学習モデルを構築することを可能にすることで、データのプライバシを保護することを目的としている。 近年の研究では、FL中に交換された情報が勾配に基づくプライバシー攻撃の対象であることが示されている。 我々は,条件付き生成対向ネットワークを利用して高レベルのプライバシ保護を実現する新しいフェデレーション学習手法である$textscFedCG$を提案する。
  論文  参考訳（メタデータ） (2021-11-16T03:20:37Z)
• Differentially Private Federated Learning with Laplacian Smoothing [72.85272874099644]
  フェデレートラーニングは、ユーザ間でプライベートデータを共有せずに、協調的にモデルを学習することで、データのプライバシを保護することを目的としている。 敵は、リリースしたモデルを攻撃することによって、プライベートトレーニングデータを推測することができる。 差別化プライバシは、トレーニングされたモデルの正確性や実用性を著しく低下させる価格で、このような攻撃に対する統計的保護を提供する。
  論文  参考訳（メタデータ） (2020-05-01T04:28:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。