論文の概要: Aggregation Service for Federated Learning: An Efficient, Secure, and
More Resilient Realization
- arxiv url: http://arxiv.org/abs/2202.01971v1
- Date: Fri, 4 Feb 2022 05:03:46 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-07 15:30:35.480128
- Title: Aggregation Service for Federated Learning: An Efficient, Secure, and
More Resilient Realization
- Title(参考訳): 連合学習のためのアグリゲーションサービス : 効率的でセキュアでレジリエントな実現
- Authors: Yifeng Zheng and Shangqi Lai and Yi Liu and Xingliang Yuan and Xun Yi
and Cong Wang
- Abstract要約: 本稿では,学習過程を通じて個々のモデル更新を効率よく保護するシステム設計を提案する。
本システムは,実用性能で,ベースラインに匹敵する精度を実現している。
- 参考スコア(独自算出の注目度): 22.61730495802799
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning has recently emerged as a paradigm promising the benefits
of harnessing rich data from diverse sources to train high quality models, with
the salient features that training datasets never leave local devices. Only
model updates are locally computed and shared for aggregation to produce a
global model. While federated learning greatly alleviates the privacy concerns
as opposed to learning with centralized data, sharing model updates still poses
privacy risks. In this paper, we present a system design which offers efficient
protection of individual model updates throughout the learning procedure,
allowing clients to only provide obscured model updates while a cloud server
can still perform the aggregation. Our federated learning system first departs
from prior works by supporting lightweight encryption and aggregation, and
resilience against drop-out clients with no impact on their participation in
future rounds. Meanwhile, prior work largely overlooks bandwidth efficiency
optimization in the ciphertext domain and the support of security against an
actively adversarial cloud server, which we also fully explore in this paper
and provide effective and efficient mechanisms. Extensive experiments over
several benchmark datasets (MNIST, CIFAR-10, and CelebA) show our system
achieves accuracy comparable to the plaintext baseline, with practical
performance.
- Abstract(参考訳): フェデレーション学習(federated learning)は、さまざまなソースからのリッチデータを活用して高品質なモデルをトレーニングする、というメリットを約束するパラダイムとして最近登場した。
モデル更新のみがローカルに計算され、グローバルモデルを生成するために集約のために共有される。
統合学習は、集中データによる学習とは対照的に、プライバシーの懸念を大幅に緩和するが、共有モデルのアップデートは依然としてプライバシーのリスクを生じさせる。
本稿では,学習手順全体を通じて個々のモデル更新を効率よく保護し,クラウドサーバがアグリゲーションを実行している間に,クライアントが不明瞭なモデル更新しか提供できないシステム設計を提案する。
当社のフェデレーション学習システムは、まず、ライトウェイトな暗号化とアグリゲーションをサポートし、将来のラウンドへの参加に影響を与えることなく、ドロップアウトクライアントに対するレジリエンスによって、以前の作業から離れます。
一方,先行研究では,暗号文領域における帯域幅効率の最適化や,積極的な敵対的クラウドサーバに対するセキュリティサポートを見落としている。
複数のベンチマークデータセット(MNIST, CIFAR-10, CelebA)に対する大規模な実験により,本システムは平文ベースラインに匹敵する精度を実現し, 実用的な性能を示した。
関連論文リスト
- Tackling Data Heterogeneity in Federated Time Series Forecasting [61.021413959988216]
時系列予測は、エネルギー消費予測、病気の伝染モニタリング、天気予報など、様々な実世界の応用において重要な役割を果たす。
既存のほとんどのメソッドは、分散デバイスから中央クラウドサーバに大量のデータを収集する、集中的なトレーニングパラダイムに依存しています。
本稿では,情報合成データを補助的知識キャリアとして生成することにより,データの均一性に対処する新しいフレームワークであるFed-TRENDを提案する。
論文 参考訳(メタデータ) (2024-11-24T04:56:45Z) - Few-Shot Class-Incremental Learning with Non-IID Decentralized Data [12.472285188772544]
スケーラブルで適応的なインテリジェントなシステムを開発するには、クラスインクリメンタルな学習が不可欠だ。
本稿では、分散機械学習パラダイムであるフェデレートされた数発のクラスインクリメンタルラーニングを紹介する。
本稿では,リプレイバッファデータを利用して既存の知識を維持し,新たな知識の獲得を促進する合成データ駆動フレームワークを提案する。
論文 参考訳(メタデータ) (2024-09-18T02:48:36Z) - When Swarm Learning meets energy series data: A decentralized collaborative learning design based on blockchain [10.099134773737939]
機械学習モデルは、将来のエネルギー生産または消費を予測する機能を提供する。
しかし、特定のエネルギーセクター内の法と政策の制約は、様々な情報源のデータを利用する際に技術的ハードルをもたらす。
本稿では,集中型サーバをブロックチェーンベースの分散ネットワークに置き換えるSwarm Learningスキームを提案する。
論文 参考訳(メタデータ) (2024-06-07T08:42:26Z) - Blockchain-enabled Trustworthy Federated Unlearning [50.01101423318312]
フェデレートアンラーニング(Federated Unlearning)は、分散クライアントのデータオーナシップを保護するための、有望なパラダイムである。
既存の作業では、分散クライアントからの履歴モデルパラメータを保持するために、中央サーバが必要である。
本稿では,ブロックチェーンによる信頼性の高いフェデレーションアンラーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2024-01-29T07:04:48Z) - Client-specific Property Inference against Secure Aggregation in
Federated Learning [52.8564467292226]
フェデレートラーニングは、さまざまな参加者の間で共通のモデルを協調的に訓練するための、広く使われているパラダイムとなっている。
多くの攻撃は、メンバーシップ、資産、または参加者データの完全な再構築のような機密情報を推測することは依然として可能であることを示した。
単純な線形モデルでは、集約されたモデル更新からクライアント固有のプロパティを効果的にキャプチャできることが示される。
論文 参考訳(メタデータ) (2023-03-07T14:11:01Z) - Scalable Collaborative Learning via Representation Sharing [53.047460465980144]
フェデレートラーニング(FL)とスプリットラーニング(SL)は、データを(デバイス上で)プライベートにしながら協調学習を可能にする2つのフレームワークである。
FLでは、各データ保持者がモデルをローカルにトレーニングし、集約のために中央サーバにリリースする。
SLでは、クライアントは個々のカット層アクティベーション(スマッシュされたデータ)をサーバにリリースし、そのレスポンス(推論とバックの伝搬の両方)を待つ必要があります。
本研究では, クライアントがオンライン知識蒸留を通じて, 対照的な損失を生かして協調する, プライバシ保護機械学習の新しいアプローチを提案する。
論文 参考訳(メタデータ) (2022-11-20T10:49:22Z) - FedGEMS: Federated Learning of Larger Server Models via Selective
Knowledge Fusion [19.86388925556209]
フェデレートラーニング(FL)は、データをプライベートに保ちながらグローバルモデルを学ぶための実行可能なソリューションとして登場した。
本研究では,FLのモデル容量を突破する強力なサーバモデルを活用するための新しいパラダイムについて検討する。
論文 参考訳(メタデータ) (2021-10-21T10:06:44Z) - RoFL: Attestable Robustness for Secure Federated Learning [59.63865074749391]
フェデレートラーニング(Federated Learning)により、多数のクライアントが、プライベートデータを共有することなく、ジョイントモデルをトレーニングできる。
クライアントのアップデートの機密性を保証するため、フェデレートラーニングシステムはセキュアなアグリゲーションを採用している。
悪意のあるクライアントに対する堅牢性を向上させるセキュアなフェデレート学習システムであるRoFLを提案する。
論文 参考訳(メタデータ) (2021-07-07T15:42:49Z) - Byzantine-robust Federated Learning through Spatial-temporal Analysis of
Local Model Updates [6.758334200305236]
フェデレートラーニング(FL)は、複数の分散クライアント(モバイルデバイスなど)が、クライアントにローカルにトレーニングデータを保持しながら、協調的に集中的なモデルをトレーニングすることを可能にする。
本稿では,これらの障害と攻撃を空間的・時間的観点から緩和することを提案する。
具体的には、パラメータ空間におけるそれらの幾何学的性質を活用することにより、不正な更新を検出し、排除するためにクラスタリングに基づく手法を用いる。
論文 参考訳(メタデータ) (2021-07-03T18:48:11Z) - Towards Fair Federated Learning with Zero-Shot Data Augmentation [123.37082242750866]
フェデレーション学習は重要な分散学習パラダイムとして登場し、サーバはクライアントデータにアクセスせずに、多くのクライアントがトレーニングしたモデルからグローバルモデルを集約する。
本稿では, 統計的不均一性を緩和し, フェデレートネットワークにおけるクライアント間での精度向上を図るために, ゼロショットデータ拡張を用いた新しいフェデレーション学習システムを提案する。
Fed-ZDAC (クライアントでのゼロショットデータ拡張によるフェデレーション学習) と Fed-ZDAS (サーバでのゼロショットデータ拡張によるフェデレーション学習) の2種類について検討する。
論文 参考訳(メタデータ) (2021-04-27T18:23:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。