論文の概要: SwiftAgg: Communication-Efficient and Dropout-Resistant Secure
Aggregation for Federated Learning with Worst-Case Security Guarantees
- arxiv url: http://arxiv.org/abs/2202.04169v1
- Date: Tue, 8 Feb 2022 22:08:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-11 04:20:45.006780
- Title: SwiftAgg: Communication-Efficient and Dropout-Resistant Secure
Aggregation for Federated Learning with Worst-Case Security Guarantees
- Title(参考訳): swiftagg: 最悪のセキュリティ保証を備えた連合学習のためのコミュニケーション効率とドロップアウト耐性のセキュアアグリゲーション
- Authors: Tayyebeh Jahani-Nezhad, Mohammad Ali Maddah-Ali, Songze Li, Giuseppe
Caire
- Abstract要約: 我々は,フェデレート学習システムのための新しいセキュアアグリゲーションプロトコルSwiftAggを提案する。
中央サーバは、ローカルデータに基づいてトレーニングされた、$N$の分散ユーザのローカルモデルを集約する。
SwiftAggは、セキュリティ上の妥協なしに、通信オーバーヘッドを大幅に削減する。
- 参考スコア(独自算出の注目度): 83.94234859890402
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: We propose SwiftAgg, a novel secure aggregation protocol for federated
learning systems, where a central server aggregates local models of $N$
distributed users, each of size $L$, trained on their local data, in a
privacy-preserving manner. Compared with state-of-the-art secure aggregation
protocols, SwiftAgg significantly reduces the communication overheads without
any compromise on security. Specifically, in presence of at most $D$ dropout
users, SwiftAgg achieves a users-to-server communication load of $(T+1)L$ and a
users-to-users communication load of up to $(N-1)(T+D+1)L$, with a worst-case
information-theoretic security guarantee, against any subset of up to $T$
semi-honest users who may also collude with the curious server. The key idea of
SwiftAgg is to partition the users into groups of size $D+T+1$, then in the
first phase, secret sharing and aggregation of the individual models are
performed within each group, and then in the second phase, model aggregation is
performed on $D+T+1$ sequences of users across the groups. If a user in a
sequence drops out in the second phase, the rest of the sequence remain silent.
This design allows only a subset of users to communicate with each other, and
only the users in a single group to directly communicate with the server,
eliminating the requirements of 1) all-to-all communication network across
users; and 2) all users communicating with the server, for other secure
aggregation protocols. This helps to substantially slash the communication
costs of the system.
- Abstract(参考訳): 我々は、フェデレーション学習システムのための新しいセキュアアグリゲーションプロトコルであるSwiftAggを提案し、中央サーバは、ローカルデータに基づいてトレーニングされた$N$の分散ユーザのローカルモデルをプライバシ保存形式で集約する。
最先端のセキュアアグリゲーションプロトコルと比較すると、SwiftAggはセキュリティ上の妥協なしに通信オーバーヘッドを大幅に削減する。
具体的には、少なくとも$D$のドロップアウトユーザが存在する場合、SwiftAggは、ユーザ対サーバ通信負荷$(T+1)L$とユーザ対ユーザ通信負荷$(N-1)(T+D+1)L$を達成します。
swiftaggの重要なアイデアは、ユーザをサイズ$d+t+1$のグループに分割することである。第1フェーズでは、個々のモデルの秘密共有と集約が各グループ内で行われ、第2フェーズでは、グループ全体のユーザの$d+t+1$のシーケンスでモデル集約が行われる。
シーケンスのユーザが第2フェーズでドロップアウトした場合、残りのシーケンスは無音のままである。
この設計により、少数のユーザだけが互いに通信することができ、単一のグループ内のユーザだけがサーバと直接通信し、要求をなくすことができる。
1) ユーザ間のオール・ツー・オール通信ネットワーク
2)他のセキュアアグリゲーションプロトコルのために,サーバと通信するすべてのユーザ。
これにより、システムの通信コストが大幅に削減される。
関連論文リスト
- $\mathsf{OPA}$: One-shot Private Aggregation with Single Client Interaction and its Applications to Federated Learning [6.977111770337479]
一発のプライベートアグリゲーション(mathsfOPA$)を導入します。
各クライアントはアグリゲーション毎に1回だけ通信するので、ドロップアウトの管理と動的参加が簡単になる。
$mathsfOPA$は実用的で、最先端のソリューションよりも優れています。
論文 参考訳(メタデータ) (2024-10-29T17:50:11Z) - Federated Contextual Cascading Bandits with Asynchronous Communication
and Heterogeneous Users [95.77678166036561]
繊細な通信プロトコルを用いたUPB型アルゴリズムを提案する。
同期フレームワークで達成されたものと同等のサブ線形後悔境界を与えます。
合成および実世界のデータセットに関する実証評価は、後悔と通信コストの観点から、我々のアルゴリズムの優れた性能を検証する。
論文 参考訳(メタデータ) (2024-02-26T05:31:14Z) - A Simple and Provably Efficient Algorithm for Asynchronous Federated
Contextual Linear Bandits [77.09836892653176]
我々は,M$エージェントが相互に協力して,中央サーバの助けを借りて,グローバルなコンテキスト線形バンドイット問題を解決するためのフェデレーション付きコンテキスト線形バンドイットについて検討した。
すべてのエージェントが独立して動作し、ひとつのエージェントとサーバ間の通信が他のエージェントの通信をトリガーしない非同期設定を考える。
texttFedLinUCBの後悔は$tildeO(dsqrtsum_m=1M T_m)$で、通信の複雑さは$tildeO(dM)であることを示す。
論文 参考訳(メタデータ) (2022-07-07T06:16:19Z) - SwiftAgg+: Achieving Asymptotically Optimal Communication Load in Secure
Aggregation for Federated Learning [83.94234859890402]
SwiftAgg+は、フェデレーション学習システムのための新しいセキュアアグリゲーションプロトコルである。
中央サーバは、分散ユーザである$NinmathbbN$のローカルモデルを集約する。
論文 参考訳(メタデータ) (2022-03-24T13:12:23Z) - Coordinated Attacks against Contextual Bandits: Fundamental Limits and
Defense Mechanisms [75.17357040707347]
オンラインレコメンデーションシステムによってモチベーションされた我々は,文脈的包帯における最適政策の発見問題を提案する。
目標は、優れたユーザに対する報酬を可能な限り少ないユーザインタラクションで最大化するポリシーを、しっかりと学習することだ。
効率的なロバストな平均推定器を用いることで、$tildeO(min(S,A)cdot alpha/epsilon2)$ upper-boundを実現できることを示す。
論文 参考訳(メタデータ) (2022-01-30T01:45:13Z) - Eluding Secure Aggregation in Federated Learning via Model Inconsistency [2.647302105102753]
フェデレートされた学習により、ユーザーはプライベートトレーニングデータセット上でディープニューラルネットワークをトレーニングできる。
悪意のあるサーバは,たとえ後者が存在していなかったとしても,セキュアなアグリゲーションを容易に回避できることを示す。
個別のプライベートトレーニングデータセットに関する情報を推測できる2つの異なる攻撃を考案する。
論文 参考訳(メタデータ) (2021-11-14T16:09:11Z) - Information Theoretic Secure Aggregation with User Dropouts [56.39267027829569]
サーバは、複数のユーザの入力の総和のみを学習したいが、一部のユーザはドロップアウトする(つまり、応答しないかもしれない)。
セキュアアグリゲーションの以下の最小2ラウンドモデルを検討する。
論文 参考訳(メタデータ) (2021-01-19T17:43:48Z) - Turbo-Aggregate: Breaking the Quadratic Aggregation Barrier in Secure
Federated Learning [2.294014185517203]
多くのユーザにフェデレーション学習を拡大する上で大きなボトルネックは、多くのユーザを対象としたセキュアなモデルアグリゲーションのオーバーヘッドである。
本稿では,Turbo-Aggregateという,O(NlogN)$の安全なアグリゲーションオーバヘッドを実現するための,最初のセキュアアグリゲーションフレームワークを提案する。
我々は,Turbo-Aggregateがユーザ数でほぼ直線的に成長する総実行時間を実現し,最大40ドル以上のユーザを持つ最先端プロトコルの高速化を実現することを実験的に実証した。
論文 参考訳(メタデータ) (2020-02-11T01:15:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。