Fugu-MT 論文翻訳(概要): FedMPQ: Secure and Communication-Efficient Federated Learning with Multi-codebook Product Quantization

論文の概要: FedMPQ: Secure and Communication-Efficient Federated Learning with Multi-codebook Product Quantization

arxiv url: http://arxiv.org/abs/2404.13575v1
Date: Sun, 21 Apr 2024 08:27:36 GMT
ステータス: 処理完了
システム内更新日: 2024-04-23 18:21:27.342029
Title: FedMPQ: Secure and Communication-Efficient Federated Learning with Multi-codebook Product Quantization
Title（参考訳）: FedMPQ: マルチコード製品量子化によるセキュアでコミュニケーション効率の良いフェデレーションラーニング
Authors: Xu Yang, Jiapeng Zhang, Qifeng Zhang, Zhuo Tang,
Abstract要約: 本稿では,フェデレート学習のための新しいアップリンク通信圧縮手法であるFedMPQを提案する。従来の研究とは対照的に,本手法では,データが独立かつ同一に分散されていないシナリオにおいて,より堅牢性を示す。 LEAFデータセットを用いて実験を行った結果,提案手法はベースラインの最終精度の99%を達成できた。
参考スコア（独自算出の注目度）: 12.83265009728818
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: In federated learning, particularly in cross-device scenarios, secure aggregation has recently gained popularity as it effectively defends against inference attacks by malicious aggregators. However, secure aggregation often requires additional communication overhead and can impede the convergence rate of the global model, which is particularly challenging in wireless network environments with extremely limited bandwidth. Therefore, achieving efficient communication compression under the premise of secure aggregation presents a highly challenging and valuable problem. In this work, we propose a novel uplink communication compression method for federated learning, named FedMPQ, which is based on multi shared codebook product quantization.Specifically, we utilize updates from the previous round to generate sufficiently robust codebooks. Secure aggregation is then achieved through trusted execution environments (TEE) or a trusted third party (TTP).In contrast to previous works, our approach exhibits greater robustness in scenarios where data is not independently and identically distributed (non-IID) and there is a lack of sufficient public data. The experiments conducted on the LEAF dataset demonstrate that our proposed method achieves 99% of the baseline's final accuracy, while reducing uplink communications by 90-95%
Abstract（参考訳）: フェデレートラーニング、特にクロスデバイスシナリオでは、悪意のあるアグリゲータによる推論攻撃を効果的に防御するため、セキュアアグリゲーションが最近人気を集めている。しかし、セキュアアグリゲーションは通信のオーバーヘッドを増大させ、特に帯域幅が極端に限られている無線ネットワーク環境では特に困難であるグローバルモデルの収束を阻害する可能性がある。したがって,セキュアアグリゲーションを前提とした効率的な通信圧縮を実現することは,非常に困難で価値のある問題である。本稿では,複数共有コードブックの量子化に基づくフェデレーション学習のための新しいアップリンク通信圧縮手法であるFedMPQを提案する。セキュアアグリゲーションは、信頼できる実行環境(TEE)または信頼できるサードパーティ(TTP)を介して達成される。従来の研究とは対照的に,本手法では,データが独立で同一に分散されていない(非IID)場合や,十分な公開データが不足している場合において,ロバスト性が向上する。 LEAFデータセットを用いて行った実験は,提案手法がベースラインの最終精度の99%を達成し,アップリンク通信を90～95%削減することを示した。

関連論文リスト

Secure Stateful Aggregation: A Practical Protocol with Applications in Differentially-Private Federated Learning [36.42916779389165]
DP-FTRLベースのアプローチは、すでに業界に広く展開されている。セキュアなステートフルアグリゲーションを導入します。これは、アグリゲーション値のプライベートストレージを可能にする、単純なアグリゲーションのみのデータ構造です。 DP-FTRLをベースとした私的フェデレーション学習を実現するためには,セキュアなステートフルアグリゲーションが十分である。
論文参考訳（メタデータ） (2024-10-15T07:45:18Z)
PriRoAgg: Achieving Robust Model Aggregation with Minimum Privacy Leakage for Federated Learning [49.916365792036636]
フェデレートラーニング(FL)は、大規模分散ユーザデータを活用する可能性から、最近大きな勢いを増している。送信されたモデル更新は、センシティブなユーザ情報をリークする可能性があり、ローカルなトレーニングプロセスの集中的な制御の欠如は、モデル更新に対する悪意のある操作の影響を受けやすいグローバルモデルを残します。我々は、Lagrange符号化計算と分散ゼロ知識証明を利用した汎用フレームワークPriRoAggを開発し、集約されたプライバシを満たすとともに、幅広いロバストな集約アルゴリズムを実行する。
論文参考訳（メタデータ） (2024-07-12T03:18:08Z)
EncCluster: Scalable Functional Encryption in Federated Learning through Weight Clustering and Probabilistic Filters [3.9660142560142067]
フェデレートラーニング(FL)は、アグリゲーションサーバにのみローカルモデルの更新を通信することで、分散デバイス間のモデルトレーニングを可能にする。 FLはモデル更新送信中に推論攻撃に弱いままである。本稿では、重みクラスタリングによるモデル圧縮と、最近の分散型FEとプライバシ強化データエンコーディングを統合する新しい方法であるEncClusterを提案する。
論文参考訳（メタデータ） (2024-06-13T14:16:50Z)
Coding-Based Hybrid Post-Quantum Cryptosystem for Non-Uniform Information [53.85237314348328]
我々は、新しいハイブリッドユニバーサルネットワーク符号化暗号(NU-HUNCC)を導入する。 NU-HUNCCは,リンクのサブセットにアクセス可能な盗聴者に対して,個別に情報理論的に保護されていることを示す。
論文参考訳（メタデータ） (2024-02-13T12:12:39Z)
Fed-CVLC: Compressing Federated Learning Communications with Variable-Length Codes [54.18186259484828]
フェデレートラーニング(FL)パラダイムでは、パラメータサーバ(PS)がモデル収集、更新アグリゲーション、複数のラウンドでのモデル分散のために、分散参加クライアントと同時通信する。 FLの圧縮には可変長が有用であることを示す。本稿では,Fed-CVLC(Federated Learning Compression with Variable-Length Codes)を提案する。
論文参考訳（メタデータ） (2024-02-06T07:25:21Z)
FedDBL: Communication and Data Efficient Federated Deep-Broad Learning for Histopathological Tissue Classification [65.7405397206767]
本稿では,FedDBL(Federated Deep-Broad Learning)を提案する。 FedDBLは1ラウンドの通信と限られたトレーニングサンプルで競合相手をはるかに上回り、マルチラウンドの通信で同等のパフォーマンスを達成している。異なるクライアント間でのデータやディープモデルを共有しないため、プライバシ問題は十分に解決されており、モデルのセキュリティはモデル反転攻撃のリスクなしに保証される。
論文参考訳（メタデータ） (2023-02-24T14:27:41Z)
Reconciling Security and Communication Efficiency in Federated Learning [11.653872280157321]
クロスデバイスフェデレーション学習は、ますます人気のある機械学習環境である。本稿では,クライアント・サーバ間のモデル更新を圧縮する問題を形式化し,解決する。我々は、セキュアなフェデレートラーニング(Federated Learning)セットアップでLEAFベンチマークの最先端結果を確立し、アップリンク通信において最大40$times$圧縮を行う。
論文参考訳（メタデータ） (2022-07-26T09:52:55Z)
Sparsified Secure Aggregation for Privacy-Preserving Federated Learning [1.2891210250935146]
セキュアアグリゲーションのための軽量な勾配スペーシフィケーションフレームワークを提案する。提案手法は,セキュアアグリゲーションの通信オーバヘッドを大幅に低減できることを示す。実験により,従来のセキュアなベンチマークと比較すると,我々のフレームワークは通信オーバーヘッドを最大7.8倍削減し,壁時計のトレーニング時間を1.13倍短縮することを示した。
論文参考訳（メタデータ） (2021-12-23T22:44:21Z)
Learning, compression, and leakage: Minimising classification error via meta-universal compression principles [87.054014983402]
学習シナリオのための圧縮技法の有望なグループは、正規化極大(NML)符号化である。ここでは,教師付き分類問題に対するNMLに基づく意思決定戦略を検討し,多種多様なモデルに適用した場合にPAC学習を実現することを示す。本手法の誤分類率は,プライバシに敏感なシナリオにおいて,データ漏洩の可能性を定量化するための指標である最大リークによって上限づけられていることを示す。
論文参考訳（メタデータ） (2020-10-14T20:03:58Z)
WAFFLe: Weight Anonymized Factorization for Federated Learning [88.44939168851721]
データが機密性やプライベート性を持つドメインでは、ローカルデバイスを離れることなく、分散的に学習できるメソッドには大きな価値があります。本稿では,フェデレートラーニングのためのウェイト匿名化因子化(WAFFLe)を提案する。これは,インド・バフェット・プロセスとニューラルネットワークの重み要因の共有辞書を組み合わせたアプローチである。
論文参考訳（メタデータ） (2020-08-13T04:26:31Z)
Ternary Compression for Communication-Efficient Federated Learning [17.97683428517896]
フェデレートされた学習は、プライバシ保護とセキュアな機械学習に対する潜在的なソリューションを提供する。本稿では,第3次フェデレーション平均化プロトコル(T-FedAvg)を提案する。その結果,提案したT-FedAvgは通信コストの低減に有効であり,非IIDデータの性能も若干向上できることがわかった。
論文参考訳（メタデータ） (2020-03-07T11:55:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。