論文の概要: A Primal-Dual Algorithm for Hybrid Federated Learning
- arxiv url: http://arxiv.org/abs/2210.08106v3
- Date: Fri, 9 Feb 2024 18:21:39 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-12 21:16:06.986551
- Title: A Primal-Dual Algorithm for Hybrid Federated Learning
- Title(参考訳): ハイブリッドフェデレーション学習のための2次アルゴリズム
- Authors: Tom Overman, Garrett Blum, Diego Klabjan
- Abstract要約: Fenchel Dualityをベースとした,ハイブリット・フェデレーション・ラーニングのための高速で堅牢なアルゴリズムを提案する。
また、クライアントデータを保護するためのプライバシーの考慮と必要な手順も提供します。
- 参考スコア(独自算出の注目度): 11.955062839855334
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Very few methods for hybrid federated learning, where clients only hold
subsets of both features and samples, exist. Yet, this scenario is extremely
important in practical settings. We provide a fast, robust algorithm for hybrid
federated learning that hinges on Fenchel Duality. We prove the convergence of
the algorithm to the same solution as if the model is trained centrally in a
variety of practical regimes. Furthermore, we provide experimental results that
demonstrate the performance improvements of the algorithm over a commonly used
method in federated learning, FedAvg, and an existing hybrid FL algorithm,
HyFEM. We also provide privacy considerations and necessary steps to protect
client data.
- Abstract(参考訳): クライアントが機能とサンプルの両方のサブセットしか持たないハイブリッド連合学習の方法は非常に少ない。
しかし、このシナリオは実践的な環境では非常に重要です。
フェンシェル双対性に係わるハイブリッドフェデレート学習のための高速でロバストなアルゴリズムを提案する。
我々は、モデルが様々な実践的な方法で集中的に訓練されているように、アルゴリズムの収束を同じ解に証明する。
さらに,フェデレート学習における一般的な手法であるFedAvgと,既存のハイブリッドFLアルゴリズムであるHyFEMに対して,アルゴリズムの性能改善を示す実験結果を提供する。
また、クライアントデータを保護するためのプライバシーの考慮と必要な手順も提供します。
関連論文リスト
- A-FedPD: Aligning Dual-Drift is All Federated Primal-Dual Learning Needs [57.35402286842029]
本稿では,グローバルクライアントとローカルクライアントの仮想二重配向を構成する新しいアラインドデュアルデュアル(A-FedPD)手法を提案する。
本稿では,A-FedPD方式の非集中型セキュリティコンセンサスに対する効率を包括的に分析する。
論文 参考訳(メタデータ) (2024-09-27T17:00:32Z) - Preconditioned Federated Learning [7.7269332266153326]
Federated Learning(FL)は、コミュニケーションの効率的かつプライバシ保護の方法でモデルトレーニングを可能にする分散機械学習アプローチである。
FedAvgは、現代の一階適応最適化と比較してアルゴリズム適応性を欠いていると考えられている。
局所適応性(PreFed)とサーバ側適応性(PreFedOp)の2つのフレームワークに基づく通信効率の高い新しいFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-09-20T14:58:47Z) - Federated Ensemble YOLOv5 -- A Better Generalized Object Detection
Algorithm [0.0]
フェデレートラーニング(FL)はプライバシー保護アルゴリズムとして大きな注目を集めている。
本稿では,物体検出へのFLの適用を一般化性を高める手法として検討する。
論文 参考訳(メタデータ) (2023-06-30T17:50:00Z) - Stochastic Unrolled Federated Learning [85.6993263983062]
本稿では,UnRolled Federated Learning (SURF)を導入する。
提案手法は,この拡張における2つの課題,すなわち,非学習者へのデータセット全体の供給の必要性と,フェデレート学習の分散的性質に対処する。
論文 参考訳(メタデータ) (2023-05-24T17:26:22Z) - FedDA: Faster Framework of Local Adaptive Gradient Methods via Restarted
Dual Averaging [104.41634756395545]
フェデレートラーニング(Federated Learning, FL)は、大規模な分散データに取り組むための新たな学習パラダイムである。
局所適応勾配法のための新しいフレームワークである textbfFedDA を提案する。
textbfFedDA-MVR は適応FLアルゴリズムとしては初めてこの速度を実現することを示す。
論文 参考訳(メタデータ) (2023-02-13T05:10:30Z) - Faster Adaptive Federated Learning [84.38913517122619]
フェデレートラーニングは分散データの出現に伴って注目を集めている。
本稿では,クロスサイロFLにおけるモーメントに基づく分散低減手法に基づく適応アルゴリズム(FAFED)を提案する。
論文 参考訳(メタデータ) (2022-12-02T05:07:50Z) - Hybrid Federated Learning: Algorithms and Implementation [61.0640216394349]
Federated Learning(FL)は、分散データセットとプライベートデータセットを扱う分散機械学習パラダイムである。
ハイブリッドFLのためのモデルマッチングに基づく新しい問題定式化を提案する。
次に,グローバルモデルとローカルモデルを協調して学習し,完全かつ部分的な特徴量を扱う効率的なアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-12-22T23:56:03Z) - Practical One-Shot Federated Learning for Cross-Silo Setting [114.76232507580067]
ワンショット・フェデレーション・ラーニングは、クロスサイロ環境でフェデレーション・ラーニングを適用するための有望なアプローチである。
本稿では,FedKTという,実践的なワンショットフェデレーション学習アルゴリズムを提案する。
知識伝達技術を利用することで、FedKTは任意の分類モデルに適用でき、フレキシブルに差分プライバシー保証を達成できる。
論文 参考訳(メタデータ) (2020-10-02T14:09:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。