論文の概要: DualFL: A Duality-based Federated Learning Algorithm with Communication
Acceleration in the General Convex Regime
- arxiv url: http://arxiv.org/abs/2305.10294v2
- Date: Wed, 10 Jan 2024 13:36:49 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-11 17:39:45.297822
- Title: DualFL: A Duality-based Federated Learning Algorithm with Communication
Acceleration in the General Convex Regime
- Title(参考訳): DualFL: 汎用凸レジームにおける通信加速度を用いた双対学習アルゴリズム
- Authors: Jongho Park and Jinchao Xu
- Abstract要約: 我々は,フェデレート学習における分散最適化問題の解法として,DualFLという新しい学習アルゴリズムを提案する。
我々はDualFLの局所的な反復について詳細な解析を行い、DualFLの全体的な計算効率を保証する。
- 参考スコア(独自算出の注目度): 4.997100016221207
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a new training algorithm, named DualFL (Dualized Federated
Learning), for solving distributed optimization problems in federated learning.
DualFL achieves communication acceleration for very general convex cost
functions, thereby providing a solution to an open theoretical problem in
federated learning concerning cost functions that may not be smooth nor
strongly convex. We provide a detailed analysis for the local iteration
complexity of DualFL to ensure the overall computational efficiency of DualFL.
Furthermore, we introduce a completely new approach for the convergence
analysis of federated learning based on a dual formulation. This new technique
enables concise and elegant analysis, which contrasts the complex calculations
used in existing literature on convergence of federated learning algorithms.
- Abstract(参考訳): 本論文では,分散最適化問題を解くために,dualfl(dualized federated learning)と呼ばれる新しい学習アルゴリズムを提案する。
DualFLは、非常に一般的な凸コスト関数に対する通信加速を実現し、スムーズで強凸でないコスト関数に関する連邦学習におけるオープンな理論的問題の解を提供する。
我々は,DualFLの局所的な反復複雑性を詳細に解析し,DualFLの全体的な計算効率を保証する。
さらに,二重定式化に基づく連合学習の収束解析について,全く新しいアプローチを提案する。
この新技術は、既存の文献で使われている複雑な計算と、連合学習アルゴリズムの収束を対比した簡潔でエレガントな分析を可能にする。
関連論文リスト
- Semi-Federated Learning: Convergence Analysis and Optimization of A
Hybrid Learning Framework [70.83511997272457]
本稿では,ベースステーション(BS)とデバイスの両方を活用するセミフェデレーション学習(SemiFL)パラダイムを提案し,中央集権学習(CL)とFLのハイブリッド実装を提案する。
我々はこの難解な問題を解くための2段階のアルゴリズムを提案し、ビームフォーマに閉形式解を提供する。
論文 参考訳(メタデータ) (2023-10-04T03:32:39Z) - Communication-Efficient Federated Bilevel Optimization with Local and
Global Lower Level Problems [118.00379425831566]
我々はFedBiOAccという通信効率の高いアルゴリズムを提案する。
我々は、FedBiOAcc-Localがこの種の問題に対して同じ速度で収束していることを証明する。
実験結果から,アルゴリズムの性能が向上した。
論文 参考訳(メタデータ) (2023-02-13T21:28:53Z) - Faster Adaptive Federated Learning [84.38913517122619]
フェデレートラーニングは分散データの出現に伴って注目を集めている。
本稿では,クロスサイロFLにおけるモーメントに基づく分散低減手法に基づく適応アルゴリズム(FAFED)を提案する。
論文 参考訳(メタデータ) (2022-12-02T05:07:50Z) - Faster Adaptive Momentum-Based Federated Methods for Distributed
Composition Optimization [14.579475552088692]
非分散合成問題の解法として,高速なフェデレート合成最適化アルゴリズム(MFCGDとAdaMFCGD)を提案する。
特に、我々の適応アルゴリズム(AdaMFCGD)は、様々な適応学習率を柔軟に組み込むために統一適応行列を使用する。
論文 参考訳(メタデータ) (2022-11-03T15:17:04Z) - Multi-Resource Allocation for On-Device Distributed Federated Learning
Systems [79.02994855744848]
本研究は,デバイス上の分散フェデレーション学習(FL)システムにおいて,レイテンシとエネルギー消費の重み付け和を最小化する分散マルチリソース割り当て方式を提案する。
システム内の各モバイルデバイスは、指定された領域内でモデルトレーニングプロセスを実行し、それぞれパラメータの導出とアップロードを行うための計算と通信資源を割り当てる。
論文 参考訳(メタデータ) (2022-11-01T14:16:05Z) - Predictive GAN-powered Multi-Objective Optimization for Hybrid Federated
Split Learning [56.125720497163684]
無線ネットワークにおけるハイブリッド・フェデレーション・スプリット・ラーニング・フレームワークを提案する。
ラベル共有のないモデル分割のための並列計算方式を設計し,提案方式が収束速度に与える影響を理論的に解析する。
論文 参考訳(メタデータ) (2022-09-02T10:29:56Z) - Compositional federated learning: Applications in distributionally
robust averaging and meta learning [31.97853929292195]
本稿では,新しい構成フェデレートラーニング(FL)フレームワークを解くための,効率的かつ効率的な合成フェデレートラーニング(ComFedL)アルゴリズムを提案する。
我々はComFedLアルゴリズムが$O(frac1sqrtT)$の収束率を達成することを証明した。
論文 参考訳(メタデータ) (2021-06-21T17:08:09Z) - Federated Learning with Randomized Douglas-Rachford Splitting Methods [30.998685972581754]
我々は textbfFedDR と textbfDRaa という2つの新しいアルゴリズムを開発した。
解析の結果,新しいアルゴリズムはより低い仮定下での通信効率と一致していることがわかった。
論文 参考訳(メタデータ) (2021-03-05T03:24:04Z) - Secure Bilevel Asynchronous Vertical Federated Learning with Backward
Updating [159.48259714642447]
垂直拡張学習(VFL)は、多人数協調モデリングの要求とプライバシー漏洩の懸念により、注目を集めている。
我々は,vf$b2$を含む3つの新しいアルゴリズムを提案する新しいbftextlevel parallel architecture (vf$bfb2$)を提案する。
論文 参考訳(メタデータ) (2021-03-01T12:34:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。