論文の概要: DualFL: A Duality-based Federated Learning Algorithm with Communication Acceleration in the General Convex Regime

• arxiv url: http://arxiv.org/abs/2305.10294v1
• Date: Wed, 17 May 2023 15:29:24 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-18 15:11:33.374094
• Title: DualFL: A Duality-based Federated Learning Algorithm with Communication Acceleration in the General Convex Regime
• Title（参考訳）: DualFL: 汎用凸レジームにおける通信加速度を用いた双対学習アルゴリズム
• Authors: Jongho Park and Jinchao Xu
• Abstract要約: 本稿では,フェデレート学習における分散最適化問題の解法として,DualFL(Dualized Federated Learning)という新しい学習アルゴリズムを提案する。 DualFLは、問題の滑らかさと強い凸性について様々な設定で通信促進を実現する。 理論的には、不正確な局所解法の使用を保証し、不正確な局所解であっても最適な通信複雑性を保っている。
• 参考スコア（独自算出の注目度）: 1.8655840060559172
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We propose a novel training algorithm called DualFL (Dualized Federated Learning), for solving a distributed optimization problem in federated learning. Our approach is based on a specific dual formulation of the federated learning problem. DualFL achieves communication acceleration under various settings on smoothness and strong convexity of the problem. Moreover, it theoretically guarantees the use of inexact local solvers, preserving its optimal communication complexity even with inexact local solutions. DualFL is the first federated learning algorithm that achieves communication acceleration, even when the cost function is either nonsmooth or non-strongly convex. Numerical results demonstrate that the practical performance of DualFL is comparable to those of state-of-the-art federated learning algorithms, and it is robust with respect to hyperparameter tuning.
• Abstract（参考訳）: 本論文では,分散最適化問題を解くために,dualfl(dualized federated learning)と呼ばれる新しい学習アルゴリズムを提案する。 このアプローチは、連合学習問題の特定の二重定式化に基づいている。 DualFLは、問題の滑らかさと強い凸性について様々な設定で通信促進を実現する。 さらに、不正確な局所解法の使用を理論的に保証し、不正確な局所解であっても最適な通信複雑性を保っている。 DualFLは、コスト関数が非滑らかか非強凸であっても、通信加速を達成する最初のフェデレーション学習アルゴリズムである。 数値計算により、dualflの実用性能は最先端のフェデレーション学習アルゴリズムに匹敵するものであることが示され、ハイパーパラメータチューニングに関して堅牢である。

関連論文リスト

• Semi-Federated Learning: Convergence Analysis and Optimization of A Hybrid Learning Framework [70.83511997272457]
  本稿では,ベースステーション(BS)とデバイスの両方を活用するセミフェデレーション学習(SemiFL)パラダイムを提案し,中央集権学習(CL)とFLのハイブリッド実装を提案する。 我々はこの難解な問題を解くための2段階のアルゴリズムを提案し、ビームフォーマに閉形式解を提供する。
  論文  参考訳（メタデータ） (2023-10-04T03:32:39Z)
• Communication-Efficient Federated Bilevel Optimization with Local and Global Lower Level Problems [118.00379425831566]
  我々はFedBiOAccという通信効率の高いアルゴリズムを提案する。 我々は、FedBiOAcc-Localがこの種の問題に対して同じ速度で収束していることを証明する。 実験結果から,アルゴリズムの性能が向上した。
  論文  参考訳（メタデータ） (2023-02-13T21:28:53Z)
• Faster Adaptive Federated Learning [84.38913517122619]
  フェデレートラーニングは分散データの出現に伴って注目を集めている。 本稿では,クロスサイロFLにおけるモーメントに基づく分散低減手法に基づく適応アルゴリズム(FAFED)を提案する。
  論文  参考訳（メタデータ） (2022-12-02T05:07:50Z)
• Faster Adaptive Momentum-Based Federated Methods for Distributed Composition Optimization [14.579475552088692]
  非分散合成問題の解法として,高速なフェデレート合成最適化アルゴリズム(MFCGDとAdaMFCGD)を提案する。 特に、我々の適応アルゴリズム(AdaMFCGD)は、様々な適応学習率を柔軟に組み込むために統一適応行列を使用する。
  論文  参考訳（メタデータ） (2022-11-03T15:17:04Z)
• Multi-Resource Allocation for On-Device Distributed Federated Learning Systems [79.02994855744848]
  本研究は,デバイス上の分散フェデレーション学習(FL)システムにおいて,レイテンシとエネルギー消費の重み付け和を最小化する分散マルチリソース割り当て方式を提案する。 システム内の各モバイルデバイスは、指定された領域内でモデルトレーニングプロセスを実行し、それぞれパラメータの導出とアップロードを行うための計算と通信資源を割り当てる。
  論文  参考訳（メタデータ） (2022-11-01T14:16:05Z)
• Predictive GAN-powered Multi-Objective Optimization for Hybrid Federated Split Learning [56.125720497163684]
  無線ネットワークにおけるハイブリッド・フェデレーション・スプリット・ラーニング・フレームワークを提案する。 ラベル共有のないモデル分割のための並列計算方式を設計し,提案方式が収束速度に与える影響を理論的に解析する。
  論文  参考訳（メタデータ） (2022-09-02T10:29:56Z)
• Compositional federated learning: Applications in distributionally robust averaging and meta learning [31.97853929292195]
  本稿では,新しい構成フェデレートラーニング(FL)フレームワークを解くための,効率的かつ効率的な合成フェデレートラーニング(ComFedL)アルゴリズムを提案する。 我々はComFedLアルゴリズムが$O(frac1sqrtT)$の収束率を達成することを証明した。
  論文  参考訳（メタデータ） (2021-06-21T17:08:09Z)
• Federated Learning with Randomized Douglas-Rachford Splitting Methods [30.998685972581754]
  我々は textbfFedDR と textbfDRaa という2つの新しいアルゴリズムを開発した。 解析の結果,新しいアルゴリズムはより低い仮定下での通信効率と一致していることがわかった。
  論文  参考訳（メタデータ） (2021-03-05T03:24:04Z)
• Secure Bilevel Asynchronous Vertical Federated Learning with Backward Updating [159.48259714642447]
  垂直拡張学習(VFL)は、多人数協調モデリングの要求とプライバシー漏洩の懸念により、注目を集めている。 我々は,vf$b2$を含む3つの新しいアルゴリズムを提案する新しいbftextlevel parallel architecture (vf$bfb2$)を提案する。
  論文  参考訳（メタデータ） (2021-03-01T12:34:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。