論文の概要: Federated Multi-Sequence Stochastic Approximation with Local Hypergradient Estimation

• arxiv url: http://arxiv.org/abs/2306.01648v1
• Date: Fri, 2 Jun 2023 16:17:43 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-05 14:23:03.533863
• Title: Federated Multi-Sequence Stochastic Approximation with Local Hypergradient Estimation
• Title（参考訳）: 局所過次推定を用いた多系列確率近似
• Authors: Davoud Ataee Tarzanagh, Mingchen Li, Pranay Sharma, Samet Oymak
• Abstract要約: 我々は、多重結合配列(MSA)のための最初のフェデレーション近似アルゴリズムであるFedMSAを開発した。 FedMSAは、ローカルクライアントのアップデートを通じて、BLOとMCOのハイパーグラディエントを証明可能な見積もりを可能にする。 我々は我々の理論を裏付ける実験を行い、FedMSAの実証的な利点を実証する。
• 参考スコア（独自算出の注目度）: 28.83712379658548
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Stochastic approximation with multiple coupled sequences (MSA) has found broad applications in machine learning as it encompasses a rich class of problems including bilevel optimization (BLO), multi-level compositional optimization (MCO), and reinforcement learning (specifically, actor-critic methods). However, designing provably-efficient federated algorithms for MSA has been an elusive question even for the special case of double sequence approximation (DSA). Towards this goal, we develop FedMSA which is the first federated algorithm for MSA, and establish its near-optimal communication complexity. As core novelties, (i) FedMSA enables the provable estimation of hypergradients in BLO and MCO via local client updates, which has been a notable bottleneck in prior theory, and (ii) our convergence guarantees are sensitive to the heterogeneity-level of the problem. We also incorporate momentum and variance reduction techniques to achieve further acceleration leading to near-optimal rates. Finally, we provide experiments that support our theory and demonstrate the empirical benefits of FedMSA. As an example, FedMSA enables order-of-magnitude savings in communication rounds compared to prior federated BLO schemes.
• Abstract（参考訳）: マルチカップリングシーケンス(MSA)による確率近似は、バイレベル最適化(BLO)、マルチレベル合成最適化(MCO)、強化学習(特にアクター批判的手法)など、機械学習における幅広い応用を見出した。 しかし、二列近似(dsa)の特別な場合であっても、msaの有理効率なフェデレーションアルゴリズムの設計は不可解な問題であった。 この目標に向けて,MSAのフェデレーションアルゴリズムであるFedMSAを開発し,その準最適通信複雑性を確立する。 コア・ノベルティとして (i)FedMSAは、BLOとMCOのローカルクライアント更新による高次化の証明可能な推定を可能にする。 (ii)我々の収束保証は、問題の異質性レベルに敏感である。 また, 運動量や分散低減技術も取り入れ, 最適に近い速度に繋がるさらなる加速を実現する。 最後に,本理論を支持する実験を行い,fedmsaの実証的効果を示す。 例として、FedMSAは、以前の連合BLO方式と比較して、通信ラウンドのオーダー・オブ・マグニチュード・セーブを可能にする。

関連論文リスト

• Adaptive Swarm Mesh Refinement using Deep Reinforcement Learning with Local Rewards [12.455977048107671]
  Adaptive Mesh Refinement (AMR) は有限要素法(FEM)を改良する 我々は、AMRを複数の新しいエージェントに反復的に分割する、協調的、均質なエージェントのシステムとして定式化する。 我々のアプローチであるAdaptive Swarm Mesh Refinement (ASMR)は、効率的な安定した最適化を提供し、推論中にユーザ定義の解像度で高度に適応的なメッシュを生成する。
  論文  参考訳（メタデータ） (2024-06-12T17:26:54Z)
• Federated Conditional Stochastic Optimization [110.513884892319]
  条件付き最適化は、不変学習タスク、AUPRC、AMLなど、幅広い機械学習タスクで見られる。 本稿では,分散フェデレーション学習のためのアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-10-04T01:47:37Z)
• Federated Compositional Deep AUC Maximization [58.25078060952361]
  本研究では,曲線(AUC)のスコアを直接最適化することにより,不均衡なデータに対する新しいフェデレート学習法を開発した。 私たちの知る限りでは、このような好ましい理論的な結果を達成した最初の作品である。
  論文  参考訳（メタデータ） (2023-04-20T05:49:41Z)
• Communication-Efficient Federated Bilevel Optimization with Local and Global Lower Level Problems [118.00379425831566]
  我々はFedBiOAccという通信効率の高いアルゴリズムを提案する。 我々は、FedBiOAcc-Localがこの種の問題に対して同じ速度で収束していることを証明する。 実験結果から,アルゴリズムの性能が向上した。
  論文  参考訳（メタデータ） (2023-02-13T21:28:53Z)
• Federated Expectation Maximization with heterogeneity mitigation and variance reduction [0.0]
  本稿では、潜在変数モデルに対する期待最大化(EM)アルゴリズムの最初の拡張であるFedEMを紹介する。 通信の複雑さを軽減するため、FedEMは十分なデータ統計を適切に定義した。 その結果,生物多様性モニタリングに欠落した値の計算処理を応用した理論的知見が得られた。
  論文  参考訳（メタデータ） (2021-11-03T09:14:34Z)
• Efficient Model-Based Multi-Agent Mean-Field Reinforcement Learning [89.31889875864599]
  マルチエージェントシステムにおける学習に有効なモデルベース強化学習アルゴリズムを提案する。 我々の理論的な貢献は、MFCのモデルベース強化学習における最初の一般的な後悔の限界である。 コア最適化問題の実用的なパラメトリゼーションを提供する。
  論文  参考訳（メタデータ） (2021-07-08T18:01:02Z)
• Tight Mutual Information Estimation With Contrastive Fenchel-Legendre Optimization [69.07420650261649]
  我々はFLOと呼ばれる新しい,シンプルで強力なコントラストMI推定器を提案する。 実証的に、我々のFLO推定器は前者の限界を克服し、より効率的に学習する。 FLOの有効性は、広範囲なベンチマークを用いて検証され、実際のMI推定におけるトレードオフも明らかにされる。
  論文  参考訳（メタデータ） (2021-07-02T15:20:41Z)
• Permutation Invariant Policy Optimization for Mean-Field Multi-Agent Reinforcement Learning: A Principled Approach [128.62787284435007]
  本稿では,平均場近似ポリシ最適化(MF-PPO)アルゴリズムを提案する。 我々は,MF-PPOが収束のサブ線形速度で世界的最適政策を達成することを証明した。 特に、置換不変ニューラルアーキテクチャによって引き起こされる誘導バイアスは、MF-PPOが既存の競合より優れていることを示す。
  論文  参考訳（メタデータ） (2021-05-18T04:35:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。