論文の概要: Dynamic Scheduling for Over-the-Air Federated Edge Learning with Energy
Constraints
- arxiv url: http://arxiv.org/abs/2106.00490v1
- Date: Mon, 31 May 2021 08:55:02 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-02 14:00:31.320016
- Title: Dynamic Scheduling for Over-the-Air Federated Edge Learning with Energy
Constraints
- Title(参考訳): エネルギー制約付きオーバーザ・エアフェデレーションエッジ学習のための動的スケジューリング
- Authors: Yuxuan Sun, Sheng Zhou, Zhisheng Niu, Deniz G\"und\"uz
- Abstract要約: アナログ勾配アグリゲーションを用いた空対空FEELシステムについて検討する。
トレーニング性能を最適化するために,エネルギーを考慮した動的デバイススケジューリングアルゴリズムを提案する。
高度に不均衡なローカルデータ分布の下では、提案アルゴリズムは精度を4.9%向上させることができる。
- 参考スコア(独自算出の注目度): 44.311278843238675
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Machine learning and wireless communication technologies are jointly
facilitating an intelligent edge, where federated edge learning (FEEL) is a
promising training framework. As wireless devices involved in FEEL are resource
limited in terms of communication bandwidth, computing power and battery
capacity, it is important to carefully schedule them to optimize the training
performance. In this work, we consider an over-the-air FEEL system with analog
gradient aggregation, and propose an energy-aware dynamic device scheduling
algorithm to optimize the training performance under energy constraints of
devices, where both communication energy for gradient aggregation and
computation energy for local training are included. The consideration of
computation energy makes dynamic scheduling challenging, as devices are
scheduled before local training, but the communication energy for over-the-air
aggregation depends on the l2-norm of local gradient, which is known after
local training. We thus incorporate estimation methods into scheduling to
predict the gradient norm. Taking the estimation error into account, we
characterize the performance gap between the proposed algorithm and its offline
counterpart. Experimental results show that, under a highly unbalanced local
data distribution, the proposed algorithm can increase the accuracy by 4.9% on
CIFAR-10 dataset compared with the myopic benchmark, while satisfying the
energy constraints.
- Abstract(参考訳): 機械学習と無線通信技術は、フェデレーションエッジ学習(FEEL)が有望なトレーニングフレームワークであるインテリジェントエッジを共同で促進している。
FEELに関わる無線デバイスは、通信帯域、計算能力、バッテリー容量の点でリソースが限られているため、トレーニング性能を最適化するために、慎重にスケジュールしておくことが重要である。
本研究は, アナログ勾配集約を用いた空対空FEELシステムについて考察し, 機器のエネルギー制約下でのトレーニング性能を最適化するエネルギー対応動的デバイススケジューリングアルゴリズムを提案する。
計算エネルギーを考慮すれば、デバイスがローカルトレーニングの前にスケジュールされるため、動的スケジューリングが困難になるが、オーバーザ・エアアグリゲーションの通信エネルギーはローカルトレーニング後に知られている局所勾配のl2ノルムに依存する。
これにより,推定手法をスケジューリングに取り入れ,勾配ノルムを予測できる。
推定誤差を考慮に入れ,提案アルゴリズムとオフラインアルゴリズムの性能差を特徴付ける。
実験の結果、高度に不均衡な局所データ分布の下では、提案アルゴリズムはエネルギー制約を満たしつつ、CIFAR-10データセットの精度を4.9%向上させることができることがわかった。
関連論文リスト
- Energy-Efficient Federated Edge Learning with Streaming Data: A Lyapunov Optimization Approach [34.00679567444125]
本研究では,長期エネルギー制約下でのデータ到着や資源の可利用性に固有のランダム性に対処する動的スケジューリングと資源割当アルゴリズムを開発した。
提案アルゴリズムは, デバイススケジューリング, 計算容量調整, 帯域幅の割り当ておよび各ラウンドの送信電力を適応的に決定する。
本手法の有効性をシミュレーションにより検証し,ベースライン方式と比較して学習性能とエネルギー効率が向上したことを示す。
論文 参考訳(メタデータ) (2024-05-20T14:13:22Z) - Federated Learning With Energy Harvesting Devices: An MDP Framework [5.852486435612777]
フェデレートラーニング(FL)では、エッジデバイスがローカルトレーニングを実行し、パラメータサーバと情報を交換する必要がある。
実用FLシステムにおける重要な課題は、バッテリ限定エッジ装置の急激なエネルギー枯渇である。
FLシステムにエネルギー回収技術を適用し, エッジデバイスを連続的に駆動する環境エネルギーを抽出する。
論文 参考訳(メタデータ) (2024-05-17T03:41:40Z) - Rethinking Resource Management in Edge Learning: A Joint Pre-training and Fine-tuning Design Paradigm [87.47506806135746]
一部のアプリケーションでは、エッジラーニングは、スクラッチから新しい2段階ラーニングへと焦点を移している。
本稿では,2段階のエッジ学習システムにおける共同コミュニケーションと計算資源管理の問題について考察する。
事前学習および微調整段階に対する共同資源管理の提案は,システム性能のトレードオフをうまくバランスさせることが示されている。
論文 参考訳(メタデータ) (2024-04-01T00:21:11Z) - Lyapunov-Driven Deep Reinforcement Learning for Edge Inference Empowered
by Reconfigurable Intelligent Surfaces [30.1512069754603]
本稿では,ワイヤレスエッジにおけるエネルギー効率,低レイテンシ,高精度な推論のための新しいアルゴリズムを提案する。
本稿では,新しいデータを一連のデバイスで連続的に生成・収集し,動的キューシステムを通じて処理するシナリオについて考察する。
論文 参考訳(メタデータ) (2023-05-18T12:46:42Z) - Dynamic Scheduling for Federated Edge Learning with Streaming Data [56.91063444859008]
我々は,長期的エネルギー制約のある分散エッジデバイスにおいて,トレーニングデータを時間とともにランダムに生成するフェデレーションエッジ学習(FEEL)システムを検討する。
限られた通信リソースとレイテンシ要件のため、各イテレーションでローカルトレーニングプロセスに参加するのはデバイスのサブセットのみである。
論文 参考訳(メタデータ) (2023-05-02T07:41:16Z) - Federated Learning for Energy-limited Wireless Networks: A Partial Model
Aggregation Approach [79.59560136273917]
デバイス間の限られた通信資源、帯域幅とエネルギー、およびデータ不均一性は、連邦学習(FL)の主要なボトルネックである
まず、部分モデルアグリゲーション(PMA)を用いた新しいFLフレームワークを考案する。
提案されたPMA-FLは、2つの典型的な異種データセットにおいて2.72%と11.6%の精度を改善する。
論文 参考訳(メタデータ) (2022-04-20T19:09:52Z) - Collaborative Learning over Wireless Networks: An Introductory Overview [84.09366153693361]
主に、ワイヤレスデバイス間の協調トレーニングに焦点を合わせます。
過去数十年間、多くの分散最適化アルゴリズムが開発されてきた。
データ局所性 – すなわち、各参加デバイスで利用可能なデータがローカルのままである間、共同モデルを協調的にトレーニングすることができる。
論文 参考訳(メタデータ) (2021-12-07T20:15:39Z) - Wirelessly Powered Federated Edge Learning: Optimal Tradeoffs Between
Convergence and Power Transfer [42.30741737568212]
無線電力伝送(WPT)を用いた電力機器の解法を提案する。
本研究の目的は、無線で駆動するFEEL(WP-FEEL)システムの導入に関するガイドラインの導出である。
その結果、WPTプロビジョニングに関する有用なガイドラインを提供し、学習パフォーマンスの保証を提供します。
論文 参考訳(メタデータ) (2021-02-24T15:47:34Z) - To Talk or to Work: Flexible Communication Compression for Energy
Efficient Federated Learning over Heterogeneous Mobile Edge Devices [78.38046945665538]
巨大なモバイルエッジデバイス上でのフェデレーション学習(FL)は、多数のインテリジェントなモバイルアプリケーションのための新たな地平を開く。
FLは、定期的なグローバル同期と継続的なローカルトレーニングにより、参加するデバイスに膨大な通信と計算負荷を課す。
フレキシブルな通信圧縮を可能にする収束保証FLアルゴリズムを開発。
論文 参考訳(メタデータ) (2020-12-22T02:54:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。