論文の概要: Fast Federated Edge Learning with Overlapped Communication and
Computation and Channel-Aware Fair Client Scheduling
- arxiv url: http://arxiv.org/abs/2109.06710v1
- Date: Tue, 14 Sep 2021 14:16:01 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-15 21:15:04.162096
- Title: Fast Federated Edge Learning with Overlapped Communication and
Computation and Channel-Aware Fair Client Scheduling
- Title(参考訳): オーバーラップ通信と計算とチャネル対応公正クライアントスケジューリングによる高速フェデレーションエッジ学習
- Authors: Mehmet Emre Ozfatura, Junlin Zhao, and Deniz G\"und\"uz
- Abstract要約: 我々は、ダウンリンクおよびアップリンクチャネルのレイテンシを考慮した、無線フェージングチャネルに対するフェデレーションエッジ学習(FEEL)を検討する。
本稿では,年齢を考慮したMRTP(A-MRTP)と,機会的に公正なMRTP(OF-MRTP)という,公平性を考慮した2つの方法を提案する。
数値シミュレーションにより,OF-MRTPは試験精度を犠牲にすることなく,遅延を著しく低減できることを示した。
- 参考スコア(独自算出の注目度): 2.294014185517203
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider federated edge learning (FEEL) over wireless fading channels
taking into account the downlink and uplink channel latencies, and the random
computation delays at the clients. We speed up the training process by
overlapping the communication with computation. With fountain coded
transmission of the global model update, clients receive the global model
asynchronously, and start performing local computations right away. Then, we
propose a dynamic client scheduling policy, called MRTP, for uploading local
model updates to the parameter server (PS), which, at any time, schedules the
client with the minimum remaining upload time. However, MRTP can lead to biased
participation of clients in the update process, resulting in performance
degradation in non-iid data scenarios. To overcome this, we propose two
alternative schemes with fairness considerations, termed as age-aware MRTP
(A-MRTP), and opportunistically fair MRTP (OF-MRTP). In A-MRTP, the remaining
clients are scheduled according to the ratio between their remaining
transmission time and the update age, while in OF-MRTP, the selection mechanism
utilizes the long term average channel rate of the clients to further reduce
the latency while ensuring fair participation of the clients. It is shown
through numerical simulations that OF-MRTP provides significant reduction in
latency without sacrificing test accuracy.
- Abstract(参考訳): 我々は,ダウンリンクとアップリンクチャネルの遅延とクライアントのランダムな計算遅延を考慮した無線フェージングチャネル上でのフェデレーションエッジ学習(feel)を検討する。
我々は,コミュニケーションと計算を重ねることで,学習プロセスを高速化する。
グローバルモデル更新のファウンテンコード送信により、クライアントは非同期にグローバルモデルを受け取り、ローカルな計算をすぐに開始する。
そこで我々は,パラメータサーバ(PS)にローカルモデル更新をアップロードするMRTPと呼ばれる動的クライアントスケジューリングポリシーを提案する。
しかし、MRTPは更新プロセスにおけるクライアントの偏りを招き、非IDデータシナリオのパフォーマンスが低下する可能性がある。
そこで本稿では,年齢を考慮したMRTP (A-MRTP) と,OF-MRTP (OF-MRTP) の2つの方法を提案する。
A-MRTPでは、残りの送信時間と更新時間との比率に応じて残りのクライアントをスケジュールし、OF-MRTPでは、クライアントの長期平均チャネルレートを利用して、クライアントの公正な参加を確保しながら、遅延をさらに低減する。
数値シミュレーションにより,OF-MRTPは試験精度を犠牲にすることなく遅延を著しく低減できることを示した。
関連論文リスト
- Modelling Concurrent RTP Flows for End-to-end Predictions of QoS in Real Time Communications [5.159808922904932]
本稿では,QoS(Quality of Service)メトリクスを予測するための新しいディープラーニングフレームワークであるPacket-to-Prediction (P2P)を提案する。
我々は,無制限のRTPフローを処理可能な合理化アーキテクチャを実装し,マルチタスク学習パラダイムを用いて4つの重要なメトリクスを1ショットで予測する。
我々の研究は、実ビデオ通話中に収集された広範囲なトラフィックに基づいており、P2Pは予測性能と時間効率の両方で比較モデルに優れています。
論文 参考訳(メタデータ) (2024-10-21T10:16:56Z) - Risk-Aware Accelerated Wireless Federated Learning with Heterogeneous
Clients [21.104752782245257]
Wireless Federated Learning (FL)は、分散機械学習のパラダイムである。
本稿では,クライアントが保有するデータ量の不均一性を考慮したリスク認識型FLフレームワークを提案する。
提案されたスキームは、保守的なスキーム(すなわち、信頼できるデバイスのみを許可する)と攻撃的なスキーム(すなわち、信頼度を無視する)に対してベンチマークされる。
論文 参考訳(メタデータ) (2024-01-17T15:15:52Z) - Client Orchestration and Cost-Efficient Joint Optimization for
NOMA-Enabled Hierarchical Federated Learning [55.49099125128281]
半同期クラウドモデルアグリゲーションの下で非直交多重アクセス(NOMA)を実現するHFLシステムを提案する。
提案手法は,HFLの性能改善と総コスト削減に関するベンチマークよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-11-03T13:34:44Z) - Joint Age-based Client Selection and Resource Allocation for
Communication-Efficient Federated Learning over NOMA Networks [8.030674576024952]
FL(Federated Learning)では、分散クライアントは、自身のトレーニングデータをローカルに保持しながら、共有グローバルモデルを共同でトレーニングすることができる。
本稿では,非直交多重アクセス(NOMA)を利用した無線ネットワーク上でのFLにおける各ラウンドの総時間消費を最小化することを目的とした,クライアント選択とリソース割り当ての協調最適化問題を定式化する。
さらに、各ラウンドで選択されていないクライアントのFLモデルを予測し、FL性能をさらに向上するために、サーバサイド人工知能ニューラルネットワーク(ANN)を提案する。
論文 参考訳(メタデータ) (2023-04-18T13:58:16Z) - Robust Federated Learning with Connectivity Failures: A
Semi-Decentralized Framework with Collaborative Relaying [27.120495678791883]
断続的なクライアント接続は、集中型フェデレーションエッジ学習フレームワークにおける大きな課題の1つです。
協調リレーに基づく半分散型エッジ学習フレームワークを提案する。
論文 参考訳(メタデータ) (2022-02-24T01:06:42Z) - Communication-Efficient Federated Learning with Accelerated Client Gradient [46.81082897703729]
フェデレーション学習は、クライアントデータセットの不均一な特徴のために、遅くて不安定な収束に悩まされることが多い。
本稿では,クライアント間の一貫性を改善し,サーバモデルの収束を容易にする,シンプルだが効果的なフェデレーション学習フレームワークを提案する。
我々は,アルゴリズムの理論的収束率を示し,精度と通信効率の点で顕著な性能向上を示す。
論文 参考訳(メタデータ) (2022-01-10T05:31:07Z) - Low-Latency Federated Learning over Wireless Channels with Differential
Privacy [142.5983499872664]
フェデレートラーニング(FL)では、モデルトレーニングはクライアントに分散し、ローカルモデルは中央サーバによって集約される。
本稿では,各クライアントの差分プライバシ(DP)要件だけでなく,全体としてのトレーニング性能に制約された無線チャネル上でのFLトレーニング遅延を最小限に抑えることを目的とする。
論文 参考訳(メタデータ) (2021-06-20T13:51:18Z) - Joint Client Scheduling and Resource Allocation under Channel
Uncertainty in Federated Learning [47.97586668316476]
無線ネットワーク上のフェデレートラーニング(FL)は、クライアントサーバの接続性とクライアントのローカル計算能力の信頼性に依存する。
本稿では、FLを用いたモデルトレーニングの性能を高めるため、クライアントスケジューリングとリソースブロック(RB)割り当ての問題について検討する。
提案手法は,最先端クライアントスケジューリングやRBアロケーション手法と比較して,トレーニング精度損失のギャップを最大40.7%削減する。
論文 参考訳(メタデータ) (2021-06-12T15:18:48Z) - Straggler-Resilient Federated Learning: Leveraging the Interplay Between
Statistical Accuracy and System Heterogeneity [57.275753974812666]
フェデレーション学習は、データをローカルに保持しながら、クライアントのネットワークに分散したデータサンプルから学習する。
本稿では,学習手順を高速化するために,クライアントデータの統計的特徴を取り入れてクライアントを適応的に選択する,ストラグラー・レジリエントなフェデレーション学習手法を提案する。
論文 参考訳(メタデータ) (2020-12-28T19:21:14Z) - Multi-Armed Bandit Based Client Scheduling for Federated Learning [91.91224642616882]
統合学習(FL)は、通信オーバーヘッドの低減やデータのプライバシの保護など、ユビキタスな特性を特徴とする。
FLの各通信ラウンドでは、クライアントは自身のデータに基づいてローカルモデルを更新し、無線チャネル経由でローカル更新をアップロードする。
本研究は、無線チャネルの状態情報やクライアントの統計的特性を知ることなく、FLにおけるオンラインクライアントスケジューリング(CS)のためのマルチアームバンディットベースのフレームワークを提供する。
論文 参考訳(メタデータ) (2020-07-05T12:32:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。