論文の概要: Hierarchical Over-the-Air Federated Edge Learning
- arxiv url: http://arxiv.org/abs/2112.11167v1
- Date: Tue, 21 Dec 2021 13:02:10 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-22 15:38:56.991931
- Title: Hierarchical Over-the-Air Federated Edge Learning
- Title（参考訳）: 階層的オーバーザエアエッジ学習
- Authors: Ozan Ayg\"un, Mohammad Kazemi, Deniz G\"und\"uz, Tolga M. Duman
- Abstract要約: モバイルユーザ(MU)の近くにクラスタを形成するための階層的オーバー・ザ・エア・フェデレーション・ラーニング(HOTAFL)を提案する。
我々は,グローバルアグリゲーション前の各クラスタの局所アグリゲーションがOTA FLよりも優れた性能と高速な収束をもたらすことを理論的および実験的に示す。
- 参考スコア（独自算出の注目度）: 26.553214197361626
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning (FL) over wireless communication channels, specifically,
over-the-air (OTA) model aggregation framework is considered. In OTA wireless
setups, the adverse channel effects can be alleviated by increasing the number
of receive antennas at the parameter server (PS), which performs model
aggregation. However, the performance of OTA FL is limited by the presence of
mobile users (MUs) located far away from the PS. In this paper, to mitigate
this limitation, we propose hierarchical over-the-air federated learning
(HOTAFL), which utilizes intermediary servers (IS) to form clusters near MUs.
We provide a convergence analysis for the proposed setup, and demonstrate
through theoretical and experimental results that local aggregation in each
cluster before global aggregation leads to a better performance and faster
convergence than OTA FL.
- Abstract（参考訳）: 無線通信チャネル上でのフェデレーション学習(FL)、特にOTA(Over-the-air)モデル集約フレームワークを検討する。
OTA無線では、パラメータサーバ(PS)における受信アンテナの数を増やし、モデルアグリゲーションを行うことにより、悪質なチャネル効果を軽減することができる。
しかし、OTA FLの性能はPSから遠く離れたモバイルユーザ(MU)の存在によって制限される。
本稿では,この制限を緩和するために,中間サーバ (is) を利用した階層型over-the-air federated learning (hotafl)を提案する。
提案手法の収束解析を行い,大域的な集約の前に各クラスタの局所的な集約が,ota flよりも優れた性能と高速収束をもたらすことを理論的および実験的に実証する。
関連論文リスト
- UAV-assisted Unbiased Hierarchical Federated Learning: Performance and Convergence Analysis [16.963596661873954]
HFL(Hierarchical Federated Learning)は、エッジデバイス間で学習を分散し、グローバルインテリジェンスに到達するための重要なパラダイムである。
HFLでは、各エッジデバイスが各データを使用してローカルモデルをトレーニングし、更新されたモデルパラメータをエッジサーバに送信し、ローカルアグリゲーションを行う。
本稿では無人航空機(UAV)支援無線ネットワークのための非バイアスHFLアルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-07-05T06:23:01Z) - Stragglers-Aware Low-Latency Synchronous Federated Learning via Layer-Wise Model Updates [71.81037644563217]
同期フェデレーションラーニング(FL)は、協調エッジラーニングの一般的なパラダイムである。
一部のデバイスは計算資源が限られており、様々な可用性があるため、FLレイテンシはストラグラーに非常に敏感である。
本稿では,NNの最適化手法をバックプロパゲーションにより活用し,グローバルモデルを階層的に更新するストラグラー対応層対応学習(SALF)を提案する。
論文 参考訳（メタデータ） (2024-03-27T09:14:36Z) - Over-the-Air Federated Learning and Optimization [52.5188988624998]
エッジ・ザ・エア計算(AirComp)によるフェデレーション学習(FL)に焦点を当てる。
本稿では,AirComp ベースの FedAvg (AirFedAvg) アルゴリズムの凸および非凸条件下での収束について述べる。
エッジデバイス(モデル、勾配、モデル差など)で送信できるローカルアップデートの種類によって、AirFedAvgで送信するとアグリゲーションエラーが発生する可能性がある。
さらに、より実用的な信号処理方式を検討し、通信効率を改善し、これらの信号処理方式によって引き起こされるモデル集約誤差の異なる形式に収束解析を拡張する。
論文 参考訳（メタデータ） (2023-10-16T05:49:28Z) - Adaptive Federated Pruning in Hierarchical Wireless Networks [69.6417645730093]
Federated Learning(FL)は、サーバがプライベートデータセットにアクセスすることなく、複数のデバイスによって更新されたモデルを集約する、プライバシ保護の分散学習フレームワークである。
本稿では,無線ネットワークにおけるHFLのモデルプルーニングを導入し,ニューラルネットワークの規模を小さくする。
提案するHFLは,モデルプルーニングを伴わないHFLと比較して学習精度が良く,通信コストが約50%削減できることを示す。
論文 参考訳（メタデータ） (2023-05-15T22:04:49Z) - Hierarchical Personalized Federated Learning Over Massive Mobile Edge
Computing Networks [95.39148209543175]
大規模MECネットワーク上でPFLをデプロイするアルゴリズムである階層型PFL(HPFL)を提案する。
HPFLは、最適帯域割り当てを共同で決定しながら、トレーニング損失最小化とラウンドレイテンシ最小化の目的を組み合わせる。
論文 参考訳（メタデータ） (2023-03-19T06:00:05Z) - Over-The-Air Clustered Wireless Federated Learning [2.2530496464901106]
クライアントがパラメータ更新を同時にサーバに送信できるので、Over-the-air (OTA) FLが好ましい。
強力なサーバがなければ、クライアントが隣人と通信してコンセンサスMLモデルを取得する分散戦略が採用される。
本稿では,OTA半分散クラスタリング無線FL(CWFL)とCWFL-Proxアルゴリズムを提案する。
論文 参考訳（メタデータ） (2022-11-07T08:34:35Z) - Over-the-Air Federated Edge Learning with Hierarchical Clustering [21.51594138166343]
OTA(Over-the-air)アグリゲーションでは、パラメータサーバ(PS)の助けを借りて、モバイルユーザ(MU)がグローバルモデルに関するコンセンサスに到達することを目標としている。
OTA FLでは、MUはトレーニングラウンド毎にローカルデータを使用してモデルをトレーニングし、同じ周波数帯域を非符号化で同時に送信する。
OTA FLは通信コストが大幅に削減されているが、チャネル効果やノイズの影響を受けやすい。
我々は、中間サーバ(IS)を用いてMUがより密集した場所にクラスタを形成する無線ベースの階層FLスキームを提案する。
論文 参考訳（メタデータ） (2022-07-19T12:42:12Z) - Over-the-Air Federated Learning with Joint Adaptive Computation and
Power Control [30.7130850260223]
本稿では,オーバー・ザ・エア・コンピューティング・ラーニング(OTA-FL)について考察する。
OTA-FLは、無線媒体の重ね合わせ特性を利用して、空気上のアグリゲーションを無料で行う。
論文 参考訳（メタデータ） (2022-05-12T03:28:03Z) - Over-the-Air Federated Learning from Heterogeneous Data [107.05618009955094]
フェデレートラーニング(Federated Learning、FL)は、集中型モデルの分散ラーニングのためのフレームワークである。
我々は,共通局所勾配勾配勾配(SGD)FLアルゴリズムを強化するコンバージェント OTA FL (COTAF) アルゴリズムを開発した。
我々は,COTAFにより誘導されるプリコーディングが,OTA FLを用いて訓練されたモデルの収束率と精度を顕著に向上させることを示す。
論文 参考訳（メタデータ） (2020-09-27T08:28:25Z) - Federated Learning in the Sky: Joint Power Allocation and Scheduling
with UAV Swarms [98.78553146823829]
無人航空機(UAV)は様々なタスクを実行するために機械学習(ML)を利用する必要がある。
本稿では,UAVスワム内に分散学習(FL)アルゴリズムを実装するための新しいフレームワークを提案する。
論文 参考訳（メタデータ） (2020-02-19T14:04:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。