論文の概要: Over-the-Air Federated Learning with Joint Adaptive Computation and Power Control

• arxiv url: http://arxiv.org/abs/2205.05867v1
• Date: Thu, 12 May 2022 03:28:03 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-13 23:21:06.678523
• Title: Over-the-Air Federated Learning with Joint Adaptive Computation and Power Control
• Title（参考訳）: 適応計算と電力制御を併用したオーバーザ・エアフェデレーション学習
• Authors: Haibo Yang, Peiwen Qiu, Jia Liu and Aylin Yener
• Abstract要約: 本稿では,オーバー・ザ・エア・コンピューティング・ラーニング(OTA-FL)について考察する。 OTA-FLは、無線媒体の重ね合わせ特性を利用して、空気上のアグリゲーションを無料で行う。
• 参考スコア（独自算出の注目度）: 30.7130850260223
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper considers over-the-air federated learning (OTA-FL). OTA-FL exploits the superposition property of the wireless medium, and performs model aggregation over the air for free. Thus, it can greatly reduce the communication cost incurred in communicating model updates from the edge devices. In order to fully utilize this advantage while providing comparable learning performance to conventional federated learning that presumes model aggregation via noiseless channels, we consider the joint design of transmission scaling and the number of local iterations at each round, given the power constraint at each edge device. We first characterize the training error due to such channel noise in OTA-FL by establishing a fundamental lower bound for general functions with Lipschitz-continuous gradients. Then, by introducing an adaptive transceiver power scaling scheme, we propose an over-the-air federated learning algorithm with joint adaptive computation and power control (ACPC-OTA-FL). We provide the convergence analysis for ACPC-OTA-FL in training with non-convex objective functions and heterogeneous data. We show that the convergence rate of ACPC-OTA-FL matches that of FL with noise-free communications.
• Abstract（参考訳）: 本稿では,ota-fl(over-the-air federated learning)について述べる。 OTA-FLは、無線媒体の重ね合わせ特性を利用して、空気上のモデルアグリゲーションを無料で行う。 これにより、エッジデバイスからの通信モデル更新で発生する通信コストを大幅に削減することができる。 この利点を最大限に活用し、ノイズのないチャネルによるモデルアグリゲーションを想定した従来型のフェデレーション学習に匹敵する学習性能を提供しながら、各エッジデバイスにおける電力制約を考慮した伝送スケーリングと各ラウンドの局所イテレーション数について考察する。 我々はまず,リプシッツ連続勾配を持つ一般関数の基本下界を確立することにより,OTA-FLのチャネルノイズによるトレーニング誤差を特徴づける。 次に,適応的トランシーバパワースケーリングスキームを導入することで,協調適応計算と電力制御(acpc-ota-fl)を備えた,空気上フェデレート学習アルゴリズムを提案する。 非凸目的関数と異種データを用いたトレーニングにおけるACPC-OTA-FLの収束解析について述べる。 本稿では,ACPC-OTA-FLの収束速度がFLのノイズフリー通信と一致することを示す。

関連論文リスト

• UAV-assisted Unbiased Hierarchical Federated Learning: Performance and Convergence Analysis [16.963596661873954]
  HFL(Hierarchical Federated Learning)は、エッジデバイス間で学習を分散し、グローバルインテリジェンスに到達するための重要なパラダイムである。 HFLでは、各エッジデバイスが各データを使用してローカルモデルをトレーニングし、更新されたモデルパラメータをエッジサーバに送信し、ローカルアグリゲーションを行う。 本稿では無人航空機(UAV)支援無線ネットワークのための非バイアスHFLアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2024-07-05T06:23:01Z)
• Over-the-Air Federated Learning and Optimization [52.5188988624998]
  エッジ・ザ・エア計算(AirComp)によるフェデレーション学習(FL)に焦点を当てる。 本稿では,AirComp ベースの FedAvg (AirFedAvg) アルゴリズムの凸および非凸条件下での収束について述べる。 エッジデバイス(モデル、勾配、モデル差など)で送信できるローカルアップデートの種類によって、AirFedAvgで送信するとアグリゲーションエラーが発生する可能性がある。 さらに、より実用的な信号処理方式を検討し、通信効率を改善し、これらの信号処理方式によって引き起こされるモデル集約誤差の異なる形式に収束解析を拡張する。
  論文  参考訳（メタデータ） (2023-10-16T05:49:28Z)
• Adaptive Model Pruning and Personalization for Federated Learning over Wireless Networks [72.59891661768177]
  フェデレーション学習(FL)は、データプライバシを保護しながら、エッジデバイス間での分散学習を可能にする。 これらの課題を克服するために、部分的なモデルプルーニングとパーソナライズを備えたFLフレームワークを検討する。 このフレームワークは、学習モデルを、データ表現を学ぶためにすべてのデバイスと共有されるモデルプルーニングと、特定のデバイスのために微調整されるパーソナライズされた部分とで、グローバルな部分に分割する。
  論文  参考訳（メタデータ） (2023-09-04T21:10:45Z)
• Channel and Gradient-Importance Aware Device Scheduling for Over-the-Air Federated Learning [31.966999085992505]
  フェデレートラーニング(Federated Learning、FL)は、プライバシ保護のための分散トレーニングスキームである。 チャネルノイズ歪みの負の影響を緩和するために,PO-FL というオーバー・ザ・エア FL のための機器スケジューリングフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-05-26T12:04:59Z)
• Vertical Federated Learning over Cloud-RAN: Convergence Analysis and System Optimization [82.12796238714589]
  高速かつ正確なモデルアグリゲーションを実現するために,クラウド無線アクセスネットワーク(Cloud-RAN)ベースの垂直FLシステムを提案する。 アップリンクとダウンリンクの両方の伝送を考慮した垂直FLアルゴリズムの収束挙動を特徴付ける。 我々は,連続凸近似と代替凸探索に基づくシステム最適化アルゴリズムを開発した,連系トランシーバとフロントホール量子化設計によるシステム最適化フレームワークを構築した。
  論文  参考訳（メタデータ） (2023-05-04T09:26:03Z)
• Hierarchical Over-the-Air Federated Edge Learning [26.553214197361626]
  モバイルユーザ(MU)の近くにクラスタを形成するための階層的オーバー・ザ・エア・フェデレーション・ラーニング(HOTAFL)を提案する。 我々は,グローバルアグリゲーション前の各クラスタの局所アグリゲーションがOTA FLよりも優れた性能と高速な収束をもたらすことを理論的および実験的に示す。
  論文  参考訳（メタデータ） (2021-12-21T13:02:10Z)
• Over-the-Air Federated Learning with Retransmissions (Extended Version) [21.37147806100865]
  資源制約のある無線ネットワーク上でのフェデレート学習(FL)の収束に対する推定誤差の影響について検討する。 資源制約のある無線ネットワーク上でFL収束を改善する手法として再送信を提案する。
  論文  参考訳（メタデータ） (2021-11-19T15:17:15Z)
• Over-the-Air Federated Learning from Heterogeneous Data [107.05618009955094]
  フェデレートラーニング(Federated Learning、FL)は、集中型モデルの分散ラーニングのためのフレームワークである。 我々は,共通局所勾配勾配勾配(SGD)FLアルゴリズムを強化するコンバージェント OTA FL (COTAF) アルゴリズムを開発した。 我々は,COTAFにより誘導されるプリコーディングが,OTA FLを用いて訓練されたモデルの収束率と精度を顕著に向上させることを示す。
  論文  参考訳（メタデータ） (2020-09-27T08:28:25Z)
• Gradient Statistics Aware Power Control for Over-the-Air Federated Learning [59.40860710441232]
  フェデレートラーニング(FL)は、多くのエッジデバイスが無線ネットワークで機械学習モデルを協調的にトレーニングできる有望なテクニックである。 本稿では、勾配統計を考慮に入れたオーバー・ザ・エアFLの電力制御問題について検討する。
  論文  参考訳（メタデータ） (2020-03-04T14:06:51Z)
• Federated Learning in the Sky: Joint Power Allocation and Scheduling with UAV Swarms [98.78553146823829]
  無人航空機(UAV)は様々なタスクを実行するために機械学習(ML)を利用する必要がある。 本稿では,UAVスワム内に分散学習(FL)アルゴリズムを実装するための新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-02-19T14:04:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。