論文の概要: Energy and Spectrum Efficient Federated Learning via High-Precision
Over-the-Air Computation
- arxiv url: http://arxiv.org/abs/2208.07237v1
- Date: Mon, 15 Aug 2022 14:47:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-16 13:15:25.817423
- Title: Energy and Spectrum Efficient Federated Learning via High-Precision
Over-the-Air Computation
- Title(参考訳): 高精度空中計算によるエネルギー・スペクトル高効率フェデレーション学習
- Authors: Liang Li, Chenpei Huang, Dian Shi, Hao Wang, Xiangwei Zhou, Minglei
Shu, Miao Pan
- Abstract要約: フェデレートラーニング(FL)は、データをローカルに保持しながら、モバイルデバイスが共同で共有予測モデルを学ぶことを可能にする。
モバイルデバイス上でFLを実際にデプロイする上で,2つの大きな研究課題がある。
FLにおける局所モデル更新のスペクトル効率向上のためのマルチビットオーバー・ザ・エアコン(M-AirComp)手法を提案する。
- 参考スコア(独自算出の注目度): 26.499025986273832
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated learning (FL) enables mobile devices to collaboratively learn a
shared prediction model while keeping data locally. However, there are two
major research challenges to practically deploy FL over mobile devices: (i)
frequent wireless updates of huge size gradients v.s. limited spectrum
resources, and (ii) energy-hungry FL communication and local computing during
training v.s. battery-constrained mobile devices. To address those challenges,
in this paper, we propose a novel multi-bit over-the-air computation
(M-AirComp) approach for spectrum-efficient aggregation of local model updates
in FL and further present an energy-efficient FL design for mobile devices.
Specifically, a high-precision digital modulation scheme is designed and
incorporated in the M-AirComp, allowing mobile devices to upload model updates
at the selected positions simultaneously in the multi-access channel. Moreover,
we theoretically analyze the convergence property of our FL algorithm. Guided
by FL convergence analysis, we formulate a joint transmission probability and
local computing control optimization, aiming to minimize the overall energy
consumption (i.e., iterative local computing + multi-round communications) of
mobile devices in FL. Extensive simulation results show that our proposed
scheme outperforms existing ones in terms of spectrum utilization, energy
efficiency, and learning accuracy.
- Abstract(参考訳): フェデレーション学習(fl)は、モバイルデバイスがデータをローカルに保持しながら共有予測モデルを協調的に学習することを可能にする。
しかし、モバイルデバイス上でFLを実際にデプロイするための2つの大きな研究課題がある。
(i)大容量勾配v.s.限定スペクトル資源の頻繁な無線更新と
(II) 電池制約モバイルデバイスのトレーニング中における省エネFL通信とローカルコンピューティング。
そこで本稿では,FLにおける局所モデル更新のスペクトル効率向上のためのマルチビットオーバーザエア計算(M-AirComp)手法を提案する。
具体的には、M-AirCompに高速デジタル変調方式を組み込んで、モバイルデバイスが選択した位置のモデル更新を同時にマルチアクセスチャネルにアップロードできるようにする。
さらに,このflアルゴリズムの収束特性を理論的に解析する。
FLコンバージェンス解析によって導かれ、FLにおけるモバイル機器の全体的なエネルギー消費(反復ローカルコンピューティングとマルチラウンド通信)を最小化することを目的として、共同送信確率と局所計算制御最適化を定式化する。
シミュレーションの結果,提案手法はスペクトル利用率,エネルギー効率,学習精度において既存手法よりも優れていた。
関連論文リスト
- WHALE-FL: Wireless and Heterogeneity Aware Latency Efficient Federated Learning over Mobile Devices via Adaptive Subnetwork Scheduling [17.029433544096257]
我々は,適応サブネットワークスケジューリングによるFLトレーニングを高速化するために,無線かつ認識可能な遅延効率FL(WHALE-FL)アプローチを開発した。
評価の結果,WHALE-FLはピアデザインと比較して,学習精度を犠牲にすることなく,FLトレーニングを効果的に加速することがわかった。
論文 参考訳(メタデータ) (2024-05-01T22:01:40Z) - Semi-Federated Learning: Convergence Analysis and Optimization of A
Hybrid Learning Framework [70.83511997272457]
本稿では,ベースステーション(BS)とデバイスの両方を活用するセミフェデレーション学習(SemiFL)パラダイムを提案し,中央集権学習(CL)とFLのハイブリッド実装を提案する。
我々はこの難解な問題を解くための2段階のアルゴリズムを提案し、ビームフォーマに閉形式解を提供する。
論文 参考訳(メタデータ) (2023-10-04T03:32:39Z) - Adaptive Model Pruning and Personalization for Federated Learning over
Wireless Networks [72.59891661768177]
フェデレーション学習(FL)は、データプライバシを保護しながら、エッジデバイス間での分散学習を可能にする。
これらの課題を克服するために、部分的なモデルプルーニングとパーソナライズを備えたFLフレームワークを検討する。
このフレームワークは、学習モデルを、データ表現を学ぶためにすべてのデバイスと共有されるモデルプルーニングと、特定のデバイスのために微調整されるパーソナライズされた部分とで、グローバルな部分に分割する。
論文 参考訳(メタデータ) (2023-09-04T21:10:45Z) - Vertical Federated Learning over Cloud-RAN: Convergence Analysis and
System Optimization [82.12796238714589]
高速かつ正確なモデルアグリゲーションを実現するために,クラウド無線アクセスネットワーク(Cloud-RAN)ベースの垂直FLシステムを提案する。
アップリンクとダウンリンクの両方の伝送を考慮した垂直FLアルゴリズムの収束挙動を特徴付ける。
我々は,連続凸近似と代替凸探索に基づくシステム最適化アルゴリズムを開発した,連系トランシーバとフロントホール量子化設計によるシステム最適化フレームワークを構築した。
論文 参考訳(メタデータ) (2023-05-04T09:26:03Z) - Automated Federated Learning in Mobile Edge Networks -- Fast Adaptation
and Convergence [83.58839320635956]
フェデレートラーニング(FL)は、モバイルエッジネットワークで機械学習モデルを分散的にトレーニングするために使用することができる。
最近のFLは、モデルに依存しないメタラーニング(MAML)フレームワークで解釈されている。
本稿は,MAMLがFLにもたらすメリットと,モバイルエッジネットワーク上でのメリットの最大化について論じる。
論文 参考訳(メタデータ) (2023-03-23T02:42:10Z) - Digital Over-the-Air Federated Learning in Multi-Antenna Systems [30.137208705209627]
デジタル変調とオーバー・ザ・エア計算(AirComp)を用いた現実的な無線通信システム上でのフェデレーション学習(FL)の性能最適化について検討する。
本稿では,デジタル変調とAirCompを組み合わせたFedAvg(FedAvg)アルゴリズムを提案する。
人工ニューラルネットワーク(ANN)は、すべてのデバイスの局所FLモデルを推定し、将来のモデル伝送のためにPSのビーム形成行列を調整するために使用される。
論文 参考訳(メタデータ) (2023-02-04T07:26:06Z) - Performance Optimization for Variable Bitwidth Federated Learning in
Wireless Networks [103.22651843174471]
本稿では,モデル量子化による統合学習(FL)における無線通信と計算効率の向上について考察する。
提案したビット幅FL方式では,エッジデバイスは局所FLモデルパラメータの量子化バージョンを調整し,コーディネートサーバに送信し,それらを量子化されたグローバルモデルに集約し,デバイスを同期させる。
FLトレーニングプロセスはマルコフ決定プロセスとして記述でき、反復よりも行動選択を最適化するためのモデルベース強化学習(RL)手法を提案する。
論文 参考訳(メタデータ) (2022-09-21T08:52:51Z) - CFLIT: Coexisting Federated Learning and Information Transfer [18.30671838758503]
本研究では,モバイルエッジネットワークにおける無線放送と従来型情報伝達(IT)の共存性について検討する。
FLとITデバイスがOFDMシステムで無線スペクトルを共有するCFLIT(Commanded Learning and Information Transfer)通信フレームワークを提案する。
論文 参考訳(メタデータ) (2022-07-26T13:17:28Z) - To Talk or to Work: Flexible Communication Compression for Energy
Efficient Federated Learning over Heterogeneous Mobile Edge Devices [78.38046945665538]
巨大なモバイルエッジデバイス上でのフェデレーション学習(FL)は、多数のインテリジェントなモバイルアプリケーションのための新たな地平を開く。
FLは、定期的なグローバル同期と継続的なローカルトレーニングにより、参加するデバイスに膨大な通信と計算負荷を課す。
フレキシブルな通信圧縮を可能にする収束保証FLアルゴリズムを開発。
論文 参考訳(メタデータ) (2020-12-22T02:54:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。