論文の概要: Unit-Modulus Wireless Federated Learning Via Penalty Alternating
Minimization
- arxiv url: http://arxiv.org/abs/2108.13669v1
- Date: Tue, 31 Aug 2021 08:19:54 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-01 14:22:19.149999
- Title: Unit-Modulus Wireless Federated Learning Via Penalty Alternating
Minimization
- Title(参考訳): ペナルティ交代最小化による単価無線フェデレーション学習
- Authors: Shuai Wang, Dachuan Li, Rui Wang, Qi Hao, Yik-Chung Wu, and Derrick
Wing Kwan Ng
- Abstract要約: Wireless Federated Learning(FL)は、分散データセットから無線通信を介してグローバルパラメトリックモデルをトレーニングする、新興機械学習パラダイムである。
本稿では、ローカルモデルパラメータをアップロードし、無線通信を介してグローバルモデルパラメータを算出する無線FLフレームワークを提案する。
- 参考スコア(独自算出の注目度): 64.76619508293966
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Wireless federated learning (FL) is an emerging machine learning paradigm
that trains a global parametric model from distributed datasets via wireless
communications. This paper proposes a unit-modulus wireless FL (UMWFL)
framework, which simultaneously uploads local model parameters and computes
global model parameters via optimized phase shifting. The proposed framework
avoids sophisticated baseband signal processing, leading to both low
communication delays and implementation costs. A training loss bound is derived
and a penalty alternating minimization (PAM) algorithm is proposed to minimize
the nonconvex nonsmooth loss bound. Experimental results in the Car Learning to
Act (CARLA) platform show that the proposed UMWFL framework with PAM algorithm
achieves smaller training losses and testing errors than those of the benchmark
scheme.
- Abstract(参考訳): Wireless Federated Learning(FL)は、分散データセットから無線通信を介してグローバルパラメトリックモデルをトレーニングする、新興機械学習パラダイムである。
本稿では,局所モデルパラメータを同時にアップロードし,位相シフトを最適化したグローバルモデルパラメータを演算するユニットモジュラー無線FL(UMWFL)フレームワークを提案する。
提案するフレームワークは、高度なベースバンド信号処理を回避し、低通信遅延と実装コストの両方をもたらす。
トレーニング損失境界が導出され、非凸非平滑損失境界を最小化するために、ペナルティ変動最小化(PAM)アルゴリズムが提案される。
カーラーニング・トゥ・アクト (CARLA) プラットフォームにおける実験結果から,提案した PAM アルゴリズムを用いた UMWFL フレームワークは,ベンチマーク方式よりもトレーニング損失やテスト誤差が小さくなることが示された。
関連論文リスト
- Over-the-Air Federated Learning and Optimization [52.5188988624998]
エッジ・ザ・エア計算(AirComp)によるフェデレーション学習(FL)に焦点を当てる。
本稿では,AirComp ベースの FedAvg (AirFedAvg) アルゴリズムの凸および非凸条件下での収束について述べる。
エッジデバイス(モデル、勾配、モデル差など)で送信できるローカルアップデートの種類によって、AirFedAvgで送信するとアグリゲーションエラーが発生する可能性がある。
さらに、より実用的な信号処理方式を検討し、通信効率を改善し、これらの信号処理方式によって引き起こされるモデル集約誤差の異なる形式に収束解析を拡張する。
論文 参考訳(メタデータ) (2023-10-16T05:49:28Z) - Semi-Federated Learning: Convergence Analysis and Optimization of A
Hybrid Learning Framework [70.83511997272457]
本稿では,ベースステーション(BS)とデバイスの両方を活用するセミフェデレーション学習(SemiFL)パラダイムを提案し,中央集権学習(CL)とFLのハイブリッド実装を提案する。
我々はこの難解な問題を解くための2段階のアルゴリズムを提案し、ビームフォーマに閉形式解を提供する。
論文 参考訳(メタデータ) (2023-10-04T03:32:39Z) - Digital Over-the-Air Federated Learning in Multi-Antenna Systems [30.137208705209627]
デジタル変調とオーバー・ザ・エア計算(AirComp)を用いた現実的な無線通信システム上でのフェデレーション学習(FL)の性能最適化について検討する。
本稿では,デジタル変調とAirCompを組み合わせたFedAvg(FedAvg)アルゴリズムを提案する。
人工ニューラルネットワーク(ANN)は、すべてのデバイスの局所FLモデルを推定し、将来のモデル伝送のためにPSのビーム形成行列を調整するために使用される。
論文 参考訳(メタデータ) (2023-02-04T07:26:06Z) - Performance Optimization for Variable Bitwidth Federated Learning in
Wireless Networks [103.22651843174471]
本稿では,モデル量子化による統合学習(FL)における無線通信と計算効率の向上について考察する。
提案したビット幅FL方式では,エッジデバイスは局所FLモデルパラメータの量子化バージョンを調整し,コーディネートサーバに送信し,それらを量子化されたグローバルモデルに集約し,デバイスを同期させる。
FLトレーニングプロセスはマルコフ決定プロセスとして記述でき、反復よりも行動選択を最適化するためのモデルベース強化学習(RL)手法を提案する。
論文 参考訳(メタデータ) (2022-09-21T08:52:51Z) - Resource-Efficient and Delay-Aware Federated Learning Design under Edge
Heterogeneity [10.702853653891902]
フェデレーテッド・ラーニング(FL)は、ワイヤレスエッジデバイスに機械学習を分散するための一般的な方法論として登場した。
本研究では,FLにおけるモデル性能と資源利用のトレードオフを最適化することを検討する。
提案したStoFedDelAvは、FL計算ステップに局所言語モデルコンバインダーを組み込む。
論文 参考訳(メタデータ) (2021-12-27T22:30:15Z) - Edge Federated Learning Via Unit-Modulus Over-The-Air Computation
(Extended Version) [64.76619508293966]
本稿では,効率の良いエッジフェデレーション学習を実現するために,UM-AirCompフレームワークを提案する。
ローカルモデルパラメータを同時にアップロードし、アナログビームフォーミングを通じてグローバルモデルパラメータを更新する。
車両間自動運転シミュレーションプラットフォームにおけるUM-AirCompの実装を実演する。
論文 参考訳(メタデータ) (2021-01-28T15:10:22Z) - Delay Minimization for Federated Learning Over Wireless Communication
Networks [172.42768672943365]
無線通信ネットワーク上でのフェデレーション学習(FL)における遅延計算の問題について検討した。
最適解を得るために,二項探索アルゴリズムを提案する。
シミュレーションの結果,提案アルゴリズムは従来のFL法と比較して最大27.3%遅延を低減できることがわかった。
論文 参考訳(メタデータ) (2020-07-05T19:00:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。