論文の概要: Joint Power Control and Data Size Selection for Over-the-Air Computation
Aided Federated Learning
- arxiv url: http://arxiv.org/abs/2308.09072v1
- Date: Thu, 17 Aug 2023 16:01:02 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-21 16:05:45.812692
- Title: Joint Power Control and Data Size Selection for Over-the-Air Computation
Aided Federated Learning
- Title(参考訳): 越空計算支援フェデレーション学習のための連成電力制御とデータサイズ選択
- Authors: Xuming An, Rongfei Fan, Shiyuan Zuo, Han Hu, Hai Jiang, and Ning Zhang
- Abstract要約: フェデレートラーニング(FL)は、複数のモバイルデバイスで生成された大量の生データを処理するための、魅力的な機械学習アプローチとして登場した。
本稿では,基地局と移動機器の信号増幅係数を協調的に最適化することを提案する。
提案手法は平均二乗誤差(MSE)を大幅に低減し,FLの性能向上に有効である。
- 参考スコア(独自算出の注目度): 19.930700426682982
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning (FL) has emerged as an appealing machine learning approach
to deal with massive raw data generated at multiple mobile devices, {which
needs to aggregate the training model parameter of every mobile device at one
base station (BS) iteratively}. For parameter aggregating in FL, over-the-air
computation is a spectrum-efficient solution, which allows all mobile devices
to transmit their parameter-mapped signals concurrently to a BS. Due to
heterogeneous channel fading and noise, there exists difference between the
BS's received signal and its desired signal, measured as the mean-squared error
(MSE). To minimize the MSE, we propose to jointly optimize the signal
amplification factors at the BS and the mobile devices as well as the data size
(the number of data samples involved in local training) at every mobile device.
The formulated problem is challenging to solve due to its non-convexity. To
find the optimal solution, with some simplification on cost function and
variable replacement, which still preserves equivalence, we transform the
changed problem to be a bi-level problem equivalently. For the lower-level
problem, optimal solution is found by enumerating every candidate solution from
the Karush-Kuhn-Tucker (KKT) condition. For the upper-level problem, the
optimal solution is found by exploring its piecewise convexity. Numerical
results show that our proposed method can greatly reduce the MSE and can help
to improve the training performance of FL compared with benchmark methods.
- Abstract(参考訳): フェデレーション学習(federated learning, fl)は,複数のモバイルデバイスで生成された膨大な生データを扱うための,魅力的なマシンラーニングアプローチとして登場した。
flのパラメータ集約のために、over-the-air computationはスペクトル効率の良いソリューションであり、すべてのモバイルデバイスがパラメータマップされた信号をbsに同時に送信できる。
不均一チャネルのフェージングとノイズのため、平均二乗誤差(MSE)として測定されたBSの受信信号と所望信号の間には相違がある。
MSEの最小化のために,BSとモバイルデバイスにおける信号増幅係数と,各モバイルデバイスにおけるデータサイズ(ローカルトレーニングに関わるデータサンプル数)を協調的に最適化することを提案する。
定式化問題は非凸性のため解決が難しい。
最適解を求めるには、コスト関数と変数置換を単純化し、等価性を保ちながら、変化した問題を双レベル問題に等価に変換する。
下層問題に対しては、KKT条件から全ての候補解を列挙することで最適解を求める。
上層問題に対して、最適解はその部分的凸性を探索することによって得られる。
その結果,提案手法はmseを大幅に削減でき,ベンチマーク法と比較してflのトレーニング性能を向上させることができることがわかった。
関連論文リスト
- Device Scheduling for Relay-assisted Over-the-Air Aggregation in
Federated Learning [9.735236606901038]
フェデレートラーニング(FL)は、ネットワークの端で分散されたデータを活用して、インテリジェントなアプリケーションを実現する。
本稿では,リレー支援FLフレームワークを提案し,リレー支援FLシステムにおけるデバイススケジューリング問題について検討する。
論文 参考訳(メタデータ) (2023-12-15T03:04:39Z) - Analysis and Optimization of Wireless Federated Learning with Data
Heterogeneity [72.85248553787538]
本稿では、データの不均一性を考慮した無線FLの性能解析と最適化と、無線リソース割り当てについて述べる。
ロス関数の最小化問題を、長期エネルギー消費と遅延の制約の下で定式化し、クライアントスケジューリング、リソース割り当て、ローカルトレーニングエポック数(CRE)を共同で最適化する。
実世界のデータセットの実験により、提案アルゴリズムは学習精度とエネルギー消費の点で他のベンチマークよりも優れていることが示された。
論文 参考訳(メタデータ) (2023-08-04T04:18:01Z) - Over-the-Air Multi-Task Federated Learning Over MIMO Interference
Channel [17.362158131772127]
We study over-the-air multi-task FL (OA-MTFL) over the multiple-input multiple-output (MIMO) interference channel。
そこで本研究では,各デバイスに局所勾配をアライメントするモデルアグリゲーション手法を提案する。
新たなモデルアグリゲーション手法を用いることで,デバイス選択はもはや我々の計画に必須ではないことを示す。
論文 参考訳(メタデータ) (2021-12-27T10:42:04Z) - FedLGA: Towards System-Heterogeneity of Federated Learning via Local
Gradient Approximation [21.63719641718363]
システム不均一なFL問題を定式化してFedLGAと呼ばれる新しいアルゴリズムを提案する。
複数のデータセットに対する総合的な実験の結果、FedLGAはシステム不均一性に対して現在のFLベンチマークよりも優れていた。
論文 参考訳(メタデータ) (2021-12-22T16:05:09Z) - Unit-Modulus Wireless Federated Learning Via Penalty Alternating
Minimization [64.76619508293966]
Wireless Federated Learning(FL)は、分散データセットから無線通信を介してグローバルパラメトリックモデルをトレーニングする、新興機械学習パラダイムである。
本稿では、ローカルモデルパラメータをアップロードし、無線通信を介してグローバルモデルパラメータを算出する無線FLフレームワークを提案する。
論文 参考訳(メタデータ) (2021-08-31T08:19:54Z) - Fast Federated Learning in the Presence of Arbitrary Device
Unavailability [26.368873771739715]
Federated Learning (FL)は異種デバイスをコーディネートして、ユーザのプライバシを維持しながら共有モデルを協調的にトレーニングする。
ひとつの課題は、デバイスが中央サーバ以外のトレーニングプロセスから外れることだ。
我々はこの問題を解決するためにIm Federated A patientaging (MIFA)を提案する。
論文 参考訳(メタデータ) (2021-06-08T07:46:31Z) - Edge Federated Learning Via Unit-Modulus Over-The-Air Computation
(Extended Version) [64.76619508293966]
本稿では,効率の良いエッジフェデレーション学習を実現するために,UM-AirCompフレームワークを提案する。
ローカルモデルパラメータを同時にアップロードし、アナログビームフォーミングを通じてグローバルモデルパラメータを更新する。
車両間自動運転シミュレーションプラットフォームにおけるUM-AirCompの実装を実演する。
論文 参考訳(メタデータ) (2021-01-28T15:10:22Z) - Bayesian Federated Learning over Wireless Networks [87.37301441859925]
フェデレーションラーニングは、ローカルデバイスに保存された異種データセットを使用したプライバシー保護と分散トレーニング方法です。
本稿では、スケーラブルBFL (SBFL) と呼ばれる効率的な修正BFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-12-31T07:32:44Z) - Federated Learning via Intelligent Reflecting Surface [30.935389187215474]
オーバー・ザ・エア・コンピューティング・アルゴリズム(FL)は,複数のアクセスチャネルの波形重畳特性を利用して高速なモデルアグリゲーションを実現することができる。
本稿では,AirCompベースのFLのための高速かつ信頼性の高いモデルアグリゲーションを実現するための2段階最適化フレームワークを提案する。
シミュレーションの結果,提案するフレームワークとIRSの展開により,ベースラインアルゴリズムよりもトレーニング損失が低く,FL予測精度も高いことがわかった。
論文 参考訳(メタデータ) (2020-11-10T11:29:57Z) - Delay Minimization for Federated Learning Over Wireless Communication
Networks [172.42768672943365]
無線通信ネットワーク上でのフェデレーション学習(FL)における遅延計算の問題について検討した。
最適解を得るために,二項探索アルゴリズムを提案する。
シミュレーションの結果,提案アルゴリズムは従来のFL法と比較して最大27.3%遅延を低減できることがわかった。
論文 参考訳(メタデータ) (2020-07-05T19:00:07Z) - Reinforcement Learning Based Vehicle-cell Association Algorithm for
Highly Mobile Millimeter Wave Communication [53.47785498477648]
本稿では,ミリ波通信網における車とセルの関連性について検討する。
まず、ユーザ状態(VU)問題を離散的な非車両関連最適化問題として定式化する。
提案手法は,複数のベースライン設計と比較して,ユーザの複雑性とVUEの20%削減の合計で最大15%のゲインが得られる。
論文 参考訳(メタデータ) (2020-01-22T08:51:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。