論文の概要: Bayesian AirComp with Sign-Alignment Precoding for Wireless Federated
Learning
- arxiv url: http://arxiv.org/abs/2109.06579v1
- Date: Tue, 14 Sep 2021 11:01:20 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-15 15:25:02.671724
- Title: Bayesian AirComp with Sign-Alignment Precoding for Wireless Federated
Learning
- Title(参考訳): 無線フェデレーション学習のためのサインアライメントプリコーディングによるBayesian AirComp
- Authors: Chanho Park, Seunghoon Lee, and Namyoon Lee
- Abstract要約: 本稿では,符号アライメントプリコーディングという,限られたチャネル知識を持つ簡易かつ効果的なプリコーディング手法を提案する。
キーとなる発見は、BayAirCompアグリゲーションによる1ビットのプリコーディングは、既存のプリコーディング方法よりも優れた学習性能を提供できることです。
- 参考スコア(独自算出の注目度): 16.496419866210317
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we consider the problem of wireless federated learning based
on sign stochastic gradient descent (signSGD) algorithm via a multiple access
channel. When sending locally computed gradient's sign information, each mobile
device requires to apply precoding to circumvent wireless fading effects. In
practice, however, acquiring perfect knowledge of channel state information
(CSI) at all mobile devices is infeasible. In this paper, we present a simple
yet effective precoding method with limited channel knowledge, called
sign-alignment precoding. The idea of sign-alignment precoding is to protect
sign-flipping errors from wireless fadings. Under the Gaussian prior assumption
on the local gradients, we also derive the mean squared error (MSE)-optimal
aggregation function called Bayesian over-the-air computation (BayAirComp). Our
key finding is that one-bit precoding with BayAirComp aggregation can provide a
better learning performance than the existing precoding method even using
perfect CSI with AirComp aggregation.
- Abstract(参考訳): 本稿では,信号確率勾配勾配勾配(signSGD)アルゴリズムに基づく無線フェデレーション学習の問題について,マルチアクセスチャネルを用いて検討する。
局所的に計算された勾配の符号情報を送信する場合、各モバイルデバイスは無線フェージング効果を回避するためにプリコードを適用する必要がある。
しかし、実際には全てのモバイルデバイスでチャネル状態情報(csi)の完全な知識を得ることは不可能である。
本稿では,限定的なチャネル知識を有する簡易かつ効果的なプリコーディング手法であるsign-alignment precodedingを提案する。
sign-alignment precodingのアイデアは、無線フェージングからsign-flippingエラーを保護することである。
局所勾配のガウス的前提の下では、ベイジアンオーバー・ザ・エア計算(BayAirComp)と呼ばれる平均二乗誤差(MSE)最適集約関数も導出する。
キーとなる発見は、BayAirCompアグリゲーションによる1ビットプリコーディングは、AirCompアグリゲーションによる完全CSIを使用しても、既存のプリコーディング方法よりも優れた学習性能を提供できるということです。
関連論文リスト
- FLARE: A New Federated Learning Framework with Adjustable Learning Rates over Resource-Constrained Wireless Networks [20.048146776405005]
ワイヤレス・フェデレート・ラーニング(WFL)は、データ分散、計算能力、チャネル条件などにおいて不均一性に悩まされている。
本稿では,Federated Learning Adjusted lean ratE (FLR ratE)による新しいアイデアを提案する。
FLAREが一貫してベースラインを上回っている実験。
論文 参考訳(メタデータ) (2024-04-23T07:48:17Z) - Rendering Wireless Environments Useful for Gradient Estimators: A Zero-Order Stochastic Federated Learning Method [14.986031916712108]
クロスデバイスフェデレーション学習(FL)は成長する機械学習フレームワークであり、複数のエッジデバイスが協力して、生データを公開せずにモデルをトレーニングする。
学習アルゴリズム自体において、その影響を解析する代わりに、無線チャネルを利用する方法を示す。
論文 参考訳(メタデータ) (2024-01-30T21:46:09Z) - Task-Oriented Over-the-Air Computation for Multi-Device Edge AI [57.50247872182593]
エッジAIをサポートするための6Gネットワークは、AIタスクの効率的かつ効率的な実行に焦点を当てたタスク指向のテクニックを備えている。
本稿では,マルチデバイススプリット推論システムにおけるタスク指向オーバー・ザ・エア計算(AirComp)方式を提案する。
論文 参考訳(メタデータ) (2022-11-02T16:35:14Z) - Fast Federated Learning in the Presence of Arbitrary Device
Unavailability [26.368873771739715]
Federated Learning (FL)は異種デバイスをコーディネートして、ユーザのプライバシを維持しながら共有モデルを協調的にトレーニングする。
ひとつの課題は、デバイスが中央サーバ以外のトレーニングプロセスから外れることだ。
我々はこの問題を解決するためにIm Federated A patientaging (MIFA)を提案する。
論文 参考訳(メタデータ) (2021-06-08T07:46:31Z) - Learning Frequency Domain Approximation for Binary Neural Networks [68.79904499480025]
フーリエ周波数領域における符号関数の勾配を正弦関数の組み合わせを用いて推定し,BNNの訓練を行う。
いくつかのベンチマークデータセットとニューラルネットワークの実験により、この手法で学習したバイナリネットワークが最先端の精度を達成することが示されている。
論文 参考訳(メタデータ) (2021-03-01T08:25:26Z) - Bayesian Federated Learning over Wireless Networks [87.37301441859925]
フェデレーションラーニングは、ローカルデバイスに保存された異種データセットを使用したプライバシー保護と分散トレーニング方法です。
本稿では、スケーラブルBFL (SBFL) と呼ばれる効率的な修正BFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-12-31T07:32:44Z) - Blind Federated Edge Learning [93.29571175702735]
フェデレーションエッジ学習(FEEL)について検討し,それぞれが独自のデータセットを持つ無線エッジデバイスでグローバルモデルを学ぶ。
そこで本研究では,デバイスがローカル更新を非符号化方式で送信する,アナログオーバ・ザ・エアのアグリゲーション方式を提案する。
論文 参考訳(メタデータ) (2020-10-19T16:22:28Z) - Ensemble Wrapper Subsampling for Deep Modulation Classification [70.91089216571035]
受信した無線信号のサブサンプリングは、ハードウェア要件と信号処理アルゴリズムの計算コストを緩和するために重要である。
本稿では,無線通信システムにおけるディープラーニングを用いた自動変調分類のためのサブサンプリング手法を提案する。
論文 参考訳(メタデータ) (2020-05-10T06:11:13Z) - A Compressive Sensing Approach for Federated Learning over Massive MIMO
Communication Systems [82.2513703281725]
フェデレートラーニング(Federated Learning)は、無線デバイスとのコラボレーションによって、中央サーバでグローバルモデルをトレーニングするための、プライバシ保護のアプローチである。
本稿では,大規模マルチインプット多出力通信システム上でのフェデレーション学習のための圧縮センシング手法を提案する。
論文 参考訳(メタデータ) (2020-03-18T05:56:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。