論文の概要: Blind Asynchronous Over-the-Air Federated Edge Learning
- arxiv url: http://arxiv.org/abs/2210.17469v1
- Date: Mon, 31 Oct 2022 16:54:14 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-01 20:07:22.132027
- Title: Blind Asynchronous Over-the-Air Federated Edge Learning
- Title(参考訳): Blind Asynchronous Over-the-Air Federated Edge Learning
- Authors: Saeed Razavikia, Jaume Anguera Peris, Jose Mairton B. da Silva Jr, and
Carlo Fischione
- Abstract要約: Federated Edge Learning (FEEL)は、分散機械学習技術である。
本研究では,大気上のグローバルモデルのパラメータを復元する新しい同期のない手法を提案する。
提案アルゴリズムは, 理想的な同期シナリオに10ドル近く近づき, 単純な場合よりも4倍の精度で実行可能である。
- 参考スコア(独自算出の注目度): 15.105440618101147
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated Edge Learning (FEEL) is a distributed machine learning technique
where each device contributes to training a global inference model by
independently performing local computations with their data. More recently,
FEEL has been merged with over-the-air computation (OAC), where the global
model is calculated over the air by leveraging the superposition of analog
signals. However, when implementing FEEL with OAC, there is the challenge on
how to precode the analog signals to overcome any time misalignment at the
receiver. In this work, we propose a novel synchronization-free method to
recover the parameters of the global model over the air without requiring any
prior information about the time misalignments. For that, we construct a convex
optimization based on the norm minimization problem to directly recover the
global model by solving a convex semi-definite program. The performance of the
proposed method is evaluated in terms of accuracy and convergence via numerical
experiments. We show that our proposed algorithm is close to the ideal
synchronized scenario by $10\%$, and performs $4\times$ better than the simple
case where no recovering method is used.
- Abstract(参考訳): Federated Edge Learning(FEEL)は、各デバイスがデータのローカル計算を独立して実行することにより、グローバル推論モデルのトレーニングに寄与する分散機械学習技術である。
より最近では、FEELはOAC(Over-the-air calculation)と統合され、アナログ信号の重ね合わせを利用してグローバルモデルが空気中を計算されている。
しかし、FEELをOACで実装する際には、アナログ信号をプリコードして受信機での時間的ずれを克服する方法が課題である。
本研究では,時間的不一致に関する事前情報を必要とせず,空気上でのグローバルモデルのパラメータを復元する新しい同期フリー手法を提案する。
そこで我々は,ノルム最小化問題に基づく凸最適化を構築し,凸半定義プログラムを解いて大域モデルを直接復元する。
数値実験により,提案手法の性能を精度と収束性の観点から評価した。
提案するアルゴリズムは理想の同期化シナリオに近い10\%$であり,リカバリ手法を用いない単純な場合よりも4\times$が優れていることを示す。
関連論文リスト
- Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳(メタデータ) (2024-11-21T10:26:17Z) - Over-the-Air Federated Learning and Optimization [52.5188988624998]
エッジ・ザ・エア計算(AirComp)によるフェデレーション学習(FL)に焦点を当てる。
本稿では,AirComp ベースの FedAvg (AirFedAvg) アルゴリズムの凸および非凸条件下での収束について述べる。
エッジデバイス(モデル、勾配、モデル差など)で送信できるローカルアップデートの種類によって、AirFedAvgで送信するとアグリゲーションエラーが発生する可能性がある。
さらに、より実用的な信号処理方式を検討し、通信効率を改善し、これらの信号処理方式によって引き起こされるモデル集約誤差の異なる形式に収束解析を拡張する。
論文 参考訳(メタデータ) (2023-10-16T05:49:28Z) - An Optimization-based Deep Equilibrium Model for Hyperspectral Image
Deconvolution with Convergence Guarantees [71.57324258813675]
本稿では,ハイパースペクトル画像のデコンボリューション問題に対処する新しい手法を提案する。
新しい最適化問題を定式化し、学習可能な正規化器をニューラルネットワークの形で活用する。
導出した反復解法は、Deep Equilibriumフレームワーク内の不動点計算問題として表現される。
論文 参考訳(メタデータ) (2023-06-10T08:25:16Z) - Semi-Asynchronous Federated Edge Learning Mechanism via Over-the-air
Computation [4.598679151181452]
FEELシステムのトレーニング効率を向上させるために,AirCompスキーム(PAOTA)を用いた半非同期アグリゲーションFEEL機構を提案する。
提案アルゴリズムは, 理想的な局所SGDに近い収束性能を実現する。
論文 参考訳(メタデータ) (2023-05-06T15:06:03Z) - Adaptive Sparse Gaussian Process [0.0]
これらの問題に対処できる最初の適応スパースガウスプロセス(GP)を提案する。
まず,変分スパースGPアルゴリズムを変形係数によって適応的に再構成する。
そこで我々は,新しいサンプルが到着するたびに,スパースGPモデルの単一誘導点と残りのモデルパラメータを同時に更新することを提案する。
論文 参考訳(メタデータ) (2023-02-20T21:34:36Z) - Faster Adaptive Federated Learning [84.38913517122619]
フェデレートラーニングは分散データの出現に伴って注目を集めている。
本稿では,クロスサイロFLにおけるモーメントに基づく分散低減手法に基づく適応アルゴリズム(FAFED)を提案する。
論文 参考訳(メタデータ) (2022-12-02T05:07:50Z) - Resource-Efficient and Delay-Aware Federated Learning Design under Edge
Heterogeneity [10.702853653891902]
フェデレーテッド・ラーニング(FL)は、ワイヤレスエッジデバイスに機械学習を分散するための一般的な方法論として登場した。
本研究では,FLにおけるモデル性能と資源利用のトレードオフを最適化することを検討する。
提案したStoFedDelAvは、FL計算ステップに局所言語モデルコンバインダーを組み込む。
論文 参考訳(メタデータ) (2021-12-27T22:30:15Z) - From Deterioration to Acceleration: A Calibration Approach to
Rehabilitating Step Asynchronism in Federated Optimization [13.755421424240048]
我々は,局所的な方向を予測的グローバルな方向に調整する新しいアルゴリズムであるtexttFedaGracを提案する。
理論的には、texttFedaGrac は最先端のアプローチよりも収束率の向上を証明している。
論文 参考訳(メタデータ) (2021-12-17T07:26:31Z) - Stragglers Are Not Disaster: A Hybrid Federated Learning Algorithm with
Delayed Gradients [21.63719641718363]
フェデレーション・ラーニング(federated learning, fl)は、多数の分散コンピューティングデバイスで合同モデルをトレーニングする、新しい機械学習フレームワークである。
本稿では,効率と有効性における学習バランスを実現するための新しいflアルゴリズムであるhybrid federated learning(hfl)を提案する。
論文 参考訳(メタデータ) (2021-02-12T02:27:44Z) - Edge Federated Learning Via Unit-Modulus Over-The-Air Computation
(Extended Version) [64.76619508293966]
本稿では,効率の良いエッジフェデレーション学習を実現するために,UM-AirCompフレームワークを提案する。
ローカルモデルパラメータを同時にアップロードし、アナログビームフォーミングを通じてグローバルモデルパラメータを更新する。
車両間自動運転シミュレーションプラットフォームにおけるUM-AirCompの実装を実演する。
論文 参考訳(メタデータ) (2021-01-28T15:10:22Z) - FedPD: A Federated Learning Framework with Optimal Rates and Adaptivity
to Non-IID Data [59.50904660420082]
フェデレートラーニング(FL)は、分散データから学ぶための一般的なパラダイムになっています。
クラウドに移行することなく、さまざまなデバイスのデータを効果的に活用するために、Federated Averaging(FedAvg)などのアルゴリズムでは、"Computation then aggregate"(CTA)モデルを採用している。
論文 参考訳(メタデータ) (2020-05-22T23:07:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。