論文の概要: Digital versus Analog Transmissions for Federated Learning over Wireless Networks

• arxiv url: http://arxiv.org/abs/2402.09657v1
• Date: Thu, 15 Feb 2024 01:50:46 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-16 17:15:58.706322
• Title: Digital versus Analog Transmissions for Federated Learning over Wireless Networks
• Title（参考訳）: 無線ネットワーク上でのフェデレーション学習のためのディジタル対アナログ伝送
• Authors: Jiacheng Yao, Wei Xu, Zhaohui Yang, Xiaohu You, Mehdi Bennis, H. Vincent Poor
• Abstract要約: 資源制約付きネットワーク上での無線連合学習(FL)における2つの効果的な通信方式を比較した。 まず,デジタルとアナログの両方の伝送方式と,実用的制約下での統一的かつ公正な比較手法について検討する。 無線ネットワークにおけるFL性能評価のために,様々な不完全条件下での普遍収束解析を確立する。
• 参考スコア（独自算出の注目度）: 91.20926827568053
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we quantitatively compare these two effective communication schemes, i.e., digital and analog ones, for wireless federated learning (FL) over resource-constrained networks, highlighting their essential differences as well as their respective application scenarios. We first examine both digital and analog transmission methods, together with a unified and fair comparison scheme under practical constraints. A universal convergence analysis under various imperfections is established for FL performance evaluation in wireless networks. These analytical results reveal that the fundamental difference between the two paradigms lies in whether communication and computation are jointly designed or not. The digital schemes decouple the communication design from specific FL tasks, making it difficult to support simultaneous uplink transmission of massive devices with limited bandwidth. In contrast, the analog communication allows over-the-air computation (AirComp), thus achieving efficient spectrum utilization. However, computation-oriented analog transmission reduces power efficiency, and its performance is sensitive to computational errors. Finally, numerical simulations are conducted to verify these theoretical observations.
• Abstract（参考訳）: 本稿では,これら2つの効果的な通信方式(デジタル通信とアナログ通信)を,資源制約付きネットワーク上での無線フェデレート学習(fl)に対して定量的に比較し,それぞれのアプリケーションシナリオと本質的差異を強調する。 まず, ディジタル伝送法とアナログ伝送法の両方を, 統一的かつ公正な比較手法とともに検討した。 無線ネットワークにおけるFL性能評価のために,様々な不完全条件下での普遍収束解析を確立する。 これらの分析結果から,2つのパラダイムの根本的な違いは,コミュニケーションと計算が共同で設計されているかどうかにあることが明らかとなった。 デジタルスキームは、通信設計を特定のFLタスクから切り離し、帯域幅が限られている大規模デバイスの同時アップリンク伝送をサポートすることが困難である。 これとは対照的に、アナログ通信はオーバー・ザ・エア計算(AirComp)を可能にし、効率的なスペクトル利用を実現する。 しかし、計算指向アナログ伝送は電力効率を低下させ、その性能は計算誤差に敏感である。 最後に、これらの理論観測を検証するために数値シミュレーションを行った。

関連論文リスト

• Neuromorphic Split Computing with Wake-Up Radios: Architecture and Design via Digital Twinning [97.99077847606624]
  本研究は,遠隔・無線接続型NPUからなる分割計算機システムに,覚醒無線機構を組み込んだ新しいアーキテクチャを提案する。 覚醒無線に基づくニューロモルフィックスプリットコンピューティングシステムの設計における重要な課題は、検知、覚醒信号検出、意思決定のためのしきい値の選択である。
  論文  参考訳（メタデータ） (2024-04-02T10:19:04Z)
• Over-the-Air Federated Learning and Optimization [52.5188988624998]
  エッジ・ザ・エア計算(AirComp)によるフェデレーション学習(FL)に焦点を当てる。 本稿では,AirComp ベースの FedAvg (AirFedAvg) アルゴリズムの凸および非凸条件下での収束について述べる。 エッジデバイス(モデル、勾配、モデル差など)で送信できるローカルアップデートの種類によって、AirFedAvgで送信するとアグリゲーションエラーが発生する可能性がある。 さらに、より実用的な信号処理方式を検討し、通信効率を改善し、これらの信号処理方式によって引き起こされるモデル集約誤差の異なる形式に収束解析を拡張する。
  論文  参考訳（メタデータ） (2023-10-16T05:49:28Z)
• Semi-Federated Learning: Convergence Analysis and Optimization of A Hybrid Learning Framework [70.83511997272457]
  本稿では,ベースステーション(BS)とデバイスの両方を活用するセミフェデレーション学習(SemiFL)パラダイムを提案し,中央集権学習(CL)とFLのハイブリッド実装を提案する。 我々はこの難解な問題を解くための2段階のアルゴリズムを提案し、ビームフォーマに閉形式解を提供する。
  論文  参考訳（メタデータ） (2023-10-04T03:32:39Z)
• Performance Analysis for Resource Constrained Decentralized Federated Learning Over Wireless Networks [4.76281731053599]
  分散連合学習(DFL)は、通信オーバーヘッドと中央サーバへの依存を著しく引き起こす可能性がある。 本研究では、無線ネットワーク上の異なる通信方式(デジタルおよびアナログ)を用いて、資源制約付きDFLの性能を分析し、通信効率を最適化する。
  論文  参考訳（メタデータ） (2023-08-12T07:56:48Z)
• Green, Quantized Federated Learning over Wireless Networks: An Energy-Efficient Design [68.86220939532373]
  有限精度レベルは、固定精度フォーマットで重みとアクティベーションを定量化する量子ニューラルネットワーク(QNN)を使用して取得される。 提案するFLフレームワークは,ベースラインFLアルゴリズムと比較して,収束までのエネルギー消費量を最大70%削減することができる。
  論文  参考訳（メタデータ） (2022-07-19T16:37:24Z)
• Over-the-Air Decentralized Federated Learning [28.593149477080605]
  本稿では,無線ネットワーク上での分散化フェデレーション学習(FL)について考察する。そこでは,デバイス間通信(D2D)におけるローカルモデルコンセンサスを促進するために,オーバー・ザ・エア計算(AirComp)が採用されている。 本稿では,D2D通信における事前符号化と復号化の両手法を組み込んだ,勾配追従型DSGD(DSGT-VR)アルゴリズムを提案する。 提案アルゴリズムは線形に収束し, チャネルのフェージングとノイズを考慮した, 強い凸関数と滑らかな損失関数の最適性ギャップを確立する。
  論文  参考訳（メタデータ） (2021-06-15T09:42:33Z)
• 1-Bit Compressive Sensing for Efficient Federated Learning Over the Air [32.14738452396869]
  本稿では,1ビットセンシング(CS)をアナログアグリゲーション送信に組み込んだ,空気上の通信効率の高い学習手法を開発し,解析する。 スケーラブルコンピューティングでは,大規模ネットワークに適した効率的な実装を開発する。 シミュレーションの結果,提案した1ビットCSベースのFLは理想的な場合と同等の性能を示した。
  論文  参考訳（メタデータ） (2021-03-30T03:50:31Z)
• Federated Learning over Wireless Device-to-Device Networks: Algorithms and Convergence Analysis [46.76179091774633]
  本稿では,無線デバイス対デバイス(d2d)ネットワーク上でのフェデレーション学習(fl)について検討する。 まず、通信効率の良いDSGDアルゴリズムの汎用ディジタルおよびアナログ無線実装を紹介する。 第二に、凸性と接続性の仮定の下で、両実装に収束境界を提供する。
  論文  参考訳（メタデータ） (2021-01-29T17:42:26Z)
• Federated Learning over Noisy Channels: Convergence Analysis and Design Examples [17.89437720094451]
  Federated Learning (FL) は、アップリンク通信とダウンリンク通信の両方にエラーがある場合に機能します。 flはどの程度の通信ノイズを処理できるのか,学習性能に与える影響は何か? この作業は、flパイプラインにアップリンクとダウンリンクの両方のノイズチャネルを明示的に組み込むことで、これらの事実上重要な質問に答えることに費やされている。
  論文  参考訳（メタデータ） (2021-01-06T18:57:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。