論文の概要: To Talk or to Work: Energy Efficient Federated Learning over Mobile Devices via the Weight Quantization and 5G Transmission Co-Design

• arxiv url: http://arxiv.org/abs/2012.11070v1
• Date: Mon, 21 Dec 2020 01:13:44 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-27 06:20:22.588919
• Title: To Talk or to Work: Energy Efficient Federated Learning over Mobile Devices via the Weight Quantization and 5G Transmission Co-Design
• Title（参考訳）: 話すか働くか:重量量子化と5g伝送共設計によるモバイルデバイス上でのエネルギー効率のよい連合学習
• Authors: Rui Chen, Liang Li, Kaiping Xue, Chi Zhang, Lingjia Liu, Miao Pan
• Abstract要約: Federated Learning (FL) は,モバイルデバイス間での大規模学習タスクのための新たなパラダイムである。 モバイルデバイス上でFLをサポートする効果的な無線ネットワークアーキテクチャを確立する方法は不明です。 我々は、異種5Gモバイル機器上でのエネルギー効率FLのための無線伝送および重み量子化協調設計を開発する。
• 参考スコア（独自算出の注目度）: 49.95746344960136
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated learning (FL) is a new paradigm for large-scale learning tasks across mobile devices. However, practical FL deployment over resource constrained mobile devices confronts multiple challenges. For example, it is not clear how to establish an effective wireless network architecture to support FL over mobile devices. Besides, as modern machine learning models are more and more complex, the local on-device training/intermediate model update in FL is becoming too power hungry/radio resource intensive for mobile devices to afford. To address those challenges, in this paper, we try to bridge another recent surging technology, 5G, with FL, and develop a wireless transmission and weight quantization co-design for energy efficient FL over heterogeneous 5G mobile devices. Briefly, the 5G featured high data rate helps to relieve the severe communication concern, and the multi-access edge computing (MEC) in 5G provides a perfect network architecture to support FL. Under MEC architecture, we develop flexible weight quantization schemes to facilitate the on-device local training over heterogeneous 5G mobile devices. Observed the fact that the energy consumption of local computing is comparable to that of the model updates via 5G transmissions, we formulate the energy efficient FL problem into a mixed-integer programming problem to elaborately determine the quantization strategies and allocate the wireless bandwidth for heterogeneous 5G mobile devices. The goal is to minimize the overall FL energy consumption (computing + 5G transmissions) over 5G mobile devices while guaranteeing learning performance and training latency. Generalized Benders' Decomposition is applied to develop feasible solutions and extensive simulations are conducted to verify the effectiveness of the proposed scheme.
• Abstract（参考訳）: Federated Learning(FL)は、モバイルデバイス全体にわたる大規模学習タスクのための新しいパラダイムである。 しかし、リソース制約のあるモバイルデバイス上での実用的FLデプロイメントは、複数の課題に直面している。 例えば、モバイルデバイス上でFLをサポートする効果的な無線ネットワークアーキテクチャを確立する方法が明確ではない。 さらに、現代の機械学習モデルがますます複雑化するにつれて、FLのローカルなオンデバイストレーニング/インターミディエートモデルのアップデートは、モバイルデバイスが手頃な価格でリソースを消費しすぎている。 これらの課題に対処するため,本稿では,近年の新興技術である5GをFLで橋渡しし,不均一な5Gモバイルデバイス上でのエネルギー効率FLのための無線伝送および重み量子化共設計を開発する。 簡単に言えば、高いデータレートを備えた5Gは、通信上の深刻な懸念を和らげるのに役立ち、5Gのマルチアクセスエッジコンピューティング(MEC)は、FLをサポートするための完璧なネットワークアーキテクチャを提供する。 MECアーキテクチャでは、不均一な5Gモバイルデバイス上でデバイス上でのローカルトレーニングを容易にするフレキシブルウェイト量子化方式を開発した。 ローカルコンピューティングのエネルギー消費が5g伝送によるモデル更新に匹敵するという事実を観察し、エネルギー効率のよいfl問題を混合整数計画問題に定式化し、量子化戦略を精巧に決定し、異種5gモバイルデバイスの無線帯域幅を割り当てる。 目的は、学習性能とトレーニング遅延を保証しながら、5Gモバイルデバイス上でのFLエネルギー消費(計算+5G送信)を最小化することである。 一般化ベンダー分解は実現可能な解の開発に応用され,提案手法の有効性を検証するために広範なシミュレーションが行われる。

関連論文リスト

• WHALE-FL: Wireless and Heterogeneity Aware Latency Efficient Federated Learning over Mobile Devices via Adaptive Subnetwork Scheduling [14.47405191251264]
  我々は,適応サブネットワークスケジューリングによるFLトレーニングを高速化するために,無線かつ認識可能な遅延効率FL(WHALE-FL)アプローチを開発した。 評価の結果,WHALE-FLはピアデザインと比較して,学習精度を犠牲にすることなく,FLトレーニングを効果的に加速することがわかった。
  論文  参考訳（メタデータ） (2024-05-01T22:01:40Z)
• Federated Learning for 6G: Paradigms, Taxonomy, Recent Advances and Insights [52.024964564408]
  本稿では,プロトコルスタックのすべてのレベルにわたってフェデレートラーニングを実装することの付加価値について検討する。 それは重要なFLアプリケーションを示し、ホットトピックに対処し、将来の研究と開発のための貴重な洞察と明示的なガイダンスを提供します。 我々の結論は、FLと将来の6Gの相乗効果を活用しつつ、FLがワイヤレス産業に革命をもたらす可能性を浮き彫りにすることを目的としています。
  論文  参考訳（メタデータ） (2023-12-07T20:39:57Z)
• Online Data Selection for Federated Learning with Limited Storage [53.46789303416799]
  ネットワークデバイス間での分散機械学習を実現するために、フェデレートラーニング(FL)が提案されている。 デバイス上のストレージがFLの性能に与える影響はまだ調査されていない。 本研究では,デバイス上のストレージを限定したFLのオンラインデータ選択について検討する。
  論文  参考訳（メタデータ） (2022-09-01T03:27:33Z)
• Energy and Spectrum Efficient Federated Learning via High-Precision Over-the-Air Computation [26.499025986273832]
  フェデレートラーニング(FL)は、データをローカルに保持しながら、モバイルデバイスが共同で共有予測モデルを学ぶことを可能にする。 モバイルデバイス上でFLを実際にデプロイする上で,2つの大きな研究課題がある。 FLにおける局所モデル更新のスペクトル効率向上のためのマルチビットオーバー・ザ・エアコン(M-AirComp)手法を提案する。
  論文  参考訳（メタデータ） (2022-08-15T14:47:21Z)
• A Practical Cross-Device Federated Learning Framework over 5G Networks [47.72735882790756]
  連邦学習(FL)の概念は、2016年にGoogleによって初めて提案された。 匿名通信技術とリングシグネチャを用いたクロスデバイス・フェデレーション学習フレームワークを提案する。 さらに,提案手法は,モバイルユーザのFL参加を促すために,コントリビューションベースのインセンティブ機構を実装している。
  論文  参考訳（メタデータ） (2022-04-18T02:31:06Z)
• Federated Learning over Wireless IoT Networks with Optimized Communication and Resources [98.18365881575805]
  協調学習技術のパラダイムとしてのフェデレートラーニング(FL)は研究の注目を集めている。 無線システム上での高速応答および高精度FLスキームの検証が重要である。 提案する通信効率のよいフェデレーション学習フレームワークは,強い線形速度で収束することを示す。
  論文  参考訳（メタデータ） (2021-10-22T13:25:57Z)
• Towards Energy Efficient Federated Learning over 5G+ Mobile Devices [26.970421001190896]
  5G+モバイルデバイス上の連合学習(FL)は、モバイルデバイスにAI機能をプッシュし、デバイス上のAIアプリケーションの新しい時代を開始します。 巨大なエネルギー消費は、バッテリー制限された5G +モバイルデバイス上のFLの開発を制限する最も重要な障害の1つです。 私たちは、全体的なエネルギー効率を高めるために、「働く」ためのエネルギー消費(すなわち、ローカルコンピューティング)と「話す」ためのエネルギー消費(すなわち、無線通信)のトレードオフを行います。
  論文  参考訳（メタデータ） (2021-01-13T04:13:54Z)
• To Talk or to Work: Flexible Communication Compression for Energy Efficient Federated Learning over Heterogeneous Mobile Edge Devices [78.38046945665538]
  巨大なモバイルエッジデバイス上でのフェデレーション学習(FL)は、多数のインテリジェントなモバイルアプリケーションのための新たな地平を開く。 FLは、定期的なグローバル同期と継続的なローカルトレーニングにより、参加するデバイスに膨大な通信と計算負荷を課す。 フレキシブルな通信圧縮を可能にする収束保証FLアルゴリズムを開発。
  論文  参考訳（メタデータ） (2020-12-22T02:54:18Z)
• Lightwave Power Transfer for Federated Learning-based Wireless Networks [34.434349833489954]
  フェデレートラーニング(FL)は、分散した方法で共有機械学習モデルをトレーニングするための新しいテクニックとして最近紹介されている。 無線ネットワークにFLを実装することで、エネルギー制約のあるモバイルデバイスの寿命を大幅に短縮することができる。 本稿では,FLベースの無線ネットワークにおける光波電力伝送の適用に基づく物理層への新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2020-04-11T16:27:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。