論文の概要: An Empirical Study of Federated Learning on IoT-Edge Devices: Resource Allocation and Heterogeneity

• arxiv url: http://arxiv.org/abs/2305.19831v1
• Date: Wed, 31 May 2023 13:16:07 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-01 16:30:17.887872
• Title: An Empirical Study of Federated Learning on IoT-Edge Devices: Resource Allocation and Heterogeneity
• Title（参考訳）: IoT-Edgeデバイスにおけるフェデレーション学習に関する実証的研究:リソース割り当てと異種性
• Authors: Kok-Seng Wong, Manh Nguyen-Duc, Khiem Le-Huy, Long Ho-Tuan, Cuong Do-Danh and Danh Le-Phuoc
• Abstract要約: Federated Learning(FL)は、単一のサーバと複数のクライアントがクライアントからデータを移動することなく、協調してMLモデルを構築する分散アプローチである。 本研究では,IoTとエッジデバイス(IoT-Edgeデバイスと呼ばれる)の大規模ネットワーク上で,FLの実環境特性を示す大規模な実験を系統的に実施する。
• 参考スコア（独自算出の注目度）: 2.055204980188575
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Nowadays, billions of phones, IoT and edge devices around the world generate data continuously, enabling many Machine Learning (ML)-based products and applications. However, due to increasing privacy concerns and regulations, these data tend to reside on devices (clients) instead of being centralized for performing traditional ML model training. Federated Learning (FL) is a distributed approach in which a single server and multiple clients collaboratively build an ML model without moving data away from clients. Whereas existing studies on FL have their own experimental evaluations, most experiments were conducted using a simulation setting or a small-scale testbed. This might limit the understanding of FL implementation in realistic environments. In this empirical study, we systematically conduct extensive experiments on a large network of IoT and edge devices (called IoT-Edge devices) to present FL real-world characteristics, including learning performance and operation (computation and communication) costs. Moreover, we mainly concentrate on heterogeneous scenarios, which is the most challenging issue of FL. By investigating the feasibility of on-device implementation, our study provides valuable insights for researchers and practitioners, promoting the practicality of FL and assisting in improving the current design of real FL systems.
• Abstract（参考訳）: 現在、世界中の何十億もの携帯電話、IoT、エッジデバイスが継続的にデータを生成しており、多くの機械学習(ML)ベースの製品やアプリケーションを実現している。 しかしながら、プライバシの懸念や規制の増大により、これらのデータは従来のMLモデルのトレーニングを実行するために集中的に実行されるのではなく、デバイス(クライアント)に配置される傾向にある。 Federated Learning(FL)は、単一のサーバと複数のクライアントがクライアントからデータを移動することなく、協調してMLモデルを構築する分散アプローチである。 flに関する既存の研究は独自の実験評価を行っているが、ほとんどの実験はシミュレーションまたは小規模のテストベッドを用いて行われた。 これは現実の環境でのfl実装の理解を制限する可能性がある。 本研究では,大規模なIoTデバイスとエッジデバイス(IoT-Edgeデバイス)のネットワーク上で,学習性能や運用(計算・通信)コストなど,FLの現実特性を示す大規模な実験を系統的に実施する。 さらに,我々は,flの最も困難な課題である異種シナリオに主眼を置きます。 本研究は,オンデバイス実装の実現可能性を調査することで,研究者や実践者にとって有用な洞察を与え,flの実用性を促進し,現行のflシステムの設計改善を支援する。

関連論文リスト

• A Survey on Efficient Federated Learning Methods for Foundation Model Training [62.473245910234304]
  フェデレーテッド・ラーニング(FL)は、多数のクライアントにわたるプライバシー保護協調トレーニングを促進するための確立した技術となっている。 Foundation Models (FM)の後、多くのディープラーニングアプリケーションでは現実が異なる。 FLアプリケーションに対するパラメータ効率細調整(PEFT)の利点と欠点について論じる。
  論文  参考訳（メタデータ） (2024-01-09T10:22:23Z)
• Federated Fine-Tuning of LLMs on the Very Edge: The Good, the Bad, the Ugly [62.473245910234304]
  本稿では,最新のエッジコンピューティングシステムにおいて,Large Language Modelsをどのように導入できるかを,ハードウェア中心のアプローチで検討する。 マイクロレベルのハードウェアベンチマークを行い、FLOPモデルと最先端のデータセンターGPUを比較し、現実的な条件下でのネットワーク利用について検討する。
  論文  参考訳（メタデータ） (2023-10-04T20:27:20Z)
• FS-Real: Towards Real-World Cross-Device Federated Learning [60.91678132132229]
  Federated Learning (FL)は、ローカルデータをアップロードすることなく、分散クライアントと協調して高品質なモデルをトレーニングすることを目的としている。 FL研究と実世界のシナリオの間には依然としてかなりのギャップがあり、主に異種デバイスの特徴とそのスケールによって引き起こされている。 本稿では,実世界横断デバイスFL,FS-Realのための効率的でスケーラブルなプロトタイピングシステムを提案する。
  論文  参考訳（メタデータ） (2023-03-23T15:37:17Z)
• Enhancing Efficiency in Multidevice Federated Learning through Data Selection [11.67484476827617]
  マルチデバイス環境におけるフェデレーション学習(FL)は、膨大な量のプライベートデータから学習する新たな機会を生み出す。 本稿では、デバイス上のデータ選択を制約されたデバイスに組み込むためのFLフレームワークを開発する。 我々のフレームワークは,実装戦略のないベースラインFLと比較して,19%の精度,58%のレイテンシを実現している。
  論文  参考訳（メタデータ） (2022-11-08T11:39:17Z)
• Federated Learning and Meta Learning: Approaches, Applications, and Directions [94.68423258028285]
  本稿では,FL,メタラーニング,フェデレーションメタラーニング(FedMeta)について概観する。 他のチュートリアルと異なり、私たちの目標はFL、メタラーニング、FedMetaの方法論をどのように設計、最適化、進化させ、無線ネットワーク上で応用するかを探ることです。
  論文  参考訳（メタデータ） (2022-10-24T10:59:29Z)
• Online Data Selection for Federated Learning with Limited Storage [53.46789303416799]
  ネットワークデバイス間での分散機械学習を実現するために、フェデレートラーニング(FL)が提案されている。 デバイス上のストレージがFLの性能に与える影響はまだ調査されていない。 本研究では,デバイス上のストレージを限定したFLのオンラインデータ選択について検討する。
  論文  参考訳（メタデータ） (2022-09-01T03:27:33Z)
• On the Impact of Device and Behavioral Heterogeneity in Federated Learning [5.038980064083677]
  フェデレーション学習(fl)は、非信頼エンティティが所有する分散プライベートデータセット上での協調学習のための一般的なパラダイムになりつつある。 本稿では,多くの異種データセット,デバイス,ネットワーク上でのトレーニングを行う課題について述べる。 5つのFLベンチマークで1.5Kのユニークな構成にまたがる経験的研究を行った。
  論文  参考訳（メタデータ） (2021-02-15T12:04:38Z)
• Flower: A Friendly Federated Learning Research Framework [18.54638343801354]
  フェデレートラーニング(FL)は、エッジデバイスが共同で共有予測モデルを学ぶための有望なテクニックとして登場した。 Flower - 大規模なFL実験を行うための新しい設備を提供することで、既存のプラットフォームと差別化を図った包括的なFLフレームワークである。
  論文  参考訳（メタデータ） (2020-07-28T17:59:07Z)
• Wireless Communications for Collaborative Federated Learning [160.82696473996566]
  IoT(Internet of Things)デバイスは、収集したデータを中央のコントローラに送信することができず、機械学習モデルをトレーニングすることができる。 GoogleのセミナルFLアルゴリズムでは、すべてのデバイスを中央コントローラに直接接続する必要がある。 本稿では,コラボレーティブFL(CFL)と呼ばれる新しいFLフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-06-03T20:00:02Z)
• Federated Learning for Resource-Constrained IoT Devices: Panoramas and State-of-the-art [12.129978716326676]
  我々は最近実装されたフェデレートラーニングの現実的な応用をいくつか紹介する。 大規模ネットワークでは、様々な計算資源を持つクライアントが存在するかもしれない。 FL領域における資源制約装置の今後の方向性を強調した。
  論文  参考訳（メタデータ） (2020-02-25T01:03:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。