論文の概要: Federated Learning for Computationally-Constrained Heterogeneous Devices: A Survey

• arxiv url: http://arxiv.org/abs/2307.09182v1
• Date: Tue, 18 Jul 2023 12:05:36 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-19 15:03:44.720870
• Title: Federated Learning for Computationally-Constrained Heterogeneous Devices: A Survey
• Title（参考訳）: 計算制約のある異種デバイスのためのフェデレーション学習:サーベイ
• Authors: Kilian Pfeiffer, Martin Rapp, Ramin Khalili, J\"org Henkel
• Abstract要約: フェデレートラーニング(FL)は、通信オーバーヘッドとモデルの正確性の間のトレードオフをプライバシ保護する。 現実のアプリケーションに広く適用するためにFLが克服しなければならない課題について概説する。
• 参考スコア（独自算出の注目度）: 3.219812767529503
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: With an increasing number of smart devices like internet of things (IoT) devices deployed in the field, offloadingtraining of neural networks (NNs) to a central server becomes more and more infeasible. Recent efforts toimprove users' privacy have led to on-device learning emerging as an alternative. However, a model trainedonly on a single device, using only local data, is unlikely to reach a high accuracy. Federated learning (FL)has been introduced as a solution, offering a privacy-preserving trade-off between communication overheadand model accuracy by sharing knowledge between devices but disclosing the devices' private data. Theapplicability and the benefit of applying baseline FL are, however, limited in many relevant use cases dueto the heterogeneity present in such environments. In this survey, we outline the heterogeneity challengesFL has to overcome to be widely applicable in real-world applications. We especially focus on the aspect ofcomputation heterogeneity among the participating devices and provide a comprehensive overview of recentworks on heterogeneity-aware FL. We discuss two groups: works that adapt the NN architecture and worksthat approach heterogeneity on a system level, covering Federated Averaging (FedAvg), distillation, and splitlearning-based approaches, as well as synchronous and asynchronous aggregation schemes.
• Abstract（参考訳）: モノのインターネット(IoT)デバイスのようなスマートデバイスがフィールドに展開されるにつれて、ニューラルネットワーク(NN)を中央サーバにオフロードすることは、ますます不可能になっています。 ユーザのプライバシを改善しようとする最近の取り組みは、代替手段としてデバイス上での学習が生まれている。 しかし、単一のデバイスでのみトレーニングされたモデルは、ローカルデータのみを使用して、高い精度に達する可能性は低い。 フェデレーション学習(federated learning, fl)は、デバイス間の知識を共有しながら、デバイスのプライベートデータを開示することで、通信オーバーヘッドとモデルの正確性の間のプライバシー保護トレードオフを提供するソリューションである。 しかしながら、そのような環境に存在する異質性のため、多くの関連するユースケースにおいて、適用可能性とベースラインflを適用する利点は限られている。 本稿では、FLが現実のアプリケーションに広く適用するために克服しなければならない異種性の課題について概説する。 特に,参加デバイス間の計算の不均質性の側面に着目し,不均質性認識flに関する最近の研究の概要を概観する。 NNアーキテクチャの適応作業とシステムレベルでの不均一性にアプローチする作業,フェデレート平均化(FedAvg),蒸留,分割学習に基づくアプローチ,同期および非同期アグリゲーションスキームの2つのグループについて論じる。

関連論文リスト

• Effective Intrusion Detection in Heterogeneous Internet-of-Things Networks via Ensemble Knowledge Distillation-based Federated Learning [52.6706505729803]
  我々は、分散化された侵入検知システムの共有モデル(IDS)を協調訓練するために、フェデレートラーニング(FL)を導入する。 FLEKDは従来のモデル融合法よりも柔軟な凝集法を実現する。 実験の結果,提案手法は,速度と性能の両面で,局所訓練と従来のFLよりも優れていた。
  論文  参考訳（メタデータ） (2024-01-22T14:16:37Z)
• Coordination-free Decentralised Federated Learning on Complex Networks: Overcoming Heterogeneity [2.6849848612544]
  Federated Learning(FL)は、エッジコンピューティングシナリオで学習タスクを実行するためのフレームワークである。 本稿では,コミュニケーション効率のよい分散フェデレート学習(DFL)アルゴリズムを提案する。 我々のソリューションは、デバイスが直接隣人とのみ通信し、正確なモデルを訓練することを可能にする。
  論文  参考訳（メタデータ） (2023-12-07T18:24:19Z)
• Filling the Missing: Exploring Generative AI for Enhanced Federated Learning over Heterogeneous Mobile Edge Devices [72.61177465035031]
  ローカルデータのFIMI(FIlling the MIssing)部分を活用することにより,これらの課題に対処する,AIを活用した創発的なフェデレーション学習を提案する。 実験の結果,FIMIはデバイス側エネルギーの最大50%を節約し,目標とするグローバルテスト精度を達成できることがわかった。
  論文  参考訳（メタデータ） (2023-10-21T12:07:04Z)
• Tackling Computational Heterogeneity in FL: A Few Theoretical Insights [68.8204255655161]
  我々は、計算異種データの形式化と処理を可能にする新しい集約フレームワークを導入し、分析する。 提案するアグリゲーションアルゴリズムは理論的および実験的予測から広範囲に解析される。
  論文  参考訳（メタデータ） (2023-07-12T16:28:21Z)
• FS-Real: Towards Real-World Cross-Device Federated Learning [60.91678132132229]
  Federated Learning (FL)は、ローカルデータをアップロードすることなく、分散クライアントと協調して高品質なモデルをトレーニングすることを目的としている。 FL研究と実世界のシナリオの間には依然としてかなりのギャップがあり、主に異種デバイスの特徴とそのスケールによって引き起こされている。 本稿では,実世界横断デバイスFL,FS-Realのための効率的でスケーラブルなプロトタイピングシステムを提案する。
  論文  参考訳（メタデータ） (2023-03-23T15:37:17Z)
• Evaluation and comparison of federated learning algorithms for Human Activity Recognition on smartphones [0.5039813366558306]
  フェデレートラーニング(FL)は、ローカルデバイスの使用を促進する新しい機械学習パラダイムとして導入された。 本稿では,FedDistと呼ばれる新しいFLアルゴリズムを提案する。 その結果、FedDistが異種データに適応できることと、FLが非同期な状況に対処できることが示されている。
  論文  参考訳（メタデータ） (2022-10-30T18:47:23Z)
• FedHiSyn: A Hierarchical Synchronous Federated Learning Framework for Resource and Data Heterogeneity [56.82825745165945]
  フェデレートラーニング(FL)は、データプライバシを保護するために複数のデバイスに格納された分散生データを共有することなく、グローバルモデルのトレーニングを可能にする。 本稿では,階層型同期FLフレームワークであるFedHiSynを提案し,トラグラー効果や時代遅れモデルの問題に対処する。 提案手法は,MNIST,EMNIST,CIFAR10,CIFAR100のデータセットと多種多様なデバイス設定に基づいて評価する。
  論文  参考訳（メタデータ） (2022-06-21T17:23:06Z)
• Local Learning Matters: Rethinking Data Heterogeneity in Federated Learning [61.488646649045215]
  フェデレートラーニング(FL)は、クライアントのネットワーク(エッジデバイス)でプライバシ保護、分散ラーニングを行うための有望な戦略である。
  論文  参考訳（メタデータ） (2021-11-28T19:03:39Z)
• Ternary Compression for Communication-Efficient Federated Learning [17.97683428517896]
  フェデレートされた学習は、プライバシ保護とセキュアな機械学習に対する潜在的なソリューションを提供する。 本稿では,第3次フェデレーション平均化プロトコル(T-FedAvg)を提案する。 その結果,提案したT-FedAvgは通信コストの低減に有効であり,非IIDデータの性能も若干向上できることがわかった。
  論文  参考訳（メタデータ） (2020-03-07T11:55:34Z)
• Federated Learning with Cooperating Devices: A Consensus Approach for Massive IoT Networks [8.456633924613456]
  分散システムにおける機械学習モデルをトレーニングするための新しいパラダイムとして、フェデレートラーニング(FL)が登場している。 提案するFLアルゴリズムは,ネットワーク内のデータ操作を行うデバイスとの協調を利用して,完全に分散された(あるいはサーバレス)学習手法を提案する。 このアプローチは、分散接続とコンピューティングを特徴とするネットワークを超えて、5G 内で FL を統合するための基盤となる。
  論文  参考訳（メタデータ） (2019-12-27T15:16:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。