論文の概要: FS-Real: Towards Real-World Cross-Device Federated Learning
- arxiv url: http://arxiv.org/abs/2303.13363v1
- Date: Thu, 23 Mar 2023 15:37:17 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-24 13:39:58.424172
- Title: FS-Real: Towards Real-World Cross-Device Federated Learning
- Title（参考訳）: FS-Real: 実世界のクロスデバイスフェデレーションラーニングを目指して
- Authors: Daoyuan Chen, Dawei Gao, Yuexiang Xie, Xuchen Pan, Zitao Li, Yaliang
Li, Bolin Ding, Jingren Zhou
- Abstract要約: Federated Learning (FL)は、ローカルデータをアップロードすることなく、分散クライアントと協調して高品質なモデルをトレーニングすることを目的としている。
FL研究と実世界のシナリオの間には依然としてかなりのギャップがあり、主に異種デバイスの特徴とそのスケールによって引き起こされている。
本稿では,実世界横断デバイスFL,FS-Realのための効率的でスケーラブルなプロトタイピングシステムを提案する。
- 参考スコア（独自算出の注目度）: 60.91678132132229
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated Learning (FL) aims to train high-quality models in collaboration
with distributed clients while not uploading their local data, which attracts
increasing attention in both academia and industry. However, there is still a
considerable gap between the flourishing FL research and real-world scenarios,
mainly caused by the characteristics of heterogeneous devices and its scales.
Most existing works conduct evaluations with homogeneous devices, which are
mismatched with the diversity and variability of heterogeneous devices in
real-world scenarios. Moreover, it is challenging to conduct research and
development at scale with heterogeneous devices due to limited resources and
complex software stacks. These two key factors are important yet underexplored
in FL research as they directly impact the FL training dynamics and final
performance, making the effectiveness and usability of FL algorithms unclear.
To bridge the gap, in this paper, we propose an efficient and scalable
prototyping system for real-world cross-device FL, FS-Real. It supports
heterogeneous device runtime, contains parallelism and robustness enhanced FL
server, and provides implementations and extensibility for advanced FL utility
features such as personalization, communication compression and asynchronous
aggregation. To demonstrate the usability and efficiency of FS-Real, we conduct
extensive experiments with various device distributions, quantify and analyze
the effect of the heterogeneous device and various scales, and further provide
insights and open discussions about real-world FL scenarios. Our system is
released to help to pave the way for further real-world FL research and broad
applications involving diverse devices and scales.
- Abstract（参考訳）: Federated Learning(FL)は、ローカルデータをアップロードせずに、分散クライアントと協調して高品質なモデルをトレーニングすることを目的としている。
しかし、fl研究と実世界のシナリオの間には依然としてかなりのギャップがあり、主に異種デバイスの特徴とその規模が原因である。
既存の研究の多くは、異種デバイスが現実世界のシナリオで多様性や多様性にマッチしない同質デバイスを用いて評価を行っている。
さらに、リソースの制限や複雑なソフトウェアスタックのため、異種デバイスで大規模に研究開発を行うことも困難である。
これらの2つの重要な要因は、FLのトレーニング力学と最終性能に直接影響し、FLアルゴリズムの有効性と使用性は不明確である。
本稿では,このギャップを埋めるために,実世界横断デバイスFL,FS-Realのための効率的かつスケーラブルなプロトタイピングシステムを提案する。
異種デバイスランタイムをサポートし、並列性と堅牢性を強化したFLサーバを備え、パーソナライズ、通信圧縮、非同期アグリゲーションといった高度なFLユーティリティ機能の実装と拡張を提供する。
fs-realのユーザビリティと効率性を示すために,様々なデバイス分布を用いた広範囲な実験を行い,異種デバイスと様々なスケールの効果を定量化し分析し,さらに実世界のflシナリオに関する洞察と議論を提供する。
我々のシステムは、より現実世界のFL研究と多様なデバイスやスケールを含む幅広い応用の道を開くのに役立つ。
関連論文リスト
- Can We Theoretically Quantify the Impacts of Local Updates on the Generalization Performance of Federated Learning? [50.03434441234569]
フェデレートラーニング(FL)は、直接データ共有を必要とせず、さまざまなサイトで機械学習モデルをトレーニングする効果により、大きな人気を集めている。
局所的な更新を伴うFLは通信効率のよい分散学習フレームワークであることが様々なアルゴリズムによって示されているが、局所的な更新によるFLの一般化性能は比較的低い。
論文 参考訳（メタデータ） (2024-09-05T19:00:18Z) - Federated Learning for 6G: Paradigms, Taxonomy, Recent Advances and
Insights [52.024964564408]
本稿では,プロトコルスタックのすべてのレベルにわたってフェデレートラーニングを実装することの付加価値について検討する。
それは重要なFLアプリケーションを示し、ホットトピックに対処し、将来の研究と開発のための貴重な洞察と明示的なガイダンスを提供します。
我々の結論は、FLと将来の6Gの相乗効果を活用しつつ、FLがワイヤレス産業に革命をもたらす可能性を浮き彫りにすることを目的としています。
論文 参考訳（メタデータ） (2023-12-07T20:39:57Z) - An Empirical Study of Federated Learning on IoT-Edge Devices: Resource
Allocation and Heterogeneity [2.055204980188575]
Federated Learning(FL)は、単一のサーバと複数のクライアントがクライアントからデータを移動することなく、協調してMLモデルを構築する分散アプローチである。
本研究では,IoTとエッジデバイス(IoT-Edgeデバイスと呼ばれる)の大規模ネットワーク上で,FLの実環境特性を示す大規模な実験を系統的に実施する。
論文 参考訳（メタデータ） (2023-05-31T13:16:07Z) - Automated Federated Learning in Mobile Edge Networks -- Fast Adaptation
and Convergence [83.58839320635956]
フェデレートラーニング(FL)は、モバイルエッジネットワークで機械学習モデルを分散的にトレーニングするために使用することができる。
最近のFLは、モデルに依存しないメタラーニング(MAML)フレームワークで解釈されている。
本稿は,MAMLがFLにもたらすメリットと,モバイルエッジネットワーク上でのメリットの最大化について論じる。
論文 参考訳（メタデータ） (2023-03-23T02:42:10Z) - Online Data Selection for Federated Learning with Limited Storage [53.46789303416799]
ネットワークデバイス間での分散機械学習を実現するために、フェデレートラーニング(FL)が提案されている。
デバイス上のストレージがFLの性能に与える影響はまだ調査されていない。
本研究では,デバイス上のストレージを限定したFLのオンラインデータ選択について検討する。
論文 参考訳（メタデータ） (2022-09-01T03:27:33Z) - Efficient Split-Mix Federated Learning for On-Demand and In-Situ
Customization [107.72786199113183]
フェデレートラーニング(FL)は、複数の参加者が生データを共有せずに学習をコラボレーションするための分散ラーニングフレームワークを提供する。
本稿では, モデルサイズとロバスト性をその場でカスタマイズできる, 不均一な参加者のための新しいスプリット・ミクス・FL戦略を提案する。
論文 参考訳（メタデータ） (2022-03-18T04:58:34Z) - FLAME: Federated Learning Across Multi-device Environments [9.810211000961647]
Federated Learning (FL)は、マシンラーニングモデルの分散トレーニングを可能にし、ユーザデバイス上の個人情報をプライベートに保持する。
ユーザ中心のFLAME学習手法であるFLAMEを提案する。
その結果,FLAMEはF-1スコアが4.8～33.8%,エネルギー効率が1.02～2.86倍,収束速度が2.02倍に向上した。
論文 参考訳（メタデータ） (2022-02-17T22:23:56Z) - On the Impact of Device and Behavioral Heterogeneity in Federated
Learning [5.038980064083677]
フェデレーション学習(fl)は、非信頼エンティティが所有する分散プライベートデータセット上での協調学習のための一般的なパラダイムになりつつある。
本稿では,多くの異種データセット,デバイス,ネットワーク上でのトレーニングを行う課題について述べる。
5つのFLベンチマークで1.5Kのユニークな構成にまたがる経験的研究を行った。
論文 参考訳（メタデータ） (2021-02-15T12:04:38Z) - Flower: A Friendly Federated Learning Research Framework [18.54638343801354]
フェデレートラーニング(FL)は、エッジデバイスが共同で共有予測モデルを学ぶための有望なテクニックとして登場した。
Flower - 大規模なFL実験を行うための新しい設備を提供することで、既存のプラットフォームと差別化を図った包括的なFLフレームワークである。
論文 参考訳（メタデータ） (2020-07-28T17:59:07Z) - Characterizing Impacts of Heterogeneity in Federated Learning upon
Large-Scale Smartphone Data [23.67491703843822]
フェデレーテッド・ラーニング(FL)は、新しいプライバシー保護機械学習パラダイムであり、アカデミックや業界で大きな注目を集めている。
FLのユニークな特徴は異質性であり、様々なハードウェア仕様と、参加するデバイス全体の動的状態に存在する。
我々は、異種および異種な設定下での最先端のFLアルゴリズムの性能を比較するために、広範囲な実験を行った。
論文 参考訳（メタデータ） (2020-06-12T07:49:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。