論文の概要: FL_PyTorch: optimization research simulator for federated learning
- arxiv url: http://arxiv.org/abs/2202.03099v1
- Date: Mon, 7 Feb 2022 12:18:28 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-08 22:44:30.702461
- Title: FL_PyTorch: optimization research simulator for federated learning
- Title(参考訳): FL_PyTorch:連邦学習のための最適化研究シミュレータ
- Authors: Konstantin Burlachenko, Samuel Horv\'ath, Peter Richt\'arik
- Abstract要約: フェデレートラーニング(FL)は、エッジデバイスが共同で機械学習モデルを学ぶための有望なテクニックとして登場した。
FL_PyTorchはpythonで書かれたオープンソースのソフトウェアスイートで、最も人気のあるDeep Learning (DL)フレームワークであるPyTorchの上に構築されている。
- 参考スコア(独自算出の注目度): 1.6114012813668934
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated Learning (FL) has emerged as a promising technique for edge devices
to collaboratively learn a shared machine learning model while keeping training
data locally on the device, thereby removing the need to store and access the
full data in the cloud. However, FL is difficult to implement, test and deploy
in practice considering heterogeneity in common edge device settings, making it
fundamentally hard for researchers to efficiently prototype and test their
optimization algorithms. In this work, our aim is to alleviate this problem by
introducing FL_PyTorch : a suite of open-source software written in python that
builds on top of one the most popular research Deep Learning (DL) framework
PyTorch. We built FL_PyTorch as a research simulator for FL to enable fast
development, prototyping and experimenting with new and existing FL
optimization algorithms. Our system supports abstractions that provide
researchers with a sufficient level of flexibility to experiment with existing
and novel approaches to advance the state-of-the-art. Furthermore, FL_PyTorch
is a simple to use console system, allows to run several clients simultaneously
using local CPUs or GPU(s), and even remote compute devices without the need
for any distributed implementation provided by the user. FL_PyTorch also offers
a Graphical User Interface. For new methods, researchers only provide the
centralized implementation of their algorithm. To showcase the possibilities
and usefulness of our system, we experiment with several well-known
state-of-the-art FL algorithms and a few of the most common FL datasets.
- Abstract(参考訳): フェデレーション学習(federated learning, fl)は、エッジデバイスがデバイス上でトレーニングデータをローカルに保持しながら、共有機械学習モデルを共同学習する有望なテクニックとして登場し、クラウド内の全データを格納し、アクセスする必要がなくなった。
しかしながら、共通エッジデバイス設定における異種性を考慮した実装、テスト、デプロイは困難であり、研究者が効率的に最適化アルゴリズムをプロトタイプし、テストすることは基本的に困難である。
本研究の目的は,ディープラーニング(DL)フレームワークであるPyTorchをベースとした,pythonで記述されたオープンソースのソフトウェアスイートであるFL_PyTorchを導入することで,この問題を軽減することにある。
FLの高速な開発,プロトタイピング,実験を行うための研究シミュレータとしてFL_PyTorchを開発した。
本システムでは,既存の新しい手法を試すための柔軟性を研究者に提供する抽象化を支援する。
さらにFL_PyTorchは単純なコンソールシステムであり、ローカルCPUやGPUを使って複数のクライアントを同時に実行したり、ユーザが提供する分散実装を必要とせずにリモートコンピューティングデバイスでも実行できる。
fl_pytorchはグラフィカルユーザインタフェースも提供する。
新しい手法では、研究者はアルゴリズムの集中的な実装のみを提供する。
本システムの可能性と有用性を示すために,いくつかの最先端flアルゴリズムと最も一般的なflデータセットを実験した。
関連論文リスト
- Where is the Testbed for my Federated Learning Research? [3.910931245706272]
本稿では,連邦学習(FL)研究のための実世界テストベッドであるCoLExTを紹介する。
CoLExTは、リッチなテストベッド構成空間におけるカスタムFLアルゴリズムの実験を合理化するように設計されている。
CoLExT上で動作する一般的なFLアルゴリズムに関する最初の調査を通じて、これまで未知のトレードオフ、非効率性、およびプログラミングバグを明らかにした。
論文 参考訳(メタデータ) (2024-07-19T09:34:04Z) - pfl-research: simulation framework for accelerating research in Private Federated Learning [6.421821657238535]
pfl-researchは、Federated Learning(FL)をシミュレートする高速でモジュール化された、使いやすいPythonフレームワークである。
セットアップ、PyTorch、非ニューラルネットワークモデルをサポートし、最先端のアルゴリズムと密に統合されている。
我々は,多様な現実的なシナリオに対して,アルゴリズムの全体的な性能を評価するベンチマークスイートをリリースする。
論文 参考訳(メタデータ) (2024-04-09T16:23:01Z) - Communication Efficient ConFederated Learning: An Event-Triggered SAGA
Approach [67.27031215756121]
Federated Learning(FL)は、さまざまなデータソース上のローカルデータを収集することなく、モデルトレーニングをターゲットとする機械学習パラダイムである。
単一のサーバを使用するStandard FLは、限られた数のユーザしかサポートできないため、学習能力の低下につながる。
本研究では,多数のユーザに対応するために,emphConfederated Learning(CFL)と呼ばれるマルチサーバFLフレームワークを検討する。
論文 参考訳(メタデータ) (2024-02-28T03:27:10Z) - Federated Fine-Tuning of LLMs on the Very Edge: The Good, the Bad, the Ugly [62.473245910234304]
本稿では,最新のエッジコンピューティングシステムにおいて,Large Language Modelsをどのように導入できるかを,ハードウェア中心のアプローチで検討する。
マイクロレベルのハードウェアベンチマークを行い、FLOPモデルと最先端のデータセンターGPUを比較し、現実的な条件下でのネットワーク利用について検討する。
論文 参考訳(メタデータ) (2023-10-04T20:27:20Z) - FS-Real: Towards Real-World Cross-Device Federated Learning [60.91678132132229]
Federated Learning (FL)は、ローカルデータをアップロードすることなく、分散クライアントと協調して高品質なモデルをトレーニングすることを目的としている。
FL研究と実世界のシナリオの間には依然としてかなりのギャップがあり、主に異種デバイスの特徴とそのスケールによって引き起こされている。
本稿では,実世界横断デバイスFL,FS-Realのための効率的でスケーラブルなプロトタイピングシステムを提案する。
論文 参考訳(メタデータ) (2023-03-23T15:37:17Z) - Automated Federated Learning in Mobile Edge Networks -- Fast Adaptation
and Convergence [83.58839320635956]
フェデレートラーニング(FL)は、モバイルエッジネットワークで機械学習モデルを分散的にトレーニングするために使用することができる。
最近のFLは、モデルに依存しないメタラーニング(MAML)フレームワークで解釈されている。
本稿は,MAMLがFLにもたらすメリットと,モバイルエッジネットワーク上でのメリットの最大化について論じる。
論文 参考訳(メタデータ) (2023-03-23T02:42:10Z) - TorchFL: A Performant Library for Bootstrapping Federated Learning
Experiments [4.075095403704456]
本稿では,フェデレート学習実験をブートストラップするパフォーマンスライブラリTorchFLを紹介する。
TorchFLはPyTorchとLightningを使ってボトムアップで設計されている。
PyTorchとLightningを使用したボトムアップ設計に基づいて構築されたTorchFLは、モデル、データセット、FLアルゴリズムのための準備の整った抽象化を提供する。
論文 参考訳(メタデータ) (2022-11-01T20:31:55Z) - NVIDIA FLARE: Federated Learning from Simulation to Real-World [11.490933081543787]
私たちはNVIDIA FLAREをオープンソース開発キット(SDK)として開発しました。
SDKには最先端のFLアルゴリズムとフェデレートされた機械学習アプローチのためのソリューションが含まれている。
論文 参考訳(メタデータ) (2022-10-24T14:30:50Z) - FLamby: Datasets and Benchmarks for Cross-Silo Federated Learning in
Realistic Healthcare Settings [51.09574369310246]
Federated Learning(FL)は、センシティブなデータを保持している複数のクライアントが協力して機械学習モデルをトレーニングできる新しいアプローチである。
本稿では,医療分野に重点を置くクロスサイロ・データセット・スイートFLambyを提案し,クロスサイロ・FLの理論と実践のギャップを埋める。
私たちのフレキシブルでモジュラーなスイートによって、研究者は簡単にデータセットをダウンロードし、結果を再現し、研究のためにさまざまなコンポーネントを再利用することができます。
論文 参考訳(メタデータ) (2022-10-10T12:17:30Z) - Flower: A Friendly Federated Learning Research Framework [18.54638343801354]
フェデレートラーニング(FL)は、エッジデバイスが共同で共有予測モデルを学ぶための有望なテクニックとして登場した。
Flower - 大規模なFL実験を行うための新しい設備を提供することで、既存のプラットフォームと差別化を図った包括的なFLフレームワークである。
論文 参考訳(メタデータ) (2020-07-28T17:59:07Z) - FedML: A Research Library and Benchmark for Federated Machine Learning [55.09054608875831]
フェデレート・ラーニング(Federated Learning, FL)は、機械学習の分野で急速に成長している研究分野である。
既存のFLライブラリは多様なアルゴリズム開発を適切にサポートできない。
FLアルゴリズムの開発と公正な性能比較を容易にするための,オープンな研究ライブラリとベンチマークであるFedMLを紹介する。
論文 参考訳(メタデータ) (2020-07-27T13:02:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。