論文の概要: FL_PyTorch: optimization research simulator for federated learning
- arxiv url: http://arxiv.org/abs/2202.03099v1
- Date: Mon, 7 Feb 2022 12:18:28 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-08 22:44:30.702461
- Title: FL_PyTorch: optimization research simulator for federated learning
- Title(参考訳): FL_PyTorch:連邦学習のための最適化研究シミュレータ
- Authors: Konstantin Burlachenko, Samuel Horv\'ath, Peter Richt\'arik
- Abstract要約: フェデレートラーニング(FL)は、エッジデバイスが共同で機械学習モデルを学ぶための有望なテクニックとして登場した。
FL_PyTorchはpythonで書かれたオープンソースのソフトウェアスイートで、最も人気のあるDeep Learning (DL)フレームワークであるPyTorchの上に構築されている。
- 参考スコア(独自算出の注目度): 1.6114012813668934
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated Learning (FL) has emerged as a promising technique for edge devices
to collaboratively learn a shared machine learning model while keeping training
data locally on the device, thereby removing the need to store and access the
full data in the cloud. However, FL is difficult to implement, test and deploy
in practice considering heterogeneity in common edge device settings, making it
fundamentally hard for researchers to efficiently prototype and test their
optimization algorithms. In this work, our aim is to alleviate this problem by
introducing FL_PyTorch : a suite of open-source software written in python that
builds on top of one the most popular research Deep Learning (DL) framework
PyTorch. We built FL_PyTorch as a research simulator for FL to enable fast
development, prototyping and experimenting with new and existing FL
optimization algorithms. Our system supports abstractions that provide
researchers with a sufficient level of flexibility to experiment with existing
and novel approaches to advance the state-of-the-art. Furthermore, FL_PyTorch
is a simple to use console system, allows to run several clients simultaneously
using local CPUs or GPU(s), and even remote compute devices without the need
for any distributed implementation provided by the user. FL_PyTorch also offers
a Graphical User Interface. For new methods, researchers only provide the
centralized implementation of their algorithm. To showcase the possibilities
and usefulness of our system, we experiment with several well-known
state-of-the-art FL algorithms and a few of the most common FL datasets.
- Abstract(参考訳): フェデレーション学習(federated learning, fl)は、エッジデバイスがデバイス上でトレーニングデータをローカルに保持しながら、共有機械学習モデルを共同学習する有望なテクニックとして登場し、クラウド内の全データを格納し、アクセスする必要がなくなった。
しかしながら、共通エッジデバイス設定における異種性を考慮した実装、テスト、デプロイは困難であり、研究者が効率的に最適化アルゴリズムをプロトタイプし、テストすることは基本的に困難である。
本研究の目的は,ディープラーニング(DL)フレームワークであるPyTorchをベースとした,pythonで記述されたオープンソースのソフトウェアスイートであるFL_PyTorchを導入することで,この問題を軽減することにある。
FLの高速な開発,プロトタイピング,実験を行うための研究シミュレータとしてFL_PyTorchを開発した。
本システムでは,既存の新しい手法を試すための柔軟性を研究者に提供する抽象化を支援する。
さらにFL_PyTorchは単純なコンソールシステムであり、ローカルCPUやGPUを使って複数のクライアントを同時に実行したり、ユーザが提供する分散実装を必要とせずにリモートコンピューティングデバイスでも実行できる。
fl_pytorchはグラフィカルユーザインタフェースも提供する。
新しい手法では、研究者はアルゴリズムの集中的な実装のみを提供する。
本システムの可能性と有用性を示すために,いくつかの最先端flアルゴリズムと最も一般的なflデータセットを実験した。
関連論文リスト
- Communication Efficient ConFederated Learning: An Event-Triggered SAGA
Approach [67.27031215756121]
Federated Learning(FL)は、さまざまなデータソース上のローカルデータを収集することなく、モデルトレーニングをターゲットとする機械学習パラダイムである。
単一のサーバを使用するStandard FLは、限られた数のユーザしかサポートできないため、学習能力の低下につながる。
本研究では,多数のユーザに対応するために,emphConfederated Learning(CFL)と呼ばれるマルチサーバFLフレームワークを検討する。
論文 参考訳(メタデータ) (2024-02-28T03:27:10Z) - Federated Fine-Tuning of LLMs on the Very Edge: The Good, the Bad, the
Ugly [66.19763977571114]
本稿では,最新のエッジコンピューティングシステムにおいて,Large Language Modelsをどのように導入できるかを,ハードウェア中心のアプローチで検討する。
マイクロレベルのハードウェアベンチマークを行い、FLOPモデルと最先端のデータセンターGPUを比較し、現実的な条件下でのネットワーク利用について検討する。
論文 参考訳(メタデータ) (2023-10-04T20:27:20Z) - FLEdge: Benchmarking Federated Machine Learning Applications in Edge
Computing Systems [77.45213180689952]
本稿では,エッジコンピューティングシステムにおけるFLワークロードを対象としたベンチマークであるFLEdgeを紹介する。
ハードウェアの不均一性,トレーニング中のエネルギー効率,およびFLシステムのトレーニングに対する各種の差分プライバシーレベルの影響を系統的に研究した。
クライアントのドロップアウトが失敗率50%の最先端のFL戦略に与える影響を評価する。
論文 参考訳(メタデータ) (2023-06-08T13:11:20Z) - FS-Real: Towards Real-World Cross-Device Federated Learning [60.91678132132229]
Federated Learning (FL)は、ローカルデータをアップロードすることなく、分散クライアントと協調して高品質なモデルをトレーニングすることを目的としている。
FL研究と実世界のシナリオの間には依然としてかなりのギャップがあり、主に異種デバイスの特徴とそのスケールによって引き起こされている。
本稿では,実世界横断デバイスFL,FS-Realのための効率的でスケーラブルなプロトタイピングシステムを提案する。
論文 参考訳(メタデータ) (2023-03-23T15:37:17Z) - TorchFL: A Performant Library for Bootstrapping Federated Learning
Experiments [4.075095403704456]
本稿では,フェデレート学習実験をブートストラップするパフォーマンスライブラリTorchFLを紹介する。
TorchFLはPyTorchとLightningを使ってボトムアップで設計されている。
PyTorchとLightningを使用したボトムアップ設計に基づいて構築されたTorchFLは、モデル、データセット、FLアルゴリズムのための準備の整った抽象化を提供する。
論文 参考訳(メタデータ) (2022-11-01T20:31:55Z) - NVIDIA FLARE: Federated Learning from Simulation to Real-World [11.490933081543787]
私たちはNVIDIA FLAREをオープンソース開発キット(SDK)として開発しました。
SDKには最先端のFLアルゴリズムとフェデレートされた機械学習アプローチのためのソリューションが含まれている。
論文 参考訳(メタデータ) (2022-10-24T14:30:50Z) - FLamby: Datasets and Benchmarks for Cross-Silo Federated Learning in
Realistic Healthcare Settings [51.09574369310246]
Federated Learning(FL)は、センシティブなデータを保持している複数のクライアントが協力して機械学習モデルをトレーニングできる新しいアプローチである。
本稿では,医療分野に重点を置くクロスサイロ・データセット・スイートFLambyを提案し,クロスサイロ・FLの理論と実践のギャップを埋める。
私たちのフレキシブルでモジュラーなスイートによって、研究者は簡単にデータセットをダウンロードし、結果を再現し、研究のためにさまざまなコンポーネントを再利用することができます。
論文 参考訳(メタデータ) (2022-10-10T12:17:30Z) - APPFL: Open-Source Software Framework for Privacy-Preserving Federated
Learning [0.0]
フェデレートラーニング(FL)は、従来の機械学習のように、データを中央の場所に転送する代わりに、異なる場所でトレーニングモデルを実行し、トレーニングから重みを更新することを可能にする。
本稿では,Argonneのプライバシ保護フェデレート学習フレームワークであるAPPFLを紹介する。
APPFLは、実装されたプライバシ保存アルゴリズムを活用し、新しいアルゴリズムを実装し、さまざまなFLアルゴリズムをプライバシ保存技術でシミュレートし、デプロイすることを可能にする。
論文 参考訳(メタデータ) (2022-02-08T06:23:05Z) - Flower: A Friendly Federated Learning Research Framework [18.54638343801354]
フェデレートラーニング(FL)は、エッジデバイスが共同で共有予測モデルを学ぶための有望なテクニックとして登場した。
Flower - 大規模なFL実験を行うための新しい設備を提供することで、既存のプラットフォームと差別化を図った包括的なFLフレームワークである。
論文 参考訳(メタデータ) (2020-07-28T17:59:07Z) - FedML: A Research Library and Benchmark for Federated Machine Learning [55.09054608875831]
フェデレート・ラーニング(Federated Learning, FL)は、機械学習の分野で急速に成長している研究分野である。
既存のFLライブラリは多様なアルゴリズム開発を適切にサポートできない。
FLアルゴリズムの開発と公正な性能比較を容易にするための,オープンな研究ライブラリとベンチマークであるFedMLを紹介する。
論文 参考訳(メタデータ) (2020-07-27T13:02:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。