論文の概要: FedJAX: Federated learning simulation with JAX
- arxiv url: http://arxiv.org/abs/2108.02117v1
- Date: Wed, 4 Aug 2021 15:41:32 GMT
- ステータス: 処理完了
- システム内更新日: 2021-08-05 13:15:10.567928
- Title: FedJAX: Federated learning simulation with JAX
- Title(参考訳): FedJAX: JAXによるフェデレーション学習シミュレーション
- Authors: Jae Hun Ro, Ananda Theertha Suresh, Ke Wu
- Abstract要約: フェデレートラーニング(Federated Learning)は、分散データ間のトレーニングを可能にする機械学習技術である。
我々は、フェデレーション学習シミュレーションのためのJAXベースのオープンソースライブラリであるFedJAXを紹介する。
ベンチマークの結果、FedJAXは、EMNISTデータセットとStack Overflowデータセットを約1時間でフェデレーション平均化したモデルをトレーニングするのに使用できます。
- 参考スコア(独自算出の注目度): 15.552460338562673
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning is a machine learning technique that enables training
across decentralized data. Recently, federated learning has become an active
area of research due to the increased concerns over privacy and security. In
light of this, a variety of open source federated learning libraries have been
developed and released. We introduce FedJAX, a JAX-based open source library
for federated learning simulations that emphasizes ease-of-use in research.
With its simple primitives for implementing federated learning algorithms,
prepackaged datasets, models and algorithms, and fast simulation speed, FedJAX
aims to make developing and evaluating federated algorithms faster and easier
for researchers. Our benchmark results show that FedJAX can be used to train
models with federated averaging on the EMNIST dataset in a few minutes and the
Stack Overflow dataset in roughly an hour with standard hyperparmeters using
TPUs.
- Abstract(参考訳): フェデレーション学習は、分散データ間のトレーニングを可能にする機械学習技術である。
近年,プライバシやセキュリティに対する懸念が高まり,連合学習が研究の活発な領域となっている。
これを踏まえて、さまざまなオープンソースフェデレーション学習ライブラリが開発され、リリースされている。
我々は、JAXベースのフェデレーション学習シミュレーション用のオープンソースライブラリであるFedJAXを紹介します。
フェデレーション学習アルゴリズムを実装するための単純なプリミティブ、事前パッケージされたデータセット、モデルとアルゴリズム、高速なシミュレーション速度により、federatedアルゴリズムの開発と評価を研究者にとって迅速かつ容易にすることを目指している。
ベンチマークの結果、FedJAXは、EMNISTデータセット上のフェデレーション平均化を数分で、Stack Overflowデータセットを約1時間でトレーニングし、TPUを使って標準のハイパーパラメーターでトレーニングすることができることがわかった。
関連論文リスト
- An Empirical Study of Efficiency and Privacy of Federated Learning
Algorithms [2.994794762377111]
今日の世界では、IoTネットワークの急速な拡大とスマートデバイスの普及により、相当量の異種データが生成される。
このデータを効果的に扱うためには、プライバシーと効率の両立を保証するために高度なデータ処理技術が必要である。
フェデレーション学習は、モデルをローカルにトレーニングし、データをプライバシを保存するためにサーバに集約する分散学習手法として登場した。
論文 参考訳(メタデータ) (2023-12-24T00:13:41Z) - Tackling Computational Heterogeneity in FL: A Few Theoretical Insights [68.8204255655161]
我々は、計算異種データの形式化と処理を可能にする新しい集約フレームワークを導入し、分析する。
提案するアグリゲーションアルゴリズムは理論的および実験的予測から広範囲に解析される。
論文 参考訳(メタデータ) (2023-07-12T16:28:21Z) - SequeL: A Continual Learning Library in PyTorch and JAX [50.33956216274694]
SequeLは継続学習のためのライブラリで、PyTorchとJAXフレームワークの両方をサポートする。
それは、正規化ベースのアプローチ、リプレイベースのアプローチ、ハイブリッドアプローチを含む、幅広い連続学習アルゴリズムのための統一インターフェースを提供する。
私たちはSequeLをオープンソースライブラリとしてリリースし、研究者や開発者が自身の目的で簡単にライブラリを実験し拡張することができます。
論文 参考訳(メタデータ) (2023-04-21T10:00:22Z) - Federated Learning for Data Streams [12.856037831335994]
フェデレートラーニング(FL)は、IoTデバイスやスマートフォンが生成するデータ量の増加に対して、マシンラーニングモデルをトレーニングするための効果的なソリューションである。
フェデレートされた学習に関するこれまでの作業は、トレーニング開始前に収集された静的データセットでクライアントが動作することを前提としている。
本稿では,経験的リスク最小化によるデータストリームから学習する一般FLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-01-04T11:10:48Z) - FedX: Unsupervised Federated Learning with Cross Knowledge Distillation [70.73383643450548]
FedXは教師なしのフェデレーション学習フレームワークである。
分散化および異質なローカルデータからバイアスのない表現を学ぶ。
フェデレートされた設定で、既存の教師なしアルゴリズムのアドオンモジュールとして使用できる。
論文 参考訳(メタデータ) (2022-07-19T09:56:44Z) - PMFL: Partial Meta-Federated Learning for heterogeneous tasks and its
applications on real-world medical records [11.252157002705484]
フェデレートされた機械学習は、異なるソースからの分散データを利用する汎用的で柔軟なツールである。
本稿では,この問題を解決するために,フェデレートラーニングとメタラーニングを統合した新しいアルゴリズムを提案する。
我々は,異種医療データセットの処理において,アルゴリズムが最速のトレーニング速度を得ることができ,最高の性能が得られることを示す。
論文 参考訳(メタデータ) (2021-12-10T03:55:03Z) - FedMix: Approximation of Mixup under Mean Augmented Federated Learning [60.503258658382]
フェデレートラーニング(FL)は、エッジデバイスが各デバイス内でデータを直接共有することなく、モデルを集合的に学習することを可能にする。
現在の最先端アルゴリズムは、クライアント間のローカルデータの均一性が増大するにつれて性能劣化に悩まされる。
我々はFedMixという名の新しい拡張アルゴリズムを提案し、これは驚くべきが単純なデータ拡張手法であるMixupにインスパイアされている。
論文 参考訳(メタデータ) (2021-07-01T06:14:51Z) - FLBench: A Benchmark Suite for Federated Learning [7.9325785873650405]
フェデレーション学習は、新しい機械学習パラダイムである。
目標は、複数のデバイスに分散されたデータセットから機械学習モデルを構築することだ。
本稿ではFLBenchというフェデレート学習ベンチマークスイートを提案する。
論文 参考訳(メタデータ) (2020-08-17T12:41:46Z) - FedML: A Research Library and Benchmark for Federated Machine Learning [55.09054608875831]
フェデレート・ラーニング(Federated Learning, FL)は、機械学習の分野で急速に成長している研究分野である。
既存のFLライブラリは多様なアルゴリズム開発を適切にサポートできない。
FLアルゴリズムの開発と公正な性能比較を容易にするための,オープンな研究ライブラリとベンチマークであるFedMLを紹介する。
論文 参考訳(メタデータ) (2020-07-27T13:02:08Z) - FedOCR: Communication-Efficient Federated Learning for Scene Text
Recognition [76.26472513160425]
本研究では、分散化されたデータセットを用いて、ロバストなシーンテキスト認識器を訓練する方法について研究する。
FedOCRをエンドデバイスにデプロイするのに適したものにするために、軽量モデルとハッシュ技術の使用を含む2つの改善を行った。
論文 参考訳(メタデータ) (2020-07-22T14:30:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。