論文の概要: Serverless Federated Learning with flwr-serverless
- arxiv url: http://arxiv.org/abs/2310.15329v1
- Date: Mon, 23 Oct 2023 19:49:59 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-25 21:52:56.471815
- Title: Serverless Federated Learning with flwr-serverless
- Title(参考訳): flwr-serverlessによるサーバレスフェデレーション学習
- Authors: Sanjeev V. Namjoshi, Reese Green, Krishi Sharma, Zhangzhang Si
- Abstract要約: 私たちは、同期と非同期のフェデレーション学習の両方を可能にする、Flower Pythonパッケージのラッパーであるtextttflwr-serverlessを導入しました。
当社のフェデレート学習アプローチでは,中央サーバを使わずにプロセスを実行することが可能で,アプリケーションのドメインと利用のアクセシビリティが向上する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated learning is becoming increasingly relevant and popular as we
witness a surge in data collection and storage of personally identifiable
information. Alongside these developments there have been many proposals from
governments around the world to provide more protections for individuals' data
and a heightened interest in data privacy measures. As deep learning continues
to become more relevant in new and existing domains, it is vital to develop
strategies like federated learning that can effectively train data from
different sources, such as edge devices, without compromising security and
privacy. Recently, the Flower (\texttt{Flwr}) Python package was introduced to
provide a scalable, flexible, and easy-to-use framework for implementing
federated learning. However, to date, Flower is only able to run synchronous
federated learning which can be costly and time-consuming to run because the
process is bottlenecked by client-side training jobs that are slow or fragile.
Here, we introduce \texttt{flwr-serverless}, a wrapper around the Flower
package that extends its functionality to allow for both synchronous and
asynchronous federated learning with minimal modification to Flower's design
paradigm. Furthermore, our approach to federated learning allows the process to
run without a central server, which increases the domains of application and
accessibility of its use. This paper presents the design details and usage of
this approach through a series of experiments that were conducted using public
datasets. Overall, we believe that our approach decreases the time and cost to
run federated training and provides an easier way to implement and experiment
with federated learning systems.
- Abstract(参考訳): 個人識別可能な情報の収集と保存が急増する中、連合学習は益々重要で人気が高まっている。
これらの発展とともに、個人のデータ保護とデータプライバシ対策への関心を高めるため、世界中の政府から多くの提案がなされている。
新たなドメインや既存ドメインでディープラーニングがより関連性を持つようになるにつれ、セキュリティやプライバシを損なうことなく、エッジデバイスなどのさまざまなソースからデータを効果的にトレーニング可能な、フェデレーション学習のような戦略を開発することが不可欠である。
最近、Flower (\texttt{Flwr}) Pythonパッケージが導入され、フェデレート学習を実装するためのスケーラブルでフレキシブルで使いやすいフレームワークを提供している。
しかし、これまでFlowerは同期フェデレーション学習しか実行できませんが、処理が遅くて脆弱なクライアントサイドのトレーニングジョブによってボトルネックになるため、実行にはコストと時間がかかります。
ここでは、フラワーパッケージのラッパーである \texttt{flwr-serverless} を紹介し、その機能を拡張して、フラワーの設計パラダイムを最小限の修正で同期および非同期のフェデレーション学習を可能にする。
さらに,フェデレートドラーニングのアプローチにより,中央サーバを使わずにプロセスを実行することが可能となり,アプリケーションのドメインと利用のアクセシビリティが向上する。
本稿では,このアプローチの設計の詳細と利用について,公開データセットを用いた一連の実験を通じて述べる。
全体として、当社のアプローチは、フェデレーショントレーニングの実行時間とコストを削減し、フェデレーション学習システムの実装と実験を簡単にする手段を提供します。
関連論文リスト
- Blockchain-enabled Trustworthy Federated Unlearning [50.01101423318312]
フェデレートアンラーニング(Federated Unlearning)は、分散クライアントのデータオーナシップを保護するための、有望なパラダイムである。
既存の作業では、分散クライアントからの履歴モデルパラメータを保持するために、中央サーバが必要である。
本稿では,ブロックチェーンによる信頼性の高いフェデレーションアンラーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2024-01-29T07:04:48Z) - Over-the-Air Federated Learning In Broadband Communication [0.0]
Federated Learning(FL)は、プライバシ保護のための分散機械学習パラダイムで、無線エッジで動作する。
いくつかはセキュアなマルチパーティ計算に依存しており、推論攻撃に弱い可能性がある。
他のものは差分プライバシーを採用しているが、これは少数のデータに寄与する多数のパーティを扱う際のテストの精度を低下させる可能性がある。
論文 参考訳(メタデータ) (2023-06-03T00:16:27Z) - Scalable Collaborative Learning via Representation Sharing [53.047460465980144]
フェデレートラーニング(FL)とスプリットラーニング(SL)は、データを(デバイス上で)プライベートにしながら協調学習を可能にする2つのフレームワークである。
FLでは、各データ保持者がモデルをローカルにトレーニングし、集約のために中央サーバにリリースする。
SLでは、クライアントは個々のカット層アクティベーション(スマッシュされたデータ)をサーバにリリースし、そのレスポンス(推論とバックの伝搬の両方)を待つ必要があります。
本研究では, クライアントがオンライン知識蒸留を通じて, 対照的な損失を生かして協調する, プライバシ保護機械学習の新しいアプローチを提案する。
論文 参考訳(メタデータ) (2022-11-20T10:49:22Z) - Towards Privacy-Aware Causal Structure Learning in Federated Setting [27.5652887311069]
フェデレートされた環境におけるプライバシーに配慮した因果構造学習問題について検討する。
データを集中化せずにデータのプライバシを保存するための2つの新しい戦略を持つ新しいフェデレーションPC(FedPC)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-11-13T14:54:42Z) - Practical Vertical Federated Learning with Unsupervised Representation
Learning [47.77625754666018]
フェデレートされた学習は、複数のパーティが生データを共有せずに、機械学習モデルを協調的にトレーニングすることを可能にする。
我々はFedOnceという,一対一のコミュニケーションしか必要としない新しいコミュニケーション効率の縦型学習アルゴリズムを提案する。
私たちのプライバシー保護技術は、同じプライバシー予算の下で最先端のアプローチを著しく上回ります。
論文 参考訳(メタデータ) (2022-08-13T08:41:32Z) - Concept drift detection and adaptation for federated and continual
learning [55.41644538483948]
スマートデバイスは環境から大量のデータを収集することができる。
このデータは機械学習モデルのトレーニングに適しており、その振る舞いを大幅に改善することができる。
そこで本研究では,Concept-Drift-Aware Federated Averagingと呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2021-05-27T17:01:58Z) - FedNLP: A Research Platform for Federated Learning in Natural Language
Processing [55.01246123092445]
NLPのフェデレーションラーニングのための研究プラットフォームであるFedNLPを紹介します。
FedNLPは、テキスト分類、シーケンスタグ付け、質問応答、Seq2seq生成、言語モデリングなど、NLPで一般的なタスクの定式化をサポートしている。
FedNLPによる予備実験では、分散型データセットと集中型データセットの学習には大きなパフォーマンスギャップが存在することが明らかになった。
論文 参考訳(メタデータ) (2021-04-18T11:04:49Z) - Adaptive Federated Dropout: Improving Communication Efficiency and
Generalization for Federated Learning [6.982736900950362]
フェデレートラーニング(Federated Learning)として知られる、革命的な分散機械学習設定により、異なる地理的場所に位置する複数のクライアントが、機械学習モデルの共同学習が可能になる。
クライアントとサーバ間のコミュニケーションは、連合学習の収束時間における主要なボトルネックと考えられている。
本稿では,適応型フェデレート・ドロップアウト(AFD)を提案する。
論文 参考訳(メタデータ) (2020-11-08T18:41:44Z) - IBM Federated Learning: an Enterprise Framework White Paper V0.1 [28.21579297214125]
Federated Learning(FL)は、トレーニングデータを単一の場所で集中化せずに機械学習を実行するアプローチである。
このフレームワークは、最も一般的な機械学習ライブラリに対する従来のアプローチと同様に、Deep Neural Networksにも適用される。
論文 参考訳(メタデータ) (2020-07-22T05:32:00Z) - Federated and continual learning for classification tasks in a society
of devices [59.45414406974091]
Light Federated and Continual Consensus (LFedCon2)は、軽量で伝統的な学習者を用いた新しいフェデレーションおよび継続アーキテクチャである。
我々の方法では、スマートフォンやロボットのような無力デバイスが、リアルタイムで、ローカルで、継続的に、自律的に、そしてユーザーから学習することができる。
提案手法をスマートフォン利用者の異種コミュニティに適用し,歩行認識の課題を解決した。
論文 参考訳(メタデータ) (2020-06-12T12:37:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。