論文の概要: Demystifying Swarm Learning: A New Paradigm of Blockchain-based
Decentralized Federated Learning
- arxiv url: http://arxiv.org/abs/2201.05286v2
- Date: Mon, 17 Jan 2022 14:30:30 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-19 12:44:00.188295
- Title: Demystifying Swarm Learning: A New Paradigm of Blockchain-based
Decentralized Federated Learning
- Title(参考訳): demystifying swarm learning: ブロックチェーンベースの分散フェデレーション学習の新しいパラダイム
- Authors: Jialiang Han, Yun Ma, Yudong Han
- Abstract要約: フェデレートラーニング(FL)は、将来有望なプライバシ保護機械学習パラダイムである。
FLは、ユーザのデバイス上のプライベートデータを保持し、ローカルモデルの勾配を交換して、中央カストディアン上で共有ディープラーニング(DL)モデルを協調的にトレーニングする。
Swarm Learning(SL)では、メンバをセキュアにオンボードし、リーダを動的に選択する権限付きブロックチェーンが導入されている。
- 参考スコア(独自算出の注目度): 0.9638328197615845
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated learning (FL) is an emerging promising privacy-preserving machine
learning paradigm and has raised more and more attention from researchers and
developers. FL keeps users' private data on devices and exchanges the gradients
of local models to cooperatively train a shared Deep Learning (DL) model on
central custodians. However, the security and fault tolerance of FL have been
increasingly discussed, because its central custodian mechanism or star-shaped
architecture can be vulnerable to malicious attacks or software failures. To
address these problems, Swarm Learning (SL) introduces a permissioned
blockchain to securely onboard members and dynamically elect the leader, which
allows performing DL in an extremely decentralized manner. Compared with
tremendous attention to SL, there are few empirical studies on SL or
blockchain-based decentralized FL, which provide comprehensive knowledge of
best practices and precautions of deploying SL in real-world scenarios.
Therefore, we conduct the first comprehensive study of SL to date, to fill the
knowledge gap between SL deployment and developers, as far as we are concerned.
In this paper, we conduct various experiments on 3 public datasets of 5
research questions, present interesting findings, quantitatively analyze the
reasons behind these findings, and provide developers and researchers with
practical suggestions. The findings have evidenced that SL is supposed to be
suitable for most application scenarios, no matter whether the dataset is
balanced, polluted, or biased over irrelevant features.
- Abstract(参考訳): フェデレーテッド・ラーニング(FL)は、将来有望なプライバシー保護機械学習パラダイムであり、研究者や開発者から注目を集めている。
flはユーザの個人データをデバイスに保持し、ローカルモデルの勾配を交換して、中央のカストディアンの共有ディープラーニング(dl)モデルを協調的にトレーニングする。
しかし、その中央カストディアン機構や星型アーキテクチャは悪意のある攻撃やソフトウェア障害に対して脆弱である可能性があるため、flのセキュリティとフォールトトレランスはますます議論されている。
これらの問題に対処するため、Swarm Learning(SL)では、メンバを安全に参加させ、リーダを動的に選択する権限付きブロックチェーンを導入している。
slに非常に注目されているのに対して、slやブロックチェーンベースの分散flには、ベストプラクティスに関する包括的知識と現実のシナリオにslをデプロイするための予防策を提供する、実証的な研究がほとんどありません。
したがって、私たちは、SLデプロイメントと開発者の間の知識ギャップを埋めるために、今までにない、SLの包括的な研究を行いました。
本稿では,5つの研究課題の3つの公開データセットについて様々な実験を行い,その背景にある理由を定量的に分析し,実践的な提案を行う。
この結果から,データセットのバランス,汚染,あるいは無関係な機能に対する偏りに関わらず,SLがほとんどのアプリケーションシナリオに適していることが証明された。
関連論文リスト
- Federated Learning: A Cutting-Edge Survey of the Latest Advancements and
Applications [4.491391835956324]
Federated Learning (FL) はセキュアな分散機械学習手法である。
FLはクラウドインフラストラクチャを統合して、ブロックチェーン技術を使用してMLモデルをエッジサーバに転送する。
現在のFL実装では、データ所有者はモデルをローカルにトレーニングし、その結果を重み、勾配、パラメータの形式でクラウドにアップロードする。
論文 参考訳(メタデータ) (2023-10-08T19:54:26Z) - A Survey on Decentralized Federated Learning [0.709016563801433]
近年、フェデレーション学習は、分散、大規模、プライバシ保護機械学習(ML)システムのトレーニングにおいて一般的なパラダイムとなっている。
典型的なFLシステムでは、中央サーバはオーケストレータとしてのみ機能し、各クライアントによって訓練されたすべてのローカルモデルを、収束するまで反復的に収集し集約する。
最も重要な課題の1つは、古典的なFLクライアントサーバアーキテクチャの集中的なオーケストレーションを克服することである。
すべてのFLクライアントが中央サーバなしで協力し、通信する分散FLソリューションが登場しました。
論文 参考訳(メタデータ) (2023-08-08T22:07:15Z) - Defending Against Poisoning Attacks in Federated Learning with
Blockchain [12.840821573271999]
ブロックチェーンと分散台帳技術に基づくセキュアで信頼性の高いフェデレーション学習システムを提案する。
本システムでは,オンチェーン型スマートコントラクトを利用したピアツーピア投票機構と報酬アンドスラッシュ機構を組み込んで,悪意ある行動の検出と検出を行う。
論文 参考訳(メタデータ) (2023-07-02T11:23:33Z) - Does Decentralized Learning with Non-IID Unlabeled Data Benefit from
Self Supervision? [51.00034621304361]
自己教師型学習(SSL)のレンズによるラベルなしデータによる分散学習の研究
本研究では,分散学習環境下でのコントラスト学習アルゴリズムの有効性について検討する。
論文 参考訳(メタデータ) (2022-10-20T01:32:41Z) - Federated Learning with Privacy-Preserving Ensemble Attention
Distillation [63.39442596910485]
Federated Learning(FL)は、多くのローカルノードがトレーニングデータを分散化しながら、中央モデルを協調的にトレーニングする機械学習パラダイムである。
本稿では,未ラベル公開データを利用した一方向オフライン知識蒸留のためのプライバシー保護FLフレームワークを提案する。
我々の技術は、既存のFLアプローチのような分散的で異質なローカルデータを使用するが、より重要なのは、プライバシー漏洩のリスクを著しく低減することです。
論文 参考訳(メタデータ) (2022-10-16T06:44:46Z) - Federated Zero-Shot Learning for Visual Recognition [55.65879596326147]
本稿では,Federated Zero-Shot Learning FedZSLフレームワークを提案する。
FedZSLは、エッジデバイス上の分散データから中心的なモデルを学ぶ。
FedZSLの有効性と堅牢性は、3つのゼロショットベンチマークデータセットで実施された広範な実験によって実証された。
論文 参考訳(メタデータ) (2022-09-05T14:49:34Z) - Divergence-aware Federated Self-Supervised Learning [16.025681567222477]
我々は、Siameseネットワークに基づく既存のSSLメソッドを取り入れた一般化されたFedSSLフレームワークを紹介する。
次に、モデル更新のための新しいアプローチであるFederated Divergence-aware Exponential moving Average update (FedEMA)を提案する。
論文 参考訳(メタデータ) (2022-04-09T04:15:02Z) - RoFL: Attestable Robustness for Secure Federated Learning [59.63865074749391]
フェデレートラーニング(Federated Learning)により、多数のクライアントが、プライベートデータを共有することなく、ジョイントモデルをトレーニングできる。
クライアントのアップデートの機密性を保証するため、フェデレートラーニングシステムはセキュアなアグリゲーションを採用している。
悪意のあるクライアントに対する堅牢性を向上させるセキュアなフェデレート学習システムであるRoFLを提案する。
論文 参考訳(メタデータ) (2021-07-07T15:42:49Z) - Blockchain Assisted Decentralized Federated Learning (BLADE-FL):
Performance Analysis and Resource Allocation [119.19061102064497]
ブロックチェーンをFL、すなわちブロックチェーン支援分散学習(BLADE-FL)に統合することで、分散FLフレームワークを提案する。
提案されたBLADE-FLのラウンドでは、各クライアントはトレーニング済みモデルを他のクライアントにブロードキャストし、受信したモデルに基づいてブロックを生成し、次のラウンドのローカルトレーニングの前に生成されたブロックからモデルを集約します。
遅延クライアントがblade-flの学習性能に与える影響を調査し,最適なk,学習パラメータ,遅延クライアントの割合の関係を特徴付ける。
論文 参考訳(メタデータ) (2021-01-18T07:19:08Z) - Blockchain Assisted Decentralized Federated Learning (BLADE-FL) with
Lazy Clients [124.48732110742623]
フェデレートラーニング(FL)にブロックチェーンを統合する新しいフレームワークを提案する。
BLADE-FLは、プライバシー保護、改ざん抵抗、学習の効果的な協力の点で優れたパフォーマンスを持っている。
遅延クライアントは、他人のトレーニングされたモデルを盗聴し、不正行為を隠すために人工的なノイズを加える。
論文 参考訳(メタデータ) (2020-12-02T12:18:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。