論文の概要: SPIRT: A Fault-Tolerant and Reliable Peer-to-Peer Serverless ML Training Architecture

• arxiv url: http://arxiv.org/abs/2309.14148v1
• Date: Mon, 25 Sep 2023 14:01:35 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-26 15:19:28.409807
• Title: SPIRT: A Fault-Tolerant and Reliable Peer-to-Peer Serverless ML Training Architecture
• Title（参考訳）: SPIRT: フォールトトレラントで信頼性の高いピアツーピアサーバレスMLトレーニングアーキテクチャ
• Authors: Amine Barrak, Mayssa Jaziri, Ranim Trabelsi, Fehmi Jaafar, Fabio Petrillo
• Abstract要約: SPIRTはフォールトトレラントで信頼性があり、セキュアなサーバレスP2P MLトレーニングアーキテクチャである。 本稿では,フォールトトレラントで信頼性が高く,セキュアなサーバレスP2P MLトレーニングアーキテクチャであるSPIRTを紹介する。
• 参考スコア（独自算出の注目度）: 0.61497722627646
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The advent of serverless computing has ushered in notable advancements in distributed machine learning, particularly within parameter server-based architectures. Yet, the integration of serverless features within peer-to-peer (P2P) distributed networks remains largely uncharted. In this paper, we introduce SPIRT, a fault-tolerant, reliable, and secure serverless P2P ML training architecture. designed to bridge this existing gap. Capitalizing on the inherent robustness and reliability innate to P2P systems, SPIRT employs RedisAI for in-database operations, leading to an 82\% reduction in the time required for model updates and gradient averaging across a variety of models and batch sizes. This architecture showcases resilience against peer failures and adeptly manages the integration of new peers, thereby highlighting its fault-tolerant characteristics and scalability. Furthermore, SPIRT ensures secure communication between peers, enhancing the reliability of distributed machine learning tasks. Even in the face of Byzantine attacks, the system's robust aggregation algorithms maintain high levels of accuracy. These findings illuminate the promising potential of serverless architectures in P2P distributed machine learning, offering a significant stride towards the development of more efficient, scalable, and resilient applications.
• Abstract（参考訳）: サーバーレスコンピューティングの出現は、分散機械学習、特にパラメータサーバベースのアーキテクチャにおける顕著な進歩をもたらした。 しかし、p2p(peer-to-peer)分散ネットワークにおけるサーバレス機能の統合は、いまだにほとんど役に立たない。 本稿では,フォールトトレラントで信頼性が高く,セキュアなサーバレスP2P MLトレーニングアーキテクチャであるSPIRTを紹介する。 このギャップを埋めるために設計されました SPIRTはP2Pシステムに固有の堅牢性と信頼性を生かして、データベース内の操作にRedisAIを採用しており、モデル更新に必要な時間を82倍に削減し、さまざまなモデルやバッチサイズの平均化を実現している。 このアーキテクチャはピア障害に対するレジリエンスを示し、代わりに新しいピアの統合を管理し、フォールトトレラントな特性とスケーラビリティを強調する。 さらに、SPIRTはピア間のセキュアな通信を保証し、分散機械学習タスクの信頼性を高める。 ビザンティン攻撃に直面しても、システムの堅牢な集約アルゴリズムは高いレベルの精度を維持している。 これらの発見は、P2P分散機械学習におけるサーバーレスアーキテクチャの有望な可能性を示し、より効率的でスケーラブルでレジリエントなアプリケーションの開発に向けて大きな一歩を踏み出した。

関連論文リスト

• An Intelligent Native Network Slicing Security Architecture Empowered by Federated Learning [0.0]
  ネットワークスライシングソリューションを改善するためのアーキテクチャ・インテリジェントセキュリティ機構を提案する。 我々は、汎用的および非ネイティブなテレメトリ記録を用いて、スライス内のDistributed Denial-of-Service(DDoS)と侵入攻撃を識別する。
  論文  参考訳（メタデータ） (2024-10-04T21:12:23Z)
• Robust and Actively Secure Serverless Collaborative Learning [48.01929996757643]
  コラボレーティブ機械学習(ML)は、分散データからより良いモデルを学ぶために広く利用されている。 学習のための協調的なアプローチは、直感的にユーザデータを保護しますが、サーバ、クライアント、あるいはその両方に対して脆弱なままです。 本稿では、悪意のあるサーバに対してセキュアで、悪意のあるクライアントに対して堅牢なピアツーピア学習方式を提案する。
  論文  参考訳（メタデータ） (2023-10-25T14:43:03Z)
• Exploring the Impact of Serverless Computing on Peer To Peer Training Machine Learning [0.3441021278275805]
  分散トレーニングのためのサーバーレスコンピューティングとP2Pネットワークを組み合わせた新しいアーキテクチャを導入する。 その結果,従来のP2P分散学習法と比較して97.34%の改善がみられた。 コストタイムのトレードオフにもかかわらず、サーバーレスのアプローチは依然として有望である。
  論文  参考訳（メタデータ） (2023-09-25T13:51:07Z)
• Mixture-of-Supernets: Improving Weight-Sharing Supernet Training with Architecture-Routed Mixture-of-Experts [55.470959564665705]
  ウェイトシェアリングスーパーネットは、最先端のニューラルサーチフレームワークのパフォーマンス評価に不可欠である。 提案手法は,高速機械翻訳モデルのためのNASにおける最先端(SoTA)性能を実現する。 メモリ効率のよいタスク非依存のBERTモデルを構築するためにNASが優れている。
  論文  参考訳（メタデータ） (2023-06-08T00:35:36Z)
• Architecting Peer-to-Peer Serverless Distributed Machine Learning Training for Improved Fault Tolerance [1.495380389108477]
  サーバレスコンピューティングは、計算単位として関数を使用するクラウドコンピューティングの新しいパラダイムである。 ワークロードを分散することにより、分散機械学習はトレーニングプロセスを高速化し、より複雑なモデルをトレーニングできるようにする。 本稿では、分散機械学習トレーニングにおけるサーバーレスコンピューティングの利用について検討し、P2Pアーキテクチャの性能とパラメータサーバアーキテクチャを比較した。
  論文  参考訳（メタデータ） (2023-02-27T17:38:47Z)
• VeriCompress: A Tool to Streamline the Synthesis of Verified Robust Compressed Neural Networks from Scratch [10.061078548888567]
  AIの広範な統合により、安全クリティカルなシナリオのために、エッジや同様のリミテッドリソースプラットフォームにニューラルネットワーク(NN)がデプロイされるようになる。 本研究では,頑健性を保証する圧縮モデルの検索とトレーニングを自動化するツールであるVeriCompressを紹介する。 この方法は、最先端のアプローチよりも2～3倍高速で、それぞれ15.1ポイントと9.8ポイントの平均精度とロバスト性ゲインで関連するベースラインアプローチを上回ります。
  論文  参考訳（メタデータ） (2022-11-17T23:42:10Z)
• FedDUAP: Federated Learning with Dynamic Update and Adaptive Pruning Using Shared Data on the Server [64.94942635929284]
  フェデレーテッド・ラーニング(FL)は2つの重要な課題、すなわち限られた計算資源と訓練効率の低下に悩まされている。 本稿では,サーバ上の不感なデータとエッジデバイスの分散データを利用する新しいFLフレームワークであるFedDUAPを提案する。 提案するFLモデルであるFedDUAPは,2つの元の手法を統合することで,精度(最大4.8%),効率(最大2.8倍),計算コスト(最大61.9%)において,ベースラインアプローチを著しく上回っている。
  論文  参考訳（メタデータ） (2022-04-25T10:00:00Z)
• RoFL: Attestable Robustness for Secure Federated Learning [59.63865074749391]
  フェデレートラーニング(Federated Learning)により、多数のクライアントが、プライベートデータを共有することなく、ジョイントモデルをトレーニングできる。 クライアントのアップデートの機密性を保証するため、フェデレートラーニングシステムはセキュアなアグリゲーションを採用している。 悪意のあるクライアントに対する堅牢性を向上させるセキュアなフェデレート学習システムであるRoFLを提案する。
  論文  参考訳（メタデータ） (2021-07-07T15:42:49Z)
• Federated Learning with Unreliable Clients: Performance Analysis and Mechanism Design [76.29738151117583]
  Federated Learning(FL)は、分散クライアント間で効果的な機械学習モデルをトレーニングするための有望なツールとなっている。 しかし、低品質のモデルは信頼性の低いクライアントによってアグリゲータサーバにアップロードすることができ、劣化やトレーニングの崩壊につながる。 クライアントの信頼できない振る舞いをモデル化し、このようなセキュリティリスクを軽減するための防御メカニズムを提案する。
  論文  参考訳（メタデータ） (2021-05-10T08:02:27Z)
• A Privacy-Preserving Distributed Architecture for Deep-Learning-as-a-Service [68.84245063902908]
  本稿では,ディープラーニング・アズ・ア・サービスのための分散アーキテクチャを提案する。 クラウドベースのマシンとディープラーニングサービスを提供しながら、ユーザの機密データを保存できる。
  論文  参考訳（メタデータ） (2020-03-30T15:12:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。