Fugu-MT 論文翻訳(概要): Optimizing Split Points for Error-Resilient SplitFed Learning

論文の概要: Optimizing Split Points for Error-Resilient SplitFed Learning

arxiv url: http://arxiv.org/abs/2405.19453v1
Date: Wed, 29 May 2024 19:03:27 GMT
ステータス: 処理完了
システム内更新日: 2024-05-31 19:26:02.025594
Title: Optimizing Split Points for Error-Resilient SplitFed Learning
Title（参考訳）: 誤り耐性スプリットフッド学習のためのスプリットポイントの最適化
Authors: Chamani Shiranthika, Parvaneh Saeedi, Ivan V. Bajić,
Abstract要約: SplitFedは、FL内の個々のクライアントの計算負担を最小限に抑え、プライバシーを維持しながらSLを並列化する。本研究では,SplitFedのパケット損失に対するモデル分割点のレジリエンスについて検討した。
参考スコア（独自算出の注目度）: 2.2530496464901106
License: http://creativecommons.org/publicdomain/zero/1.0/
Abstract: Recent advancements in decentralized learning, such as Federated Learning (FL), Split Learning (SL), and Split Federated Learning (SplitFed), have expanded the potentials of machine learning. SplitFed aims to minimize the computational burden on individual clients in FL and parallelize SL while maintaining privacy. This study investigates the resilience of SplitFed to packet loss at model split points. It explores various parameter aggregation strategies of SplitFed by examining the impact of splitting the model at different points-either shallow split or deep split-on the final global model performance. The experiments, conducted on a human embryo image segmentation task, reveal a statistically significant advantage of a deeper split point.
Abstract（参考訳）: フェデレート・ラーニング(FL)、スプリット・ラーニング(SL)、スプリット・フェデレート・ラーニング(Split Federated Learning)といった分散学習の最近の進歩は、機械学習の可能性を広げている。 SplitFedは、FL内の個々のクライアントの計算負担を最小限に抑え、プライバシーを維持しながらSLを並列化する。本研究では,SplitFedのパケット損失に対するモデル分割点のレジリエンスについて検討した。 SplitFedのパラメータアグリゲーション戦略について検討し、各ポイントでモデルを分割する影響を調べる。実験はヒト胚画像分割作業で行われ、より深い分割点の統計的に有意な利点を明らかにした。

関連論文リスト

Scalable Federated Unlearning via Isolated and Coded Sharding [76.12847512410767]
フェデレートされたアンラーニングは、クライアントレベルのデータエフェクトを削除するための有望なパラダイムとして登場した。本稿では,分散シャーディングと符号化コンピューティングに基づく,スケーラブルなフェデレーション・アンラーニング・フレームワークを提案する。
論文参考訳（メタデータ） (2024-01-29T08:41:45Z)
Relaxed Contrastive Learning for Federated Learning [48.96253206661268]
本稿では,フェデレート学習におけるデータ不均一性の課題に対処する,新しいコントラスト学習フレームワークを提案する。当社のフレームワークは,既存のフェデレート学習アプローチを,標準ベンチマークにおいて大きなマージンで上回ります。
論文参考訳（メタデータ） (2024-01-10T04:55:24Z)
SplitFed resilience to packet loss: Where to split, that is the question [27.29876880765472]
Split Federated Learning (SFL)は、FLにおける各クライアントに必要な計算パワーを削減し、プライバシを維持しながらSLを並列化することを目的としている。本稿では,SFLの通信リンクにおけるパケット損失に対する堅牢性について検討する。ヒト胚画像のセグメンテーションモデルを用いて実験を行い、より深い分割点の統計的に有意な利点を示す。
論文参考訳（メタデータ） (2023-07-25T22:54:47Z)
Reducing Communication for Split Learning by Randomized Top-k Sparsification [25.012786154486164]
スプリットラーニングは垂直的フェデレートラーニング(VFL)の簡単な解法である分割学習における複数のコミュニケーション削減手法について検討し,カット層サイズ削減,トップkスペーサー化,量子化,L1正規化などを検討した。提案するランダム化トップkスペーシフィケーションは,同じ圧縮レベルでのモデル性能の向上を実現する。
論文参考訳（メタデータ） (2023-05-29T09:02:05Z)
Predictive GAN-powered Multi-Objective Optimization for Hybrid Federated Split Learning [56.125720497163684]
無線ネットワークにおけるハイブリッド・フェデレーション・スプリット・ラーニング・フレームワークを提案する。ラベル共有のないモデル分割のための並列計算方式を設計し,提案方式が収束速度に与える影響を理論的に解析する。
論文参考訳（メタデータ） (2022-09-02T10:29:56Z)
Pairwise Learning via Stagewise Training in Proximal Setting [0.0]
非平滑凸対損失関数の収束保証と、適応的なサンプルサイズとペアワイズ学習のための重要サンプリング手法を組み合わせる。それぞれに逆のインスタンスをサンプリングすると勾配の分散が減少し、収束が加速することを示した。
論文参考訳（メタデータ） (2022-08-08T11:51:01Z)
MS Lesion Segmentation: Revisiting Weighting Mechanisms for Federated Learning [92.91544082745196]
フェデレートラーニング(FL)は医用画像解析に広く用いられている。 FLのパフォーマンスは、多発性硬化症(MS)病変セグメンテーションタスクに制限される。 2つの効果的な再重み付け機構によるFLMS病変分割フレームワークを提案する。
論文参考訳（メタデータ） (2022-05-03T14:06:03Z)
Server-Side Local Gradient Averaging and Learning Rate Acceleration for Scalable Split Learning [82.06357027523262]
フェデレーテッド・ラーニング(FL)とスプリット・ラーニング(SL)は、その長所と短所を持つ2つの先駆者であり、多くのユーザ・クライアントや大規模モデルに適している。本研究では,まずSLの基本ボトルネックを特定し,SGLRという拡張性のあるSLフレームワークを提案する。
論文参考訳（メタデータ） (2021-12-11T08:33:25Z)
AdaSplit: Adaptive Trade-offs for Resource-constrained Distributed Deep Learning [18.3841463794885]
Split Learning (SL)は、クライアントとサーバの間でモデルのトレーニングを分割することで、クライアントの計算負荷を削減する。 AdaSplitは、帯域幅の削減と異種クライアント間のパフォーマンス向上により、SLをリソースの少ないシナリオに効率的にスケーリングすることを可能にする。
論文参考訳（メタデータ） (2021-12-02T23:33:15Z)
Splitfed learning without client-side synchronization: Analyzing client-side split network portion size to overall performance [4.689140226545214]
Federated Learning (FL)、Split Learning (SL)、SplitFed Learning (SFL)は、分散機械学習における最近の3つの発展である。本稿では,クライアント側モデル同期を必要としないSFLについて検討する。 MNISTテストセットでのMulti-head Split Learningよりも1%-2%の精度しか得られない。
論文参考訳（メタデータ） (2021-09-19T22:57:23Z)
Federated Residual Learning [53.77128418049985]
クライアントはローカルモデルを個別に訓練し、サーバ側で共有するモデルと共同で予測を行う。この新しいフェデレートされた学習フレームワークを使用することで、統合トレーニングが提供するパフォーマンス上のメリットをすべて享受しながら、中央共有モデルの複雑さを最小限にすることができる。
論文参考訳（メタデータ） (2020-03-28T19:55:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。