論文の概要: Client Selection Approach in Support of Clustered Federated Learning
over Wireless Edge Networks
- arxiv url: http://arxiv.org/abs/2108.08768v1
- Date: Mon, 16 Aug 2021 21:38:22 GMT
- ステータス: 処理完了
- システム内更新日: 2021-08-21 06:48:16.255069
- Title: Client Selection Approach in Support of Clustered Federated Learning
over Wireless Edge Networks
- Title（参考訳）: 無線エッジネットワーク上でのクラスタ化フェデレーション学習を支援するクライアント選択手法
- Authors: Abdullatif Albaseer, Mohamed Abdallah, Ala Al-Fuqaha, and Aiman Erbad
- Abstract要約: CFL(Clustered Federated Multitask Learning)は、信頼性の高い専門モデルを得るための効率的なスキームとして導入された。
本稿では,特殊な機械学習モデルを得るための収束率の向上を目的とした,新しいクライアント選択アルゴリズムを提案する。
- 参考スコア（独自算出の注目度）: 2.6774008509840996
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Clustered Federated Multitask Learning (CFL) was introduced as an efficient
scheme to obtain reliable specialized models when data is imbalanced and
distributed in a non-i.i.d. (non-independent and identically distributed)
fashion amongst clients. While a similarity measure metric, like the cosine
similarity, can be used to endow groups of the client with a specialized model,
this process can be arduous as the server should involve all clients in each of
the federated learning rounds. Therefore, it is imperative that a subset of
clients is selected periodically due to the limited bandwidth and latency
constraints at the network edge. To this end, this paper proposes a new client
selection algorithm that aims to accelerate the convergence rate for obtaining
specialized machine learning models that achieve high test accuracies for all
client groups. Specifically, we introduce a client selection approach that
leverages the devices' heterogeneity to schedule the clients based on their
round latency and exploits the bandwidth reuse for clients that consume more
time to update the model. Then, the server performs model averaging and
clusters the clients based on predefined thresholds. When a specific cluster
reaches a stationary point, the proposed algorithm uses a greedy scheduling
algorithm for that group by selecting the clients with less latency to update
the model. Extensive experiments show that the proposed approach lowers the
training time and accelerates the convergence rate by up to 50% while imbuing
each client with a specialized model that is fit for its local data
distribution.
- Abstract（参考訳）: クラスタ型フェデレーションマルチタスク学習(cfl)は、データが不均衡で非i.i.dで分散する場合に信頼性の高い特殊モデルを得るための効率的なスキームとして導入された。
クライアント間の(非独立かつ同一の)ファッション。
類似度測定基準(cosine similarity)は、コサイン類似性(cosine similarity)のように、クライアントのグループに特別なモデルを与えるために使用することができるが、サーバがすべてのクライアントを連合学習ラウンドに巻き込む必要があるため、このプロセスは困難である。
したがって、ネットワークエッジにおける帯域幅の制限やレイテンシの制約により、クライアントのサブセットが定期的に選択されることが不可欠である。
そこで本研究では,全クライアント群で高いテスト精度を実現する専用機械学習モデルを得るための収束率を高速化する新しいクライアント選択アルゴリズムを提案する。
具体的には、端末の異種性を利用してクライアントのラウンドレイテンシに基づいてスケジュールし、モデル更新により多くの時間を消費するクライアントの帯域幅の再利用を利用するクライアント選択手法を提案する。
そして、サーバは事前に定義されたしきい値に基づいて、モデル平均化とクライアントのクラスタ化を行います。
特定のクラスタが定常点に達すると、提案アルゴリズムはモデルの更新に少ないレイテンシでクライアントを選択することで、そのグループに対してグレディスケジューリングアルゴリズムを使用する。
広範な実験により,提案手法はトレーニング時間を短縮し,収束率を最大50%向上させるとともに,各クライアントにローカルデータ分布に適した専用モデルを付与することを示した。
関連論文リスト
- Towards Client Driven Federated Learning [7.528642177161784]
私たちは、クライアントを駆動する新しいFLフレームワークであるクライアント駆動フェデレートラーニング(CDFL:Client-Driven Federated Learning)を紹介します。
CDFLでは、各クライアントは、ローカルにトレーニングされたモデルをサーバにアップロードし、ローカルタスクに合わせてカスタマイズされたモデルを受け取ることで、独立して非同期にモデルを更新する。
論文 参考訳（メタデータ） (2024-05-24T10:17:49Z) - Emulating Full Client Participation: A Long-Term Client Selection Strategy for Federated Learning [48.94952630292219]
本稿では,クライアントの完全参加によって達成されるパフォーマンスをエミュレートする新しいクライアント選択戦略を提案する。
1ラウンドで、クライアントサブセットとフルクライアントセット間の勾配空間推定誤差を最小化し、クライアントを選択する。
複数ラウンド選択において、類似したデータ分布を持つクライアントが選択される頻度に類似することを保証する、新しい個性制約を導入する。
論文 参考訳（メタデータ） (2024-05-22T12:27:24Z) - Greedy Shapley Client Selection for Communication-Efficient Federated
Learning [32.38170282930876]
フェデレートラーニング(FL)のための標準的なクライアント選択アルゴリズムは、しばしばバイアスがなく、クライアントのランダムサンプリングが一様である。
私たちは、各通信ラウンドで最も貢献するクライアントを特定し、優しく選択する、バイアスのあるクライアント選択戦略であるGreedyFedを開発します。
複数の実世界のデータセット上のさまざまなクライアント選択戦略と比較して、GreedyFedは、タイミング制約の下で高い精度で高速で安定した収束を示す。
論文 参考訳（メタデータ） (2023-12-14T16:44:38Z) - Multi-Criteria Client Selection and Scheduling with Fairness Guarantee
for Federated Learning Service [17.986744632466515]
フェデレートラーニング(FL)は、複数のクライアントが生のトレーニングデータを共有せずに、機械学習モデルを協調的にトレーニングすることを可能にする。
公平性を保証するマルチ基準クライアント選択とスケジューリング方式を提案する。
我々のスキームは、特にデータが非IDである場合、モデル品質を改善することができる。
論文 参考訳（メタデータ） (2023-12-05T16:56:24Z) - Timely Asynchronous Hierarchical Federated Learning: Age of Convergence [59.96266198512243]
クライアント-エッジ-クラウドフレームワークを用いた非同期階層型フェデレーション学習環境について検討する。
クライアントはトレーニングされたパラメータをエッジサーバと交換し、ローカルに集約されたモデルを更新する。
各クライアントの目標は、クライアントのタイムラインを維持しながら、グローバルモデルに収束することだ。
論文 参考訳（メタデータ） (2023-06-21T17:39:16Z) - FilFL: Client Filtering for Optimized Client Participation in Federated Learning [71.46173076298957]
フェデレートラーニングは、クライアントがローカルデータを交換することなく、協調的にモデルをトレーニングすることを可能にする。
トレーニングプロセスに参加するクライアントは、収束率、学習効率、モデル一般化に大きな影響を与えます。
本稿では,モデル一般化を改善し,クライアント参加とトレーニングを最適化する新しい手法であるクライアントフィルタリングを提案する。
論文 参考訳（メタデータ） (2023-02-13T18:55:31Z) - Optimizing Server-side Aggregation For Robust Federated Learning via
Subspace Training [80.03567604524268]
クライアント間の非IIDデータ分散と中毒攻撃は、現実世界のフェデレーション学習システムにおける2つの大きな課題である。
サーバ側集約プロセスを最適化する汎用的なアプローチであるSmartFLを提案する。
本稿では,SmartFLの収束と一般化能力に関する理論的解析を行う。
論文 参考訳（メタデータ） (2022-11-10T13:20:56Z) - Efficient Distribution Similarity Identification in Clustered Federated
Learning via Principal Angles Between Client Data Subspaces [59.33965805898736]
クラスタ学習は、クライアントをクラスタにグループ化することで、有望な結果をもたらすことが示されている。
既存のFLアルゴリズムは基本的に、クライアントを同様のディストリビューションでグループ化しようとしている。
以前のFLアルゴリズムは、訓練中に間接的に類似性を試みていた。
論文 参考訳（メタデータ） (2022-09-21T17:37:54Z) - Clustered Scheduling and Communication Pipelining For Efficient Resource
Management Of Wireless Federated Learning [6.753282396352072]
本稿では,コミュニケーションパイプラインを用いて,フェデレート学習の無線スペクトル利用効率と収束速度を向上させることを提案する。
我々は、異なる設定下で最適なクライアントクラスタリングのための汎用的な定式化を行い、最適解を得るための効率的なアルゴリズムを解析的に導出する。
論文 参考訳（メタデータ） (2022-06-15T16:23:19Z) - On the Convergence of Clustered Federated Learning [57.934295064030636]
統合学習システムでは、例えばモバイルデバイスや組織参加者といったクライアントは通常、個人の好みや行動パターンが異なる。
本稿では,クライアントグループと各クライアントを統一最適化フレームワークで活用する,新しい重み付きクライアントベースクラスタリングFLアルゴリズムを提案する。
論文 参考訳（メタデータ） (2022-02-13T02:39:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。