論文の概要: FilFL: Accelerating Federated Learning via Client Filtering
- arxiv url: http://arxiv.org/abs/2302.06599v1
- Date: Mon, 13 Feb 2023 18:55:31 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-14 14:17:09.024336
- Title: FilFL: Accelerating Federated Learning via Client Filtering
- Title(参考訳): filfl: クライアントフィルタリングによる連合学習の促進
- Authors: Fares Fourati, Salma Kharrat, Vaneet Aggarwal, Mohamed-Slim Alouini,
Marco Canini
- Abstract要約: クライアント選択とトレーニングを最適化するために、フェデレートラーニング(FilFL)におけるクライアントフィルタリングを導入する。
FilFLはまず、特定の目的関数を最大化するサブセットを選択してアクティブクライアントをフィルタリングします。
実験の結果,学習効率の向上,収束の加速,2ドル~3タイムの高速化,テスト精度の向上など,アプローチのメリットが示された。
- 参考スコア(独自算出の注目度): 95.27347185031265
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated learning is an emerging machine learning paradigm that enables
devices to train collaboratively without exchanging their local data. The
clients participating in the training process are a random subset selected from
the pool of clients. The above procedure is called client selection which is an
important area in federated learning as it highly impacts the convergence rate,
learning efficiency, and generalization. In this work, we introduce client
filtering in federated learning (FilFL), a new approach to optimize client
selection and training. FilFL first filters the active clients by choosing a
subset of them that maximizes a specific objective function; then, a client
selection method is applied to that subset. We provide a thorough analysis of
its convergence in a heterogeneous setting. Empirical results demonstrate
several benefits to our approach, including improved learning efficiency,
accelerated convergence, $2$-$3\times$ faster, and higher test accuracy, around
$2$-$10$ percentage points higher.
- Abstract(参考訳): フェデレートラーニング(Federated Learning)は、デバイスがローカルデータを交換することなく協調的にトレーニングできる、新たな機械学習パラダイムである。
トレーニングプロセスに参加しているクライアントは、クライアントプールから選択されたランダムサブセットである。
上記の手順はクライアント選択と呼ばれ、収束率、学習効率、一般化に大きな影響を与えるため、連合学習において重要な領域である。
本研究では、クライアント選択とトレーニングを最適化する新しいアプローチであるFilFL(Federated Learning)のクライアントフィルタリングを紹介する。
filflはまず、特定の目的関数を最大化するサブセットを選択することでアクティブクライアントをフィルタリングする。
我々は,不均質な環境での収束を徹底的に解析する。
実験の結果,学習効率の向上,収束促進,2-$3\times$高速化,テスト精度の向上,約2-$10$%向上など,このアプローチに対するいくつかのメリットが示された。
関連論文リスト
- Emulating Full Client Participation: A Long-Term Client Selection Strategy for Federated Learning [48.94952630292219]
本稿では,クライアントの完全参加によって達成されるパフォーマンスをエミュレートする新しいクライアント選択戦略を提案する。
1ラウンドで、クライアントサブセットとフルクライアントセット間の勾配空間推定誤差を最小化し、クライアントを選択する。
複数ラウンド選択において、類似したデータ分布を持つクライアントが選択される頻度に類似することを保証する、新しい個性制約を導入する。
論文 参考訳(メタデータ) (2024-05-22T12:27:24Z) - FedLALR: Client-Specific Adaptive Learning Rates Achieve Linear Speedup
for Non-IID Data [54.81695390763957]
フェデレートラーニング(Federated Learning)は、分散機械学習の手法である。
我々は,AMSGradの異種局所変種であるFedLALRを提案し,各クライアントが学習率を調整する。
クライアントが指定した自動調整型学習率スケジューリングが,クライアント数に対して収束し,線形高速化を実現することを示す。
論文 参考訳(メタデータ) (2023-09-18T12:35:05Z) - FedSampling: A Better Sampling Strategy for Federated Learning [81.85411484302952]
フェデレートラーニング(FL)は、プライバシを保存する方法で分散化されたデータからモデルを学習するための重要なテクニックである。
既存のFLメソッドは通常、各ラウンドでローカルモデル学習のために一様にクライアントをサンプリングする。
フェデレート学習のための新しいデータ一様サンプリング戦略(FedSampling)を提案する。
論文 参考訳(メタデータ) (2023-06-25T13:38:51Z) - When to Trust Aggregated Gradients: Addressing Negative Client Sampling
in Federated Learning [41.51682329500003]
本稿では,各ラウンドにおける集約勾配に対するサーバ学習率を調整するための新しい学習率適応機構を提案する。
我々は、最適なサーバ学習率に肯定的な有意義で堅牢な指標を見つけるために、理論的な推論を行う。
論文 参考訳(メタデータ) (2023-01-25T03:52:45Z) - Straggler-Resilient Personalized Federated Learning [55.54344312542944]
フェデレーション学習は、プライバシと通信の制限を尊重しながら、クライアントの大規模なネットワークに分散されたサンプルからのトレーニングモデルを可能にする。
これら2つのハードルを同時に処理する理論的なスピードアップを保証する新しいアルゴリズム手法を開発した。
提案手法は,すべてのクライアントのデータを用いてグローバルな共通表現を見つけ,各クライアントに対してパーソナライズされたソリューションにつながるパラメータの集合を学習するために,表現学習理論からのアイデアに依存している。
論文 参考訳(メタデータ) (2022-06-05T01:14:46Z) - To Federate or Not To Federate: Incentivizing Client Participation in
Federated Learning [22.3101738137465]
フェデレートラーニング(FL)は、共通の機械学習モデルをトレーニングしようとするクライアントのグループ間のコラボレーションを促進する。
本稿では,グローバルモデルにインセンティブを与えるクライアントの割合を明示的に最大化する,IncFLと呼ばれるアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-05-30T04:03:31Z) - On the Convergence of Clustered Federated Learning [57.934295064030636]
統合学習システムでは、例えばモバイルデバイスや組織参加者といったクライアントは通常、個人の好みや行動パターンが異なる。
本稿では,クライアントグループと各クライアントを統一最適化フレームワークで活用する,新しい重み付きクライアントベースクラスタリングFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-02-13T02:39:19Z) - QuPeL: Quantized Personalization with Applications to Federated Learning [8.420943739336067]
本稿では,ヘテロジニアスクライアントとの協調学習を容易にするテキスト化・テキスト化flアルゴリズムを提案する。
パーソナライゼーションのために、クライアントはリソースに応じて異なる量子化パラメータを持つテキスト圧縮パーソナライゼーションモデルを学ぶことができます。
数値的に、量子化レベルを最適化することで性能が向上し、QuPeLがFedAvgとクライアントのローカルトレーニングの両方で不均一な環境で性能を向上することを示す。
論文 参考訳(メタデータ) (2021-02-23T16:43:51Z) - Client Adaptation improves Federated Learning with Simulated Non-IID
Clients [1.0896567381206714]
クライアント間でデータを独立に分散する(非IID)場合、クライアントが適応可能で堅牢なモデルを学ぶための連合学習手法を提案する。
学習したクライアント固有の条件付けを追加することで、モデルの性能が向上し、オーディオドメインと画像ドメインの両方から、バランスのとれた、バランスのとれたデータセットに対して、アプローチが機能することを示します。
論文 参考訳(メタデータ) (2020-07-09T13:48:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。