論文の概要: Decentralized adaptive clustering of deep nets is beneficial for client
collaboration
- arxiv url: http://arxiv.org/abs/2206.08839v1
- Date: Fri, 17 Jun 2022 15:38:31 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-20 18:34:42.228491
- Title: Decentralized adaptive clustering of deep nets is beneficial for client
collaboration
- Title(参考訳): ディープネットの分散適応クラスタリングはクライアントコラボレーションに有用である
- Authors: Edvin Listo Zec, Ebba Ekblom, Martin Willbo, Olof Mogren and Sarunas
Girdzijauskas
- Abstract要約: 分散ピアツーピア環境における個別のディープラーニングモデルを学習する際の課題について検討する。
我々のコントリビューションは、各クライアントがローカルタスクの類似度推定に基づいて有益な協調を見出すアルゴリズムである。
- 参考スコア(独自算出の注目度): 0.7012240324005975
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study the problem of training personalized deep learning models in a
decentralized peer-to-peer setting, focusing on the setting where data
distributions differ between the clients and where different clients have
different local learning tasks. We study both covariate and label shift, and
our contribution is an algorithm which for each client finds beneficial
collaborations based on a similarity estimate for the local task. Our method
does not rely on hyperparameters which are hard to estimate, such as the number
of client clusters, but rather continuously adapts to the network topology
using soft cluster assignment based on a novel adaptive gossip algorithm. We
test the proposed method in various settings where data is not independent and
identically distributed among the clients. The experimental evaluation shows
that the proposed method performs better than previous state-of-the-art
algorithms for this problem setting, and handles situations well where previous
methods fail.
- Abstract(参考訳): 本研究では,分散ピアツーピア環境における個別の深層学習モデルの学習課題について検討し,各クライアント間のデータ分散の相違点と,各クライアントのローカルな学習タスクの相違点に着目した。
我々は共変量とラベルシフトの両方について検討し、各クライアントがローカルタスクの類似度推定に基づいて有益な協調関係を求めるアルゴリズムである。
提案手法は,クライアントクラスタ数などの推定が難しいハイパーパラメータに依存しず,新しい適応型ゴシップアルゴリズムに基づくソフトクラスタ割り当てを用いてネットワークトポロジに継続的に適応する。
提案手法は,クライアント間でデータを独立に,同一に分散しない様々な環境で検証する。
実験により,提案手法は従来の最先端アルゴリズムよりも優れた性能を示し,従来の手法が失敗する状況に対処する。
関連論文リスト
- Learn What You Need in Personalized Federated Learning [53.83081622573734]
$textitLearn2pFed$は、アルゴリズムに基づくパーソナライズされたフェデレーション学習フレームワークである。
我々は、textitLearn2pFed$が、従来のパーソナライズされたフェデレーション学習方法よりも大幅に優れていることを示す。
論文 参考訳(メタデータ) (2024-01-16T12:45:15Z) - Federated Two Stage Decoupling With Adaptive Personalization Layers [5.69361786082969]
フェデレーション学習は、プライバシ制約を維持しながら分散学習を可能にする能力によって、大きな注目を集めている。
本質的には、学習の劣化と収束速度の低下を経験する。
等質なクライアントを同じ群にクラスタリングするという概念を採用することは自然であり、各群内のモデル重みのみを集約することができる。
論文 参考訳(メタデータ) (2023-08-30T07:46:32Z) - Locally Adaptive Federated Learning [30.19411641685853]
フェデレートラーニング(Federated Learning)とは、複数のクライアントが中央サーバと協調してモデルを学習する分散機械学習のパラダイムである。
Federated Averaging (FedAvg)のような標準的なフェデレーション最適化手法は、クライアント間の一般化を保証する。
本稿では,各クライアント関数の局所的幾何情報を利用する局所的フェデレーション学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-07-12T17:02:32Z) - Provably Personalized and Robust Federated Learning [47.50663360022456]
類似したクライアントのクラスタを識別し、パーソナライズされたモデルパークラスタを訓練する簡単なアルゴリズムを提案する。
アルゴリズムの収束率は、クライアントの真の基盤となるクラスタリングを知っていれば得られるものと一致します。
論文 参考訳(メタデータ) (2023-06-14T09:37:39Z) - Personalized Decentralized Federated Learning with Knowledge
Distillation [5.469841541565307]
フェデレート学習機能のパーソナライゼーションは、データや振る舞いのばらつきが高いクライアントのコーディネータとして機能する。
一般に、分散ネットワークにおいて、他のユーザーのモデルについて限られた知識の下で類似性を定量化することは困難である。
本研究では,局所モデル間の統計的距離を識別するために,知識蒸留技術を活用したパーソナライズされた完全分散FLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-02-23T16:41:07Z) - A One-shot Framework for Distributed Clustered Learning in Heterogeneous
Environments [54.172993875654015]
異種環境における分散学習のためのコミュニケーション効率化手法のファミリーを提案する。
ユーザによるローカル計算に基づくワンショットアプローチと、サーバにおけるクラスタリングベースのアグリゲーションステップは、強力な学習保証を提供する。
厳密な凸問題に対しては,ユーザ毎のデータ点数がしきい値を超える限り,提案手法はサンプルサイズの観点から順序最適平均二乗誤差率を達成する。
論文 参考訳(メタデータ) (2022-09-22T09:04:10Z) - Straggler-Resilient Personalized Federated Learning [55.54344312542944]
フェデレーション学習は、プライバシと通信の制限を尊重しながら、クライアントの大規模なネットワークに分散されたサンプルからのトレーニングモデルを可能にする。
これら2つのハードルを同時に処理する理論的なスピードアップを保証する新しいアルゴリズム手法を開発した。
提案手法は,すべてのクライアントのデータを用いてグローバルな共通表現を見つけ,各クライアントに対してパーソナライズされたソリューションにつながるパラメータの集合を学習するために,表現学習理論からのアイデアに依存している。
論文 参考訳(メタデータ) (2022-06-05T01:14:46Z) - On the Convergence of Clustered Federated Learning [57.934295064030636]
統合学習システムでは、例えばモバイルデバイスや組織参加者といったクライアントは通常、個人の好みや行動パターンが異なる。
本稿では,クライアントグループと各クライアントを統一最適化フレームワークで活用する,新しい重み付きクライアントベースクラスタリングFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-02-13T02:39:19Z) - Federated Multi-Target Domain Adaptation [99.93375364579484]
フェデレートされた学習手法により、プライバシを保護しながら、分散ユーザデータ上で機械学習モデルをトレーニングすることが可能になります。
分散クライアントデータがラベル付けされず、集中型ラベル付きデータセットがサーバ上で利用可能となる、より実用的なシナリオを考えます。
本稿では,新しい課題に対処する効果的なDualAdapt法を提案する。
論文 参考訳(メタデータ) (2021-08-17T17:53:05Z) - Decentralized federated learning of deep neural networks on non-iid data [0.6335848702857039]
分散環境でパーソナライズされたディープラーニングモデルを学ぶことの難しさに対処する。
本稿では,PENS(Performance-Based Neighbor Selection)という手法を提案する。
PENSは強力なベースラインに比べて高い精度を達成することができる。
論文 参考訳(メタデータ) (2021-07-18T19:05:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。