Fugu-MT 論文翻訳(概要): Personalized Cross-Silo Federated Learning on Non-IID Data

論文の概要: Personalized Cross-Silo Federated Learning on Non-IID Data

arxiv url: http://arxiv.org/abs/2007.03797v5
Date: Tue, 14 Dec 2021 00:08:08 GMT
ステータス: 処理完了
システム内更新日: 2022-11-12 19:34:35.906694
Title: Personalized Cross-Silo Federated Learning on Non-IID Data
Title（参考訳）: 非IIDデータを用いた個人化クロスサイトフェデレーション学習
Authors: Yutao Huang, Lingyang Chu, Zirui Zhou, Lanjun Wang, Jiangchuan Liu, Jian Pei, Yong Zhang
Abstract要約: 非IIDデータは、連合学習にとって難しい課題である。我々は、類似したデータを持つクライアント間のペアワイズコラボレーションという新しいアイデアを提案する。
参考スコア（独自算出の注目度）: 62.68467223450439
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Non-IID data present a tough challenge for federated learning. In this paper, we explore a novel idea of facilitating pairwise collaborations between clients with similar data. We propose FedAMP, a new method employing federated attentive message passing to facilitate similar clients to collaborate more. We establish the convergence of FedAMP for both convex and non-convex models, and propose a heuristic method to further improve the performance of FedAMP when clients adopt deep neural networks as personalized models. Our extensive experiments on benchmark data sets demonstrate the superior performance of the proposed methods.
Abstract（参考訳）: 非IIDデータは、連合学習にとって難しい課題である。本稿では、類似データを用いたクライアント間のペアワイズコラボレーションを促進する新しいアイデアについて検討する。我々は,FedAMPを提案する。フェデレートされた注意メッセージパッシングを利用して,類似のクライアントのコラボレーションを促進する。我々は、凸モデルと非凸モデルの両方においてFedAMPの収束を確立し、クライアントがパーソナライズされたモデルとしてディープニューラルネットワークを採用する際に、FedAMPの性能をさらに向上するためのヒューリスティック手法を提案する。ベンチマークデータセットに関する広範な実験は,提案手法の優れた性能を示す。

関連論文リスト

Federated Learning Can Find Friends That Are Advantageous [14.993730469216546]
フェデレートラーニング(FL)では、クライアントデータの分散の性質と均一性は、機会と課題の両方を示します。本稿では,FLトレーニングに参加するクライアントに対して適応的なアグリゲーション重みを割り当てるアルゴリズムを提案する。
論文参考訳（メタデータ） (2024-02-07T17:46:37Z)
Personalized Federated Learning with Attention-based Client Selection [57.71009302168411]
我々は,意図に基づくクライアント選択機構を備えた新しいPFLアルゴリズムであるFedACSを提案する。 FedACSは、類似したデータ分散を持つクライアント間のコラボレーションを強化するためのアテンションメカニズムを統合している。 CIFAR10とFMNISTの実験は、FedACSの優位性を検証する。
論文参考訳（メタデータ） (2023-12-23T03:31:46Z)
FedLALR: Client-Specific Adaptive Learning Rates Achieve Linear Speedup for Non-IID Data [54.81695390763957]
フェデレートラーニング(Federated Learning)は、分散機械学習の手法である。我々は,AMSGradの異種局所変種であるFedLALRを提案し,各クライアントが学習率を調整する。クライアントが指定した自動調整型学習率スケジューリングが,クライアント数に対して収束し,線形高速化を実現することを示す。
論文参考訳（メタデータ） (2023-09-18T12:35:05Z)
UPFL: Unsupervised Personalized Federated Learning towards New Clients [13.98952154869707]
本稿では,フェデレート学習における比較的未探索の問題に対処する。フェデレートされたモデルがトレーニングされ、デプロイされ、ラベルのない新しいクライアントが加わると、新しいクライアントのためのパーソナライズされたモデルが非常に難しいタスクになります。適応的リスク最小化手法を教師なしの個別学習環境に拡張し,提案手法であるFedTTAを提案する。
論文参考訳（メタデータ） (2023-07-29T14:30:11Z)
FedDRL: Deep Reinforcement Learning-based Adaptive Aggregation for Non-IID Data in Federated Learning [4.02923738318937]
異なるエッジデバイス(クライアント)にまたがるローカルデータの不均一な分散は、フェデレート学習における遅いモデルトレーニングと精度の低下をもたらす。この研究は、実世界のデータセット、すなわちクラスタスキューで発生する新しい非IID型を導入している。我々は,各クライアントのインパクト要因を適応的に決定するために,深層強化学習を用いた新しいFLモデルであるFedDRLを提案する。
論文参考訳（メタデータ） (2022-08-04T04:24:16Z)
FedDM: Iterative Distribution Matching for Communication-Efficient Federated Learning [87.08902493524556]
フェデレートラーニング(FL)は近年、学術や産業から注目を集めている。我々は,複数の局所的代理関数からグローバルなトレーニング目標を構築するためのFedDMを提案する。そこで本研究では,各クライアントにデータ集合を構築し,元のデータから得られた損失景観を局所的にマッチングする。
論文参考訳（メタデータ） (2022-07-20T04:55:18Z)
Ensemble Federated Adversarial Training with Non-IID data [1.5878082907673585]
敵対的なサンプルは、悪意のある目的を達成するためにクライアントモデルを混乱させ、騙すことができます。本稿では, EFAT(Ensemble Federated Adversarial Training Method)について紹介する。提案手法は,フェデレーション学習と敵対的アプローチを単独で組み合わせた場合と比較して,有望な結果が得られる。
論文参考訳（メタデータ） (2021-10-26T03:55:20Z)
WAFFLE: Weighted Averaging for Personalized Federated Learning [38.241216472571786]
WAFFLEは、SCAFFOLDに基づくパーソナライズされた協調機械学習アルゴリズムである。 WAFFLEは、クライアントのアップデート間のユークリッド距離を使用して、個々のコントリビューションを計測する。本実験では, WAFFLE の有効性を他の方法と比較した。
論文参考訳（メタデータ） (2021-10-13T18:40:54Z)
Towards Fair Federated Learning with Zero-Shot Data Augmentation [123.37082242750866]
フェデレーション学習は重要な分散学習パラダイムとして登場し、サーバはクライアントデータにアクセスせずに、多くのクライアントがトレーニングしたモデルからグローバルモデルを集約する。本稿では, 統計的不均一性を緩和し, フェデレートネットワークにおけるクライアント間での精度向上を図るために, ゼロショットデータ拡張を用いた新しいフェデレーション学習システムを提案する。 Fed-ZDAC (クライアントでのゼロショットデータ拡張によるフェデレーション学習) と Fed-ZDAS (サーバでのゼロショットデータ拡張によるフェデレーション学習) の2種類について検討する。
論文参考訳（メタデータ） (2021-04-27T18:23:54Z)
Federated Residual Learning [53.77128418049985]
クライアントはローカルモデルを個別に訓練し、サーバ側で共有するモデルと共同で予測を行う。この新しいフェデレートされた学習フレームワークを使用することで、統合トレーニングが提供するパフォーマンス上のメリットをすべて享受しながら、中央共有モデルの複雑さを最小限にすることができる。
論文参考訳（メタデータ） (2020-03-28T19:55:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。