論文の概要: Adapt to Adaptation: Learning Personalization for Cross-Silo Federated
Learning
- arxiv url: http://arxiv.org/abs/2110.08394v1
- Date: Fri, 15 Oct 2021 22:23:14 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-19 17:13:52.823600
- Title: Adapt to Adaptation: Learning Personalization for Cross-Silo Federated
Learning
- Title(参考訳): Adapt to Adaptation:Learning Personalization for Cross-Silo Federated Learning
- Authors: Jun Luo, Shandong Wu
- Abstract要約: 従来のフェデレーション学習は、分散データによるクライアントのフェデレーションのためのグローバルモデルをトレーニングすることを目的としている。
非IIDデータセット間の分散シフトは、データヘテロジニティとしても知られ、この1つのグローバルモデルに適合するソリューションにしばしば挑戦する。
我々は、各クライアントが他のクライアントのモデルからどれだけの恩恵を受けることができるかを適応的に学習するパーソナライズされたクロスサイロFLフレームワークであるAPPLEを提案する。
- 参考スコア(独自算出の注目度): 6.0088002781256185
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The goal of conventional federated learning (FL) is to train a global model
for a federation of clients with decentralized data, reducing the systemic
privacy risk of centralized training. The distribution shift across non-IID
datasets, also known as the data heterogeneity, often poses a challenge for
this one-global-model-fits-all solution. In this work, we propose APPLE, a
personalized cross-silo FL framework that adaptively learns how much each
client can benefit from other clients' models. We also introduce a method to
flexibly control the focus of training APPLE between global and local
objectives. We empirically evaluate our method's convergence and generalization
behavior and performed extensive experiments on two benchmark datasets and two
medical imaging datasets under two non-IID settings. The results show that the
proposed personalized FL framework, APPLE, achieves state-of-the-art
performance compared to several other personalized FL approaches in the
literature.
- Abstract(参考訳): 従来のフェデレーション学習(fl)の目的は、分散データを持つクライアントのフェデレーションのためのグローバルモデルをトレーニングすることであり、集中型トレーニングのシステム的プライバシーリスクを低減させる。
非IIDデータセット間の分散シフトは、データヘテロジニティとしても知られ、この1つのグローバルモデルに適合するソリューションにしばしば挑戦する。
本稿では、各クライアントが他のクライアントのモデルからどれだけの恩恵を受けられるかを適応的に学習する、パーソナライズされたクロスサイロFLフレームワークであるAPPLEを提案する。
また,グローバルとローカルの目標間のAPPLEトレーニングの焦点を柔軟に制御する手法も導入する。
提案手法の収束と一般化挙動を実証的に評価し,2つのベンチマークデータセットと2つの医用画像データセットを2つの非IID環境下で広範囲に実験した。
提案するパーソナライズされたFLフレームワークであるAPPLEは,文学における他のいくつかのパーソナライズされたFLアプローチと比較して,最先端のパフォーマンスを実現する。
関連論文リスト
- Learn What You Need in Personalized Federated Learning [53.83081622573734]
$textitLearn2pFed$は、アルゴリズムに基づくパーソナライズされたフェデレーション学習フレームワークである。
我々は、textitLearn2pFed$が、従来のパーソナライズされたフェデレーション学習方法よりも大幅に優れていることを示す。
論文 参考訳(メタデータ) (2024-01-16T12:45:15Z) - Federated Learning with Projected Trajectory Regularization [65.6266768678291]
フェデレーション学習は、ローカルデータを共有せずに、分散クライアントから機械学習モデルの共同トレーニングを可能にする。
連合学習における重要な課題の1つは、クライアントにまたがる識別できない分散データを扱うことである。
本稿では,データ問題に対処するための予測軌道正則化(FedPTR)を備えた新しいフェデレーション学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-12-22T02:12:08Z) - PFL-GAN: When Client Heterogeneity Meets Generative Models in
Personalized Federated Learning [55.930403371398114]
パーソナライズドラーニング(PFL)のための新しいGAN(Generative Adversarial Network)の共有と集約戦略を提案する。
PFL-GANは、異なるシナリオにおけるクライアントの不均一性に対処する。より具体的には、まずクライアント間の類似性を学び、次に重み付けされた協調データアグリゲーションを開発する。
いくつかのよく知られたデータセットに対する厳密な実験による実験結果は、PFL-GANの有効性を示している。
論文 参考訳(メタデータ) (2023-08-23T22:38:35Z) - FedJETs: Efficient Just-In-Time Personalization with Federated Mixture
of Experts [48.78037006856208]
FedJETsは、Federated Learning(FL)セットアップ内でMixture-of-Experts(MoE)フレームワークを使用することで、新しいソリューションである。
我々の方法は、クライアントの多様性を活用して、クラスのサブセットの異なる専門家を訓練し、最も関係のある専門家に入力をルーティングするゲーティング機能を提供します。
我々の手法は、競争力のあるゼロショット性能を維持しながら、アートFL設定時の精度を最大18%向上させることができる。
論文 参考訳(メタデータ) (2023-06-14T15:47:52Z) - Visual Prompt Based Personalized Federated Learning [83.04104655903846]
pFedPTと呼ばれる画像分類タスクのための新しいPFLフレームワークを提案し、クライアントのローカルデータ配信情報を暗黙的に表現するためにパーソナライズされた視覚的プロンプトを利用する。
CIFAR10とCIFAR100データセットの実験では、pFedPTは様々な設定でいくつかの最先端(SOTA)PFLアルゴリズムより優れていた。
論文 参考訳(メタデータ) (2023-03-15T15:02:15Z) - Group Personalized Federated Learning [15.09115201646396]
フェデレートラーニング(FL)は、クライアントの物理デバイス上で分散的な方法で共有モデルをトレーニングすることで、データのプライバシを促進するのに役立つ。
本稿では,FLの応用に向けたグループパーソナライズ手法を提案する。
論文 参考訳(メタデータ) (2022-10-04T19:20:19Z) - FedDM: Iterative Distribution Matching for Communication-Efficient
Federated Learning [87.08902493524556]
フェデレートラーニング(FL)は近年、学術や産業から注目を集めている。
我々は,複数の局所的代理関数からグローバルなトレーニング目標を構築するためのFedDMを提案する。
そこで本研究では,各クライアントにデータ集合を構築し,元のデータから得られた損失景観を局所的にマッチングする。
論文 参考訳(メタデータ) (2022-07-20T04:55:18Z) - A Closer Look at Personalization in Federated Image Classification [33.27317065917578]
フェデレートラーニング(FL)は、分散化されたデータにまたがる単一のグローバルモデルを学ぶために開発された。
本稿では,グローバルモデルの収束後,フレキシブルなパーソナライゼーションを実現することができることを示す。
独立二段階パーソナライズされたFLフレームワークであるRepPerを提案する。
論文 参考訳(メタデータ) (2022-04-22T06:32:18Z) - IOP-FL: Inside-Outside Personalization for Federated Medical Image
Segmentation [18.65229252289727]
フェデレートラーニング(Federated Learning)は、複数の医療機関がクライアントデータを集中せずにグローバルなモデルを共同で学習することを可能にする。
We propose a novel unified framework for textitInside and Outside model Personalization in FL (IOP-FL)。
2つの医用画像分割作業に関する実験結果から, 内面および外面の個人化におけるSOTA法よりも有意な改善が認められた。
論文 参考訳(メタデータ) (2022-04-16T08:26:19Z) - Federated Multi-Task Learning under a Mixture of Distributions [10.00087964926414]
Federated Learning(FL)は、機械学習モデルのデバイス上での協調トレーニングのためのフレームワークである。
FLにおける最初の取り組みは、クライアント間で平均的なパフォーマンスを持つ単一のグローバルモデルを学ぶことに焦点を当てたが、グローバルモデルは、与えられたクライアントに対して任意に悪いかもしれない。
我々は,各局所データ分布が未知の基底分布の混合であるというフレキシブルな仮定の下で,フェデレーションMTLについて検討した。
論文 参考訳(メタデータ) (2021-08-23T15:47:53Z) - Unifying Distillation with Personalization in Federated Learning [1.8262547855491458]
Federated Learning(FL)は、クライアントがデータを共有せずに中央アグリゲータを通じて共同作業モデルを学習する分散プライバシ保護学習技術である。
この設定では、すべてのクライアントが単一の共通予測器(FedAvg)を学習する。
本稿では,2段階のパーソナライズされた学習アルゴリズムPersFLを用いてこの問題に対処する。
第1段階では、PersFLはFLトレーニングフェーズにおいて各クライアントの最適な教師モデルを見つけ、第2段階では、PersFLは有用な知識を抽出する。
論文 参考訳(メタデータ) (2021-05-31T17:54:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。