論文の概要: Personalizing or Not: Dynamically Personalized Federated Learning with
Incentives
- arxiv url: http://arxiv.org/abs/2208.06192v1
- Date: Fri, 12 Aug 2022 09:51:20 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-15 13:01:50.816031
- Title: Personalizing or Not: Dynamically Personalized Federated Learning with
Incentives
- Title(参考訳): 個人化の有無:インセンティブによる動的個人化フェデレーション学習
- Authors: Zichen Ma, Yu Lu, Wenye Li, Shuguang Cui
- Abstract要約: 個人データを共有せずにパーソナライズされたモデルを学習するためのパーソナライズド・フェデレーション・ラーニング(FL)を提案する。
パーソナライズレートは、パーソナライズされたモデルのトレーニングを希望する顧客の割合として測定され、フェデレーションされた設定に導入され、DyPFLを提案する。
この技術は、クライアントがローカルモデルをパーソナライズすることへのインセンティブを与えると同時に、より優れたパフォーマンスでグローバルモデルを採用できるようにする。
- 参考スコア(独自算出の注目度): 37.42347737911428
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Personalized federated learning (FL) facilitates collaborations between
multiple clients to learn personalized models without sharing private data. The
mechanism mitigates the statistical heterogeneity commonly encountered in the
system, i.e., non-IID data over different clients. Existing personalized
algorithms generally assume all clients volunteer for personalization. However,
potential participants might still be reluctant to personalize models since
they might not work well. In this case, clients choose to use the global model
instead. To avoid making unrealistic assumptions, we introduce the
personalization rate, measured as the fraction of clients willing to train
personalized models, into federated settings and propose DyPFL. This
dynamically personalized FL technique incentivizes clients to participate in
personalizing local models while allowing the adoption of the global model when
it performs better. We show that the algorithmic pipeline in DyPFL guarantees
good convergence performance, allowing it to outperform alternative
personalized methods in a broad range of conditions, including variation in
heterogeneity, number of clients, local epochs, and batch sizes.
- Abstract(参考訳): パーソナライズド・フェデレーション・ラーニング(FL)は、複数のクライアント間のコラボレーションを促進し、プライベートデータを共有せずにパーソナライズされたモデルを学習する。
このメカニズムはシステムでよく見られる統計的不均一性、すなわち異なるクライアント上の非IIDデータを緩和する。
既存のパーソナライズされたアルゴリズムでは、一般的にすべてのクライアントがパーソナライズを志願する。
しかし、潜在的な参加者は、モデルがうまく機能しないかもしれないため、モデルのパーソナライズには消極的かもしれない。
この場合、クライアントは代わりにグローバルモデルを選択する。
非現実的な仮定を避けるため、パーソナライズ率(パーソナライズされたモデルのトレーニングを希望するクライアント数)をフェデレーション設定に導入し、DyPFLを提案する。
この動的パーソナライズされたFL技術は、クライアントがローカルモデルをパーソナライズすることへのインセンティブを与えると同時に、より優れたパフォーマンスでグローバルモデルを採用できるようにする。
dypflのアルゴリズムパイプラインは,並列性の変動,クライアント数,局所的エポック数,バッチサイズなど,幅広い条件下で,代替パーソナライズされた手法よりも優れた収束性能を保証している。
関連論文リスト
- MAP: Model Aggregation and Personalization in Federated Learning with Incomplete Classes [49.22075916259368]
一部の実世界のアプリケーションでは、データサンプルは通常、ローカルデバイスに分散される。
本稿では,クライアントが不完全なクラスを所有する特別なI.I.D.シーンに焦点を当てる。
提案するMAPアルゴリズムは,FLにおけるアグリゲーションとパーソナライゼーションの目標を同時に達成できる。
論文 参考訳(メタデータ) (2024-04-14T12:22:42Z) - Efficient Model Personalization in Federated Learning via
Client-Specific Prompt Generation [38.42808389088285]
フェデレーション学習(FL)は、データを共有せずに複数の分散クライアントからモデルをトレーニングし、プライバシを保存する分散学習フレームワークとして登場した。
クライアント固有のPrompt Generation(pFedPG)のパーソナライズされたFLフレームワークを提案する。
pFedPGはサーバにパーソナライズされたプロンプトジェネレータを配置してクライアント固有のビジュアルプロンプトを生成し、凍結したバックボーンをローカルデータ分散に効率的に適応させる。
論文 参考訳(メタデータ) (2023-08-29T15:03:05Z) - FedJETs: Efficient Just-In-Time Personalization with Federated Mixture
of Experts [48.78037006856208]
FedJETsは、Federated Learning(FL)セットアップ内でMixture-of-Experts(MoE)フレームワークを使用することで、新しいソリューションである。
我々の方法は、クライアントの多様性を活用して、クラスのサブセットの異なる専門家を訓練し、最も関係のある専門家に入力をルーティングするゲーティング機能を提供します。
我々の手法は、競争力のあるゼロショット性能を維持しながら、アートFL設定時の精度を最大18%向上させることができる。
論文 参考訳(メタデータ) (2023-06-14T15:47:52Z) - FedDWA: Personalized Federated Learning with Dynamic Weight Adjustment [20.72576355616359]
本稿では,この問題を解決するために,emphFedDWA (Federated Learning with Dynamic Weight Adjustment) と呼ばれる新しいPFLアルゴリズムを提案する。
FedDWAは、クライアントから収集したモデルに基づいて、パーソナライズされたアグリゲーション重みを計算する。
我々は,5つの実データを用いて広範囲な実験を行い,FedDWAが通信トラフィックを大幅に削減し,最先端のアプローチよりもはるかに高いモデル精度を達成できることを実証した。
論文 参考訳(メタデータ) (2023-05-10T13:12:07Z) - Efficient Personalized Federated Learning via Sparse Model-Adaptation [47.088124462925684]
Federated Learning (FL)は、複数のクライアントに対して、独自のプライベートデータを共有せずに機械学習モデルをトレーニングすることを目的としている。
疎局所モデルを適応的かつ効率的に学習し,効率的なパーソナライズFLのためのpFedGateを提案する。
我々は,pFedGateが最先端手法よりも優れたグローバル精度,個人精度,効率性を同時に達成できることを示す。
論文 参考訳(メタデータ) (2023-05-04T12:21:34Z) - Visual Prompt Based Personalized Federated Learning [83.04104655903846]
pFedPTと呼ばれる画像分類タスクのための新しいPFLフレームワークを提案し、クライアントのローカルデータ配信情報を暗黙的に表現するためにパーソナライズされた視覚的プロンプトを利用する。
CIFAR10とCIFAR100データセットの実験では、pFedPTは様々な設定でいくつかの最先端(SOTA)PFLアルゴリズムより優れていた。
論文 参考訳(メタデータ) (2023-03-15T15:02:15Z) - Self-Aware Personalized Federated Learning [32.97492968378679]
本研究では,ベイズ階層モデルにインスパイアされた自己認識型パーソナライズド・フェデレーション・ラーニング(FL)手法を開発した。
本手法では,従来の局所微調整法とサンプルサイズに基づくアグリゲーションの代わりに,不確実性駆動型局所トレーニングステップとアグリゲーションルールを用いる。
合成データ、Amazon Alexa音声データ、MNIST、FEMNIST、CIFAR10、Sent140などの公開データセットに関する実験的研究により、提案手法はパーソナライズ性能を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2022-04-17T19:02:25Z) - Personalized Federated Learning with First Order Model Optimization [76.81546598985159]
そこで我々は,各クライアントが他のクライアントと連携して,クライアント固有の目的ごとのより強力なモデルを得る,フェデレーション学習の代替案を提案する。
基礎となるデータ分布やクライアントの類似性に関する知識を前提とせず、各クライアントが関心のある任意のターゲット分布を最適化できるようにします。
この手法は既存の代替品を上回り、ローカルデータ配信以外の転送のようなパーソナライズされたFLの新機能を可能にする。
論文 参考訳(メタデータ) (2020-12-15T19:30:29Z) - Federated Mutual Learning [65.46254760557073]
Federated Mutual Leaning (FML)は、クライアントが汎用モデルとパーソナライズされたモデルを独立してトレーニングすることを可能にする。
実験により、FMLは一般的なフェデレート学習環境よりも優れた性能が得られることが示された。
論文 参考訳(メタデータ) (2020-06-27T09:35:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。