論文の概要: Federated Recommendation with Additive Personalization
- arxiv url: http://arxiv.org/abs/2301.09109v1
- Date: Sun, 22 Jan 2023 12:13:25 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-24 14:56:08.855532
- Title: Federated Recommendation with Additive Personalization
- Title(参考訳): 追加パーソナライゼーションによるフェデレーション勧告
- Authors: Zhiwei Li, Guodong Long, Tianyi Zhou
- Abstract要約: 本稿では,FedRAP(Federated Recommendation with Additive Personalization)と呼ばれる新しいアプローチを提案する。
具体的には、全ユーザから集約された疎グローバルなアイテムにパーソナライズされたアイテムを埋め込み、パーソナライズすることを提案する。
通信オーバヘッドを低減するため,グローバルアイテム埋め込みの疎正規化により統一的な定式化が提案されている。
- 参考スコア(独自算出の注目度): 44.33367659097946
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With rising concerns about privacy, developing recommendation systems in a
federated setting become a new paradigm to develop next-generation Internet
service architecture. However, existing approaches are usually derived from a
distributed recommendation framework with an additional mechanism for privacy
protection, thus most of them fail to fully exploit personalization in the new
context of federated recommendation settings. In this paper, we propose a novel
approach called Federated Recommendation with Additive Personalization (FedRAP)
to enhance recommendation by learning user embedding and the user's personal
view of item embeddings. Specifically, the proposed additive personalization is
to add a personalized item embedding to a sparse global item embedding
aggregated from all users. Moreover, a curriculum learning mechanism has been
applied for additive personalization on item embeddings by gradually increasing
regularization weights to mitigate the performance degradation caused by large
variances among client-specific item embeddings. A unified formulation has been
proposed with a sparse regularization of global item embeddings for reducing
communication overhead. Experimental results on four real-world recommendation
datasets demonstrate the effectiveness of FedRAP.
- Abstract(参考訳): プライバシに関する懸念が高まる中、連合環境でのレコメンデーションシステムの開発は、次世代のインターネットサービスアーキテクチャを開発するための新しいパラダイムとなる。
しかしながら、既存のアプローチは通常、プライバシ保護のための追加メカニズムを備えた分散レコメンデーションフレームワークから派生しているため、ほとんどのアプローチは、連合レコメンデーション設定の新しいコンテキストにおいて、パーソナライズを完全に活用できない。
本稿では,ユーザ埋め込みを学習し,ユーザによるアイテム埋め込みの個人的視点を学習することで推奨を高める,FedRAP(Federated Recommendation with Additive Personalization)と呼ばれる新しいアプローチを提案する。
具体的には、すべてのユーザから集約されたスパースなグローバルアイテム埋め込みにパーソナライズされたアイテムを追加することでパーソナライズする。
また,クライアント固有の項目埋め込みのばらつきが大きいことによる性能低下を軽減するために,正規化重みを徐々に増やすことで,項目埋め込みの個人化を付加するカリキュラム学習機構が適用されている。
通信オーバヘッドを低減するため,グローバルアイテム埋め込みの疎正規化により統一的な定式化が提案されている。
4つの実世界のレコメンデーションデータセットの実験結果から,FedRAPの有効性が示された。
関連論文リスト
- Unlocking the Potential of Prompt-Tuning in Bridging Generalized and
Personalized Federated Learning [49.72857433721424]
Vision Transformer (ViT) と Visual Prompt Tuning (VPT) は、様々なコンピュータビジョンタスクの効率を改善して最先端のパフォーマンスを実現する。
本稿では,GFL(Generalized FL)とPFL(Personalized FL)を組み合わせた新しいアルゴリズムSGPTを提案する。
論文 参考訳(メタデータ) (2023-10-27T17:22:09Z) - FedJETs: Efficient Just-In-Time Personalization with Federated Mixture
of Experts [48.78037006856208]
FedJETsは、Federated Learning(FL)セットアップ内でMixture-of-Experts(MoE)フレームワークを使用することで、新しいソリューションである。
我々の方法は、クライアントの多様性を活用して、クラスのサブセットの異なる専門家を訓練し、最も関係のある専門家に入力をルーティングするゲーティング機能を提供します。
我々の手法は、競争力のあるゼロショット性能を維持しながら、アートFL設定時の精度を最大18%向上させることができる。
論文 参考訳(メタデータ) (2023-06-14T15:47:52Z) - User-Centric Federated Learning: Trading off Wireless Resources for
Personalization [18.38078866145659]
フェデレートラーニング(FL)システムでは、統計的不均一性はアルゴリズム収束時間を増やし、一般化性能を低下させる。
FLが課すプライバシー制約に違反することなく、上記の問題に対処するためには、パーソナライズされたFLメソッドは、データに直接アクセスすることなく、統計的に類似したクライアントを結合する必要がある。
本研究では,容易に利用できる勾配情報に基づいて,FLクライアント毎にパーソナライズされたモデルを生成可能なユーザ中心集約ルールを設計する。
提案アルゴリズムは,平均精度,ノード性能,通信オーバヘッドの訓練において,パーソナライズされたFLベースラインを上回っている。
論文 参考訳(メタデータ) (2023-04-25T15:45:37Z) - Federated Learning of Shareable Bases for Personalization-Friendly Image
Classification [54.72892987840267]
FedBasisは、いくつかの共有可能なベースモデルの集合を学習し、リニアに組み合わせて、クライアント用のパーソナライズされたモデルを形成することができる。
具体的には、新しいクライアントの場合、モデルの重みではなく、小さな組み合わせ係数のみを学ぶ必要がある。
また、FedBasisの有効性と適用性を示すために、画像分類のためのより実用的なPFLテストベッドを提案する。
論文 参考訳(メタデータ) (2023-04-16T20:19:18Z) - FedLAP-DP: Federated Learning by Sharing Differentially Private Loss Approximations [53.268801169075836]
我々は,フェデレーション学習のための新しいプライバシ保護手法であるFedLAP-DPを提案する。
公式なプライバシー分析は、FedLAP-DPが典型的な勾配共有方式と同じプライバシーコストを発生させることを示している。
提案手法は, 通常の勾配共有法に比べて高速な収束速度を示す。
論文 参考訳(メタデータ) (2023-02-02T12:56:46Z) - PGFed: Personalize Each Client's Global Objective for Federated Learning [7.810284483002312]
本稿では,各クライアントが自身のグローバルな目的をパーソナライズ可能な,パーソナライズされたFLフレームワークを提案する。
大規模な(O(N2))通信オーバーヘッドと潜在的なプライバシリークを回避するため、各クライアントのリスクは、他のクライアントの適応的リスクアグリゲーションの1次近似によって推定される。
異なるフェデレーション条件下での4つのデータセットに対する実験により,従来の最先端手法よりも一貫したPGFの改良が示された。
論文 参考訳(メタデータ) (2022-12-02T21:16:39Z) - Group Personalized Federated Learning [15.09115201646396]
フェデレートラーニング(FL)は、クライアントの物理デバイス上で分散的な方法で共有モデルをトレーニングすることで、データのプライバシを促進するのに役立つ。
本稿では,FLの応用に向けたグループパーソナライズ手法を提案する。
論文 参考訳(メタデータ) (2022-10-04T19:20:19Z) - Improving Privacy-Preserving Vertical Federated Learning by Efficient Communication with ADMM [62.62684911017472]
フェデレートラーニング(FL)により、デバイスは共有モデルを共同でトレーニングし、トレーニングデータをプライバシ目的でローカルに保つことができる。
マルチヘッド(VIM)を備えたVFLフレームワークを導入し、各クライアントの別々のコントリビューションを考慮に入れます。
VIMは最先端技術に比べて性能が著しく向上し、収束が速い。
論文 参考訳(メタデータ) (2022-07-20T23:14:33Z) - Privacy Assessment of Federated Learning using Private Personalized
Layers [0.9023847175654603]
Federated Learning(FL)は、データを共有することなく、複数の参加者にまたがって学習モデルをトレーニングするコラボレーティブスキームである。
プライベートなパーソナライズされたレイヤを用いてFLスキームの実用性とプライバシのトレードオフを定量化する。
論文 参考訳(メタデータ) (2021-06-15T11:40:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。