論文の概要: FedSPLIT: One-Shot Federated Recommendation System Based on Non-negative
Joint Matrix Factorization and Knowledge Distillation
- arxiv url: http://arxiv.org/abs/2205.02359v1
- Date: Wed, 4 May 2022 23:42:14 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-06 15:32:53.723817
- Title: FedSPLIT: One-Shot Federated Recommendation System Based on Non-negative
Joint Matrix Factorization and Knowledge Distillation
- Title(参考訳): FedSPLIT:非負の関節マトリックス因子化と知識蒸留に基づくワンショットフェデレーション勧告システム
- Authors: Maksim E. Eren, Luke E. Richards, Manish Bhattarai, Roberto Yus,
Charles Nicholas, Boian S. Alexandrov
- Abstract要約: 我々はNMF結合因子化に基づく最初の教師なしワンショットフェデレーションCF実装であるFedSPLITを提案する。
FedSPLITは、コミュニケーションの数を大幅に減らすことで、技術の現状と類似した結果を得ることができる(特定の状況では、それよりも優れている)。
- 参考スコア(独自算出の注目度): 7.621960305708476
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Non-negative matrix factorization (NMF) with missing-value completion is a
well-known effective Collaborative Filtering (CF) method used to provide
personalized user recommendations. However, traditional CF relies on the
privacy-invasive collection of users' explicit and implicit feedback to build a
central recommender model. One-shot federated learning has recently emerged as
a method to mitigate the privacy problem while addressing the traditional
communication bottleneck of federated learning. In this paper, we present the
first unsupervised one-shot federated CF implementation, named FedSPLIT, based
on NMF joint factorization. In our solution, the clients first apply local CF
in-parallel to build distinct client-specific recommenders. Then, the
privacy-preserving local item patterns and biases from each client are shared
with the processor to perform joint factorization in order to extract the
global item patterns. Extracted patterns are then aggregated to each client to
build the local models via knowledge distillation. In our experiments, we
demonstrate the feasibility of our approach with standard recommendation
datasets. FedSPLIT can obtain similar results than the state of the art (and
even outperform it in certain situations) with a substantial decrease in the
number of communications.
- Abstract(参考訳): 非負行列分解(非負行列分解、NMF)は、パーソナライズされたユーザレコメンデーションを提供するために使われる、よく知られた効果的な協調フィルタリング(CF)手法である。
しかしながら、従来のcfは、ユーザの明示的かつ暗黙的なフィードバックのプライバシー侵害的な収集に頼って、中央のレコメンデーションモデルを構築している。
フェデレーション学習の従来のコミュニケーションボトルネックに対処する一方で,プライバシ問題を軽減する手段として,ワンショットフェデレーション学習が最近登場した。
本稿では,NMF結合因子化に基づくFedSPLITという,最初の教師なし単発フェデレーションCF実装を提案する。
私たちのソリューションでは、クライアントはまず、異なるクライアント固有のレコメンデータを構築するために、ローカルCFを並列で適用します。
そして、各クライアントからのプライバシー保護されたローカルアイテムパターンとバイアスをプロセッサと共有し、グローバルアイテムパターンを抽出するために共同ファクタリングを行う。
抽出されたパターンは各クライアントに集約され、知識蒸留を通じてローカルモデルを構築する。
実験では,標準レコメンデーションデータセットを用いたアプローチの実現可能性を示す。
FedSPLITは、コミュニケーションの数を大幅に減らすことで、技術の現状と類似した結果を得ることができる(特定の状況では、それよりも優れている)。
関連論文リスト
- Personalized Federated Learning for Cross-view Geo-localization [49.40531019551957]
本稿では,フェデレート・ラーニング (FL) とクロスビュー・イメージ・ジオローカライゼーション (CVGL) 技術を組み合わせた方法論を提案する。
提案手法では, クライアントが粗い特徴抽出器のみを共有しながら, 局所環境に特有のきめ細かな特徴を保持する, 粗い特徴抽出器を実装している。
その結果,フェデレートCVGL法は,データプライバシを維持しつつ,集中的なトレーニングに近い性能を実現することができた。
論文 参考訳(メタデータ) (2024-11-07T13:25:52Z) - Co-clustering for Federated Recommender System [33.70723179405055]
Federated Recommender System(FRS)は、高品質なレコメンデーションの提供とユーザのプライバシの保護のバランスをとるソリューションを提供する。
パーソナライズされた意思決定パターンによって一般的に観察されるFRSにおける統計的不均一性の存在は、課題を引き起こす可能性がある。
本稿では,Co-clustering Federated RecommendationメカニズムであるCoFedRecを提案する。
論文 参考訳(メタデータ) (2024-11-03T21:32:07Z) - Efficient and Robust Regularized Federated Recommendation [52.24782464815489]
推薦システム(RSRS)は、ユーザの好みとプライバシの両方に対処する。
通信効率を向上させるために,非一様勾配勾配勾配を取り入れた新しい手法を提案する。
RFRecFの強靭性は、多様なベースラインに比べて優れている。
論文 参考訳(メタデータ) (2024-11-03T12:10:20Z) - Personalized Federated Collaborative Filtering: A Variational AutoEncoder Approach [49.63614966954833]
Federated Collaborative Filtering (FedCF)は、プライバシを保護する新しいレコメンデーションフレームワークの開発に焦点を当てた新興分野である。
本稿では,ユーザのパーソナライズされた情報を潜在変数とニューラルモデルに同時に保存することで,新たなパーソナライズされたFedCF手法を提案する。
提案フレームワークを効果的に学習するために,ユーザインタラクションベクトル再構成と欠落した値予測を統合することで,特殊変分オートエンコーダ(VAE)タスクとして問題をモデル化する。
論文 参考訳(メタデータ) (2024-08-16T05:49:14Z) - Beyond Similarity: Personalized Federated Recommendation with Composite Aggregation [22.359428566363945]
フェデレーションレコメンデーションは、大規模なデバイスからローカルモデルを集約することで、グローバルな知識を集めることを目的としている。
現在の手法は主に、連合視覚コミュニティによって発明された集約関数を利用して、類似したクライアントからのパラメータを集約する。
複合アグリゲーション(FedCA)を用いたパーソナライズド・フェデレーション・レコメンデーション・モデルを提案する。
論文 参考訳(メタデータ) (2024-06-06T10:17:52Z) - PGFed: Personalize Each Client's Global Objective for Federated Learning [7.810284483002312]
本稿では,各クライアントが自身のグローバルな目的をパーソナライズ可能な,パーソナライズされたFLフレームワークを提案する。
大規模な(O(N2))通信オーバーヘッドと潜在的なプライバシリークを回避するため、各クライアントのリスクは、他のクライアントの適応的リスクアグリゲーションの1次近似によって推定される。
異なるフェデレーション条件下での4つのデータセットに対する実験により,従来の最先端手法よりも一貫したPGFの改良が示された。
論文 参考訳(メタデータ) (2022-12-02T21:16:39Z) - User-Specific Bicluster-based Collaborative Filtering: Handling
Preference Locality, Sparsity and Subjectivity [1.0398909602421018]
協調フィルタリング(CF)はRecommender Systemsを構築するための最も一般的なアプローチである。
我々は、強く一貫性があり統計的に有意な評価パターンからユーザ固有のモデルを生成する、BiclusteringベースのCFアプローチであるUSBFCを提案する。
USBFCは最先端のCF手法に対する競合予測精度を実現する。
論文 参考訳(メタデータ) (2022-11-15T18:10:52Z) - FedCL: Federated Contrastive Learning for Privacy-Preserving
Recommendation [98.5705258907774]
FedCLは、プライバシーを十分に保護した効果的なモデルトレーニングのために、高品質な負のサンプルを利用することができる。
まず、各クライアントのローカルモデルを介してローカルユーザデータからユーザ埋め込みを推測し、その後、ローカルディファレンシャルプライバシ(LDP)で摂動する。
個々のユーザ埋め込みにはLDPによる重騒音が伴うため,ノイズの影響を軽減するため,サーバ上にユーザ埋め込みをクラスタ化することを提案する。
論文 参考訳(メタデータ) (2022-04-21T02:37:10Z) - On the Convergence of Clustered Federated Learning [57.934295064030636]
統合学習システムでは、例えばモバイルデバイスや組織参加者といったクライアントは通常、個人の好みや行動パターンが異なる。
本稿では,クライアントグループと各クライアントを統一最適化フレームワークで活用する,新しい重み付きクライアントベースクラスタリングFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-02-13T02:39:19Z) - Toward Understanding the Influence of Individual Clients in Federated
Learning [52.07734799278535]
フェデレーションラーニングにより、クライアントはプライベートデータを中央サーバーに送信することなく、グローバルモデルを共同でトレーニングできます。
em-Influenceという新しい概念を定義し、パラメータに対するこの影響を定量化し、このメトリクスを推定する効果的な効率的なモデルを提案しました。
論文 参考訳(メタデータ) (2020-12-20T14:34:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。