論文の概要: Towards Personalized Federated Multi-Scenario Multi-Task Recommendation
- arxiv url: http://arxiv.org/abs/2406.18938v2
- Date: Tue, 20 Aug 2024 03:47:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-10 21:11:24.099359
- Title: Towards Personalized Federated Multi-Scenario Multi-Task Recommendation
- Title(参考訳): パーソナライズド・フェデレーション・マルチシナリオ・マルチタスク・レコメンデーションに向けて
- Authors: Yue Ding, Yanbiao Ji, Xun Cai, Xin Xin, Yuxiang Lu, Suizhi Huang, Chang Liu, Xiaofeng Gao, Tsuyoshi Murata, Hongtao Lu,
- Abstract要約: PF-MSMTrecは、パーソナライズされたマルチシナリオマルチタスクレコメンデーションのための新しいフレームワークである。
複数の最適化競合の独特な課題に対処するために,ボトムアップ共同学習機構を導入する。
提案手法は最先端手法より優れている。
- 参考スコア(独自算出の注目度): 22.095138650857436
- License:
- Abstract: In modern recommender systems, especially in e-commerce, predicting multiple targets such as click-through rate (CTR) and post-view conversion rate (CTCVR) is common. Multi-task recommender systems are increasingly popular in both research and practice, as they leverage shared knowledge across diverse business scenarios to enhance performance. However, emerging real-world scenarios and data privacy concerns complicate the development of a unified multi-task recommendation model. In this paper, we propose PF-MSMTrec, a novel framework for personalized federated multi-scenario multi-task recommendation. In this framework, each scenario is assigned to a dedicated client utilizing the Multi-gate Mixture-of-Experts (MMoE) structure. To address the unique challenges of multiple optimization conflicts, we introduce a bottom-up joint learning mechanism. First, we design a parameter template to decouple the expert network parameters, distinguishing scenario-specific parameters as shared knowledge for federated parameter aggregation. Second, we implement personalized federated learning for each expert network during a federated communication round, using three modules: federated batch normalization, conflict coordination, and personalized aggregation. Finally, we conduct an additional round of personalized federated parameter aggregation on the task tower network to obtain prediction results for multiple tasks. Extensive experiments on two public datasets demonstrate that our proposed method outperforms state-of-the-art approaches. The source code and datasets will be released as open-source for public access.
- Abstract(参考訳): 現代のレコメンデータシステム、特にeコマースでは、クリックスルーレート(CTR)やポストビューコンバージョンレート(CTCVR)といった複数のターゲットを予測することが一般的である。
マルチタスクレコメンダシステムは、さまざまなビジネスシナリオの共通知識を活用してパフォーマンスを向上させることによって、研究と実践の両方でますます人気を集めています。
しかし、現実のシナリオやデータプライバシに関する懸念は、統一されたマルチタスクレコメンデーションモデルの開発を複雑にしている。
本稿では,パーソナライズされたマルチシナリオマルチタスクレコメンデーションのための新しいフレームワークであるPF-MSMTrecを提案する。
このフレームワークでは、各シナリオはMulti-gate Mixture-of-Experts(MMoE)構造を利用した専用クライアントに割り当てられます。
複数の最適化競合のユニークな課題に対処するために,ボトムアップ型共同学習機構を導入する。
まず、専門家のネットワークパラメータを分離するパラメータテンプレートを設計し、フェデレートされたパラメータアグリゲーションのための共有知識としてシナリオ固有のパラメータを識別する。
第2に、フェデレートされたバッチ正規化、競合調整、パーソナライズされたアグリゲーションの3つのモジュールを使用して、フェデレーションされたコミュニケーションラウンド中に、各専門家ネットワークに対してパーソナライズされたフェデレーション学習を実装した。
最後に,複数のタスクに対する予測結果を得るために,タスクタワーネットワーク上で個別化されたパラメータアグリゲーションの追加ラウンドを行う。
2つの公開データセットに対する大規模な実験により,提案手法が最先端の手法より優れていることが示された。
ソースコードとデータセットは、パブリックアクセスのためにオープンソースとしてリリースされる。
関連論文リスト
- M3oE: Multi-Domain Multi-Task Mixture-of Experts Recommendation Framework [32.68911775382326]
M3oEは適応型マルチドメインMulti-task Mixture-of-Expertsレコメンデーションフレームワークである。
3つのMix-of-expertsモジュールを利用して、共通、ドメイン・アスペクト、タスク・アスペクトのユーザの好みを学習します。
多様な領域やタスクをまたいだ特徴抽出と融合を正確に制御するための2レベル融合機構を設計する。
論文 参考訳(メタデータ) (2024-04-29T06:59:30Z) - Learn What You Need in Personalized Federated Learning [53.83081622573734]
$textitLearn2pFed$は、アルゴリズムに基づくパーソナライズされたフェデレーション学習フレームワークである。
我々は、textitLearn2pFed$が、従来のパーソナライズされたフェデレーション学習方法よりも大幅に優れていることを示す。
論文 参考訳(メタデータ) (2024-01-16T12:45:15Z) - Prototype Helps Federated Learning: Towards Faster Convergence [38.517903009319994]
Federated Learning(FL)は、複数のクライアントが協力して、生データを交換することなく、共有モデルをトレーニングする分散機械学習技術である。
本稿では,従来のフェデレーション学習プロセスの最後のグローバルイテレーションにわずかな変更を加えるだけで,推論性能を向上する,プロトタイプベースのフェデレーション学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-03-22T04:06:29Z) - HiNet: Novel Multi-Scenario & Multi-Task Learning with Hierarchical Information Extraction [50.40732146978222]
マルチシナリオとマルチタスク学習は、産業アプリケーションにおける多くのレコメンデーションシステムに広く応用されている。
階層型情報抽出ネットワーク(HiNet)を提案する。
HiNetは、新しい最先端のパフォーマンスを実現し、既存のソリューションを大幅に上回っている。
論文 参考訳(メタデータ) (2023-03-10T17:24:41Z) - Dual Personalization on Federated Recommendation [50.4115315992418]
フェデレートされたレコメンデーションは、フェデレーションされた設定でプライバシを保存するレコメンデーションサービスを提供することを目的とした、新しいインターネットサービスアーキテクチャである。
本稿では,ユーザ固有の軽量モデルの多くを学習するためのPersonalized Federated Recommendation(PFedRec)フレームワークを提案する。
また、ユーザとアイテムの両方の詳細なパーソナライズを効果的に学習するための、新しい二重パーソナライズ機構を提案する。
論文 参考訳(メタデータ) (2023-01-16T05:26:07Z) - Federated Adaptive Prompt Tuning for Multi-Domain Collaborative Learning [44.604485649167216]
フェデレートラーニング(FL)は、複数のクライアントがデータを開示することなく、協力的にグローバルモデルをトレーニングすることを可能にする。
多領域協調画像分類のためのフェデレーション適応型プロンプトチューニングアルゴリズムであるFedAPTを提案する。
論文 参考訳(メタデータ) (2022-11-15T03:10:05Z) - Automatic Expert Selection for Multi-Scenario and Multi-Task Search [41.47107282896807]
本稿では,AESM2 という名前のマルチシナリオ検索とマルチタスク検索のための新しい自動エキスパート選択フレームワークを提案する。
2つの実世界の大規模なデータセットに対する実験は、強いベースラインのバッテリー上でのAESM2の有効性を実証している。
オンラインA/Bテストでは、複数のメトリクスで大幅にパフォーマンスが向上する。
論文 参考訳(メタデータ) (2022-05-28T03:41:25Z) - Federated Multi-Target Domain Adaptation [99.93375364579484]
フェデレートされた学習手法により、プライバシを保護しながら、分散ユーザデータ上で機械学習モデルをトレーニングすることが可能になります。
分散クライアントデータがラベル付けされず、集中型ラベル付きデータセットがサーバ上で利用可能となる、より実用的なシナリオを考えます。
本稿では,新しい課題に対処する効果的なDualAdapt法を提案する。
論文 参考訳(メタデータ) (2021-08-17T17:53:05Z) - Scenario-aware and Mutual-based approach for Multi-scenario
Recommendation in E-Commerce [12.794276204716642]
不均質な電子商取引のシナリオでユーザーのための正確な推奨を行う方法は、まだ継続的な研究トピックです。
本稿では,複数のシナリオの違いと類似性を活用するScenario-aware Mutual Learning (SAML) という新しい推奨モデルを提案する。
論文 参考訳(メタデータ) (2020-12-16T13:52:14Z) - Joint predictions of multi-modal ride-hailing demands: a deep multi-task
multigraph learning-based approach [64.18639899347822]
本稿では、複数のマルチグラフ畳み込み(MGC)ネットワークを組み合わせて、異なるサービスモードの要求を予測する深層マルチタスクマルチグラフ学習手法を提案する。
提案手法は,様々な配車モードの予測精度において,ベンチマークアルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2020-11-11T07:10:50Z) - Federated Multi-view Matrix Factorization for Personalized
Recommendations [53.74747022749739]
本稿では,フェデレートされた学習フレームワークを,複数のデータソースを用いた行列分解に拡張する,フェデレートされたマルチビュー行列分解手法を提案する。
本手法では,ユーザの個人情報を中央サーバに転送することなく,マルチビューモデルを学習することができる。
論文 参考訳(メタデータ) (2020-04-08T21:07:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。