論文の概要: Towards Universal Sequence Representation Learning for Recommender
Systems
- arxiv url: http://arxiv.org/abs/2206.05941v1
- Date: Mon, 13 Jun 2022 07:21:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-15 00:56:48.748414
- Title: Towards Universal Sequence Representation Learning for Recommender
Systems
- Title（参考訳）: リコメンダシステムのためのユニバーサルシーケンス表現学習に向けて
- Authors: Yupeng Hou, Shanlei Mu, Wayne Xin Zhao, Yaliang Li, Bolin Ding,
Ji-Rong Wen
- Abstract要約: 我々はUniSRecという新しいユニバーサルシーケンス表現学習手法を提案する。
提案手法は、項目の関連記述テキストを用いて、異なる推薦シナリオ間で転送可能な表現を学習する。
我々のアプローチは、パラメータ効率のよい方法で、新しいレコメンデーションドメインやプラットフォームに効果的に移行できます。
- 参考スコア（独自算出の注目度）: 98.02154164251846
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In order to develop effective sequential recommenders, a series of sequence
representation learning (SRL) methods are proposed to model historical user
behaviors. Most existing SRL methods rely on explicit item IDs for developing
the sequence models to better capture user preference. Though effective to some
extent, these methods are difficult to be transferred to new recommendation
scenarios, due to the limitation by explicitly modeling item IDs. To tackle
this issue, we present a novel universal sequence representation learning
approach, named UniSRec. The proposed approach utilizes the associated
description text of items to learn transferable representations across
different recommendation scenarios. For learning universal item
representations, we design a lightweight item encoding architecture based on
parametric whitening and mixture-of-experts enhanced adaptor. For learning
universal sequence representations, we introduce two contrastive pre-training
tasks by sampling multi-domain negatives. With the pre-trained universal
sequence representation model, our approach can be effectively transferred to
new recommendation domains or platforms in a parameter-efficient way, under
either inductive or transductive settings. Extensive experiments conducted on
real-world datasets demonstrate the effectiveness of the proposed approach.
Especially, our approach also leads to a performance improvement in a
cross-platform setting, showing the strong transferability of the proposed
universal SRL method. The code and pre-trained model are available at:
https://github.com/RUCAIBox/UniSRec.
- Abstract（参考訳）: 効率的なシーケンシャルレコメンデータを開発するために,歴史的ユーザ行動のモデル化を目的とした一連のシーケンス表現学習(SRL)手法を提案する。
既存のSRLメソッドの多くは、ユーザの好みをよりよく捉えるためにシーケンスモデルを開発するために明示的なアイテムIDに依存している。
有効性はあるものの、アイテムIDを明示的にモデル化する制限のため、これらの手法を新しいレコメンデーションシナリオに移すことは困難である。
この問題に取り組むため,我々はunisrecと呼ばれる新しいユニバーサルシーケンス表現学習手法を提案する。
提案手法では,アイテムの関連記述テキストを用いて,異なるレコメンデーションシナリオ間で転送可能な表現を学習する。
ユニバーサルアイテム表現を学習するために、パラメトリックホワイトニングとmixed-of-experts enhanced adaptorに基づく軽量なアイテムエンコーディングアーキテクチャを設計する。
ユニバーサルシーケンス表現の学習には,複数領域の負をサンプリングして2つのコントラストプリトレーニングタスクを導入する。
事前訓練されたユニバーサルシーケンス表現モデルにより,提案手法は帰納的あるいは帰納的設定の下で,パラメータ効率の良い方法で,新しいレコメンデーションドメインやプラットフォームに効果的に移行することができる。
実世界のデータセット上で行った広範囲な実験により,提案手法の有効性が示された。
特に,提案手法はクロスプラットフォーム環境での性能向上にもつながり,ユニバーサルsrl方式の強い転送性を示す。
コードと事前訓練されたモデルは、https://github.com/RUCAIBox/UniSRec.comで入手できる。
関連論文リスト
- Diffusion-based Contrastive Learning for Sequential Recommendation [6.3482831836623355]
本稿では,CaDiRecという,文脈対応拡散に基づく逐次推薦のためのコントラスト学習を提案する。
CaDiRecは、コンテキスト対応拡散モデルを使用して、シーケンス内の所定の位置に対する代替アイテムを生成する。
フレームワーク全体をエンドツーエンドでトレーニングし、拡散モデルとレコメンデーションモデルの間でアイテムの埋め込みを共有します。
論文 参考訳（メタデータ） (2024-05-15T14:20:37Z) - Improving generalization in large language models by learning prefix
subspaces [5.911540700785975]
本稿では、希少なデータ構造における大規模言語モデル(LLM)の微調整に焦点を当てる("few-shot"学習環境としても知られる)。
ニューラルネットワーク部分空間に基づくLLMの一般化能力を向上させる手法を提案する。
論文 参考訳（メタデータ） (2023-10-24T12:44:09Z) - MISSRec: Pre-training and Transferring Multi-modal Interest-aware
Sequence Representation for Recommendation [61.45986275328629]
逐次レコメンデーションのためのマルチモーダル事前学習・転送学習フレームワークであるMISSRecを提案する。
ユーザ側ではトランスフォーマーベースのエンコーダデコーダモデルを設計し、コンテキストエンコーダがシーケンスレベルのマルチモーダルユーザ興味を捉えることを学習する。
候補項目側では,ユーザ適応項目表現を生成するために動的融合モジュールを採用する。
論文 参考訳（メタデータ） (2023-08-22T04:06:56Z) - A Model-Agnostic Framework for Recommendation via Interest-aware Item
Embeddings [4.989653738257287]
Interest-Aware Capsule Network (IaCN)は、関心指向のアイテム表現を直接学習するモデルに依存しないフレームワークである。
IaCNは補助的なタスクとして機能し、アイテムベースと興味ベースの両方の表現の合同学習を可能にする。
提案手法をベンチマークデータセットで評価し、異なるディープニューラルネットワークを含むさまざまなシナリオを探索する。
論文 参考訳（メタデータ） (2023-08-17T22:40:59Z) - Fisher-Weighted Merge of Contrastive Learning Models in Sequential
Recommendation [0.0]
我々は、まず、フィッシャー・マージング法をシークエンシャル・レコメンデーションに適用し、それに関連する実践的な課題に対処し、解決する。
提案手法の有効性を実証し, シーケンシャルラーニングおよびレコメンデーションシステムにおける最先端化の可能性を明らかにする。
論文 参考訳（メタデータ） (2023-07-05T05:58:56Z) - Contrastive Self-supervised Sequential Recommendation with Robust
Augmentation [101.25762166231904]
Sequential Recommendation Describes a set of technique to model dynamic user behavior to order to predict future interaction in sequence user data。
データスパーシリティやノイズの多いデータなど、古くて新しい問題はまだ残っている。
逐次レコメンデーション(CoSeRec)のためのコントラスト型自己監督学習を提案する。
論文 参考訳（メタデータ） (2021-08-14T07:15:25Z) - S^3-Rec: Self-Supervised Learning for Sequential Recommendation with
Mutual Information Maximization [104.87483578308526]
本稿では,シーケンスレコメンデーションのための自己改善学習のためのモデルS3-Recを提案する。
そこで本稿では,属性,項目,サブシーケンス,シーケンス間の相関関係を学習するために,4つの補助的自己教師対象を考案する。
6つの実世界のデータセットで実施された大規模な実験は、既存の最先端手法よりも提案手法が優れていることを示す。
論文 参考訳（メタデータ） (2020-08-18T11:44:10Z) - Self-Supervised Reinforcement Learning for Recommender Systems [77.38665506495553]
逐次リコメンデーションタスクのための自己指導型強化学習を提案する。
提案手法は,2つの出力層を持つ標準レコメンデーションモデルを強化する。
このようなアプローチに基づいて、自己監督型Q-ラーニング(SQN)と自己監督型アクター・クライブ(SAC)という2つのフレームワークを提案する。
論文 参考訳（メタデータ） (2020-06-10T11:18:57Z) - Sequential Recommendation with Self-Attentive Multi-Adversarial Network [101.25533520688654]
逐次レコメンデーションにおける文脈情報の影響を明示的にモデル化するためのMFGAN(Multi-Factor Generative Adversarial Network)を提案する。
当社のフレームワークは,複数種類の因子情報を組み込むことが柔軟であり,各因子が推奨決定にどのように貢献するかを時間とともに追跡することができる。
論文 参考訳（メタデータ） (2020-05-21T12:28:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。