論文の概要: OneRec: Unifying Retrieve and Rank with Generative Recommender and Iterative Preference Alignment

• arxiv url: http://arxiv.org/abs/2502.18965v1
• Date: Wed, 26 Feb 2025 09:25:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-27 14:55:19.241246
• Title: OneRec: Unifying Retrieve and Rank with Generative Recommender and Iterative Preference Alignment
• Title（参考訳）: OneRec: ジェネレーションレコメンダと反復選好アライメントによる検索とランクの統一
• Authors: Jiaxin Deng, Shiyao Wang, Kuo Cai, Lejian Ren, Qigen Hu, Weifeng Ding, Qiang Luo, Guorui Zhou,
• Abstract要約: ケースドラーニングフレームワークを統一的な生成モデルで置き換えるOneRecを提案する。 1) ユーザの履歴行動シーケンスをエンコードし、ユーザが興味を持っているかもしれない動画を徐々にデコードするエンコーダ・デコーダ構造。
• 参考スコア（独自算出の注目度）: 9.99840965933561
• License:
• Abstract: Recently, generative retrieval-based recommendation systems have emerged as a promising paradigm. However, most modern recommender systems adopt a retrieve-and-rank strategy, where the generative model functions only as a selector during the retrieval stage. In this paper, we propose OneRec, which replaces the cascaded learning framework with a unified generative model. To the best of our knowledge, this is the first end-to-end generative model that significantly surpasses current complex and well-designed recommender systems in real-world scenarios. Specifically, OneRec includes: 1) an encoder-decoder structure, which encodes the user's historical behavior sequences and gradually decodes the videos that the user may be interested in. We adopt sparse Mixture-of-Experts (MoE) to scale model capacity without proportionally increasing computational FLOPs. 2) a session-wise generation approach. In contrast to traditional next-item prediction, we propose a session-wise generation, which is more elegant and contextually coherent than point-by-point generation that relies on hand-crafted rules to properly combine the generated results. 3) an Iterative Preference Alignment module combined with Direct Preference Optimization (DPO) to enhance the quality of the generated results. Unlike DPO in NLP, a recommendation system typically has only one opportunity to display results for each user's browsing request, making it impossible to obtain positive and negative samples simultaneously. To address this limitation, We design a reward model to simulate user generation and customize the sampling strategy. Extensive experiments have demonstrated that a limited number of DPO samples can align user interest preferences and significantly improve the quality of generated results. We deployed OneRec in the main scene of Kuaishou, achieving a 1.6\% increase in watch-time, which is a substantial improvement.
• Abstract（参考訳）: 近年,ジェネレーティブ検索に基づくレコメンデーションシステムが将来性のあるパラダイムとして登場している。 しかし、現代のレコメンデータシステムは、検索段階でのみセレクタとして機能する検索とランクの戦略を採用している。 本稿では,ケースドラーニングフレームワークを統一的な生成モデルに置き換えたOneRecを提案する。 私たちの知る限りでは、これは現実世界のシナリオにおいて、現在の複雑でよく設計された推奨システムを大幅に上回る、エンドツーエンドの生成モデルとしては初めてのものです。 具体的には、OneRecは以下を含む。 1)エンコーダ・デコーダ構造は,ユーザの履歴行動シーケンスをエンコードし,ユーザが興味を持つかもしれない動画を徐々にデコードする。 計算FLOPを比例的に増加させることなくモデルキャパシティをスケールするために、スパース・ミックス・オブ・エクササイズ(MoE)を採用する。 2)セッションワイズ・ジェネレーション・アプローチ。 従来の次世代予測とは対照的に,手作りルールに頼って生成した結果を適切に組み合わせた,よりエレガントでコンテキスト的に一貫性のあるセッションワイド生成を提案する。 3) 反復選好調整モジュールと直接選好最適化(DPO)を組み合わせることで、生成された結果の品質を高める。 NLPのDPOとは異なり、レコメンデーションシステムは、通常、ユーザのブラウジング要求に対して結果を表示する1つの機会しか持たないため、正と負のサンプルを同時に取得することは不可能である。 この制限に対処するため、ユーザ生成をシミュレートし、サンプリング戦略をカスタマイズする報酬モデルの設計を行う。 大規模な実験により、限られた数のDPOサンプルがユーザの好みを調整し、生成した結果の品質を大幅に改善できることが示された。 私たちはOneRecをKuaishouのメインシーンにデプロイしました。

関連論文リスト

• GenRec: Generative Sequential Recommendation with Large Language Models [4.381277509913139]
  我々はGenerative Recommendation(GenRec)という新しいモデルを提案する。 GenRecは軽量で、低リソース環境で効果的にトレーニングするのに数時間しか必要としない。 我々の実験は、GenRecが様々な公開現実世界のデータセットを一般化することを実証した。
  論文  参考訳（メタデータ） (2024-07-30T20:58:36Z)
• MMGRec: Multimodal Generative Recommendation with Transformer Model [81.61896141495144]
  MMGRecは、マルチモーダルレコメンデーションに生成パラダイムを導入することを目指している。 まず,階層的な量子化手法であるGraph CF-RQVAEを考案し,各項目にRec-IDを割り当てる。 次に、Transformerベースのレコメンデータをトレーニングし、過去のインタラクションシーケンスに基づいて、ユーザが推奨するアイテムのRec-IDを生成する。
  論文  参考訳（メタデータ） (2024-04-25T12:11:27Z)
• Non-autoregressive Generative Models for Reranking Recommendation [9.854541524740549]
  推薦システムでは、項目間のリスト内相関をモデル化することで、リランクが重要な役割を果たす。 本研究では, 効率と効率性を高めるために, 提案するレコメンデーション(NAR4Rec)の再評価のための非自己回帰生成モデルを提案する。 NAR4Recは、毎日3億人のアクティブユーザーがいる人気ビデオアプリKuaishouに完全にデプロイされている。
  論文  参考訳（メタデータ） (2024-02-10T03:21:13Z)
• AutoSAM: Towards Automatic Sampling of User Behaviors for Sequential Recommender Systems [48.461157194277504]
  本稿では,歴史的挙動を一様に扱わない汎用的な自動サンプリングフレームワークであるAutoSAMを提案する。 具体的には、AutoSAMは、サンプル層を追加して標準のシーケンシャルレコメンデーションアーキテクチャを拡張し、生入力のスキュー分布を適応的に学習する。 理論的には、Future PredictionやSequence Perplexityなどの多目的サンプリング報酬を設計し、フレームワーク全体をエンドツーエンドで最適化する。
  論文  参考訳（メタデータ） (2023-11-01T09:25:21Z)
• MISSRec: Pre-training and Transferring Multi-modal Interest-aware Sequence Representation for Recommendation [61.45986275328629]
  逐次レコメンデーションのためのマルチモーダル事前学習・転送学習フレームワークであるMISSRecを提案する。 ユーザ側ではトランスフォーマーベースのエンコーダデコーダモデルを設計し、コンテキストエンコーダがシーケンスレベルのマルチモーダルユーザ興味を捉えることを学習する。 候補項目側では,ユーザ適応項目表現を生成するために動的融合モジュールを採用する。
  論文  参考訳（メタデータ） (2023-08-22T04:06:56Z)
• Recommender Systems with Generative Retrieval [58.454606442670034]
  本稿では,対象候補の識別子を自己回帰的に復号する新たな生成検索手法を提案する。 そのために、各項目のセマンティックIDとして機能するために、意味論的に意味のあるコードワードを作成します。 提案手法を用いて学習した推薦システムは,様々なデータセット上での現在のSOTAモデルよりも大幅に優れていることを示す。
  論文  参考訳（メタデータ） (2023-05-08T21:48:17Z)
• Top-N Recommendation with Counterfactual User Preference Simulation [26.597102553608348]
  ユーザーランキングに基づく好みの学習を目的としたTop-Nレコメンデーションは、長い間、広範囲のアプリケーションにおいて基本的な問題だった。 本稿では,データ不足問題に対処するため,因果推論フレームワーク内での推薦タスクの再構築を提案する。
  論文  参考訳（メタデータ） (2021-09-02T14:28:46Z)
• Adversarial and Contrastive Variational Autoencoder for Sequential Recommendation [25.37244686572865]
  本稿では、逐次レコメンデーションのためのAdversarial and Contrastive Variational Autoencoder (ACVAE) と呼ばれる新しい手法を提案する。 まず,本モデルが高品質な潜在変数を生成することを可能にするadversarial variational bayesフレームワークの下で,シーケンス生成のためのadversarial trainingを導入する。 さらに、シーケンスをエンコードする場合、シーケンス内のグローバルおよびローカルの関係をキャプチャするために、繰り返しおよび畳み込み構造を適用します。
  論文  参考訳（メタデータ） (2021-03-19T09:01:14Z)
• Sequential Recommendation with Self-Attentive Multi-Adversarial Network [101.25533520688654]
  逐次レコメンデーションにおける文脈情報の影響を明示的にモデル化するためのMFGAN(Multi-Factor Generative Adversarial Network)を提案する。 当社のフレームワークは,複数種類の因子情報を組み込むことが柔軟であり,各因子が推奨決定にどのように貢献するかを時間とともに追跡することができる。
  論文  参考訳（メタデータ） (2020-05-21T12:28:59Z)
• A Generic Network Compression Framework for Sequential Recommender Systems [71.81962915192022]
  シークエンシャルレコメンデーションシステム(SRS)は,ユーザの動的関心を捉え,高品質なレコメンデーションを生成する上で重要な技術となっている。 CpRecと呼ばれる圧縮されたシーケンシャルレコメンデーションフレームワークを提案する。 大規模なアブレーション研究により、提案したCpRecは実世界のSRSデータセットにおいて最大4$sim$8倍の圧縮速度を達成できることを示した。
  論文  参考訳（メタデータ） (2020-04-21T08:40:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。