論文の概要: DuoLM: Fast and Effective Personalized Recommendation with Language Models
- arxiv url: http://arxiv.org/abs/2610.24481v1
- Date: Sat, 17 Oct 2026 05:56:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-23 00:40:05.985537
- Title: DuoLM: Fast and Effective Personalized Recommendation with Language Models
- Title(参考訳): DuoLM: 言語モデルによる高速かつ効果的なパーソナライズドレコメンデーション
- Abstract要約: DuoLMは、高速かつ効果的にパーソナライズされたレコメンデーションのためのフレームワークである。
コンパクトなレコメンデーションモデルと効率的なサービスランタイムを統合する。
1秒あたり約26,400の候補スコアが提供され、教師がvLLMで提供した60ドル程度が提供される。
- 参考スコア(独自算出の注目度): 11.647567545221731
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Language models can make personalized recommendations from rich item content, user history, and feedback. However, evaluating many candidates with full-text inputs incurs substantial online computation and limits serving throughput. We introduce DuoLM, a framework for fast and effective personalized recommendation that integrates a compact recommendation model with an efficient serving runtime. An encoder LLM learns compact item representations for offline reuse, while a personalized ranker LLM combines them with user history and feedback for recommendation. We train both models end to end with recommendation supervision and teacher distillation. The runtime further accelerates inference through virtual token IDs for embedding access, shared history computation, and CUDA Graph replay. Benchmark results show that our framework achieves recommendation quality comparable to that of the expert teacher model. On a single H100, it delivers approximately 26,400 candidate scores per second, about $60\times$ the throughput of the teacher served with vLLM and automatic prefix caching.
- Abstract(参考訳): 言語モデルは、リッチアイテムコンテンツ、ユーザ履歴、フィードバックからパーソナライズされたレコメンデーションを作成することができる。
しかし、フルテキスト入力で多くの候補を評価すると、かなりのオンライン計算が行われ、スループットが制限される。
高速かつ効果的にパーソナライズされたレコメンデーションのためのフレームワークであるDuoLMを導入し、コンパクトなレコメンデーションモデルと効率的なサービスランタイムを統合する。
エンコーダLLMは、オフライン再利用のためのコンパクトアイテム表現を学習し、パーソナライズされたローダLLMは、ユーザ履歴とレコメンデーションのためのフィードバックを組み合わせる。
両方のモデルを、推奨監督と教師の蒸留でエンドツーエンドに訓練する。
ランタイムはさらに、アクセスの埋め込み、共有履歴計算、CUDA Graphリプレイのための仮想トークンIDによる推論を加速する。
ベンチマークの結果,本フレームワークは,専門家の教師モデルに匹敵する推薦品質を達成していることがわかった。
1つのH100では、毎秒約26,400の候補スコアが提供され、教師のスループットは、vLLMと自動プレフィックスキャッシュで提供される。
関連論文リスト
- A Language-Driven Framework for Improving Personalized Recommendations: Merging LLMs with Traditional Algorithms [2.831462251544684]
大規模言語モデル(LLM)は、自然言語処理の最も有望なツールの1つである。
本研究は、親しい友人が個人の好みの知識に基づいて、いかにアイテムを推薦するかを模倣する新しい枠組みを提案する。
論文 参考訳(メタデータ) (2025-07-09T19:48:33Z) - RecLM: Recommendation Instruction Tuning [17.780484832381994]
本稿では,大規模言語モデルと協調フィルタリングをシームレスに統合するモデル非依存の指導訓練パラダイムを提案する。
提案した$underlineRec$ommendationは、慎重に設計された強化学習報酬関数により、ユーザの好みの多様性を捕捉する。
論文 参考訳(メタデータ) (2024-12-26T17:51:54Z) - CherryRec: Enhancing News Recommendation Quality via LLM-driven Framework [4.4206696279087]
我々は,textitCherryRecという名前のLarge Language Models (LLMs) を用いたニュースレコメンデーションフレームワークを提案する。
CherryRecは、レコメンデーションプロセスを加速しながら、レコメンデーションの品質を保証する。
提案手法の有効性を,ベンチマークデータセット上での最先端のベースライン手法と比較することにより検証する。
論文 参考訳(メタデータ) (2024-06-18T03:33:38Z) - Enhancing Sequential Recommender with Large Language Models for Joint Video and Comment Recommendation [77.42486522565295]
我々は、パーソナライズされたビデオとコメントのレコメンデーションを共同で行うLSVCRと呼ばれる新しいレコメンデーション手法を提案する。
提案手法は,逐次レコメンデーション(SR)モデルと補足型大言語モデル(LLM)レコメンデーションという2つの重要なコンポーネントから構成される。
特に、コメント視聴時間の累積増加率は4.13%に達した。
論文 参考訳(メタデータ) (2024-03-20T13:14:29Z) - LlamaRec: Two-Stage Recommendation using Large Language Models for
Ranking [10.671747198171136]
ランキングベースレコメンデーション(LlamaRec)のための大規模言語モデルを用いた2段階フレームワークを提案する。
特に,ユーザインタラクション履歴に基づいて候補を検索するために,小規模なシーケンシャルレコメンデータを用いる。
LlamaRecは、推奨パフォーマンスと効率の両方において、データセットの優れたパフォーマンスを一貫して達成している。
論文 参考訳(メタデータ) (2023-10-25T06:23:48Z) - Recommendation as Instruction Following: A Large Language Model
Empowered Recommendation Approach [83.62750225073341]
我々は、大規模言語モデル(LLM)による指示としてレコメンデーションを考える。
まず、ユーザの好み、意図、タスクフォーム、コンテキストを自然言語で記述するための一般的な命令形式を設計する。
そして、39の命令テンプレートを手動で設計し、大量のユーザ個人化された命令データを自動的に生成する。
論文 参考訳(メタデータ) (2023-05-11T17:39:07Z) - Guiding Large Language Models via Directional Stimulus Prompting [114.84930073977672]
我々は,特定の所望の出力に対して,ブラックボックス大言語モデル(LLM)を導くための新しいフレームワークであるDirectional Stimulus Promptingを紹介する。
LLMを直接調整するのではなく、小さな調整可能なポリシーモデルを用いて各入力インスタンスに対して補助的な指向性刺激プロンプトを生成する。
論文 参考訳(メタデータ) (2023-02-22T17:44:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。