論文の概要: Taiji: Pareto Optimal Policy Optimization with Semantics-IDs Trade-off for Industrial LLM-Enhanced Recommendation
- arxiv url: http://arxiv.org/abs/2606.03866v1
- Date: Tue, 02 Jun 2026 16:39:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-03 22:00:05.164291
- Title: Taiji: Pareto Optimal Policy Optimization with Semantics-IDs Trade-off for Industrial LLM-Enhanced Recommendation
- Title(参考訳): 台地:産業 LLM 強化勧告のためのセマンティックID トレードオフによるパレート最適政策最適化
- Authors: Yuecheng Li, Zeyu Song, Jing Yao, Chi Lu, Peng Jiang, Kun Gai,
- Abstract要約: 大規模言語モデル(LLM)によるレコメンダシステムのスケーリングは、業界で顕著なトレンドとなっている。
本稿では,産業レコメンデーションシステム用に設計された新しいLLM-as-EnhancerフレームワークであるTaijiを紹介する。
- 参考スコア(独自算出の注目度): 26.132712846348245
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Scaling recommender systems via large language models (LLMs) has become a prominent trend in the industry. However, aligning the LLM's semantic space with the recommender's ID space via post-training (e.g., SFT and RL) remains challenging. Existing LLM4Rec paradigms are bottlenecked by two main issues: (1) the difficulty of measuring and improving chain-of-thought (CoT) quality in open-domain recommendation during SFT, and (2) the neglect of the trade-off between LLM semantic rewards and recommendation preference rewards during RL alignment. Inspired by these challenges, we present Taiji, a novel LLM-as-Enhancer framework designed for industrial recommender systems. To overcome the SFT bottleneck, we utilize reverse-engineered reasoning and open-ended rejection sampling to generate high-quality, domain-specific CoT data. To resolve the RL alignment issue, we propose Pareto Optimal Policy Optimization (POPO), which adaptively adjusts cross-domain reward weights. Theoretically, it achieves an optimal trade-off between the semantic world knowledge of LLMs and the collaborative ID features representing online user preferences. Extensive offline evaluations and online A/B tests validate the effectiveness of Taiji. Deployed on Kuaishou's advertising platform since May 2026, Taiji currently serves over 400 million users daily, yielding significant commercial revenue and demonstrating its robust scalability in web-scale environments.
- Abstract(参考訳): 大規模言語モデル(LLM)によるレコメンダシステムのスケーリングは、業界で顕著なトレンドとなっている。
しかし、LLMのセマンティック空間とレコメンダのID空間をポストトレーニング(例えば、SFT、RL)で整合させることは依然として困難である。
既存のLLM4Recパラダイムは、(1)SFTにおけるオープンドメインレコメンデーションにおけるチェーン・オブ・ソート(CoT)品質の測定と改善の難しさ、(2)RLアライメントにおけるLLMセマンティック・レコメンデーションとレコメンデーション・レコメンデーション・レコメンデーションのトレードオフを無視することの2つの主な課題によってボトルネックとなっている。
これらの課題に触発されて,産業レコメンデーションシステム用に設計された新しいLLM-as-EnhancerフレームワークであるTaijiを紹介した。
SFTボトルネックを克服するために、逆エンジニアリングの推論とオープン・エンド・リジェクション・サンプリングを用いて高品質なドメイン固有CoTデータを生成する。
RLアライメント問題を解決するために、ドメイン間の報酬重みを適応的に調整するパレート最適ポリシー最適化(POPO)を提案する。
理論的には、LLMのセマンティックワールド知識と、オンラインユーザの好みを表す協調ID機能との最適なトレードオフを実現する。
大規模なオフライン評価とオンラインA/Bテストは、大字の有効性を検証する。
2026年5月以降、Kuaishouの広告プラットフォーム上に展開されたTaijiは現在、毎日4億人のユーザをサービスしている。
関連論文リスト
- Towards Sample-Efficient and Stable Reinforcement Learning for LLM-based Recommendation [56.92367609590823]
Long Chain-of-Thought (Long CoT)推論は、Large Language Models (LLMs)において有望であることを示している。
我々はLong CoTが本質的にシーケンシャルなレコメンデーションドメインに不適合であると主張している。
提案するRISER(Reinforced Item Space Exploration framework for Recommendation)を提案する。
論文 参考訳(メタデータ) (2026-01-31T10:02:43Z) - LLMs as Orchestrators: Constraint-Compliant Multi-Agent Optimization for Recommendation Systems [8.70920344844399]
制約付き多目的eコマースレコメンデーションのためのLLM協調型デュアルエージェントフレームワークであるDualAgent-Recを提案する。
Amazon Reviews 2023データセットの実験では、DualAgent-Recが100%制約満足度を達成した。
これらの結果から,LSMはデプロイおよび制約に準拠したレコメンデーションシステムにおいて,効果的なオーケストレーションエージェントとして機能することが示唆された。
論文 参考訳(メタデータ) (2026-01-27T02:46:13Z) - RecLLM-R1: A Two-Stage Training Paradigm with Reinforcement Learning and Chain-of-Thought v1 [20.92548890511589]
本稿では,Large Language Models(LLM)を利用したレコメンデーションフレームワークであるRecLLM-R1を紹介する。
RecLLM-R1は、精度、多様性、新規性など、さまざまな評価指標において、既存のベースラインメソッドを大幅に上回っている。
論文 参考訳(メタデータ) (2025-06-24T01:39:34Z) - DeepRec: Towards a Deep Dive Into the Item Space with Large Language Model Based Recommendation [83.21140655248624]
大型言語モデル (LLM) はレコメンダシステム (RS) に導入された。
本稿では, LLM と TRM の自律的マルチターンインタラクションを実現する新しい RS である DeepRec を提案する。
公開データセットの実験では、DeepRecは従来のものとLLMベースのベースラインの両方で大幅にパフォーマンスが向上している。
論文 参考訳(メタデータ) (2025-05-22T15:49:38Z) - Modality-Balancing Preference Optimization of Large Multimodal Models by Adversarial Negative Mining [75.14823970163685]
LMMにおけるモダリティの不均衡に対処するため、新しい選好学習フレームワークMBPOを提案する。
MBPOは、強い負の反応、すなわちLLMバイアスによって誤った反応を生成することによって、より効果的なオフライン嗜好データセットを構築する。
視覚言語課題におけるLMM性能を高め、幻覚を効果的に軽減することができる。
論文 参考訳(メタデータ) (2025-05-20T03:59:05Z) - LLM4MSR: An LLM-Enhanced Paradigm for Multi-Scenario Recommendation [52.55639178180821]
マルチシナリオレコメンデーション(MSR)の研究は注目されており、すべてのシナリオのデータを使用してレコメンデーションのパフォーマンスを同時に改善している。
既存の手法では、不十分なシナリオ知識を統合し、パーソナライズされたクロスシナリオの嗜好を無視する傾向があり、それによってサブ最適パフォーマンスがもたらされる。
本稿では,これらのギャップを埋めるために,大規模言語モデル (LLM) 拡張パラダイム LLM4MSR を提案する。
論文 参考訳(メタデータ) (2024-06-18T11:59:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。