論文の概要: LWGR: Lagrangian-Constrained Personalized World Knowledge for Generative Recommendation
- arxiv url: http://arxiv.org/abs/2605.18771v1
- Date: Thu, 16 Apr 2026 08:14:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-25 12:34:33.931372
- Title: LWGR: Lagrangian-Constrained Personalized World Knowledge for Generative Recommendation
- Title（参考訳）: LWGR: ジェネレーティブレコメンデーションのためのラグランジアン制約のパーソナライズドワールド知識
- Authors: Lingyu Mu, Hao Deng, Haibo Xing, Kaican Lin, Zhitong Zhu, Yu Zhang, Xiaoyi Zeng, Zhengxiao Liu, Zheng Lin, Jinxin Hu,
- Abstract要約: LWGRは,LLMからユーザのパーソナライズされた世界知識を生成的レコメンデーションに変換するために,ラグランジアン制約を利用するフレームワークである。
複数の公開データセットと1つの産業データセットの実験によると、LWGRは8つの最先端ベースラインを最大11.23%上回り、大規模広告プラットフォームで1.35%の収益を上げている。
- 参考スコア（独自算出の注目度）: 16.83733237411492
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent progress in large language model (LLM) based generative recommendation (GR) shows that leveraging LLM world knowledge can substantially improve performance. However, existing methods rely on fixed, manually designed instructions to generate semantic knowledge and directly incorporate it into GR, which has two limitations. First, fixed instructions cannot capture the multidimensional heterogeneity of user interests. Second, uncontrollable knowledge fusion may conflict with behavioral signals and harm recommendations. To address these limitations, we propose LWGR, a framework that leverages Lagrangian constraints to transfer users' personalized world knowledge from LLMs into generative recommendation. LWGR enhances GR along two axes: knowledge extraction and fusion. It builds personalized soft instructions to extract behavior-relevant LLM world knowledge, and formulates knowledge fusion as an optimization problem with explicitly bounded performance degradation, which is solved by a Lagrangian primal-dual method to selectively incorporate beneficial knowledge. We further design two training strategies for different LLM scales and a deployment scheme that combines nearline precomputation with lightweight online serving. Experiments on multiple public datasets and one industrial dataset show that LWGR outperforms eight state-of-the-art baselines by up to 11.23% and brings a 1.35% revenue lift on a large-scale advertising platform, demonstrating its effectiveness and practicality.
- Abstract（参考訳）: 大規模言語モデル(LLM)に基づく生成レコメンデーション(GR)の最近の進歩は、LLMの世界知識を活用することで、性能が大幅に向上することを示している。
しかし、既存のメソッドは、セマンティック知識を生成し、2つの制限があるGRに直接組み込むために、手動で固定された命令に依存している。
第一に、固定命令はユーザの興味の多次元的不均一性を捉えることができない。
第二に、制御不能な知識融合は行動シグナルと矛盾し、推奨を害する可能性がある。
これらの制約に対処するため,LWGRを提案する。LWGRは,ユーザのパーソナライズされた世界知識をLLMからジェネレーティブなレコメンデーションに変換するための,ラグランジュ的制約を利用するフレームワークである。
LWGRは、知識抽出と融合という2つの軸に沿ってGRを強化する。
行動関連LLM世界知識を抽出するためにパーソナライズされたソフトインストラクションを構築し、ラグランジアン原始双対法によって解決され、有用な知識を選択的に活用する、明示的な有界性能劣化を伴う最適化問題として知識融合を定式化する。
さらに、LLMスケールの異なる2つのトレーニング戦略と、ニアライン事前計算と軽量オンラインサービスを組み合わせたデプロイメントスキームを設計する。
複数の公開データセットと1つの産業データセットの実験によると、LWGRは8つの最先端ベースラインを最大11.23%上回り、大規模広告プラットフォームで1.35%の収益を上げ、その有効性と実用性を示している。
関連論文リスト
- KERAG_R: Knowledge-Enhanced Retrieval-Augmented Generation for Recommendation [8.64897967325355]
大規模言語モデル(LLM)は、文脈学習と一般化能力のために推奨システムに強い可能性を示している。
我々はKERAG_R(Knowledge-Enhanced Retrieval-Augmented Generation for Recommendation)と呼ばれる新しいモデルを提案する。
具体的には、グラフ検索拡張生成(GraphRAG)コンポーネントを活用し、知識グラフからの付加情報をインストラクションに統合する。
提案したKERAG_Rモデルは,3つの公開データセットに対する実験により,既存の10種類の推奨手法を著しく上回る結果となった。
論文 参考訳（メタデータ） (2025-07-08T10:44:27Z) - Tuning-Free LLM Can Build A Strong Recommender Under Sparse Connectivity And Knowledge Gap Via Extracting Intent [6.6404452803956495]
IKGRは意図中心の知識グラフを構築する新しいフレームワークである。
IKGRは、ユーザーが求めるもの、アイテムが満足するものを第一級エンティティとして表現する。
パブリックデータセットとエンタープライズデータセットの実験は、IKGRが一貫して強力なベースラインを上回っていることを示している。
論文 参考訳（メタデータ） (2025-05-16T06:07:19Z) - Enhancing LLM-based Recommendation through Semantic-Aligned Collaborative Knowledge [25.757451106327167]
SeLLa-RecはCollabs.とLLMsのセマンティック空間間のアライメントの実現に重点を置いている。
このアライメントは効果的な知識融合を促進し、識別ノイズの影響を緩和する。
2つの公開ベンチマークデータセットで実施された実験は、SeLLa-Recが最先端のパフォーマンスを達成することを示した。
論文 参考訳（メタデータ） (2025-04-14T11:15:30Z) - LLM-Lasso: A Robust Framework for Domain-Informed Feature Selection and Regularization [59.75242204923353]
LLM-Lassoは大規模言語モデル(LLM)を利用してラッソ回帰における特徴選択を導くフレームワークである。
LLMは各特徴に対してペナルティ因子を生成し、単純でチューニング可能なモデルを用いてラスソペナルティの重みに変換される。
LLMによりより関連づけられた特徴は、より低い罰を受け、最終モデルに保持される可能性を高める。
論文 参考訳（メタデータ） (2025-02-15T02:55:22Z) - Optimizing Knowledge Integration in Retrieval-Augmented Generation with Self-Selection [72.92366526004464]
Retrieval-Augmented Generation (RAG) は、Large Language Models (LLM) がより正確で信頼性の高い応答を生成するのに有効であることが証明されている。
本稿では,自己選択型RAGフレームワークを提案する。このフレームワークでは,内部パラメトリック知識のみで生成されたペアの応答からLLMを選択できる。
論文 参考訳（メタデータ） (2025-02-10T04:29:36Z) - Knowledge Graph Retrieval-Augmented Generation for LLM-based Recommendation [41.42762478243583]
大規模言語モデル(LLM)は目覚ましい成果をもたらし、次世代のレコメンデーターシステムの開発の可能性を示している。
LLMは、LLMのバックボーン、特に幻覚の問題、最新のドメイン固有の知識の欠如に起因する固有の制限に直面している。
本稿では,知識グラフ(KG)から高品質かつ最新の構造情報を検索して,推薦を増強することを提案する。
論文 参考訳（メタデータ） (2025-01-04T08:16:23Z) - When Machine Unlearning Meets Retrieval-Augmented Generation (RAG): Keep Secret or Forget Knowledge? [27.718577066105485]
大規模言語モデル(LLM)は、トレーニング中に機密情報や有害なコンテンツを不注意に学習し、保持することができる。
本稿では,Retrieval-Augmented Generation (RAG)技術に基づく軽量な行動学習フレームワークを提案する。
われわれはChatGPT, Gemini, Llama-2-7b-chat, PaLM 2 など,オープンソースおよびクローズドソースモデルの広範な実験を通じて,我々のフレームワークを評価する。
論文 参考訳（メタデータ） (2024-10-20T03:51:01Z) - Supervised Knowledge Makes Large Language Models Better In-context Learners [94.89301696512776]
大規模言語モデル(LLM)は、素早い工学を通して、文脈内学習能力の出現を示す。
自然言語理解と質問応答におけるLLMの一般化性と事実性の向上という課題は、まだ未解決のままである。
本研究では, LLM の信頼性を高める枠組みを提案する。1) 分布外データの一般化,2) 差別モデルによる LLM のメリットの解明,3) 生成タスクにおける幻覚の最小化。
論文 参考訳（メタデータ） (2023-12-26T07:24:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。