論文の概要: ReRec: Reasoning-Augmented LLM-based Recommendation Assistant via Reinforcement Fine-tuning
- arxiv url: http://arxiv.org/abs/2604.07851v1
- Date: Thu, 09 Apr 2026 06:07:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-10 18:34:05.729888
- Title: ReRec: Reasoning-Augmented LLM-based Recommendation Assistant via Reinforcement Fine-tuning
- Title(参考訳): ReRec:Reasoning-augmented LLM-based Recommendation Assistant via Reinforcement Fine-tuning
- Authors: Jiani Huang, Shijie Wang, Liangbo Ning, Wenqi Fan, Qing Li,
- Abstract要約: ReRecは複雑なレコメンデーションタスクにおけるLLM推論を改善するために設計された新しい強化微調整(RFT)フレームワークである。
本フレームワークでは,(1)デュアルグラフ強化リワード整形,(2)推論対応アドバンテージ推定,(3)オンラインカリキュラムスケジューリングの3つの重要なコンポーネントを紹介する。
実験により、ReRecは最先端のベースラインより優れ、命令追従や一般的な知識といったコア能力を保ちます。
- 参考スコア(独自算出の注目度): 28.94721978241921
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: With the rise of LLMs, there is an increasing need for intelligent recommendation assistants that can handle complex queries and provide personalized, reasoning-driven recommendations. LLM-based recommenders show potential but face challenges in multi-step reasoning, underscoring the need for reasoning-augmented systems. To address this gap, we propose ReRec, a novel reinforcement fine-tuning (RFT) framework designed to improve LLM reasoning in complex recommendation tasks. Our framework introduces three key components: (1) Dual-Graph Enhanced Reward Shaping, integrating recommendation metrics like NDCG@K with Query Alignment and Preference Alignment Scores to provide fine-grained reward signals for LLM optimization; (2) Reasoning-aware Advantage Estimation, which decomposes LLM outputs into reasoning segments and penalizes incorrect steps to enhance reasoning of recommendation; and (3) Online Curriculum Scheduler, dynamically assess query difficulty and organize training curriculum to ensure stable learning during RFT. Experiments demonstrate that ReRec outperforms state-of-the-art baselines and preserves core abilities like instruction-following and general knowledge. Our codes are available at https://github.com/jiani-huang/ReRec.
- Abstract(参考訳): LLMの台頭に伴い、複雑なクエリを処理し、パーソナライズされた推論駆動のレコメンデーションを提供するインテリジェントなレコメンデーションアシスタントの必要性が高まっている。
LLMベースのレコメンデータは、多段階推論において潜在的なが課題に直面しており、推論強化システムの必要性を強調している。
このギャップに対処するために,複雑なレコメンデーションタスクにおけるLLM推論を改善するために設計された新しい強化微調整(RFT)フレームワークReRecを提案する。
提案フレームワークでは,1)NDCG@Kなどのレコメンデーションメトリクスをクエリアライメントと参照アライメントと統合して,LLM最適化のための微粒な報酬信号を提供する,2)LLM出力を推論セグメントに分解し,レコメンデーションの推論を強化するための誤ったステップをペナルティ化する,2)RFT中のクエリの難易度を動的に評価し,トレーニングカリキュラムを編成する,という3つの重要なコンポーネントを紹介している。
実験により、ReRecは最先端のベースラインより優れ、命令追従や一般的な知識といったコア能力を保ちます。
私たちのコードはhttps://github.com/jiani-huang/ReRec.comで公開されています。
関連論文リスト
- FlexRec: Adapting LLM-based Recommenders for Flexible Needs via Reinforcement Learning [44.612191334982924]
本研究では,LLMがユーザコンテキストと明示的な要求指示に基づいて,固定された候補集合上の置換を生成する,クローズドセットの自動回帰ランキングについて検討する。
この設定にRLを適用するには、2つの重要な障害がある: (i) シーケンスレベルの報酬は、きめ細かい訓練信号を提供するのに失敗する粗い信用代入をもたらす。
両問題に対処するポストトレーニングRLフレームワークであるFlexRecを提案する。
論文 参考訳(メタデータ) (2026-03-12T13:14:57Z) - R$^2$ec: Towards Large Recommender Models with Reasoning [59.32598867813266]
R$2$ecは、本質的な推論能力を持つ統一された大型レコメンデータモデルである。
R$2$ecは、推論チェーン生成と効率的なアイテム予測の両方を単一のモデルでサポートするデュアルヘッドアーキテクチャを導入している。
注釈付き推論データの欠如を克服するため、強化学習フレームワークであるRecPOを設計する。
論文 参考訳(メタデータ) (2025-05-22T17:55:43Z) - DeepRec: Towards a Deep Dive Into the Item Space with Large Language Model Based Recommendation [83.21140655248624]
大型言語モデル (LLM) はレコメンダシステム (RS) に導入された。
本稿では, LLM と TRM の自律的マルチターンインタラクションを実現する新しい RS である DeepRec を提案する。
公開データセットの実験では、DeepRecは従来のものとLLMベースのベースラインの両方で大幅にパフォーマンスが向上している。
論文 参考訳(メタデータ) (2025-05-22T15:49:38Z) - Direct Preference Optimization for LLM-Enhanced Recommendation Systems [33.54698201942643]
大規模言語モデル(LLM)は、幅広い領域で顕著なパフォーマンスを示している。
我々は,DPOをLLM強化レコメンデーションシステムに統合するフレームワークであるDPO4Recを提案する。
大規模な実験により、DPO4Recは強いベースラインよりも性能が大幅に向上した。
論文 参考訳(メタデータ) (2024-10-08T11:42:37Z) - Re2LLM: Reflective Reinforcement Large Language Model for Session-based Recommendation [23.182787000804407]
セッションベースレコメンデーション(SBR)を強化するための有望なアプローチとして,大規模言語モデル(LLM)が登場している。
本稿では,SBRのための反射強化大言語モデル(Re2LLM)を提案する。
論文 参考訳(メタデータ) (2024-03-25T05:12:18Z) - LLMRec: Benchmarking Large Language Models on Recommendation Task [54.48899723591296]
推奨領域におけるLarge Language Models (LLMs) の適用について, 十分に検討されていない。
我々は、評価予測、シーケンシャルレコメンデーション、直接レコメンデーション、説明生成、レビュー要約を含む5つのレコメンデーションタスクにおいて、市販のLLMをベンチマークする。
ベンチマークの結果,LLMは逐次的・直接的推薦といった精度に基づくタスクにおいて適度な熟練度しか示さないことがわかった。
論文 参考訳(メタデータ) (2023-08-23T16:32:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。