論文の概要: ReRec: Reasoning-Augmented LLM-based Recommendation Assistant via Reinforcement Fine-tuning
- arxiv url: http://arxiv.org/abs/2604.07851v1
- Date: Thu, 09 Apr 2026 06:07:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-10 18:34:05.729888
- Title: ReRec: Reasoning-Augmented LLM-based Recommendation Assistant via Reinforcement Fine-tuning
- Title(参考訳): ReRec:Reasoning-augmented LLM-based Recommendation Assistant via Reinforcement Fine-tuning
- Abstract要約: ReRecは複雑なレコメンデーションタスクにおけるLLM推論を改善するために設計された新しい強化微調整(RFT)フレームワークである。
本フレームワークでは,(1)デュアルグラフ強化リワード整形,(2)推論対応アドバンテージ推定,(3)オンラインカリキュラムスケジューリングの3つの重要なコンポーネントを紹介する。
実験により、ReRecは最先端のベースラインより優れ、命令追従や一般的な知識といったコア能力を保ちます。
- 参考スコア(独自算出の注目度): 28.94721978241921
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: With the rise of LLMs, there is an increasing need for intelligent recommendation assistants that can handle complex queries and provide personalized, reasoning-driven recommendations. LLM-based recommenders show potential but face challenges in multi-step reasoning, underscoring the need for reasoning-augmented systems. To address this gap, we propose ReRec, a novel reinforcement fine-tuning (RFT) framework designed to improve LLM reasoning in complex recommendation tasks. Our framework introduces three key components: (1) Dual-Graph Enhanced Reward Shaping, integrating recommendation metrics like NDCG@K with Query Alignment and Preference Alignment Scores to provide fine-grained reward signals for LLM optimization; (2) Reasoning-aware Advantage Estimation, which decomposes LLM outputs into reasoning segments and penalizes incorrect steps to enhance reasoning of recommendation; and (3) Online Curriculum Scheduler, dynamically assess query difficulty and organize training curriculum to ensure stable learning during RFT. Experiments demonstrate that ReRec outperforms state-of-the-art baselines and preserves core abilities like instruction-following and general knowledge. Our codes are available at https://github.com/jiani-huang/ReRec.
- Abstract(参考訳): LLMの台頭に伴い、複雑なクエリを処理し、パーソナライズされた推論駆動のレコメンデーションを提供するインテリジェントなレコメンデーションアシスタントの必要性が高まっている。
LLMベースのレコメンデータは、多段階推論において潜在的なが課題に直面しており、推論強化システムの必要性を強調している。
このギャップに対処するために,複雑なレコメンデーションタスクにおけるLLM推論を改善するために設計された新しい強化微調整(RFT)フレームワークReRecを提案する。
提案フレームワークでは,1)NDCG@Kなどのレコメンデーションメトリクスをクエリアライメントと参照アライメントと統合して,LLM最適化のための微粒な報酬信号を提供する,2)LLM出力を推論セグメントに分解し,レコメンデーションの推論を強化するための誤ったステップをペナルティ化する,2)RFT中のクエリの難易度を動的に評価し,トレーニングカリキュラムを編成する,という3つの重要なコンポーネントを紹介している。
実験により、ReRecは最先端のベースラインより優れ、命令追従や一般的な知識といったコア能力を保ちます。
私たちのコードはhttps://github.com/jiani-huang/ReRec.comで公開されています。
関連論文リスト
- Reinforced Preference Optimization for Reasoning-Augmented Recommendations [34.99578717556569]
本稿では、Recommenderシステムのための強化された優先最適化フレームワークRPORecを紹介する。
RPORecは、LPMバックボーンの推論能力を、アイテムの正確な検索のために専用のレコメンデーションヘッド(Rechead)と統合する。
公開ベンチマークと大規模オンラインデプロイメントに関する大規模な実験は、RPORecが最先端のLLMベースのレコメンデーションメソッドを一貫して上回っていることを示している。
論文 参考訳(メタデータ) (2026-05-21T03:56:42Z) - FlexRec: Adapting LLM-based Recommenders for Flexible Needs via Reinforcement Learning [44.612191334982924]
本研究では,LLMがユーザコンテキストと明示的な要求指示に基づいて,固定された候補集合上の置換を生成する,クローズドセットの自動回帰ランキングについて検討する。
この設定にRLを適用するには、2つの重要な障害がある: (i) シーケンスレベルの報酬は、きめ細かい訓練信号を提供するのに失敗する粗い信用代入をもたらす。
両問題に対処するポストトレーニングRLフレームワークであるFlexRecを提案する。
論文 参考訳(メタデータ) (2026-03-12T13:14:57Z) - IF-CRITIC: Towards a Fine-Grained LLM Critic for Instruction-Following Evaluation [87.38454788767545]
本稿では,大規模言語モデルにおける命令追従の評価モデルであるIF-CRITICを提案する。
IF-CRITICが提供するスケーラブルな報酬信号により、LLMは命令追従最適化においてかなりの性能向上を達成することができる。
論文 参考訳(メタデータ) (2025-11-02T17:06:49Z) - Towards Comprehensible Recommendation with Large Language Model Fine-tuning [41.218487308635126]
本稿では,コラボレーティブ・パースペクティブ・フレームワーク(CURec)によるレコメンデーションシステムのための新しいコンテンツ理解手法を提案する。
Curecは、より包括的なレコメンデーションのために、協調的なコンテンツ機能を生成する。
公開ベンチマークの実験では、既存の方法よりもCURecの方が優れていることが示されている。
論文 参考訳(メタデータ) (2025-08-11T03:55:31Z) - Reinforced Latent Reasoning for LLM-based Recommendation [92.56166822197919]
大きな言語モデル(LLM)は、複雑な問題解決タスクにおいて印象的な推論能力を示している。
既存の手法は通常、明示的なチェーン・オブ・シント(CoT)データによる微調整に依存している。
本研究では, 明示的なCoT推論から, コンパクトで情報密度の高い潜伏推論へ移行する代替手法について検討する。
論文 参考訳(メタデータ) (2025-05-25T11:03:45Z) - R$^2$ec: Towards Large Recommender Models with Reasoning [59.32598867813266]
R$2$ecは、本質的な推論能力を持つ統一された大型レコメンデータモデルである。
R$2$ecは、推論チェーン生成と効率的なアイテム予測の両方を単一のモデルでサポートするデュアルヘッドアーキテクチャを導入している。
注釈付き推論データの欠如を克服するため、強化学習フレームワークであるRecPOを設計する。
論文 参考訳(メタデータ) (2025-05-22T17:55:43Z) - DeepRec: Towards a Deep Dive Into the Item Space with Large Language Model Based Recommendation [83.21140655248624]
大型言語モデル (LLM) はレコメンダシステム (RS) に導入された。
本稿では, LLM と TRM の自律的マルチターンインタラクションを実現する新しい RS である DeepRec を提案する。
公開データセットの実験では、DeepRecは従来のものとLLMベースのベースラインの両方で大幅にパフォーマンスが向上している。
論文 参考訳(メタデータ) (2025-05-22T15:49:38Z) - Improving LLM Interpretability and Performance via Guided Embedding Refinement for Sequential Recommendation [18.13513199455587]
本稿では,ベースレコメンデーションシステムに付随する埋め込みを強化するための,ガイド付き埋め込み改良法を提案する。
我々は、解釈可能な属性のドメイン関連セマンティック情報をキャプチャするガイド付き埋め込みを生成する。
改良された埋め込みは平均相反ランク(MRR)、リコールレート、正規化された非カウント累積ゲイン(NDCG)の約10%から50%のゲインを達成する。
論文 参考訳(メタデータ) (2025-04-15T23:03:53Z) - Direct Preference Optimization for LLM-Enhanced Recommendation Systems [33.54698201942643]
大規模言語モデル(LLM)は、幅広い領域で顕著なパフォーマンスを示している。
我々は,DPOをLLM強化レコメンデーションシステムに統合するフレームワークであるDPO4Recを提案する。
大規模な実験により、DPO4Recは強いベースラインよりも性能が大幅に向上した。
論文 参考訳(メタデータ) (2024-10-08T11:42:37Z) - Improve Temporal Awareness of LLMs for Sequential Recommendation [61.723928508200196]
大規模言語モデル(LLM)は、幅広い汎用タスクを解く際、印象的なゼロショット能力を示した。
LLMは時間的情報の認識と利用に不足しており、シーケンシャルなデータの理解を必要とするタスクではパフォーマンスが悪い。
LLMに基づくシーケンシャルレコメンデーションのために、歴史的相互作用の中で時間情報を利用する3つのプロンプト戦略を提案する。
論文 参考訳(メタデータ) (2024-05-05T00:21:26Z) - Re2LLM: Reflective Reinforcement Large Language Model for Session-based Recommendation [23.182787000804407]
セッションベースレコメンデーション(SBR)を強化するための有望なアプローチとして,大規模言語モデル(LLM)が登場している。
本稿では,SBRのための反射強化大言語モデル(Re2LLM)を提案する。
論文 参考訳(メタデータ) (2024-03-25T05:12:18Z) - LLMRec: Benchmarking Large Language Models on Recommendation Task [54.48899723591296]
推奨領域におけるLarge Language Models (LLMs) の適用について, 十分に検討されていない。
我々は、評価予測、シーケンシャルレコメンデーション、直接レコメンデーション、説明生成、レビュー要約を含む5つのレコメンデーションタスクにおいて、市販のLLMをベンチマークする。
ベンチマークの結果,LLMは逐次的・直接的推薦といった精度に基づくタスクにおいて適度な熟練度しか示さないことがわかった。
論文 参考訳(メタデータ) (2023-08-23T16:32:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。