論文の概要: REPREC: Representation Driven Parameter-Efficient Recommendation System

• arxiv url: http://arxiv.org/abs/2607.24845v1
• Date: Fri, 24 Jul 2026 22:45:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-29 20:50:42.548485
• Title: REPREC: Representation Driven Parameter-Efficient Recommendation System
• Title（参考訳）: REPREC:表現駆動型パラメータ効率的なレコメンデーションシステム
• Authors: Harshini Kavuru, Dwipam Katariya, Giri Iyengar, Pranab Mohanty, Kalanand Mishra, Kalanand Mishra,
• Abstract要約: 大規模言語モデル(LLM)は、自然言語タスクとして定式化することで、シーケンシャルなレコメンデーションに適用されている。 従来の作業は、入力条件付けやLLMファインチューニングを通じて、協調的およびシーケンシャルな信号を統合することでパーソナライズを改善した。 本稿では,軽量なユーザ表現アライメントアライメントを通じてLLMベースのシーケンシャルレコメンデーションを再構築する軽量フレームワークであるREPRECを提案する。
• 参考スコア（独自算出の注目度）: 4.805213825350248
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) have been applied to sequential recommendation by formulating it as a natural language task. Previous work has improved personalization by incorporating collaborative and sequential signals through input conditioning or LLM fine-tuning. However, existing approaches often rely on one or more of the following: LLM fine-tuning, additional architectural modules, representation distillation, or item-level conditioning over long interaction histories, increasing training complexity and deployment cost. We propose REPREC, a lightweight framework that reformulates LLM-based sequential recommendation through lightweight user representation alignment. REPREC maps a fixed-size user embedding from a frozen sequential encoder into a small set of learned soft tokens through a lightweight MLP injector that conditions a frozen LLM, leaving both pretrained backbones unchanged while training only the injector. We conducted exhaustive experiments on multiple benchmark datasets and demonstrate that REPREC consistently outperforms LoRA while remaining compatible with different pretrained sequential encoders and LLM backbones, enabling a modular and production-friendly recommendation pipeline without modifying either pretrained component. The gains are particularly pronounced for casual and core users across all datasets, highlighting REPREC's effectiveness in low-data regimes. Finally, when trained on short prompt histories and evaluated with longer contexts, REPREC maintains 85-100% of LoRA's performance while reducing per-epoch training time by an average of 1.51X, demonstrating an effective balance between recommendation quality and computational efficiency for production deployment. The code is available at https://github.com/phdbotcode/REPREC
• Abstract（参考訳）: 大規模言語モデル(LLM)は、自然言語タスクとして定式化することで、シーケンシャルなレコメンデーションに適用されている。 従来の作業は、入力条件付けやLLMファインチューニングを通じて、協調的およびシーケンシャルな信号を統合することでパーソナライズを改善した。 しかしながら、既存のアプローチでは、LLMの微調整、アーキテクチャモジュールの追加、表現の蒸留、長いインタラクション履歴に対するアイテムレベルの条件付け、トレーニングの複雑さとデプロイメントコストの増加など、ひとつ以上のものに依存しています。 本稿では,軽量なユーザ表現アライメントアライメントを通じてLLMベースのシーケンシャルレコメンデーションを再構築する軽量フレームワークであるREPRECを提案する。 REPRECは、凍結されたシーケンシャルエンコーダから少量の学習されたソフトトークンに、凍結LDMを条件とする軽量MLPインジェクタを通じて、固定サイズのユーザをマッピングする。 我々は、複数のベンチマークデータセットで徹底的な実験を行い、REPRECは、異なる事前訓練されたシーケンシャルエンコーダとLCMバックボーンとの互換性を維持しながら、一貫してLoRAより優れており、事前訓練されたコンポーネントを変更することなく、モジュール的でプロダクションフレンドリなレコメンデーションパイプラインを可能にすることを実証した。 特に、すべてのデータセットのカジュアルユーザとコアユーザに対して、低データのレシエーションにおけるREPRECの有効性が強調されている。 最後に、短いプロンプト履歴に基づいてトレーニングを行い、より長いコンテキストで評価すると、REPRECはロラの性能の85-100%を維持しながら、エポックごとのトレーニング時間を平均1.51倍削減し、レコメンデーション品質と生産展開の計算効率の効果的なバランスを示す。 コードはhttps://github.com/phdbotcode/REPRECで入手できる。

関連論文リスト

• Modular Representation Compression: Adapting LLMs for Efficient and Effective Recommendations [53.53864188270018]
  大規模言語モデル(LLM)には高度なレコメンデーションシステム(RS)がある。 LLMのモジュラリティを明示的に制御するための MARC を提案する。 MARCは大規模な商用検索広告シナリオにおけるオンラインA/Bテストで2.82%のeCPMリフトを達成した。
  論文  参考訳（メタデータ） (2026-04-20T12:08:58Z)
• SparseRM: A Lightweight Preference Modeling with Sparse Autoencoder [54.31950189922548]
  リワードモデル(Reward Model、RM)は、人間の嗜好評価と誘導モデルアライメントのためのプロキシである。 Sparse Autoencoder (SAE) を利用してモデル表現に符号化された嗜好関連情報を抽出するSparseRMを提案する。 SparseRMは、トレーニング可能なパラメータの1%未満を使用しながら、ほとんどのメインストリームのRMよりも優れたパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2025-11-11T06:51:56Z)
• Language Ranker: A Lightweight Ranking framework for LLM Decoding [70.01564145836129]
  本稿では,レコメンデーションパイプラインのランク付け段階に類似した復号過程を概念化する。 この知見に触発されて、我々はLanguage Rankerを提案する。 実験の結果、Language Rankerは大規模報酬モデルに匹敵するパフォーマンスを達成する一方で、0.5Mの追加パラメータしか必要としないことがわかった。
  論文  参考訳（メタデータ） (2025-10-23T17:56:46Z)
• PITA: Preference-Guided Inference-Time Alignment for LLM Post-Training [9.093854840532062]
  PITAはLLMのトークン生成に直接好みフィードバックを統合する新しいフレームワークである。 PITAは、微調整をせずに、推論時にトークン確率を変更するための、小さな嗜好に基づくガイダンスポリシーを学習する。 我々は,数学的推論や感情分類など,多種多様なタスクにまたがるPITAを評価する。
  論文  参考訳（メタデータ） (2025-07-26T21:46:32Z)
• Reference Trustable Decoding: A Training-Free Augmentation Paradigm for Large Language Models [79.41139393080736]
  大規模言語モデル(LLM)は急速に進歩し、印象的な機能を示している。 In-Context Learning (ICL) など。 効率的なファインチューニング(PEFT)は、現在2つの主要な拡張方法である。 下流タスクへのLLM。 我々は、モデルが微調整なしで新しいタスクに迅速に適応できるパラダイムである参照信頼復号(RTD)を提案する。
  論文  参考訳（メタデータ） (2024-09-30T10:48:20Z)
• Align$^2$LLaVA: Cascaded Human and Large Language Model Preference Alignment for Multi-modal Instruction Curation [56.75665429851673]
  本稿では,人間とLLMの選好アライメントという2つのユニークな視点から導いた,新しい命令キュレーションアルゴリズムを提案する。 実験により,合成マルチモーダル命令を最大90%圧縮することにより,モデル性能の維持や改善が可能であることが示された。
  論文  参考訳（メタデータ） (2024-09-27T08:20:59Z)
• ReLLa: Retrieval-enhanced Large Language Models for Lifelong Sequential Behavior Comprehension in Recommendation [43.270424225285105]
  ゼロショットと少数ショットのレコメンデーションタスクのために、純粋に大きな言語モデルを適応し、強化することに重点を置いています。 ゼロショット設定と少数ショット設定の両方でレコメンデーションタスクを行うRetrieval-enhanced Large Language Model (ReLLa)を提案する。
  論文  参考訳（メタデータ） (2023-08-22T02:25:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。