論文の概要: LoopGR: Parameter-Efficient Scaling for Generative Recommendation via Recurrent Depth
- arxiv url: http://arxiv.org/abs/2610.34157v1
- Date: Sun, 25 Oct 2026 08:40:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.548219
- Title: LoopGR: Parameter-Efficient Scaling for Generative Recommendation via Recurrent Depth
- Title(参考訳): LoopGR: 繰り返し深さによる生成レコメンデーションのためのパラメータ効率的なスケーリング
- Abstract要約: パラメータ効率のよいスケーリングフレームワークであるLoopGRを紹介した。
効率的な推論のために,高予算の教師から低予算の学生を蒸留する再帰的自己蒸留法を開発した。
- 参考スコア(独自算出の注目度): 10.52624694855866
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generative recommendation formulates item recommendation as autoregressive generation rather than a discriminative scoring problem. Although empirical studies exhibit favorable scaling behavior in recommendation, unleashing the benefits of scaling remains challenging under the strict model size and inference cost constraints of real-world systems. A central challenge is to combine expressive modeling of user-item interaction histories with flexible computational depth without proportionally increasing model size. We introduce LoopGR, a parameter-efficient scaling framework for generative recommendation via recurrent depth. LoopGR employs a tailored hierarchical recurrent depth mechanism that alternates between a shared generative decoder and a lightweight context updater. For efficient inference, we further develop recurrent trajectory self-distillation that distills a low-budget student from a high-budget teacher by aligning both predictive distributions and evolution directions. Extensive experiments show that LoopGR consistently outperforms strong generative recommendation baselines. Compared with a representative encoder-decoder baseline, LoopGR achieves superior performance while reducing model size by up to 52%. These results establish recurrent depth as a new scaling dimension, offering a flexible and resource-efficient scaling path for generative recommendation.
- Abstract(参考訳): 生成レコメンデーションは、差別的なスコアリング問題ではなく、自己回帰生成としてアイテムレコメンデーションを定式化する。
実証的研究は、推奨されたスケーリング行動を示すが、実際のシステムの厳密なモデルサイズと推論コストの制約の下で、スケーリングの利点を解き放つことは依然として困難である。
中心的な課題は、モデルサイズを比例的に増加させることなく、ユーザ・イテム相互作用履歴の表現的モデリングとフレキシブルな計算深度を組み合わせることである。
パラメータ効率のよいスケーリングフレームワークであるLoopGRを紹介した。
LoopGRは、共有生成デコーダと軽量コンテキスト更新器を交互に切り替える、階層的な再帰深さ機構をカスタマイズする。
効率的な推論のために、予測分布と進化方向の両方を整列させることにより、高予算の教師から低予算の学生を蒸留する再帰的自己蒸留を開発する。
大規模な実験により、LoopGRは強い生成的推奨ベースラインを一貫して上回っていることが示されている。
代表的なエンコーダ-デコーダベースラインと比較して、LoopGRはモデルサイズを最大52%削減しながら優れたパフォーマンスを実現している。
これらの結果は、新しいスケーリングディメンションとして再帰的な深さを確立し、ジェネレーティブレコメンデーションのためのフレキシブルでリソース効率の高いスケーリングパスを提供する。
関連論文リスト
- Next-Scale Generative Reranking: A Tree-based Generative Rerank Method at Meituan [19.27715432069165]
本稿では,ユーザからの推薦リストを,粗い方法で徐々に拡張する次世代ジェネレータ(NSG)を提案する。
NSGRはMeituanフードデリバリープラットフォーム上での展開に成功している。
論文 参考訳(メタデータ) (2026-04-07T01:35:20Z) - Can Recommender Systems Teach Themselves? A Recursive Self-Improving Framework with Fidelity Control [82.30868101940068]
本稿では,外部データや教師モデルに依存することなく,モデルが自身のパフォーマンスをブートストラップするパラダイムを提案する。
我々の理論的分析は、RSIRがデータ駆動型暗黙正則化器として機能し、最適化景観を円滑にしていることを示している。
より小さなモデルであっても利点があり、弱いモデルはより強力なモデルに対して効果的なトレーニングカリキュラムを生成することができることを示す。
論文 参考訳(メタデータ) (2026-02-17T15:31:32Z) - SimGR: Escaping the Pitfalls of Generative Decoding in LLM-based Recommendation [68.00727783181289]
推薦システムの中核的な目的は、パーソナライズされたレコメンデーションを可能にするために、アイテムよりもユーザの好みの分布を正確にモデル化することである。
アイテムレベルの嗜好分布を推定する際に,既存の手法が必然的に系統的バイアスを生じさせることを観察する。
textbfSimply textbfGenerative textbfRecommendation (textbfSimGR)を提案する。
論文 参考訳(メタデータ) (2026-02-08T07:26:52Z) - Bringing Reasoning to Generative Recommendation Through the Lens of Cascaded Ranking [107.09842504618369]
ジェネレーティブ・レコメンデーション(GR)は、資源効率の高いレコメンデーションのために、FLOPSの利用率の高いエンド・ツー・エンドのアプローチとして期待されている。
現在のGRモデルは,トークン生成が進むにつれてトークンレベルのバイアスがエスカレートする,重要なtextbfbias増幅問題に悩まされていることを示す。
バイアス増幅問題に対処するためには、GR to 1) がより異質な情報を導入し、2) トークン生成ステップごとにより大きな計算資源を割り当てることが重要である。
論文 参考訳(メタデータ) (2026-02-03T16:10:54Z) - Does Generative Retrieval Overcome the Limitations of Dense Retrieval? [117.49076770892583]
生成的検索(GR)はニューラル情報検索の新しいパラダイムとして登場した。
本研究では,GRが高密度検索(DR)から学習目的と表現能力の両方において根本的に分岐するかを検討する。
論文 参考訳(メタデータ) (2025-09-26T09:38:01Z) - Exploring Training and Inference Scaling Laws in Generative Retrieval [50.82554729023865]
生成検索は、検索を自己回帰生成タスクとして再構成し、大きな言語モデルがクエリから直接ターゲット文書を生成する。
生成的検索におけるトレーニングと推論のスケーリング法則を体系的に検討し,モデルのサイズ,トレーニングデータスケール,推論時間計算が協調的に性能に与える影響について検討した。
論文 参考訳(メタデータ) (2025-03-24T17:59:03Z) - Half-order Fine-Tuning for Diffusion Model: A Recursive Likelihood Ratio Optimizer [16.103949557802988]
確率拡散モデル(DM)は、連鎖構造を通して推論することで内容を生成する。
現代の手法は強化学習 (RL) と切り離されたバックプロパゲーション (BP) に基づいている
DMのためのRLR(Recursive Likelihood Ratio)ファインチューニングパラダイムを提案する。
論文 参考訳(メタデータ) (2025-02-02T03:00:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。