論文の概要: OneLatent: Latent Reasoning for Efficient Foundation Recommendation Models
- arxiv url: http://arxiv.org/abs/2610.30675v1
- Date: Thu, 22 Oct 2026 03:39:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.202162
- Title: OneLatent: Latent Reasoning for Efficient Foundation Recommendation Models
- Title(参考訳): OneLatent: 効率的なファンデーションレコメンデーションモデルのための潜時推論
- Abstract要約: OneLatentは、明示的な推論トレースを学習可能な潜在トークンに圧縮する効率的な潜在推論フレームワークである。
OneLatentは、明示的なCoTベースのメソッドや従来のベースラインよりも一貫して優れています。
我々は、スケーラブルでリアルタイムなFRM推論のための製品提供システムをさらに開発する。
- 参考スコア(独自算出の注目度): 51.88075626243057
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language models (LLMs) have demonstrated strong reasoning capabilities, motivating their use as the backbone of foundation recommendation models (FRMs). Existing methods enhance recommendations through explicit Chain-of-Thought (CoT) reasoning under a Think-then-Answer paradigm. However, explicit CoT incurs substantial inference overhead by generating lengthy reasoning traces and relies on manually designed templates that struggle to capture diverse, dynamic user interests. We propose OneLatent, an efficient latent reasoning framework that compresses explicit reasoning traces into several learnable latent tokens, enabling Latent-Reason-then-Answer inference without generating verbose traces. OneLatent first introduces Multi-View Adaptive CoT (MV-ACoT), which creates diverse, high-quality teacher-generated supervision by exploring user interests from multiple perspectives and automatically adapting reasoning complexity to each instance. Building on pretrained FRMs, it then uses a three-stage latent-token alignment paradigm to progressively internalize CoT traces into learnable latent tokens. Finally, a multistage curriculum-based post-training strategy activates latent-token reasoning for downstream recommendation tasks. Experiments on an industrial-scale Kuaishou dataset and the public Kuaishou LLM-Rec benchmark show that OneLatent consistently outperforms explicit CoT-based methods and traditional baselines. Compared with the Think and No-Think variants of FRMs, OneLatent improves SID@64 by 17.44% and 9.33%, respectively, while achieving over 17x higher online inference throughput. We further develop a production serving system for scalable, real-time FRM inference. An online A/B test in Kuaishou's local-services advertising scenario shows that deploying OneLatent with this system yields an estimated 9.6% revenue lift over strong online baselines, including OneRec and OneReason.
- Abstract(参考訳): 大規模言語モデル(LLM)は強力な推論能力を示し、基礎推薦モデル(FRM)のバックボーンとしての利用を動機付けている。
既存の方法は、Think-then-Answerパラダイムの下で、明示的なChain-of-Thought(CoT)推論を通じてレコメンデーションを強化する。
しかし、明示的なCoTは、長い推論トレースを生成してかなりの推論オーバーヘッドを発生させ、多様で動的なユーザ関心を捉えるのに苦労する手動設計のテンプレートに依存している。
本論文では,複数の学習可能な潜在トークンに明示的推論トレースを圧縮し,冗長なトレースを生成することなくLatent-Reason-then-Answer推論を可能にする,効率的な潜在推論フレームワークOneLatentを提案する。
OneLatentが最初に導入したMulti-View Adaptive CoT (MV-ACoT)は、さまざまな視点からユーザ関心を探索し、各インスタンスに推論の複雑さを自動的に適応することによって、多様な高品質の教師生成監視を実現する。
事前訓練されたFRMに基づいて、CoTトレースを学習可能な潜在トークンに段階的に内部化するために、3段階の潜在トークンアライメントパラダイムを使用する。
最後に、多段階のカリキュラムベースのポストトレーニング戦略により、下流レコメンデーションタスクに対する潜時推論を活性化する。
産業規模のKuaishouデータセットとパブリックなKuaishou LLM-Recベンチマークの実験は、OneLatentが明らかにCoTベースのメソッドと従来のベースラインを一貫して上回っていることを示している。
FRMのThinkとNo-Thinkと比較すると、OneLatentはSID@64を17.44%、9.33%改善し、オンライン推論のスループットは17倍以上に向上した。
我々は、スケーラブルでリアルタイムなFRM推論のための製品提供システムをさらに開発する。
Kuaishouのローカルサービス広告シナリオにおけるオンラインA/Bテストによると、OneLatentをこのシステムにデプロイすると、OneRecやOneReasonを含む強力なオンラインベースラインに対する収益が9.6%上昇する。
関連論文リスト
- WhisperRec: Latent Reasoning for Efficient Foundation Recommendation Models [51.88075626243057]
基礎推薦モデル(FRM)のための効率的な潜在推論フレームワークであるWhisperRecを提案する。
WhisperRecは教師生成のChain-of-Thought(CoT)を学習可能な潜在推論トークンに圧縮する。
WhisperRecは明示的なCoT法と従来のベースラインを一貫して上回ることを示す。
論文 参考訳(メタデータ) (2026-07-29T08:48:35Z) - DiffuReason: Bridging Latent Reasoning and Generative Refinement for Sequential Recommendation [20.756497463882763]
逐次レコメンデーションのための統合された「シンク・テン・ディフューズ」フレームワークであるDiffuReasonを提案する。
潜時推論のための多段階思考トークン、中間表現をデノナイズするための拡散ベースの洗練、およびエンドツーエンドのグループ相対ポリシー最適化を統合している。
4つのベンチマークの実験では、DiffuReasonはさまざまなバックボーンアーキテクチャを一貫して改善している。
論文 参考訳(メタデータ) (2026-02-10T12:55:30Z) - Thinking Broad, Acting Fast: Latent Reasoning Distillation from Multi-Perspective Chain-of-Thought for E-Commerce Relevance [13.92735028342748]
最適化パイプライン全体を通してChain-of-Thought(CoT)セマンティクスをうまく活用する新しいフレームワークを提案する。
蒸留にはLatent Reasoning Knowledge Distillation (LRKD)を導入する。
提案手法は,商業的パフォーマンスとユーザエクスペリエンスの両方において明らかなメリットを示すとともに,オフラインでの大幅な向上を実現している。
論文 参考訳(メタデータ) (2026-01-29T12:14:44Z) - Reinforced Latent Reasoning for LLM-based Recommendation [92.56166822197919]
大きな言語モデル(LLM)は、複雑な問題解決タスクにおいて印象的な推論能力を示している。
既存の手法は通常、明示的なチェーン・オブ・シント(CoT)データによる微調整に依存している。
本研究では, 明示的なCoT推論から, コンパクトで情報密度の高い潜伏推論へ移行する代替手法について検討する。
論文 参考訳(メタデータ) (2025-05-25T11:03:45Z) - Fine-Tuning on Diverse Reasoning Chains Drives Within-Inference CoT Refinement in LLMs [63.36637269634553]
本稿では,LLMを微調整し,一つの推論ステップで思考の逆連鎖(DCoT)を生成する手法を提案する。
DCoTの微調整により,モデルファミリおよびスケール間のCoTベースライン上での性能が向上することを示す。
我々の研究は、定量的解析と手動評価の両方で、観測された利益は、最初の推論連鎖を洗練させるモデルの能力に由来することを明らかにしているため、重要である。
論文 参考訳(メタデータ) (2024-07-03T15:01:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。