論文の概要: WhisperRec: Latent Reasoning for Efficient Foundation Recommendation Models

• arxiv url: http://arxiv.org/abs/2607.26621v2
• Date: Thu, 30 Jul 2026 10:26:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-31 12:52:12.270547
• Title: WhisperRec: Latent Reasoning for Efficient Foundation Recommendation Models
• Title（参考訳）: WhisperRec: 効率的なファンデーションレコメンデーションモデルのための潜時推論
• Abstract要約: 基礎推薦モデル(FRM)のための効率的な潜在推論フレームワークであるWhisperRecを提案する。 WhisperRecは教師生成のChain-of-Thought(CoT)を学習可能な潜在推論トークンに圧縮する。 WhisperRecは明示的なCoT法と従来のベースラインを一貫して上回ることを示す。
• 参考スコア（独自算出の注目度）: 51.88075626243057
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language models (LLMs) have demonstrated strong reasoning capabilities, motivating their adoption as backbones for foundation recommendation models (FRMs). Existing approaches typically enhance recommendation with explicit Chain-of-Thought (CoT) under the Think-then-Answer paradigm. However, generating lengthy rationales introduces substantial inference overhead, while fixed CoT templates struggle to model diverse, dynamic, and context-dependent user interests. We propose WhisperRec, an efficient latent reasoning framework for FRMs. WhisperRec compresses teacher-generated CoT into learnable latent reasoning tokens, enabling a Latent-Reason-then-Answer paradigm that performs reasoning in latent space without producing verbose rationales. This design retains decision-relevant reasoning information while avoiding the latency bottleneck of autoregressive rationale generation. Specifically, it first introduces Multi-View Adaptive CoT (MV-ACoT) to construct diverse, high-quality supervision from complementary perspectives on user interests. MV-ACoT also adapts reasoning complexity to each instance, applying lightweight analysis to clear cases and targeted multi-factor reasoning to challenging ones. Building on a pre-trained FRM, WhisperRec then employs a three-stage Latent Reasoning Alignment procedure to progressively internalize teacher CoT into latent representations. Finally, curriculum-based post-training activates latent-token reasoning for downstream recommendation while preserving standard recommendation capability. Experiments on an industrial-scale Kuaishou dataset and the public Kuaishou LLM-Rec benchmark show that WhisperRec consistently outperforms explicit-CoT methods and conventional baselines. Compared with explicit CoT Think and No-Think variants, WhisperRec improves SID@64 by 17.44% and 9.33%, respectively, and achieves over 10x higher online inference throughput.
• Abstract（参考訳）: 大規模言語モデル(LLM)は強力な推論能力を示し、基盤推薦モデル(FRM)のバックボーンとしての採用を動機付けている。 既存のアプローチは通常、Think-then-Answerパラダイムの下で明示的なChain-of-Thought(CoT)で推奨を強化する。 しかし、長い合理性を生成することは、かなりの推論オーバーヘッドをもたらし、固定されたCoTテンプレートは、多様で動的でコンテキストに依存したユーザー関心をモデル化するのに苦労する。 FRMのための効率的な潜在推論フレームワークであるWhisperRecを提案する。 WhisperRecは教師生成のCoTを学習可能な潜在推論トークンに圧縮し、冗長な有理数を生成することなく潜在空間における推論を実行するラテント・レーソン・then-Answerパラダイムを実現する。 この設計は、自己回帰的合理生成の遅延ボトルネックを回避しつつ、意思決定関連理性情報を保持する。 具体的には、まず、ユーザ関心の相補的な視点から、多様な高品質な監視を構築するために、MV-ACoT(Multi-View Adaptive CoT)を導入する。 MV-ACoTはまた、各インスタンスに推論の複雑さを適用し、明確なケースに軽量な分析を適用し、挑戦するインスタンスにターゲットの多要素推論を適用する。 事前訓練されたFRM上に構築されたWhisperRecは、3段階のLatent Reasoning Alaignmentプロシージャを使用して、CoTを潜伏表現に段階的に内部化する。 最後に、カリキュラムベースのポストトレーニングは、標準レコメンデーション能力を保ちながら、下流レコメンデーションのための潜伏推論を活性化する。 工業規模のKuaishouデータセットと公共のKuaishou LLM-Recベンチマークの実験では、WhisperRecは明示的なCoT法と従来のベースラインを一貫して上回っている。 明示的なCoT ThinkとNo-Thinkと比較すると、WhisperRecはSID@64を17.44%、9.33%改善し、オンライン推論スループットは10倍以上に向上している。

関連論文リスト

• RecRec: Latent Interests Recursive Reasoning for Sequential Recommendation [52.23179023639867]
  逐次リコメンデータシステムは、ユーザインタラクションをエンコードし、次の項目を予測するために、1つのフォワードパスに依存している。 シーケンシャルなレコメンデーションのための推論プロセスをどのように構成するかは、未解決の問題である。 既存のアプローチでは、推論と予測を単一の$d$次元の状態に分割し、推論の深さを制限する。 本稿ではRLフリーフレームワークRecRec(Recursive Reasoning for Recommendation)を提案する。
  論文  参考訳（メタデータ） (2026-07-14T16:28:28Z)
• OneReason Technical Report [135.82017930661263]
  生成的レコメンデーションモデルはスケーリングの利点の恩恵しか得られず、推論能力の活性化は困難であることを示す。 本稿では,(1)事前学習における強力なアイテムトークン認識,(2)SFTにおける推薦タスクのための3レベル認知強調CoTフォーマット,(3)RLにおける特殊化テーマ統一トレーニングレシピを提案する。
  論文  参考訳（メタデータ） (2026-06-04T15:04:34Z)
• DiffuReason: Bridging Latent Reasoning and Generative Refinement for Sequential Recommendation [20.756497463882763]
  逐次レコメンデーションのための統合された「シンク・テン・ディフューズ」フレームワークであるDiffuReasonを提案する。 潜時推論のための多段階思考トークン、中間表現をデノナイズするための拡散ベースの洗練、およびエンドツーエンドのグループ相対ポリシー最適化を統合している。 4つのベンチマークの実験では、DiffuReasonはさまざまなバックボーンアーキテクチャを一貫して改善している。
  論文  参考訳（メタデータ） (2026-02-10T12:55:30Z)
• ReGuLaR: Variational Latent Reasoning Guided by Rendered Chain-of-Thought [49.203970812338916]
  明示的な推論連鎖は、かなりの計算冗長性をもたらす。 近年の潜時推論法は、推理過程を潜時空間に圧縮することによりこれを緩和しようとする。 我々はRendered CoT-Guided Variational Latent Reasoning (ReGuLaR)を提案する。
  論文  参考訳（メタデータ） (2026-01-30T17:08:06Z)
• ConciseHint: Boosting Efficient Reasoning via Continuous Concise Hints during Generation [74.37307916314407]
  提案するフレームワークはConciseHintと呼ばれ,推論モデルが簡潔に話すことを継続的に奨励する。 DeepSeek-R1 および Qwen-3 シリーズを含む最先端の LRM 実験により,本手法が簡潔な推論を効果的に生成できることが実証された。
  論文  参考訳（メタデータ） (2025-06-23T16:20:44Z)
• SCOUT: Teaching Pre-trained Language Models to Enhance Reasoning via Flow Chain-of-Thought [37.53215651690168]
  思考の連鎖(CoT)は、ステップ思考を奨励することで、大きな言語モデル(LLM)の推論性能を向上させる。 有望ではあるが、CoTベースのアプローチは、しばしばコストのかかる事前トレーニングを必要とし、推論の進化に関する原則的なフレームワークを欠いている。 プリトレーニングを必要とせずにFlow CoTスタイルの推論を可能にする軽量な微調整フレームワークSCOUTを提案する。
  論文  参考訳（メタデータ） (2025-05-30T03:43:24Z)
• Reinforced Latent Reasoning for LLM-based Recommendation [92.56166822197919]
  大きな言語モデル(LLM)は、複雑な問題解決タスクにおいて印象的な推論能力を示している。 既存の手法は通常、明示的なチェーン・オブ・シント(CoT)データによる微調整に依存している。 本研究では, 明示的なCoT推論から, コンパクトで情報密度の高い潜伏推論へ移行する代替手法について検討する。
  論文  参考訳（メタデータ） (2025-05-25T11:03:45Z)
• R$^2$ec: Towards Large Recommender Models with Reasoning [59.32598867813266]
  R$2$ecは、本質的な推論能力を持つ統一された大型レコメンデータモデルである。 R$2$ecは、推論チェーン生成と効率的なアイテム予測の両方を単一のモデルでサポートするデュアルヘッドアーキテクチャを導入している。 注釈付き推論データの欠如を克服するため、強化学習フレームワークであるRecPOを設計する。
  論文  参考訳（メタデータ） (2025-05-22T17:55:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。