論文の概要: LLaDA-Rec: Discrete Diffusion for Parallel Semantic ID Generation in Generative Recommendation

• arxiv url: http://arxiv.org/abs/2511.06254v1
• Date: Sun, 09 Nov 2025 07:12:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-11 21:18:44.842924
• Title: LLaDA-Rec: Discrete Diffusion for Parallel Semantic ID Generation in Generative Recommendation
• Title（参考訳）: LLaDA-Rec: 生成レコメンデーションにおける並列セマンティックID生成のための離散拡散
• Authors: Teng Shi, Chenglei Shen, Weijie Yu, Shen Nie, Chongxuan Li, Xiao Zhang, Ming He, Yan Han, Jun Xu,
• Abstract要約: 並列なセマンティックID生成としてレコメンデーションを再構成する離散拡散フレームワークであるLLaDA-Recを提案する。 3つの実世界のデータセットの実験では、LLaDA-RecはIDベースと最先端のジェネレーティブレコメンデータの両方を一貫して上回っている。
• 参考スコア（独自算出の注目度）: 32.284624021041004
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Generative recommendation represents each item as a semantic ID, i.e., a sequence of discrete tokens, and generates the next item through autoregressive decoding. While effective, existing autoregressive models face two intrinsic limitations: (1) unidirectional constraints, where causal attention restricts each token to attend only to its predecessors, hindering global semantic modeling; and (2) error accumulation, where the fixed left-to-right generation order causes prediction errors in early tokens to propagate to the predictions of subsequent token. To address these issues, we propose LLaDA-Rec, a discrete diffusion framework that reformulates recommendation as parallel semantic ID generation. By combining bidirectional attention with the adaptive generation order, the approach models inter-item and intra-item dependencies more effectively and alleviates error accumulation. Specifically, our approach comprises three key designs: (1) a parallel tokenization scheme that produces semantic IDs for bidirectional modeling, addressing the mismatch between residual quantization and bidirectional architectures; (2) two masking mechanisms at the user-history and next-item levels to capture both inter-item sequential dependencies and intra-item semantic relationships; and (3) an adapted beam search strategy for adaptive-order discrete diffusion decoding, resolving the incompatibility of standard beam search with diffusion-based generation. Experiments on three real-world datasets show that LLaDA-Rec consistently outperforms both ID-based and state-of-the-art generative recommenders, establishing discrete diffusion as a new paradigm for generative recommendation.
• Abstract（参考訳）: 生成レコメンデーションは各項目をセマンティックID、すなわち離散トークンのシーケンスとして表現し、自己回帰復号によって次の項目を生成する。 1) 因果的注意が各トークンにのみ出席することを制限し、グローバルなセマンティックモデリングを阻害する一方、(2) 固定された左から右への生成順序が初期トークンの予測エラーを引き起こし、その後のトークンの予測に伝播する。 これらの問題に対処するため,LLaDA-Recは並列意味ID生成としてレコメンデーションを再構成する離散拡散フレームワークである。 双方向の注意と適応的な生成順序を組み合わせることで、アプローチは、相互依存性と内部依存性をより効果的にモデル化し、エラーの蓄積を軽減する。 具体的には,(1)残留量子化と双方向アーキテクチャのミスマッチに対処する,双方向モデリングのためのセマンティックIDを生成する並列トークン化スキーム,(2)ユーザ・ヒストリーと次のテムレベルにおける2つのマスキング機構と,(3)適応順序の離散拡散復号化のための適応ビーム探索戦略と,拡散に基づく標準ビーム探索の不整合性を解消する。 実世界の3つのデータセットの実験では、LLaDA-RecはIDベースと最先端のジェネレーティブレコメンデーターの両方を一貫して上回り、生成レコメンデーションの新しいパラダイムとして離散拡散を確立している。

関連論文リスト

• DiscRec: Disentangled Semantic-Collaborative Modeling for Generative Recommendation [33.152693125551785]
  生成的レコメンデーションは、アイテム予測を直接生成する強力なパラダイムとして現れています。 現在の手法ではトークン・イテムのミスアライメントとセマンティック・コラボレーティブな信号の絡み合いという2つの重要な課題に直面している。 Disentangled Semantic-Collaborative Signal Modelingを可能にする新しいフレームワークであるDisdisRecを提案する。
  論文  参考訳（メタデータ） (2025-06-18T15:53:47Z)
• Constrained Auto-Regressive Decoding Constrains Generative Retrieval [71.71161220261655]
  ジェネレーティブ検索は、従来の検索インデックスデータ構造を1つの大規模ニューラルネットワークに置き換えようとしている。 本稿では,制約とビームサーチという2つの本質的な視点から,制約付き自己回帰生成の固有の制約について検討する。
  論文  参考訳（メタデータ） (2025-04-14T06:54:49Z)
• BBQRec: Behavior-Bind Quantization for Multi-Modal Sequential Recommendation [15.818669767036592]
  本稿では,2列列の量子化とセマンティックス・アウェア・シーケンス・モデリングを備えたBBQRec(Behavior-Bind Multi-modal Quantization for Sequential Recommendation)を提案する。 BBQRecは、コントラストのあるコードブック学習を通じて、ノイズの多いモダリティ特有の特徴からモダリティに依存しない行動パターンを分離する。 我々は、量子化された意味関係を用いて自己注意スコアを動的に調整する離散化類似度再重み付け機構を設計する。
  論文  参考訳（メタデータ） (2025-04-09T07:19:48Z)
• Unifying Autoregressive and Diffusion-Based Sequence Generation [3.1853022872760186]
  拡散に基づくシーケンス生成モデルに対して,自己回帰型言語モデルで行を曖昧にする重要な拡張を提示する。 個別のトークン位置に異なるノイズスケジュールを割り当てるハイパースケジューリングを導入する。 第二に,吸収過程と一様過程の間に介在する2つのハイブリッドトークン単位のノイズ発生過程を提案し,過去の誤りを解消する。
  論文  参考訳（メタデータ） (2025-04-08T20:32:10Z)
• EAGER: Two-Stream Generative Recommender with Behavior-Semantic Collaboration [63.112790050749695]
  本稿では,行動情報と意味情報の両方をシームレスに統合する新しい生成推薦フレームワークであるEAGERを紹介する。 EAGERの有効性を4つの公開ベンチマークで検証し,既存手法と比較して優れた性能を示した。
  論文  参考訳（メタデータ） (2024-06-20T06:21:56Z)
• Learnable Item Tokenization for Generative Recommendation [113.80559032128065]
  LETTER (Larnable Tokenizer for generaTivE Recommendation) を提案する。 LETTERは、セマンティック正規化のためのResidual Quantized VAE、協調正規化のためのコントラストアライメント損失、コードの割り当てバイアスを軽減するための多様性損失を組み込んでいる。
  論文  参考訳（メタデータ） (2024-05-12T15:49:38Z)
• Conditional Denoising Diffusion for Sequential Recommendation [62.127862728308045]
  GAN(Generative Adversarial Networks)とVAE(VAE)の2つの顕著な生成モデル GANは不安定な最適化に苦しむ一方、VAEは後続の崩壊と過度に平らな世代である。 本稿では,シーケンスエンコーダ,クロスアテンティブデノナイジングデコーダ,ステップワイズディフューザを含む条件付きデノナイジング拡散モデルを提案する。
  論文  参考訳（メタデータ） (2023-04-22T15:32:59Z)
• Mutual Exclusivity Training and Primitive Augmentation to Induce Compositionality [84.94877848357896]
  最近のデータセットは、標準的なシーケンス・ツー・シーケンスモデルにおける体系的な一般化能力の欠如を露呈している。 本稿では,セq2seqモデルの振る舞いを分析し,相互排他バイアスの欠如と全例を記憶する傾向の2つの要因を同定する。 広範に使用されている2つの構成性データセット上で、標準的なシーケンス・ツー・シーケンスモデルを用いて、経験的改善を示す。
  論文  参考訳（メタデータ） (2022-11-28T17:36:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。