論文の概要: Diffusion Language Model for Recommendation

• arxiv url: http://arxiv.org/abs/2607.21519v1
• Date: Thu, 23 Jul 2026 17:02:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-24 18:26:25.492542
• Title: Diffusion Language Model for Recommendation
• Title（参考訳）: 推薦のための拡散言語モデル
• Abstract要約: 大規模言語モデル(LLM)を利用したレコメンデーションシステムは、生成的レコメンデーションのための有望なパラダイムとして登場した。 本稿では,bfDLMRecを提案する。 具体的には、DLMRecは拡散言語モデリングを推奨する3つの重要なコンポーネントを導入している。
• 参考スコア（独自算出の注目度）: 22.198136219903706
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language model (LLM)-empowered recommender systems have emerged as a promising paradigm for generative recommendation, leveraging their strong semantic reasoning and generative capacity to model complex, diverse user preferences. However, most existing approaches rely on an autoregressive paradigm that is suboptimal for recommendation. The next-token objective emphasizes sequential order rather than the structural inter-item dependencies underlying user preferences. In addition, prefix-constrained generation restricts bidirectional context and commits to left-to-right decoding, causing early errors to accumulate without correction. Inspired by the success of diffusion language models, we propose \textbf{DLMRec}, a discrete diffusion language model tailored for recommendation that offers a compelling alternative to autoregressive generation. Specifically, DLMRec introduces three key components to bridge diffusion language modeling with recommendation. First, a collaborative-aware stochastic tokenizer encodes multi-hop collaborative signals into expressive discrete tokens compatible with diffusion modeling. Second, a curriculum-driven training strategy aligns the denoising process with preference recovery through progressive item- and token-level learning. Third, a stability-aware voting mechanism aggregates iterative predictions to improve generation consistency and robustness.
• Abstract（参考訳）: 大規模言語モデル(LLM)を利用したレコメンデーションシステムは、多種多様なユーザの嗜好をモデル化するために、強力なセマンティック推論と生成能力を活用することによって、ジェネレーティブレコメンデーションのための有望なパラダイムとして登場した。 しかし、既存のアプローチのほとんどは、推奨に最適な自己回帰パラダイムに依存しています。 次の目的は、ユーザの好みに基づく構造的相互依存よりも、シーケンシャルな順序を強調することである。 さらに、プレフィックス制約付き生成は双方向のコンテキストを制限し、左から右へのデコードにコミットする。 拡散言語モデルの成功に触発されて、自己回帰生成に代わる魅力的な代替手段を提供するレコメンデーションに適した離散拡散言語モデルである「textbf{DLMRec}」を提案する。 具体的には、DLMRecは拡散言語モデリングを推奨する3つの重要なコンポーネントを導入している。 まず,マルチホップ協調信号を拡散モデルに適合した表現的離散トークンに符号化する。 第二に、カリキュラム駆動のトレーニング戦略は、段階的なアイテムレベルの学習とトークンレベルの学習を通じて、デノナイジングプロセスと好みの回復を一致させる。 第三に、安定を意識した投票機構は、生成の一貫性と堅牢性を改善するために反復予測を集約する。

関連論文リスト

• Forward-Free Diffusion Language Models [12.961496586646708]
  拡散言語モデルは反復的記述を通じてテキストを生成する。 本研究では,手作業で設計した前方処理を必要としない前方自由拡散言語モデルFReDAを提案する。 FReDAは近傍に非依存で、モデル複雑度を意識し、フレキシブルリファインメントパラメータ化と互換性がある。
  論文  参考訳（メタデータ） (2026-06-06T22:10:46Z)
• Early Decisions Matter: Proximity Bias and Initial Trajectory Shaping in Non-Autoregressive Diffusion Language Models [54.16797570104461]
  拡散ベースの言語モデル (dLLMs) は自己回帰型言語モデルに代わる有望な代替品として登場した。 時間軸に沿った推論ダイナミクスを系統的に解析し, dLLMの非自己回帰復号化について検討した。
  論文  参考訳（メタデータ） (2026-04-12T10:26:41Z)
• PROMISE: Process Reward Models Unlock Test-Time Scaling Laws in Generative Recommendations [52.67948063133533]
  生成レコメンデーションは有望なパラダイムとして現れ、階層的なセマンティックIDよりもシーケンス・ツー・シーケンス生成タスクとしてレコメンデーションを改革している。 既存の手法は、セマンティックドリフト(Semantic Drift)と呼ばれる重要な問題に悩まされ、初期、高レベルのトークンのエラーは、生成軌道を無関係な意味部分空間に不可逆的に分散させる。 本稿では,高密度なステップバイステップ検証を生成モデルに統合する新しいフレームワークPromiseを提案する。
  論文  参考訳（メタデータ） (2026-01-08T07:38:46Z)
• Multimodal Large Language Models with Adaptive Preference Optimization for Sequential Recommendation [60.33386541343322]
  本稿では,Hardness-Aware とNoNoRec (HaNoRec) を併用したマルチモーダル大規模言語モデルフレームワークを提案する。 具体的には、HaNoRecは、各トレーニングサンプルの予測硬度とポリシーモデルのリアルタイム応答性の両方に基づいて、最適化重量を動的に調整する。
  論文  参考訳（メタデータ） (2025-11-24T04:10:46Z)
• Alignment as Distribution Learning: Your Preference Model is Explicitly a Language Model [12.063078727764045]
  人間のフィードバックからの強化学習によるアライメントは理論的正当性に欠け、決定論的解のインセンティブを与える。 本稿では, 優先最大推定, 優先蒸留, 逆KL最小化の3つの基本学習目標を提案する。 我々は、我々の分布学習フレームワーク、特に嗜好蒸留が、RLHFとDPOのパフォーマンスを一貫して上回るか、あるいは一致しているかを実証的に示す。
  論文  参考訳（メタデータ） (2025-06-02T10:36:31Z)
• Diffusion Generative Recommendation with Continuous Tokens [21.222713476105195]
  ContRecは、連続トークンをLLMベースのRecSysにシームレスに統合するフレームワークである。 ContRecは従来型およびSOTA LLMベースのレコメンデータシステムよりも一貫して優れていることを示す。 本研究は,次世代レコメンデーションシステムにおける連続トークン化と生成モデリングの可能性を強調した。
  論文  参考訳（メタデータ） (2025-04-16T12:01:03Z)
• BBQRec: Behavior-Bind Quantization for Multi-Modal Sequential Recommendation [15.818669767036592]
  本稿では,2列列の量子化とセマンティックス・アウェア・シーケンス・モデリングを備えたBBQRec(Behavior-Bind Multi-modal Quantization for Sequential Recommendation)を提案する。 BBQRecは、コントラストのあるコードブック学習を通じて、ノイズの多いモダリティ特有の特徴からモダリティに依存しない行動パターンを分離する。 我々は、量子化された意味関係を用いて自己注意スコアを動的に調整する離散化類似度再重み付け機構を設計する。
  論文  参考訳（メタデータ） (2025-04-09T07:19:48Z)
• Minimally-Supervised Speech Synthesis with Conditional Diffusion Model and Language Model: A Comparative Study of Semantic Coding [57.42429912884543]
  Diff-LM-Speech, Tetra-Diff-Speech, Tri-Diff-Speechを提案する。 また,変分オートエンコーダと韻律ボトルネックに基づくプロンプトエンコーダ構造を導入し,プロンプト表現能力の向上を図る。 実験の結果,提案手法はベースライン法よりも優れていた。
  論文  参考訳（メタデータ） (2023-07-28T11:20:23Z)
• DiffusionBERT: Improving Generative Masked Language Models with Diffusion Models [81.84866217721361]
  DiffusionBERTは離散拡散モデルに基づく新しい生成マスク付き言語モデルである。 本稿では,各ステップに付加される雑音の度合いを制御する前方拡散プロセスのための新しいノイズスケジュールを提案する。 非条件テキスト生成の実験では、DiffusionBERTは既存のテキスト拡散モデルよりも大幅に改善されている。
  論文  参考訳（メタデータ） (2022-11-28T03:25:49Z)
• Improve Variational Autoencoder for Text Generationwith Discrete Latent Bottleneck [52.08901549360262]
  変分オートエンコーダ(VAE)は、エンドツーエンドの表現学習において必須のツールである。 VAEは強い自己回帰デコーダで潜伏変数を無視する傾向がある。 よりコンパクトな潜在空間において暗黙的な潜在特徴マッチングを強制する原理的アプローチを提案する。
  論文  参考訳（メタデータ） (2020-04-22T14:41:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。