論文の概要: MuSID-KD: Multigranularity Knowledge Distillation for Generative Recommendation with Semantic IDs

• arxiv url: http://arxiv.org/abs/2610.35218v1
• Date: Mon, 26 Oct 2026 11:09:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:27:13.837501
• Title: MuSID-KD: Multigranularity Knowledge Distillation for Generative Recommendation with Semantic IDs
• Title（参考訳）: MuSID-KD:セマンティックIDを用いた生成レコメンデーションのための多粒度知識蒸留
• Abstract要約: セマンティックID(SID)による生成レコメンデーションは、各項目を離散トークンのシーケンスとして表現し、次の項目のSIDを自動回帰的に予測する。 階層的候補分布アライメントとレベルワイド蒸留を併用した MuSID-KD を提案する。
• 参考スコア（独自算出の注目度）: 2.5993532871616027
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Generative recommendation with semantic IDs (SIDs) represents each item as a sequence of discrete tokens and autoregressively predicts the next item's SID. Despite strong recommendation performance, repeated decoding over multiple SID positions incurs substantial inference cost. Knowledge distillation transfers knowledge from a powerful generative teacher to a lightweight student, yet conventional objectives do not fully account for multi-token SID generation. We identify two limitations: item-level distribution alignment may not adequately preserve the teacher's ranking of candidate groups sharing SID prefixes, while uniform alignment across SID positions may affect final item ranking differently. We propose MuSID-KD, which combines Hierarchical Candidate Distribution Alignment (HCDA) and Ranking Impact Guided Levelwise Distillation (RIGD). HCDA aggregates item probabilities according to shared SID prefixes and aligns candidate distributions at successive levels, from candidate groups to individual items. RIGD evaluates the reduction in pairwise ranking surrogate loss when one student score contribution is replaced with the teacher's contribution, and allocates supervision accordingly. Experiments on real-world recommendation datasets using three lightweight student architectures demonstrate improved recommendation accuracy and better alignment of prefix marginal distributions and pairwise item rankings, without modifying the student's online inference architecture. Code is available at https://anonymous.4open.science/r/m7k2-review-83f9/.
• Abstract（参考訳）: セマンティックID(SID)による生成レコメンデーションは、各項目を離散トークンのシーケンスとして表現し、次の項目のSIDを自動回帰的に予測する。 高いレコメンデーション性能にもかかわらず、複数のSID位置を繰り返す復号は、かなりの推論コストを発生させる。 知識蒸留は、強力な生成教師から軽量な学生に知識を伝達するが、従来の目的はマルチトークンのSID生成を十分に考慮していない。 項目レベルの分布アライメントは、教師のSIDプレフィックスを共有する候補グループのランクを適切に保持することができないが、SIDポジション間の均一なアライメントは最終項目のランクに異なる影響を与える可能性がある。 本稿では,階層的候補分布アライメント(HCDA)とレベルワイド蒸留(RIGD)を組み合わせた MuSID-KD を提案する。 HCDAは、共有されたSIDプレフィックスに従ってアイテムの確率を集計し、候補グループから個々のアイテムまで、候補分布を連続的に調整する。 RIGDは、1人の学生のスコアコントリビューションを教師のコントリビューションに置き換える際に、ペアワイズランキングのサロゲート損失の低減を評価し、それに応じて監督を割り当てる。 3つの軽量な学生アーキテクチャを用いた実世界の推薦データセットの実験では、学生のオンライン推論アーキテクチャを変更することなく、推薦精度の向上とプレフィックス境界分布とペアワイズアイテムランキングのアライメントの改善が示されている。 コードはhttps://anonymous.4open.science/r/m7k2-review-83f9/で公開されている。

関連論文リスト

• Knowledge Distillation across Item and Code Spaces for Parallel Generative Recommendation [6.364028217366383]
  セマンティックIDを用いた生成レコメンデーションは、各項目をそのセマンティック表現から派生した離散コードのシーケンスとして表現する。 並列セマンティックIDレコメンデータのための2つの補完的知識蒸留目標を提案する。 IDMは、生徒の並列コード予測からカタログレベルの項目分布を再構成し、教師の項目分布と整合させる。 CMMは、教師の項目確率を固定されたアイテム・ツー・コード・アサインを使用して各コード位置に投影し、その結果のコード残差を対応する生徒の頭とマッチングする。
  論文  参考訳（メタデータ） (2026-10-23T17:37:55Z)
• Neighborhood-Aware Unlearning for Generative Recommendation [53.3789399475797]
  本研究では, 近隣の項目に割り当てられた確率質量を明示的に制御することで, インタラクションレベルの未学習を増大させるNorborhood-Aware Unlearning (NAU)を提案する。 我々は,SIDに基づく生成レコメンデータにおいて,局所的確率再分配を未学習の重要な失敗モードとみなし,この再分配を明示的に制御することで,その効果を緩和できることを示す。
  論文  参考訳（メタデータ） (2026-10-19T20:00:39Z)
• Beyond Static Collision Handling: Adaptive Semantic ID Learning for Multimodal Recommendation at Industrial Scale [20.066503602593958]
  AdaSIDは2段階のプロセスを通じてSIDオーバーラップを制御する。 関連する項目が意味的に互換性がある場合、観察された重複に対する反発を緩和する。 局所的な衝突負荷と訓練の進捗に応じて、残りの規制圧力を割り当てる。
  論文  参考訳（メタデータ） (2026-04-26T03:59:35Z)
• Reasoning over Semantic IDs Enhances Generative Recommendation [56.83043583765322]
  本稿では,SID 言語アライメントを強化することによって,SID に対する推論を実現する2段階のフレームワークを提案する。 SIDReasonerはさらに、結果駆動強化最適化によるレコメンデーション推論を改善している。 実世界の3つのデータセットに対する実験により,SIDに基づく生成推薦の有効性が示された。
  論文  参考訳（メタデータ） (2026-03-24T13:31:48Z)
• End-to-End Semantic ID Generation for Generative Advertisement Recommendation [33.453121305193434]
  生成広告推薦のための統一SID生成フレームワークを提案する。 具体的には、生の広告データからエンドツーエンドで埋め込みとSIDを協調的に最適化する。 実験により、UniSIDは最先端のSID生成方法よりも一貫して優れていることが示された。
  論文  参考訳（メタデータ） (2026-02-11T02:38:26Z)
• Differentiable Semantic ID for Generative Recommendation [65.83703273297492]
  生成的推薦は、各項目がリッチコンテンツから学習された個別意味ID(SID)によって表現される新しいパラダイムを提供する。 実際には、SIDはレコメンデーションの正確さよりもコンテンツ再構成に最適化されるのが一般的である。 自然なアプローチは、セマンティックインデックスを差別化して、レコメンデーショングラデーションが直接SID学習に影響を与えるようにすることだ。 本稿では,ジェネレーティブレコメンデーションのための効果的な識別可能なセマンティックIDに向けた第一歩として,DIGERを提案する。
  論文  参考訳（メタデータ） (2026-01-27T15:34:11Z)
• DiffGRM: Diffusion-based Generative Recommendation Model [63.35379395455103]
  ジェネレーティブレコメンデーション(GR)は、トークン化器を介して各項目をn桁のセマンティックID(SID)として表現する新興パラダイムである。 自己回帰デコーダをマスク付き離散拡散モデル(MDM)に置き換える拡散ベースGRモデルDiffGRMを提案する。 実験では、複数のデータセットに対する強力な生成的および差別的推奨ベースラインよりも一貫した利得を示す。
  論文  参考訳（メタデータ） (2025-10-21T03:23:32Z)
• Learnable Item Tokenization for Generative Recommendation [113.80559032128065]
  LETTER (Larnable Tokenizer for generaTivE Recommendation) を提案する。 LETTERは、セマンティック正規化のためのResidual Quantized VAE、協調正規化のためのコントラストアライメント損失、コードの割り当てバイアスを軽減するための多様性損失を組み込んでいる。
  論文  参考訳（メタデータ） (2024-05-12T15:49:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。