論文の概要: Knowledge Distillation across Item and Code Spaces for Parallel Generative Recommendation

• arxiv url: http://arxiv.org/abs/2610.32943v1
• Date: Fri, 23 Oct 2026 17:37:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 01:38:06.624102
• Title: Knowledge Distillation across Item and Code Spaces for Parallel Generative Recommendation
• Title（参考訳）: 並列生成レコメンデーションのための項目・コード空間間の知識蒸留
• Abstract要約: セマンティックIDを用いた生成レコメンデーションは、各項目をそのセマンティック表現から派生した離散コードのシーケンスとして表現する。 並列セマンティックIDレコメンデータのための2つの補完的知識蒸留目標を提案する。 IDMは、生徒の並列コード予測からカタログレベルの項目分布を再構成し、教師の項目分布と整合させる。 CMMは、教師の項目確率を固定されたアイテム・ツー・コード・アサインを使用して各コード位置に投影し、その結果のコード残差を対応する生徒の頭とマッチングする。
• 参考スコア（独自算出の注目度）: 6.364028217366383
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Generative recommendation with semantic IDs represents each item as a sequence of discrete codes derived from its semantic representation and predicts these codes to generate recommendations. Existing semantic-ID recommenders are typically trained with hard labels for the observed next item. Although such supervision identifies the target, it provides no explicit distributional information about alternative items conditioned on the same user history. Sequential recommenders can supply this item-level predictive knowledge, but transferring it to semantic-ID generation is challenging because the teacher and student operate in item and code spaces, respectively. We propose two complementary knowledge-distillation objectives for parallel semantic-ID recommenders, which predict all code positions simultaneously without autoregressive prefix conditioning. Item Distribution Matching (IDM) reconstructs a catalogue-level item distribution from the student's parallel code predictions and aligns it with the teacher's item distribution. Code Marginal Matching (CMM) projects the teacher's item probabilities onto each code position using fixed item-to-code assignments, then matches the resulting code marginals to the corresponding student heads. Both objectives transfer the teacher's soft distributional knowledge while preserving the student's parallel prediction structure. Experiments on benchmark datasets show that both methods consistently outperform existing state-of-the-art approaches. On average, IDM improves Recall@10 by 15.39%, while CMM improves NDCG@10 by 8.28%. These results demonstrate that distillation in either reconstructed item space or code-marginal space can substantially strengthen hard-label supervision for parallel generative recommendation.
• Abstract（参考訳）: セマンティックIDを用いた生成レコメンデーションは、各項目をそのセマンティック表現から派生した離散コードのシーケンスとして表現し、これらのコードを予測することでレコメンデーションを生成する。 既存のセマンティックIDレコメンダは通常、観察された次の項目のハードラベルでトレーニングされる。 このような監視は対象を識別するが、同じユーザ履歴に条件付けされた代替アイテムに関する明確な分布情報を提供しない。 逐次推薦者は、このアイテムレベルの予測知識を供給できるが、教師と生徒がそれぞれアイテムとコード空間で運用しているため、セマンティックID生成に転送することは困難である。 本稿では, 並列セマンティックIDレコメンデータに対して, 自己回帰的プレフィックス条件を使わずに, 全コード位置を同時に予測する2つの補完的知識蒸留目標を提案する。 項目分布マッチング(IDM)は、生徒の並列コード予測からカタログレベルの項目分布を再構成し、教師の項目分布と整合させる。 Code Marginal Matching (CMM) は、教師のアイテム確率を固定されたアイテム・ツー・コード・アサインを使用して各コード位置に投影し、その結果のコード限界を対応する生徒の頭文字にマッチさせる。 両方の目的は、生徒の並列予測構造を維持しながら、教師のソフトな分布的知識を伝達する。 ベンチマークデータセットの実験では、どちらの手法も既存の最先端アプローチを一貫して上回っている。 IDMはRecall@10を15.39%改善し、CMMはNDCG@10を8.28%改善した。 これらの結果から, コンストラクトされた項目空間あるいはコードマージナル空間における蒸留は, 並列生成レコメンデーションのためのハードラベルの監督を著しく強化する可能性が示唆された。

関連論文リスト

• Joint Class-Time Learning for Video Classification with Multi-Instance Partial-Label Learning [52.577813884498056]
  バグレベルラベルは、候補クラスと時間的証拠の間の対応を明示的に監督するものではない。 我々は,共同授業時間割当てによる時間的エビデンス割当てとラベルの曖昧さを結合する手法を提案する。 PIVOTMIPLは既存のMIPLアルゴリズムよりも効率と効率の両方で優れている。
  論文  参考訳（メタデータ） (2026-10-05T12:37:18Z)
• CodeHID: Learning an Addressable Hierarchical Code Index for Generative Code Retrieval [16.418964135916433]
  本稿では,コード検索タスクをフラットな候補マッチングから粗いセマンティックアドレス生成へと再構成する生成コード検索フレームワークであるCodeHIDを提案する。 CodeHIDは2つのコアコンポーネントに依存している。まず、Pseudo-Neighbor Guided DocID Learningは、多レベル残留量子化と$k$-nearest-neighbor pseudo-supervisionを適用することで、グローバルな静的階層インデックスを構築する。 第2に、Dual-Phase DocID Generation Guidanceは、トレーニング側ランキングの強化、ハードネガティブとランク蒸留、推論側候補制約、プレフィックス対応デコードを組み合わせて、この固定インデックスを確実にナビゲートする。
  論文  参考訳（メタデータ） (2026-08-25T05:35:17Z)
• Bridging the Structural Gap: Adapting Autoregressive Generation for Recommendation [10.616703360070359]
  Generative Recommendation (GR)は、シーケンシャルなレコメンデーションのための新しいパラダイムとして登場した。 本稿では、ICA(Item Context-Aware Attention)を用いて、エンコーディング中にアイテムレベルの構造を復元するBARGEを提案する。 公開ベンチマークと大規模なオフラインテストに関する実験と分析研究は、BARGEが優れたレコメンデーション性能を達成することを示す。
  論文  参考訳（メタデータ） (2026-07-23T08:11:57Z)
• Pre-training Generative Recommender with Multi-Identifier Item Tokenization [78.87007819266957]
  本稿では, MTGRecを用いて, 生成Recommender事前学習のためのトークンシーケンスデータを拡張する手法を提案する。 このアプローチには、マルチアイデンティティーアイテムトークン化とカリキュラムレコメンデータ事前トレーニングという、2つの重要なイノベーションがあります。 3つの公開ベンチマークデータセットに対する大規模な実験は、MTGRecが従来の推奨基準と生成推奨基準の両方を大きく上回っていることを示している。
  論文  参考訳（メタデータ） (2025-04-06T08:03:03Z)
• CoDTS: Enhancing Sparsely Supervised Collaborative Perception with a Dual Teacher-Student Framework [15.538850922083652]
  我々は,CoDTS(Dual Teacher-Student framework)のエンドツーエンド協調認識を提案する。 適応的な補完学習を用いて、高品質な擬似ラベルと高品質な擬似ラベルの両方を生成する。 CoDTSは、品質と量の両方において、擬似ラベルの最適バランスを効果的に保証する。
  論文  参考訳（メタデータ） (2024-12-11T12:34:37Z)
• Learnable Item Tokenization for Generative Recommendation [113.80559032128065]
  LETTER (Larnable Tokenizer for generaTivE Recommendation) を提案する。 LETTERは、セマンティック正規化のためのResidual Quantized VAE、協調正規化のためのコントラストアライメント損失、コードの割り当てバイアスを軽減するための多様性損失を組み込んでいる。
  論文  参考訳（メタデータ） (2024-05-12T15:49:38Z)
• Label Matching Semi-Supervised Object Detection [85.99282969977541]
  半教師対象検出は,教師主導型自己学習の開発において大きな進歩を遂げている。 ラベルミスマッチ問題は、以前の研究でまだ完全に解明されていないため、自己学習中に重大な確証バイアスが生じる。 本稿では,2つの異なる相補的視点から,単純かつ効果的な LabelMatch フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-06-14T05:59:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。