論文の概要: Item Representations Matter: Bridging Hard Semantic IDs and Soft Prototype Mixtures for Generative Retrieval
- arxiv url: http://arxiv.org/abs/2611.05799v1
- Date: Wed, 04 Nov 2026 01:14:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:57.914546
- Title: Item Representations Matter: Bridging Hard Semantic IDs and Soft Prototype Mixtures for Generative Retrieval
- Title(参考訳): 項目表現の課題: 生成検索のためのハード・セマンティックIDとソフト・プロトタイプ・ミックスのブリッジ
- Abstract要約: 本稿では,各項目を共有プロトタイプとアイテム固有ベクトルのソフトな混合として表現するフローレコメンデータであるCAP-Mixを提案する。
3つのデータセットの一致した比較では、CAP-Mixは2つのスパースなAmazonデータセットのフラットテーブルよりも改善されている。
6つのベンチマークの平均で、CAP-MixはHR@5とNDCG@5を最も評価されたベースラインに対して6.9%、13.6%改善している。
- 参考スコア(独自算出の注目度): 50.05913993081847
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern recommender systems rely on generative retrieval techniques to predict the next item either as discrete codes or as a continuous vector. On the one hand, Semantic IDs (SIDs) give discrete models shared parameters and pretrained semantic structure, but discretizing items into hard codes discards some information from the original content embeddings. On the other hand, continuous models avoid quantization, yet typically use flat item lookup tables with no explicit parameter tying across items. We ask whether a continuous recommender can introduce shared structure without making it a discrete bottleneck. We propose CAP-Mix, a flow recommender that represents each item as a soft mixture of shared prototypes plus an item-specific vector. The assignments, prototypes, and item vectors are trained jointly, and the soft representation is retained at inference. Pretrained information is optional: SID responsibilities can serve as a prior over assignments, while a full content embedding can initialize the item-specific vector without changing the initial flat table. In matched comparisons on three datasets, CAP-Mix improves over a flat table on the two sparse Amazon datasets and yields a small gain on Steam when trained without pretrained information. Given only an offline SID, it outperforms a hard table built from the same tokenizer by 4.45-14.90% in HR@5. Given the full content embedding, it matches or improves a strong flat table while hard assignments regress on the sparse Amazon datasets. Overall, averaged across six benchmarks, CAP-Mix improves HR@5 and NDCG@5 by 6.9% and 13.6% relative to the best evaluated baseline for each dataset and metric, while delivering 1.4-161x the inference throughput of the discrete baselines in our experiments.
- Abstract(参考訳): 現代のレコメンデータシステムは、離散コードまたは連続ベクトルとして次の項目を予測するために生成的検索技術に依存している。
一方、セマンティックID(SID)は、パラメータを共有した個別のモデルと事前訓練されたセマンティック構造を与えるが、アイテムをハードコードに識別することは、元のコンテンツ埋め込みからいくつかの情報を捨てる。
一方、連続モデルは量子化を避けますが、通常、アイテム間の明示的なパラメータの結びつきのないフラットなアイテムルックアップテーブルを使用します。
個別のボトルネックにすることなく、共有構造を導入できるかどうかを問う。
本稿では,各項目を共有プロトタイプとアイテム固有ベクトルのソフトな混合として表現するフローレコメンデータであるCAP-Mixを提案する。
代入、プロトタイプ、アイテムベクトルは共同で訓練され、ソフト表現は推論時に保持される。
SIDの責務はオーバオーバオーダとして機能し、完全なコンテンツ埋め込みは初期フラットテーブルを変更することなくアイテム固有のベクタを初期化することができる。
3つのデータセットのマッチした比較では、CAP-Mixは2つのスパースなAmazonデータセットのフラットテーブル上で改善され、事前トレーニングされた情報なしでトレーニングされた場合、Steamでわずかに向上する。
オフラインのSIDだけを考えると、HR@5の4.45-14.90%のハードテーブルよりも優れている。
完全なコンテンツを埋め込むと、Amazonのスパースデータセットにハードアサインが回帰する一方で、強力なフラットテーブルにマッチするか改善される。
総合すると、6つのベンチマークの平均で、CAP-MixはHR@5とNDCG@5を6.9%、13.6%改善し、データセットとメトリクスの最良の評価ベースラインと比較した。
関連論文リスト
- PRISM: Priority-aware Rubric Internalization via Structured Multimodal Data Synthesis [7.143155129750046]
PRISMは4段階のデータ合成フレームワークで、ペルソナ-タスクペア、プレフィックス誘導ルールセット、品質フィルタリングルーリック、構造化検証トレースを生成する。
PRISM-Evalは固定ラベルに対する決定論的マッチングを使用するため、推論時判断モデルを必要としない。
10Kの合成サンプルだけで、PRISMはQwen3-VL-4Bを9.5%から30.1%の精度でPRISM-Evalで持ち上げ、一般的なベンチマークでは平均性能を保っている。
論文 参考訳(メタデータ) (2026-08-05T15:55:15Z) - CapsID: Soft-Routed Variable-Length Semantic IDs for Generative Recommendation [6.439016735163573]
生成レコメンデーションは、各項目をセマンティックID(SID)のシーケンスにマッピングし、検索を自己回帰トークン生成として再キャストする。
CAPSIDは硬質残留量子化をカプセルルーティングに置き換える。
Amazon Beauty, Sports, Toys, and a 35M-item industrial catalogでは、CAPSID+SEMANTICBPEはReSIDよりも平均して10.6%改善している。
論文 参考訳(メタデータ) (2026-05-06T16:33:13Z) - Pre-training Generative Recommender with Multi-Identifier Item Tokenization [78.87007819266957]
本稿では, MTGRecを用いて, 生成Recommender事前学習のためのトークンシーケンスデータを拡張する手法を提案する。
このアプローチには、マルチアイデンティティーアイテムトークン化とカリキュラムレコメンデータ事前トレーニングという、2つの重要なイノベーションがあります。
3つの公開ベンチマークデータセットに対する大規模な実験は、MTGRecが従来の推奨基準と生成推奨基準の両方を大きく上回っていることを示している。
論文 参考訳(メタデータ) (2025-04-06T08:03:03Z) - Multi-task Item-attribute Graph Pre-training for Strict Cold-start Item
Recommendation [71.5871100348448]
ColdGPTは、アイテム内容からきめ細かい属性を抽出することにより、アイテム属性相関をアイテム属性グラフにモデル化する。
ColdGPTは、さまざまな利用可能なデータソース、すなわちアイテムの内容、過去の購入シーケンス、既存のアイテムのレビューテキストから、知識をアイテム属性グラフに転送する。
大規模な実験により、ColdGPTは既存のSCSレコメンデーターを大きなマージンで一貫して上回っていることが明らかとなった。
論文 参考訳(メタデータ) (2023-06-26T07:04:47Z) - Diversity-Aware Meta Visual Prompting [111.75306320834629]
DAM-VP(Diversity-Aware Meta Visual Prompting)は、学習済みのモデルを凍結したバックボーンで下流のタスクに転送する効率的なプロンプト手法である。
下流のデータセットを、多様性に富んだ方法で小さなサブセットにクラスタ化し、それぞれのサブセットがそれぞれ独自のプロンプトを持っている。
すべてのプロンプトはメタプロンプトで最適化され、複数のデータセットで学習される。
論文 参考訳(メタデータ) (2023-03-14T17:59:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。