論文の概要: CapsID: Soft-Routed Variable-Length Semantic IDs for Generative Recommendation
- arxiv url: http://arxiv.org/abs/2605.05096v1
- Date: Wed, 06 May 2026 16:33:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-07 18:41:07.934279
- Title: CapsID: Soft-Routed Variable-Length Semantic IDs for Generative Recommendation
- Title(参考訳): CapsID: 生成レコメンデーションのためのソフトルート可変長セマンティックID
- Abstract要約: 生成レコメンデーションは、各項目をセマンティックID(SID)のシーケンスにマッピングし、検索を自己回帰トークン生成として再キャストする。
CAPSIDは硬質残留量子化をカプセルルーティングに置き換える。
Amazon Beauty, Sports, Toys, and a 35M-item industrial catalogでは、CAPSID+SEMANTICBPEはReSIDよりも平均して10.6%改善している。
- 参考スコア(独自算出の注目度): 6.439016735163573
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generative recommendation maps each item to a sequence of Semantic IDs (SIDs) and recasts retrieval as autoregressive token generation. In this paradigm the main bottleneck is the tokenizer rather than the Transformer: residual vector quantization with a hard nearest-neighbor assignment at every layer collapses multi-faceted item semantics at cluster boundaries and propagates early errors to later SID positions. A common workaround is to append a dense vector or attribute prefix to the SID, but this dual-representation design inflates inference cost and gives up the simplicity of a generative interface. We address the bottleneck at the tokenizer itself. CAPSID replaces hard residual quantization with capsule routing: at each layer an item probabilistically routes to several semantic capsules, the residual is updated by the routed reconstruction rather than by a single winning code, and the SID terminates once the active capsule's confidence is high enough. On top of CAPSID, SEMANTICBPE composes adjacent SID tokens into reusable subwords by combining their co-occurrence with their embedding compatibility. On Amazon Beauty, Sports, Toys, and a 35M-item proprietary industrial catalog, CAPSID+SEMANTICBPE improves Recall at 10 by 9.6% on average over ReSID, the strongest single-representation baseline, and matches or exceeds a COBRA-style sparse-dense system on every public benchmark while running at 51% of its inference latency. Ablations show that soft routing, iterative agreement, and confidence-driven length each contribute independently, and the gains are largest on tail items where boundary semantics dominate.
- Abstract(参考訳): 生成レコメンデーションは、各項目をセマンティックID(SID)のシーケンスにマッピングし、検索を自己回帰トークン生成として再キャストする。
このパラダイムにおいて、主なボトルネックはTransformerではなくトークン化器である: 各層に最も近い最寄りの割り当てを持つ残留ベクトル量子化は、クラスタ境界における多面的アイテムセマンティクスを崩壊させ、初期エラーを後続のSID位置へ伝播させる。
一般的な回避策は、密度の高いベクトルや属性プレフィックスをSIDに追加することであるが、この二重表現設計は推論コストを膨らませ、生成インターフェースの単純さを損なう。
トークン化ツール自体のボトルネックに対処します。
CAPSIDは、ハード残留量化をカプセルルーティングに置き換える:各層では、アイテムが確率的にいくつかのセマンティックカプセルにルーティングされ、残余は単一の入賞符号ではなくルート付き再構成によって更新され、アクティブカプセルの信頼性が十分に高いとSIDは終了する。
CAPSIDの上に、SEMANTICBPEは隣接するSIDトークンを再利用可能なサブワードに合成する。
Amazon Beauty、Sports、Toys、および35Mのプロプライエタリな産業カタログにおいて、CAPSID+SEMANTICBPEは、単一の表現ベースラインであるReSIDよりも平均して10倍9.6%改善し、推論レイテンシの51%で実行しながら、すべての公開ベンチマークでCOBRAスタイルのスパースセンスシステムと一致または超過する。
アブレーションは、ソフトルーティング、反復的合意、信頼駆動長さはそれぞれ独立して寄与し、境界セマンティクスが支配する尾の項目ではゲインが最も大きいことを示している。
関連論文リスト
- Preference Shapes Relevance: Cross-component Hierarchical Semantic Alignment for Personalized Generative Retrieval [37.821022474615994]
Generative Retrieval (GR) は、クエリを直接セマンティックID(SID)にマッピングし、候補項目の強力な表現能力を持つ、有望なパラダイムとして登場した。
アイテムコンテンツから派生した既存のSIDはセマンティックギャップを生成し、動的クエリインテントと静的なアイテム表現の整合に失敗する。
本稿では,個別のSIDを合成してユーザ動作をモデル化し,詳細なセマンティック・リファインメントのための構造ガイダンスと連続表現を行う,新しいパーソナライズされたGRフレームワークを提案する。
論文 参考訳(メタデータ) (2026-08-31T10:30:22Z) - Rethinking Item Tokenization in Generative Recommenders: From Fixed Atoms to Semantic Subwords [50.621722853036005]
生成レコメンデーションシステムでは、アイテムは通常、自己回帰的次イテム予測のために固定長のセマンティックIDシーケンスにトークン化される。
ユーザコンテキストのモデリングでは、このきめ細かい表現が注意の過負荷を引き起こす。
本稿では,歴史的項目を可変長のセマンティック・サブワードとして表現するセマンティック・サブワード・トークン化(SST)を提案する。
論文 参考訳(メタデータ) (2026-08-24T02:42:51Z) - Hierarchical Residual Policy Optimization for Generative Recommendations [46.030303420508254]
本稿では,アイテムレベルの結果を高密度なトークン整合学習信号に変換するポストトレーニングフレームワークを提案する。
大規模な商用システムにおける公開データセットとオンラインA/Bテストの実験は、セッションレベルのユーティリティと重要なビジネスメトリクスが一貫して向上していることを示している。
論文 参考訳(メタデータ) (2026-08-01T16:33:15Z) - Gryphon: A Unified Architecture for Semantic-ID Generation and Item-Level Scoring in Industrial Recommendations [0.0]
我々は、SID生成とともに、共同で訓練されたアイテムレベルスコアリングコンポーネントを導入する。
累積トークン確率でSIDをランク付けする代わりに、Gryphonは生成された各SIDを具体的なアイテムに分解する。
産業音楽サービスでは、次点の予測目標に基づいてアイテムレベルのスコアがトレーニングされた上で、GryphonはアイテムレベルのRecall@1000を最高レベルに到達した。
論文 参考訳(メタデータ) (2026-06-07T12:31:26Z) - DREAM: Dynamic Refinement of Early Assignment Mappings [7.781421530363403]
現在のメソッドは、ユーザーからの十分なフィードバックが観測される前に、オフライントークン化を通じて各アイテムに1つの静的識別子を割り当てる。
我々は、このワンショットコミットメントを、SIDベースの生成レコメンデーションにおける基本的なコールドスタートボトルネックとみなす。
本稿では,この欠陥を解決する3段階のフレームワークであるDREAMを提案する。
論文 参考訳(メタデータ) (2026-06-05T06:21:01Z) - Conditional Memory Enhanced Item Representation for Generative Recommendation [46.59623438612085]
ジェネレーティブレコメンデーション(GR)は,セマンティック識別子(SID)の自動生成によって対象項目を予測する,有望なパラダイムとして登場した。
ほとんどのGRメソッドは量子化表現生成パイプラインに従い、まず各項目にSIDを割り当て、次にSID-token埋め込みから入力表現を構築し、最後に自動回帰生成によってターゲットのSIDを予測する。
コンディショナルメモリ拡張アイテム表現フレームワークであるCometIRを提案する。このフレームワークは、アイテム認識入力へのSIDトークンの埋め込みを再構築し、SID復号時にトークンの粒度を復元する。
論文 参考訳(メタデータ) (2026-05-12T02:56:59Z) - UniRec: Bridging the Expressive Gap between Generative and Discriminative Recommendation via Chain-of-Attribute [12.89120699793625]
Generative Recommendation (GR) reframes search and ranking as autoregressive decoding over Semantic IDs (SIDs)
p(y|f,u) によるランクは p(f|y,u) によるランクと同値であり、アイテムの特徴を自己回帰的に分解する。
提案するUniRecとChain-of-Attribute(CoA)は、その中核となるメカニズムである。CoAは、SIDを復号する前に構造化属性トークン:カテゴリ、販売者、ブランドを含む各SIDシーケンスをプレフィックスし、識別モデルが活用するアイテム側の特徴交差を復元する。
論文 参考訳(メタデータ) (2026-04-14T03:13:50Z) - One Model, Many Budgets: Elastic Latent Interfaces for Diffusion Transformers [80.19461768457622]
Elastic Latent Interface Transformer (ELIT) は、入力画像サイズを計算から切り離すための、ドロップインでDiT互換のメカニズムである。
読み取りと書き込み クロスアテンション・レイヤは空間トークンとラテントの間で情報を移動し、重要な入力領域を優先する。
ImageNet-1K 512pxでは、ELITの平均利得は35.3%、FIDおよびFDDスコアは39.6%である。
論文 参考訳(メタデータ) (2026-03-12T17:57:04Z) - End-to-End Semantic ID Generation for Generative Advertisement Recommendation [33.453121305193434]
生成広告推薦のための統一SID生成フレームワークを提案する。
具体的には、生の広告データからエンドツーエンドで埋め込みとSIDを協調的に最適化する。
実験により、UniSIDは最先端のSID生成方法よりも一貫して優れていることが示された。
論文 参考訳(メタデータ) (2026-02-11T02:38:26Z) - GLASS: A Generative Recommender for Long-sequence Modeling via SID-Tier and Semantic Search [51.44490997013772]
GLASSは、SID-TierとSemantic Searchを通じて、長期的なユーザ関心を生成プロセスに統合する新しいフレームワークである。
GLASSは2つの大規模実世界のデータセットの実験において最先端のベースラインを上回っていることを示す。
論文 参考訳(メタデータ) (2026-02-05T13:48:33Z) - Differentiable Semantic ID for Generative Recommendation [65.83703273297492]
生成的推薦は、各項目がリッチコンテンツから学習された個別意味ID(SID)によって表現される新しいパラダイムを提供する。
実際には、SIDはレコメンデーションの正確さよりもコンテンツ再構成に最適化されるのが一般的である。
自然なアプローチは、セマンティックインデックスを差別化して、レコメンデーショングラデーションが直接SID学習に影響を与えるようにすることだ。
本稿では,ジェネレーティブレコメンデーションのための効果的な識別可能なセマンティックIDに向けた第一歩として,DIGERを提案する。
論文 参考訳(メタデータ) (2026-01-27T15:34:11Z) - DiffGRM: Diffusion-based Generative Recommendation Model [63.35379395455103]
ジェネレーティブレコメンデーション(GR)は、トークン化器を介して各項目をn桁のセマンティックID(SID)として表現する新興パラダイムである。
自己回帰デコーダをマスク付き離散拡散モデル(MDM)に置き換える拡散ベースGRモデルDiffGRMを提案する。
実験では、複数のデータセットに対する強力な生成的および差別的推奨ベースラインよりも一貫した利得を示す。
論文 参考訳(メタデータ) (2025-10-21T03:23:32Z) - HAT: Hierarchical Aggregation Transformers for Person Re-identification [87.02828084991062]
我々は,CNNとトランスフォーマーの両方の利点を,高性能な画像ベース人物Re-IDに適用する。
作業は、画像ベースのRe-IDのためのCNNとTransformerの両方の利点を初めて活用する。
論文 参考訳(メタデータ) (2021-07-13T09:34:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。