論文の概要: Beyond Semantic IDs: Atomic Creator Tokens for Large-Scale Generative Recommendation
- arxiv url: http://arxiv.org/abs/2611.00323v1
- Date: Fri, 30 Oct 2026 19:43:04 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-03 19:58:17.697389
- Title: Beyond Semantic IDs: Atomic Creator Tokens for Large-Scale Generative Recommendation
- Title(参考訳): セマンティックIDを超えて - 大規模生成レコメンデーションのためのアトミッククリエータトークン
- Abstract要約: 生成的レコメンデーションレシピは、各クリエーターをEmphSemantic ID(SID)にトークン化する
言語モデルではなく,このSID層がバインディング制約であることを示す。
我々は、すべてのクリエーターがエンドツーエンドでトレーニングされた独自の語彙トークンを提供するAtomic Creator Token (ACT)を提案する。
- 参考スコア(独自算出の注目度): 25.163346432964417
- License:
- Abstract: Recommending creators that a user does not yet follow is a cold-start problem: from hundreds of thousands of popular creators and only a short trail of prior engagements, the system must predict the next creator worth surfacing. The prevailing generative recommendation recipe tokenizes each creator into a \emph{Semantic ID} (SID) by quantizing a frozen embedding and trains a language model to generate SIDs. We show that this SID layer, not the language model, is the binding constraint. The creator-to-SID map is many-to-one, so colliding creators must be resolved by a popularity tie-break that caps creator-level recall and favors already-popular creators, and the frozen quantizer stops the training gradient from reaching the creator representation. We propose Atomic Creator Token (ACT), which gives every creator its own vocabulary token trained end-to-end. The map is bijective, so collisions are impossible and inference is a direct top-$k$ over creator logits. In a controlled comparison on production data in which the token layer is the only variable, ACT improves creator-level Recall@15 by 19.8 points ($1.84\times$) over a matched SID baseline, still leads when the SID codebook is enlarged $64\times$, and serves at ${\sim}2.7\times$ lower per-user latency. The advantage carries over to the public KuaiRand dataset, where ACT is the only method that beats a global-popularity baseline, provided each creator token sees enough training examples. In a live A/B test, ACT is directionally positive on every reported metric against both the SID-enhanced and the classic production rankers.
- Abstract(参考訳): 何十万もの人気クリエーターから、事前のエンゲージメントの短い道のりから、システムは次のクリエーターに目を向ける価値があると予測しなければならない。
一般的なジェネレーティブレコメンデーションレシピは、凍結埋め込みを定量化し、言語モデルを訓練してSIDを生成することで、各クリエーターを \emph{Semantic ID} (SID) にトークン化する。
言語モデルではなく,このSID層がバインディング制約であることを示す。
クリエーターからSIDへのマップは多から一対一なので、クリエーターを囲むクリエーターは、クリエーターレベルのリコールを抑え、すでに人気があるクリエーターを喜ばせる人気タイブレークによって解決されなければならない。
我々は、すべてのクリエーターがエンドツーエンドでトレーニングされた独自の語彙トークンを提供するAtomic Creator Token (ACT)を提案する。
地図は単射であり、衝突は不可能であり、推論はクリエーターのロジットよりも直接$k$である。
トークン層が唯一の変数であるプロダクションデータに対する制御された比較において、ACTは、一致したSIDベースラインに対して、クリエーターレベルのRecall@15を19.8ポイント$1.84\times$で改善する。
この利点はパブリックなKuaiRandデータセットに受け継がれ、各クリエータトークンが十分なトレーニング例を見れば、ACTがグローバルな人気ベースラインを破る唯一の方法である。
ライブA/Bテストでは、ACTは報告されたすべての指標に対して、SIDアンハンスと古典的な生産ランクラーの両方に対して方向性陽性である。
関連論文リスト
- Reasoning Reranking with Semantic IDs as the Sole Item Representation [12.940749100627535]
言い換えるリランカーは、候補者のスレートをランク付けする前に根拠を書きます。
SIDプロンプトは一致した項目のテキストよりもはるかに短い。
我々はReRankIDを構築した。ReRankIDは、履歴から推論とランクをモデル化し、SIDとしてのみ表示される。
論文 参考訳(メタデータ) (2026-10-16T01:21:47Z) - Personalized LLM Recommendation with Semantic IDs: Autoregressive Beam Search vs. Multi-Token Prediction [38.58784050114887]
大規模パーソナライゼーションは、埋め込みテーブル検索から、アイテムのセマンティックID(SID)を生成して推奨するLCMベースのレコメンデータへと移行している。
伝統的に、モデルは単一の言語モデリングヘッドに依存しており、通常は制約されたビームサーチを用いてトークンを自動回帰的に生成する。
対照的に、新しい研究機関はマルチトークン予測(MTP)を探求し、専用の頭が全てのトークンを並列に予測し、ビームサーチに伴う復号遅延を大幅に低減する。
論文 参考訳(メタデータ) (2026-10-11T19:33:28Z) - Token-Disentangled Latent Test-Time Scaling for Vision-Language Reasoning [76.50676105904442]
遅延テストタイムスケーリングは、推論中に隠れた状態を精錬することで推論を改善する。
既存のメソッドは通常、編集可能な潜在トークンすべてに単一のスカラー報酬を適用する。
Token-Disentangled Latent Test-Time Scalingは、潜在精錬トークンを認識できる推論時間フレームワークである。
論文 参考訳(メタデータ) (2026-09-28T14:10:01Z) - SPRINT: Single-Step Generative Recommendation via Average Probability Velocity [33.126156154401905]
生成的レコメンデーションは1つのフォワードパスで生成可能であることを示す。
我々のモデルは、最も高速なAR/NAR法よりもはるかに効率的です。
また、より優れたレコメンデーション精度(7.77%$第2ベットよりも平均的な改善)を得る。
論文 参考訳(メタデータ) (2026-09-28T04:47:34Z) - CapsID: Soft-Routed Variable-Length Semantic IDs for Generative Recommendation [6.439016735163573]
生成レコメンデーションは、各項目をセマンティックID(SID)のシーケンスにマッピングし、検索を自己回帰トークン生成として再キャストする。
CAPSIDは硬質残留量子化をカプセルルーティングに置き換える。
Amazon Beauty, Sports, Toys, and a 35M-item industrial catalogでは、CAPSID+SEMANTICBPEはReSIDよりも平均して10.6%改善している。
論文 参考訳(メタデータ) (2026-05-06T16:33:13Z) - UniRec: Bridging the Expressive Gap between Generative and Discriminative Recommendation via Chain-of-Attribute [12.89120699793625]
Generative Recommendation (GR) reframes search and ranking as autoregressive decoding over Semantic IDs (SIDs)
p(y|f,u) によるランクは p(f|y,u) によるランクと同値であり、アイテムの特徴を自己回帰的に分解する。
提案するUniRecとChain-of-Attribute(CoA)は、その中核となるメカニズムである。CoAは、SIDを復号する前に構造化属性トークン:カテゴリ、販売者、ブランドを含む各SIDシーケンスをプレフィックスし、識別モデルが活用するアイテム側の特徴交差を復元する。
論文 参考訳(メタデータ) (2026-04-14T03:13:50Z) - Differentiable Semantic ID for Generative Recommendation [65.83703273297492]
生成的推薦は、各項目がリッチコンテンツから学習された個別意味ID(SID)によって表現される新しいパラダイムを提供する。
実際には、SIDはレコメンデーションの正確さよりもコンテンツ再構成に最適化されるのが一般的である。
自然なアプローチは、セマンティックインデックスを差別化して、レコメンデーショングラデーションが直接SID学習に影響を与えるようにすることだ。
本稿では,ジェネレーティブレコメンデーションのための効果的な識別可能なセマンティックIDに向けた第一歩として,DIGERを提案する。
論文 参考訳(メタデータ) (2026-01-27T15:34:11Z) - DiffGRM: Diffusion-based Generative Recommendation Model [63.35379395455103]
ジェネレーティブレコメンデーション(GR)は、トークン化器を介して各項目をn桁のセマンティックID(SID)として表現する新興パラダイムである。
自己回帰デコーダをマスク付き離散拡散モデル(MDM)に置き換える拡散ベースGRモデルDiffGRMを提案する。
実験では、複数のデータセットに対する強力な生成的および差別的推奨ベースラインよりも一貫した利得を示す。
論文 参考訳(メタデータ) (2025-10-21T03:23:32Z) - CoKe: Customizable Fine-Grained Story Evaluation via Chain-of-Keyword Rationalization [90.15027447565427]
思考の連鎖(CoT)は、モデルの予測を導くのに役立つ自由テキストの説明を生成する。
自己一貫性(SC: Self-Consistency)は、複数の生成された説明に対する予測を疎外する。
我々は、$textbfC$hain-$textbfo$f-$textbfKe$ywords (CoKe)を提案する。
論文 参考訳(メタデータ) (2025-03-21T13:37:46Z) - Large-Scale Pre-training for Person Re-identification with Noisy Labels [125.49696935852634]
雑音ラベル(PNL)を利用した大規模事前学習フレームワークを開発した。
原則として、これらの3つのモジュールの合同学習は、1つのプロトタイプに類似したクラスタの例だけでなく、プロトタイプの割り当てに基づいてノイズラベルを修正します。
このシンプルな事前学習タスクは、ベルやwhiを使わずに"LUPerson-NL"でSOTA Re-ID表現をスクラッチから学習するスケーラブルな方法を提供する。
論文 参考訳(メタデータ) (2022-03-30T17:59:58Z) - CycAs: Self-supervised Cycle Association for Learning Re-identifiable
Descriptions [61.724894233252414]
本稿では,人物再識別(re-ID)問題に対する自己教師型学習手法を提案する。
既存の教師なしのメソッドは通常、ビデオトラッカーやクラスタリングのような擬似ラベルに依存している。
疑似ラベルを使わずに、生のビデオから歩行者の埋め込みを学習できる別の教師なし手法を導入する。
論文 参考訳(メタデータ) (2020-07-15T09:52:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。