論文の概要: FineSID: Scalable and Efficient Semantic Identifier Learning for Generative Recommendation
- arxiv url: http://arxiv.org/abs/2609.36670v1
- Date: Tue, 29 Sep 2026 04:09:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.174989
- Title: FineSID: Scalable and Efficient Semantic Identifier Learning for Generative Recommendation
- Title(参考訳): FineSID:ジェネレーティブレコメンデーションのためのスケーラブルで効率的な意味認識学習
- Abstract要約: ジェネレーティブレコメンデーションの重要な前提は、セマンティック識別子(SID)の設計である。
既存のSID学習法は量子化中のTop-1ハード割り当てに依存している。
我々は、微粒な勾配伝播を可能にすることにより、Top-1代入を超越した統一量子化フレームワークであるFineSIDを提案する。
- 参考スコア(独自算出の注目度): 6.769372443168641
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A critical prerequisite of generative recommendation is designing semantic identifiers (SIDs) that are both scalable to large item sets and efficiently learnable. Existing SID learning methods fundamentally rely on Top-1 hard assignment during vector quantization. While heuristic strategies -- such as clustering-based initialization or forced post-hoc collision resolution -- can artificially inflate codebook coverage, they often disrupt end-to-end semantic alignment and fail to address the underlying optimization bottleneck: sparse gradient propagation. In standard Top-1 assignment, gradients concentrate on a narrow subset of frequently selected codewords, leaving the majority inherently under-trained and causing severe SID collisions. To overcome this limitation natively without relying on complex initialization priors, we propose FineSID, a unified quantization framework that moves beyond Top-1 assignment by enabling fine-grained gradient propagation across the entire codebook. Instead of updating only a single selected codeword, FineSID distributes learning signals to all codewords in a soft, differentiable manner. This design promotes globally balanced codebook optimization while strictly preserving semantic consistency, effectively alleviating SID collisions and stabilizing training in large, high-dimensional codebooks. Extensive experiments on multiple public benchmarks demonstrate that FineSID is robust to initialization configurations and consistently improves both codebook utilization and recommendation accuracy. Our work provides a principled, initialization-agnostic solution for semantic identifier learning, advancing the practicality of generative recommendation.
- Abstract(参考訳): ジェネレーティブレコメンデーションの重要な前提は、大きなアイテムセットにスケーラブルで、効率的に学習可能なセマンティック識別子(SID)を設計することである。
既存のSID学習法は、ベクトル量子化時のTop-1ハード割り当てに基本的に依存している。
クラスタリングベースの初期化やポストホックの衝突解決のようなヒューリスティックな戦略は、コードブックのカバレッジを人工的に増加させる可能性があるが、それらはしばしばエンドツーエンドのセマンティックアライメントを妨害し、基礎となる最適化ボトルネックであるスパース勾配の伝搬に対処できない。
標準のTop-1代入では、勾配は頻繁に選択されるコードワードの狭い部分集合に集中しており、その大多数は本質的に未訓練であり、深刻なSID衝突を引き起こしている。
この制限を、複雑な初期化の先行に頼らずに、ネイティブに克服するために、コードブック全体にわたってきめ細かいグラデーションの伝播を可能にすることで、Top-1代入を超越した統一量子化フレームワークであるFineSIDを提案する。
1つの選択されたコードワードだけを更新する代わりに、FinSIDは学習信号をすべてのコードワードにソフトで微分可能な方法で配布する。
この設計は、セマンティック一貫性を厳格に保ちながら、グローバルなバランスの取れたコードブックの最適化を促進し、SID衝突を効果的に軽減し、大規模で高次元のコードブックでのトレーニングを安定化させる。
複数の公開ベンチマークでの大規模な実験により、FinSIDは初期化設定に対して堅牢であり、コードブックの利用率とレコメンデーション精度を一貫して改善していることが示された。
我々の研究は、意味的識別子学習のための原則的初期化非依存のソリューションを提供し、生成的推薦の実践性を推し進めている。
関連論文リスト
- DREAM: Dynamic Refinement of Early Assignment Mappings [7.781421530363403]
現在のメソッドは、ユーザーからの十分なフィードバックが観測される前に、オフライントークン化を通じて各アイテムに1つの静的識別子を割り当てる。
我々は、このワンショットコミットメントを、SIDベースの生成レコメンデーションにおける基本的なコールドスタートボトルネックとみなす。
本稿では,この欠陥を解決する3段階のフレームワークであるDREAMを提案する。
論文 参考訳(メタデータ) (2026-06-05T06:21:01Z) - CARD: Non-Uniform Quantization of Visual Semantic Unit for Generative Recommendation [16.01204624133875]
我々はCARDと呼ばれる新しい生成レコメンデーションフレームワークを提案する。
CARDは、テキスト、視覚、協調的な信号をエンコーディングの前に構造化された視覚表現に統一する視覚意味ユニットを導入している。
我々は、学習可能で可逆な非一様変換を量子化プロセスに組み込んだ非一様量子化フレームワークを開発し、歪んだ意味分布をよりバランスの取れた潜在空間にマッピングする。
論文 参考訳(メタデータ) (2026-04-29T08:38:14Z) - Beyond Static Collision Handling: Adaptive Semantic ID Learning for Multimodal Recommendation at Industrial Scale [20.066503602593958]
AdaSIDは2段階のプロセスを通じてSIDオーバーラップを制御する。
関連する項目が意味的に互換性がある場合、観察された重複に対する反発を緩和する。
局所的な衝突負荷と訓練の進捗に応じて、残りの規制圧力を割り当てる。
論文 参考訳(メタデータ) (2026-04-26T03:59:35Z) - Reasoning over Semantic IDs Enhances Generative Recommendation [56.83043583765322]
本稿では,SID 言語アライメントを強化することによって,SID に対する推論を実現する2段階のフレームワークを提案する。
SIDReasonerはさらに、結果駆動強化最適化によるレコメンデーション推論を改善している。
実世界の3つのデータセットに対する実験により,SIDに基づく生成推薦の有効性が示された。
論文 参考訳(メタデータ) (2026-03-24T13:31:48Z) - Rethinking Generative Recommender Tokenizer: Recsys-Native Encoding and Semantic Quantization Beyond LLMs [17.944727019161878]
ReSIDは、情報保存とシーケンシャルな予測可能性の観点から学ぶことを推奨する、原則化されたSIDフレームワークである。
高いシーケンシャルおよびSIDベースの生成ベースラインを平均10%以上上回り、トークン化コストを最大122倍削減する。
論文 参考訳(メタデータ) (2026-02-02T17:00:04Z) - Differentiable Semantic ID for Generative Recommendation [65.83703273297492]
生成的推薦は、各項目がリッチコンテンツから学習された個別意味ID(SID)によって表現される新しいパラダイムを提供する。
実際には、SIDはレコメンデーションの正確さよりもコンテンツ再構成に最適化されるのが一般的である。
自然なアプローチは、セマンティックインデックスを差別化して、レコメンデーショングラデーションが直接SID学習に影響を与えるようにすることだ。
本稿では,ジェネレーティブレコメンデーションのための効果的な識別可能なセマンティックIDに向けた第一歩として,DIGERを提案する。
論文 参考訳(メタデータ) (2026-01-27T15:34:11Z) - Principled RL for Diffusion LLMs Emerges from a Sequence-Level Perspective [85.06838178922791]
強化学習(RL)は自己回帰言語モデルに非常に効果的であることが証明されている。
しかし、これらの手法を拡散大言語モデル(dLLM)に適応させることは、根本的な課題を提起する。
本稿では,全シーケンス生成を単一アクションとして扱い,ELBOを抽出可能なシークエンスレベル確率プロキシとして利用する,原則的RLフレームワークを提案する。
論文 参考訳(メタデータ) (2025-12-03T13:05:32Z) - Exploiting Discriminative Codebook Prior for Autoregressive Image Generation [54.14166700058777]
トークンベースの自己回帰画像生成システムは、まずトークンインデックスのシーケンスをコードブックでトークン化し、次にこれらのシーケンスを自己回帰パラダイムでモデル化する。
自己回帰生成モデルはインデックス値のみに基づいて訓練されるが、豊富なトークン類似性情報を含むコードブックにエンコードされた前者は利用されない。
近年の研究では、トークン上に単純なk平均クラスタリングを行い、コードブックを減らした生成モデルのトレーニングを容易にすることで、これを先に組み込もうとしている。
k-meansの代替として、差別的コードブック先駆者(DCPE)を提案する。
論文 参考訳(メタデータ) (2025-08-14T15:00:00Z) - Learnable Item Tokenization for Generative Recommendation [113.80559032128065]
LETTER (Larnable Tokenizer for generaTivE Recommendation) を提案する。
LETTERは、セマンティック正規化のためのResidual Quantized VAE、協調正規化のためのコントラストアライメント損失、コードの割り当てバイアスを軽減するための多様性損失を組み込んでいる。
論文 参考訳(メタデータ) (2024-05-12T15:49:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。