論文の概要: LESSRec: Level-Specific History Modeling for Semantic ID-Based Recommendation
- arxiv url: http://arxiv.org/abs/2610.37286v1
- Date: Tue, 27 Oct 2026 14:11:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.653288
- Title: LESSRec: Level-Specific History Modeling for Semantic ID-Based Recommendation
- Title(参考訳): LESSRec: セマンティックIDに基づくレコメンデーションのためのレベル特異的履歴モデリング
- Abstract要約: LESSRecは各意味レベルでの履歴トークンシーケンスを符号化し、予測中にターゲットトークンの意味レベルでのシーケンスに履歴トークンの注意を限定する。
デコーダは、2つの異なるクロスアテンションブランチを通して、レベル整列トークンシーケンスとアイテムレベルのセマンティックシーケンスにアクセスし、それらのコンテキストを融合する。
- 参考スコア(独自算出の注目度): 10.360028791046098
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Semantic ID-based recommendation represents each item as a sequence of semantic tokens obtained through residual quantization. This paradigm generates the next item's tokens autoregressively from coarse to fine, entailing each prediction attending to historical tokens at all semantic levels. However, our inference-time analysis reveals that historical tokens at the target-token's semantic level tend to be more informative, whereas other levels can introduce interference. Motivated by these findings, we propose LESSRec that separately encodes the historical token sequence at each semantic level and restricts attention over historical tokens to the sequence at the target token's semantic level during prediction. To complement these level-specific histories, LESSRec explicitly provides an item-level semantic sequence that represents each historical item's overall semantics in chronological order. The decoder accesses the level-aligned token sequence and the item-level semantic sequence through two separate cross-attention branches and fuses their contexts. We further introduce LESSRec+, which uses separate encoders for different semantic-level histories with the same total parameter count to reduce encoder computation. Extensive experiments across three public datasets and three tokenizers demonstrate the recommendation effectiveness of LESSRec and LESSRec+, with efficiency analyses highlighting the computational benefits of LESSRec+.
- Abstract(参考訳): セマンティックIDベースのレコメンデーションは、各項目を残留量子化によって得られたセマンティックトークンのシーケンスとして表現する。
このパラダイムは、次の項目のトークンを粗いものから細かいものへと自己回帰的に生成し、すべての意味レベルにおける過去のトークンへの各予測を伴います。
しかし, 推定時間解析により, 対象者の意味レベルにおける歴史的トークンはより情報的になりがちであるが, 他のレベルのトークンは干渉を起こす可能性があることが明らかとなった。
これらの知見に触発されて,各意味レベルで歴史的トークンシーケンスを個別に符号化し,予測中のターゲットトークンの意味レベルでの履歴トークンへの注意を制限したLESSRecを提案する。
これらのレベル固有の歴史を補完するために、LESSRecはアイテムレベルのセマンティックシーケンスを明示的に提供し、それぞれの履歴項目の全体セマンティックスを時系列順に表現している。
デコーダは、2つの異なるクロスアテンションブランチを通して、レベル整列トークンシーケンスとアイテムレベルのセマンティックシーケンスにアクセスし、それらのコンテキストを融合する。
さらに、LESSRec+を導入し、エンコーダ計算を減らすために、同じパラメータ数を持つ異なるセマンティックレベルの履歴に対して、別のエンコーダを使用する。
3つの公開データセットと3つのトークンライザにわたる大規模な実験は、LESSRecとLESSRec+の推奨効果を示し、効率分析はLESSRec+の計算上の利点を強調している。
関連論文リスト
- PRQ-KMeans: Projection Residual Quantization for Semantic ID Tokenization [19.51791274446621]
残留量子化トークンは、各レベルでコードワードを選択し、次に残余を渡すことによって生成シーケンスを構築する。
コーパスワイドの共有コンポーネントは、ファーストレベル容量を消費し、ハードアサインは、近くのコードワードとグレードされた類似性を無視し、フルコードワードのサブトラクションは、選択されたコードワード方向に沿って、次の残余でばらつきを残すことができる。
提案するPRQ-KMeansは,グローバル平均成分を除去し,Top-k類似度重み付き更新によりセントロイドを洗練し,全符号サブトラクションをプロジェクション残差に置き換える。
論文 参考訳(メタデータ) (2026-08-25T08:18:57Z) - SCOPE: Saliency-Coverage Oriented Token Pruning for Efficient Multimodel LLMs [59.415473779171315]
textbfSaliency-textbfCoverage textbfOriented token textbfPruning for textbfEfficient MLLMs。
論文 参考訳(メタデータ) (2025-10-28T09:29:37Z) - Order-agnostic Identifier for Large Language Model-based Generative Recommendation [94.37662915542603]
アイテムは、ユーザ履歴をエンコードし、次のアイテムを生成するために、LLM(Large Language Models)の識別子に割り当てられる。
既存のアプローチでは、トークンシーケンス識別子を使用して、アイテムを個別のトークンシーケンスとして表現するか、IDまたはセマンティック埋め込みを使用して単一トークン識別子を使用する。
本稿では,セマンティック・トークンライザを利用するSETRecを提案する。
論文 参考訳(メタデータ) (2025-02-15T15:25:38Z) - Learning Multi-Aspect Item Palette: A Semantic Tokenization Framework for Generative Recommendation [55.99632509895994]
マルチアスペクトセマンティックトークン化のための新しいアプローチであるLAMIAを紹介する。
単一の埋め込みを使用するRQ-VAEとは異なり、LAMIAは独立的でセマンティックな並列な埋め込みの集合である「アイテムパレット」を学習する。
その結果,提案手法よりも提案手法の精度が大幅に向上した。
論文 参考訳(メタデータ) (2024-09-11T13:49:48Z) - Language Models As Semantic Indexers [78.83425357657026]
本稿では,ジェネレーティブ言語モデルを用いてセマンティックIDを学習するための自己教師型フレームワークLMIndexerを紹介する。
学習したIDの質を検証し,推奨,製品検索,文書検索の3つの課題において有効性を示す。
論文 参考訳(メタデータ) (2023-10-11T18:56:15Z) - Text Summarization with Oracle Expectation [88.39032981994535]
抽出要約は、文書の中で最も重要な文を識別し、連結することによって要約を生成する。
ほとんどの要約データセットは、文書文が要約に値するかどうかを示す金のラベルを持っていない。
本稿では,ソフトな予測に基づく文ラベルを生成する,シンプルで効果的なラベル付けアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-09-26T14:10:08Z) - Modeling sequential annotations for sequence labeling with crowds [8.239028141030621]
クラウドシーケンシャルアノテーションは、シーケンスラベリングのための大規模なデータセットを構築する上で、効率的でコスト効率のよい方法である。
群集を用いたシーケンスラベリングのための逐次アノテーションのモデル化(SA-SLC)を提案する。
提案手法は,クラウド・シーケンシャル・アノテーションから有効な基底トラス・ラベル・シーケンスを導出するために有効なラベル・シーケンス・推論(VLSE)手法を提案する。
論文 参考訳(メタデータ) (2022-09-20T02:51:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。