論文の概要: The Vocabulary Is Already Here: Adapting Pretrained Interpretable Features for Generative Recommendation
- arxiv url: http://arxiv.org/abs/2610.36763v1
- Date: Tue, 27 Oct 2026 07:19:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.535586
- Title: The Vocabulary Is Already Here: Adapting Pretrained Interpretable Features for Generative Recommendation
- Title(参考訳): ボキャブラリは、すでにある: 事前訓練された解釈可能な特徴をジェネレーションレコメンデーションに適応させる
- Abstract要約: ジェネレーティブレコメンデーション(GR)はそのセマンティックID(SID)を介して次の項目を予測する
既存のメソッドは、アイテム記述の事前訓練された言語モデル(PLM)表現に一般的にSID語彙を適合させる。
本稿では,事前解釈可能な語彙を付加的な語彙学習なしで有効かつ説明可能なGRに適応させるフレームワークであるAPIを提案する。
- 参考スコア(独自算出の注目度): 38.44369287091474
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Generative recommendation (GR) predicts the next item through its semantic ID (SID). Existing methods commonly fit SID vocabularies to pretrained language model (PLM) representations of item descriptions, incurring additional training costs and making vocabulary coverage dependent on the fitting domains. We observe that pretrained sparse autoencoders expose PLM features with human-interpretable semantic annotations, allowing feature indices to serve as a reusable SID vocabulary. However, reusing this vocabulary requires preserving item distinctions under compact token budgets and learning to favor target items over candidates with shared dominant features. It also requires extending feature interpretability from item content to retrieval decisions. To address these challenges, we propose API, a framework that Adapts the Pretrained Interpretable vocabulary for effective and explainable GR without additional vocabulary learning. Within API, Pretrained Interpretable IDs (PIDs) retain selected feature indices and relative activation strengths for item discrimination. With PIDs as supervision, the Semantic Prediction Adapter (SPA) learns user preferences from interaction histories through joint feature-index and strength prediction. SPA combines both predictions to score candidate items, with item-level supervision encouraging the observed next item to outrank its alternatives. API further explains candidate score differences through feature contributions paired with their pretrained semantic annotations. Extensive experiments show that API achieves competitive performance across backbones and decoding schemes, while preserving item distinctions under compact token budgets and enabling explainable retrieval.
- Abstract(参考訳): ジェネレーティブレコメンデーション(GR)は、セマンティックID(SID)を通じて次の項目を予測する。
既存のメソッドは、アイテム記述の事前訓練された言語モデル(PLM)表現にSID語彙を適合させ、追加のトレーニングコストを発生させ、適合ドメインに依存した語彙カバレッジを実現する。
事前訓練されたスパースオートエンコーダが人間の解釈可能な意味アノテーションでPLM機能を公開し、機能指標が再利用可能なSID語彙として機能することを観察する。
しかし、この語彙を再利用するには、コンパクトなトークン予算の下でアイテムの区別を保存し、共通の支配的特徴を持つ候補者よりもターゲットアイテムを優先することが必要である。
また、アイテムコンテンツから検索決定まで機能解釈可能性を拡張する必要がある。
これらの課題に対処するために、我々は、事前訓練された解釈可能な語彙を、追加の語彙学習なしで効果的かつ説明可能なGRに適応させるフレームワークであるAPIを提案する。
API内では、PID(Pretrained Interpretable ID)は、アイテム識別のための選択された特徴指標と相対的なアクティベーション強度を保持する。
PIDを監督として、SPA(Semantic Prediction Adapter)は、共同特徴インデックスと強度予測を通じて、インタラクション履歴からユーザの好みを学習する。
SPAは、両方の予測を組み合わせて候補項目を採点し、観察された次の項目を監督し、その代替品を上回るよう奨励する。
APIはさらに、事前訓練されたセマンティックアノテーションと組み合わせた機能コントリビューションを通じて、候補スコアの違いについても説明している。
大規模な実験により、APIはバックボーンとデコードスキーム間の競合性能を達成し、コンパクトなトークン予算の下でアイテムの区別を保存し、説明可能な検索を可能にした。
関連論文リスト
- Progressive Learning from Content to Relevance to Personalization for CTR Prediction [7.3106459401707475]
FineSIDは、コンテンツトークン化、クエリ-itemセマンティック事前トレーニング、パーソナライズされたポストトレーニングを統合する学習フレームワークである。
FineSIDは製品内における創造的差別を改善し、その意味的な一般化を従来のID記憶を超えて証明する。
論文 参考訳(メタデータ) (2026-10-21T03:19:02Z) - Interpretable Discriminative Text Representations via Agreement and Label Disentanglement [4.2788570168072395]
本稿では,解釈可能な識別テキスト表現のための操作基準を提案する。
各座標は、一致の確率で測定された概念的明快さを満たすべきである。
LLM支援機能発見におけるこの基準のインスタンス化を行う。
論文 参考訳(メタデータ) (2026-05-20T04:41:44Z) - GUIDED: Granular Understanding via Identification, Detection, and Discrimination for Fine-Grained Open-Vocabulary Object Detection [54.19989440021701]
細粒度オープン語彙オブジェクト検出(FG-OVD)は属性リッチテキストで記述された新しいオブジェクトカテゴリを検出することを目的としている。
FG-OVDは、非絡み合いモデリングとモジュラー最適化の利点を実証し、新しい最先端の結果を達成する。
論文 参考訳(メタデータ) (2026-03-27T22:08:11Z) - LUCID-SAE: Learning Unified Vision-Language Sparse Codes for Interpretable Concept Discovery [14.222802170483739]
LUCIDは、画像パッチとテキストトークン表現のための共有潜在辞書を学習する視覚言語スパースオートエンコーダである。
LUCIDは、パッチレベルのグラウンド化をサポートし、クロスモーダルなニューロン対応を確立し、概念クラスタリング問題に対する堅牢性を高める、解釈可能な共有特徴をもたらす。
我々の分析では、LUCIDの共有機能は、アクション、属性、抽象概念を含む、オブジェクト以外の多様なセマンティックなカテゴリをキャプチャする。
論文 参考訳(メタデータ) (2026-02-07T02:01:25Z) - Unleashing the Native Recommendation Potential: LLM-Based Generative Recommendation via Structured Term Identifiers [51.64398574262054]
本稿では,意味的にリッチで標準化されたテキストキーワードの集合として定義された用語ID(TID)を導入し,堅牢な項目識別子として機能する。
本稿では,TIDを中心にした新しいフレームワークGRLMを提案し,項目のメタデータを標準化されたTIDに変換し,統合的インストラクションファインタニングを活用して,用語の内部化とシーケンシャルレコメンデーションを協調的に最適化する。
論文 参考訳(メタデータ) (2026-01-11T07:53:20Z) - LATex: Leveraging Attribute-based Text Knowledge for Aerial-Ground Person Re-Identification [78.73711446918814]
我々は,属性ベースのテキスト知識を活用するために,アクシデントチューニング戦略を採用した,AG-ReIDのためのLATexという新しいフレームワークを提案する。
我々のフレームワークは属性ベースのテキスト知識をフル活用してAGReIDの性能を向上させることができる。
論文 参考訳(メタデータ) (2025-03-31T04:47:05Z) - Dense X Retrieval: What Retrieval Granularity Should We Use? [56.90827473115201]
しばしば見過ごされる設計選択は、コーパスが索引付けされる検索単位である。
本稿では,高密度検索のための新しい検索ユニット,命題を提案する。
実験により、提案のような細粒度単位によるコーパスのインデックス付けは、検索タスクにおける通過レベル単位を著しく上回っていることが明らかとなった。
論文 参考訳(メタデータ) (2023-12-11T18:57:35Z) - Language Models As Semantic Indexers [78.83425357657026]
本稿では,ジェネレーティブ言語モデルを用いてセマンティックIDを学習するための自己教師型フレームワークLMIndexerを紹介する。
学習したIDの質を検証し,推奨,製品検索,文書検索の3つの課題において有効性を示す。
論文 参考訳(メタデータ) (2023-10-11T18:56:15Z) - Adapting BERT for Word Sense Disambiguation with Gloss Selection
Objective and Example Sentences [18.54615448101203]
BERTのような事前訓練された言語モデルを用いたドメイン適応や伝達学習は、多くの自然言語処理タスクにおいて効果的なアプローチであることが証明されている。
関連性ランキングタスクとして単語感覚の曖昧さを定式化し、シーケンスペアランキングタスクで細いBERTを用いて、最も確率の高い感覚定義を選択することを提案する。
論文 参考訳(メタデータ) (2020-09-24T16:37:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。