論文の概要: PinGER: Token-Efficient Generative Retrieval with Semantic IDs
- arxiv url: http://arxiv.org/abs/2610.33435v1
- Date: Sat, 24 Oct 2026 04:24:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.328242
- Title: PinGER: Token-Efficient Generative Retrieval with Semantic IDs
- Title(参考訳): PinGER: 意味的IDを持つトークン効率の良い生成検索
- Abstract要約: アイテムのセマンティックID(SID)のトークン・バイ・トークン復号化による近傍探索の高速化
本稿では,入力履歴をコンパクトにしながらSID出力を保持する,PinterestのジェネレーティブレトリバーであるPinGERを紹介する。
- 参考スコア(独自算出の注目度): 10.35379326054064
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Generative retrieval replaces nearest-neighbor search with token-by-token decoding of an item's semantic ID (SID). But existing SID-based methods primarily use L levels of tokens sequentially to represent each item in the input history. As a result, a fixed context window holds L times fewer items than it would with one embedding per item. We present PinGER, a generative retriever deployed at Pinterest that retains SID outputs while making input histories compact, built on three ideas. (1) An asymmetric attention mask over interleaved SID and dense tokens lets later items attend only to the dense ones, so the model is supervised at every SID position in training yet serves one token per item while computing the same function. (2) Generation is controllable through goal-conditioned outputs, reinforcement learning, and a prefix-diversity penalty, which together steer retrieval toward surface-specific goals and diverse candidates. (3) A serving stack built for efficient wide-beam generation is paired with decoding constrained to valid identifiers and candidate resolution from a host-local index. Deployed in Related Pins, PinGER lifts saves of fresh Pins by 3.60% and overall saves by 0.62%, while reducing the surface's end-to-end latency by 0.7% and eliminating the cost of the nearest-neighbor search it replaces.
- Abstract(参考訳): 生成的検索は、最寄りの検索をアイテムのセマンティックID(SID)のトークン・バイ・トークン・デコーディングに置き換える。
しかし、既存のSIDベースのメソッドは主に、入力履歴内の各項目を表すために、Lレベルのトークンをシーケンシャルに使用する。
その結果、固定されたコンテキストウィンドウは、アイテムごとの埋め込みによって、アイテムのL倍のアイテムを保持する。
Pinterestにデプロイされた生成型レトリバーであるPinGERを,入力履歴をコンパクトにしながら,SID出力を保持するとともに,3つのアイデアに基づいて構築する。
1)密集したSIDと密集したトークンに対する非対称な注意マスクにより、後続のアイテムは密集したトークンにのみ対応できるため、トレーニング中の各SID位置でモデルが監督されるが、同じ関数を計算しながら各アイテムに1つのトークンを提供する。
2) 目標条件付きアウトプット,強化学習,プレフィックス多様性ペナルティを通じて生成を制御可能とし,表層特異的な目標と多様な候補に対するステア検索を併用した。
(3)効率的なワイドビーム生成のために構築されたサービススタックは、有効な識別子に制約されたデコードとホストローカルインデックスからの候補解決とをペアリングする。
関連するピンに展開されたPinGERは、新鮮なピンの保存を3.60%、全体的な保存を0.62%削減し、表面のエンドツーエンドのレイテンシを0.7%削減し、隣接する検索のコストを削減した。
関連論文リスト
- Beyond Semantic IDs: Finite-Beam Reachability and Continuous-Query Generation in Generative Recommendation [15.519683317169575]
ソーシャルメディアプラットフォームのジェネレーティブレコメンデーション(GR)は、有限幅ビームサーチによる離散セマンティックID(SID)の自動復号化によってアイテムを検索する。
本研究では、この出力インターフェースが有限返却リストに入るか否かを制約し、カタログ全体のスコアビリティを経験的トップKサポートと区別する方法について検討する。
CQG-Singleは1つのパスで1つの検索クエリを生成し、CQG-ARは連続的な更新を自動回帰的に生成し、SID項目の単語を削除しながらステップワイズデコーディングを保持する。
論文 参考訳(メタデータ) (2026-10-09T04:23:08Z) - Guiding the coarse levels of semantic IDs makes the fine levels learnable [9.576854834471993]
本稿では,建設においてもっとも意味のあるレベルを規定するガイド付きSIDを紹介する。
Trie-mergeの構築は、高カーディナリティや設定値の属性を固定コード予算にマッピングします。
SIDエンコーディングでのみ異なる一致したエンドツーエンドのA/Bでは、ガイド付きレトリバーは、測定したリスト長毎にrecall@kを改善します。
論文 参考訳(メタデータ) (2026-09-03T01:54:14Z) - HF-SID: High-Fidelity Semantic IDs for Generative Retrieval in Location-Based Services [6.767079940213956]
位置情報ベースサービス(LBS)では,各POI(Point-of-Interest)を意味ID(Semantic ID, SID)として表現する生成検索が注目されている。
離散コードに何らかの情報がコミットされる前に、表現段階で地理的、数値的、構造的忠実度を復元するHF-SIDを提案する。
これらのメカニズムは表現を長くするよりも表現を豊かにするので、HF-SIDは余分な復号コストで3つのトークン識別子SIDを使用する。
論文 参考訳(メタデータ) (2026-08-31T09:05:09Z) - TopoGR: Revealing and Preserving Latent Structure of Semantic ID in Generative Recommendation [25.345503799250476]
TopoGRはBit-decomposable Semantic ID(バイナリSID)に基づくトポロジー保存型生成レコメンデーションフレームワークである
TopoGRは、レコメンデーションパフォーマンスにおいて、既存の最先端のベースラインを一貫して上回っていることを示す。
論文 参考訳(メタデータ) (2026-07-28T02:45:33Z) - Conditional Memory Enhanced Item Representation for Generative Recommendation [46.59623438612085]
ジェネレーティブレコメンデーション(GR)は,セマンティック識別子(SID)の自動生成によって対象項目を予測する,有望なパラダイムとして登場した。
ほとんどのGRメソッドは量子化表現生成パイプラインに従い、まず各項目にSIDを割り当て、次にSID-token埋め込みから入力表現を構築し、最後に自動回帰生成によってターゲットのSIDを予測する。
コンディショナルメモリ拡張アイテム表現フレームワークであるCometIRを提案する。このフレームワークは、アイテム認識入力へのSIDトークンの埋め込みを再構築し、SID復号時にトークンの粒度を復元する。
論文 参考訳(メタデータ) (2026-05-12T02:56:59Z) - CapsID: Soft-Routed Variable-Length Semantic IDs for Generative Recommendation [6.439016735163573]
生成レコメンデーションは、各項目をセマンティックID(SID)のシーケンスにマッピングし、検索を自己回帰トークン生成として再キャストする。
CAPSIDは硬質残留量子化をカプセルルーティングに置き換える。
Amazon Beauty, Sports, Toys, and a 35M-item industrial catalogでは、CAPSID+SEMANTICBPEはReSIDよりも平均して10.6%改善している。
論文 参考訳(メタデータ) (2026-05-06T16:33:13Z) - DiffGRM: Diffusion-based Generative Recommendation Model [63.35379395455103]
ジェネレーティブレコメンデーション(GR)は、トークン化器を介して各項目をn桁のセマンティックID(SID)として表現する新興パラダイムである。
自己回帰デコーダをマスク付き離散拡散モデル(MDM)に置き換える拡散ベースGRモデルDiffGRMを提案する。
実験では、複数のデータセットに対する強力な生成的および差別的推奨ベースラインよりも一貫した利得を示す。
論文 参考訳(メタデータ) (2025-10-21T03:23:32Z) - Order-agnostic Identifier for Large Language Model-based Generative Recommendation [94.37662915542603]
アイテムは、ユーザ履歴をエンコードし、次のアイテムを生成するために、LLM(Large Language Models)の識別子に割り当てられる。
既存のアプローチでは、トークンシーケンス識別子を使用して、アイテムを個別のトークンシーケンスとして表現するか、IDまたはセマンティック埋め込みを使用して単一トークン識別子を使用する。
本稿では,セマンティック・トークンライザを利用するSETRecを提案する。
論文 参考訳(メタデータ) (2025-02-15T15:25:38Z) - Language Models As Semantic Indexers [78.83425357657026]
本稿では,ジェネレーティブ言語モデルを用いてセマンティックIDを学習するための自己教師型フレームワークLMIndexerを紹介する。
学習したIDの質を検証し,推奨,製品検索,文書検索の3つの課題において有効性を示す。
論文 参考訳(メタデータ) (2023-10-11T18:56:15Z) - Decoupled and Memory-Reinforced Networks: Towards Effective Feature
Learning for One-Step Person Search [65.51181219410763]
歩行者検出と識別サブタスクを1つのネットワークで処理するワンステップ方式を開発しました。
現在のワンステップアプローチには2つの大きな課題があります。
本稿では,これらの問題を解決するために,分離メモリ強化ネットワーク(DMRNet)を提案する。
論文 参考訳(メタデータ) (2021-02-22T06:19:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。