論文の概要: ZeroGR: Filtering-First Constrained Decoding for Generative Recommendation
- arxiv url: http://arxiv.org/abs/2611.04715v1
- Date: Tue, 03 Nov 2026 11:36:55 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-04 17:51:56.47956
- Title: ZeroGR: Filtering-First Constrained Decoding for Generative Recommendation
- Title(参考訳): ZeroGR: ジェネレーティブレコメンデーションのためのフィルタファースト制約付きデコード
- Abstract要約: 生成レコメンデーションのためのフィルタファースト制約付き復号システムZeroGRを提案する。
ZeroGRは、ステップスライスされたフィルタリングインデックスを使用して、各デコードステップにデータ表現を調整することで、GPUメモリの使用を減らす。
その実行エンジンは、共有スロット実行を採用して、ステージ間のデータ交換を加速し、ハイブリッドプロジェクションを使用して、計算をワークロードパターンに適応させる。
- 参考スコア(独自算出の注目度): 13.644731822752647
- License:
- Abstract: Generative recommendation is gaining traction in production, retrieving items by generating their identifiers one token at a time. The generated sequences must identify relevant catalog items, so constrained decoding couples relevance scoring with validity filtering. Because most possible sequences are invalid, scoring before filtering wastes computation on candidates that will be discarded. Our evaluation shows that filtering first can avoid this work with negligible impact on recommendation quality. We present ZeroGR, a filtering-first constrained decoding system for generative recommendation. ZeroGR uses a step-sliced filtering index to reduce GPU memory use by tailoring data representations to each decoding step. Its execution engine adopts shared-slot execution to accelerate data exchange across stages and hybrid projection to adapt computation to workload patterns, thereby reducing execution overhead. During index refreshes, ZeroGR applies layout-guided streaming construction to speed up updates and limit serving interference. Extensive evaluation shows that ZeroGR accelerates the filtering and scoring pipeline by up to $9.9\times$ over representative baselines while reducing GPU index memory use and accelerating index reconstruction.
- Abstract(参考訳): 生成的レコメンデーションは、一度に1つのトークンを生成してアイテムを取得することによって、生産において牽引力を高めている。
生成されたシーケンスは、関連するカタログ項目を識別する必要があるため、制約付き復号化カップルは、妥当性のフィルタリングによる関連付けを行う必要がある。
ほとんどの可能なシーケンスは無効であるため、削除される候補に対する無駄な計算をフィルタリングする前にスコアリングする。
評価の結果,まずフィルタリングが推奨品質に悪影響を及ぼすことなく回避できることが示唆された。
生成レコメンデーションのためのフィルタファースト制約付き復号システムZeroGRを提案する。
ZeroGRは、ステップスライスされたフィルタリングインデックスを使用して、各デコードステップにデータ表現を調整することで、GPUメモリの使用を減らす。
その実行エンジンは、共有スロット実行を採用して、ステージ間のデータ交換を加速し、ハイブリッドプロジェクションを使用して、計算をワークロードパターンに適応することで、実行オーバーヘッドを低減する。
インデックス更新の間、ZeroGRはレイアウト誘導型ストリーミング構成を適用して、更新のスピードアップとサービス干渉の制限を行う。
大規模な評価によると、ZeroGRは、GPUインデックスメモリの使用を減らし、インデックス再構築を加速しながら、最大9.9\times$代表ベースラインでフィルタリングとスコアパイプラインを高速化する。
関連論文リスト
- UniSGR-V2: Stepwise Target-Side Feature Anticipation and Crossing for Generative Recommendation [16.130775814500822]
段階的生成とランク付けの両方を支援するため,TacGR(Stepwise Target-Side Feature Precipation and Crossing for Generative Recommendation)を提案する。
TacGRは、連続的なターゲット側の特徴ベクトルを予測し、デコーダ内のセマンティックプレフィックスとユーザー行動シーケンスと交差する。
大規模なデータセットに関するオンライン実験では、OneRec、UniRec、UniSGRを大きく上回っている。
論文 参考訳(メタデータ) (2026-10-12T03:48:56Z) - TGR: Advancing Industrial Recommendation from Generative-Paradigm Ranking toward Unified Generation and Reasoning [11.12417271350583]
産業推薦システムは典型的にはカスケード検索、事前ランク付け、ランキング付け、再ランク付けに頼っている。
本稿では,TGR(Tencent Generative Recommendation)について紹介する。
TGRはTencentのプロダクションサーフェスにデプロイされ、数億のユーザが利用できる。
論文 参考訳(メタデータ) (2026-09-01T09:41:26Z) - Ripple-Pivot Search: Active Parallel Decoding for Diffusion Large Language Models [66.32132912853372]
Diffusion Large Language Models (dLLMs) は自己回帰型言語モデルの競合代替として登場した。
本研究では,中間エントロピー位置を有望な候補ピボットとして求める訓練自由復号法であるRipple-Pivot Search (RPS)を提案する。
RPSは、生成品質を維持しながら標準デコーダの4-10$times$wall-clockスピードアップを実現し、以前のルックアヘッドベースラインの精度を最大5.49%向上させる。
論文 参考訳(メタデータ) (2026-08-12T07:32:29Z) - RAGR: Review-Augmented Generative Recommendation [61.29879991713178]
Review-Augmented Generative Recommendation (RAGR)は、レビューフィードバックを直接生成ユーザシーケンスに組み込む新しいGRフレームワークである。
RAGRは、すべてのメトリクスにわたる強力なGRバックボーンよりも一貫性があり、大きな利益をもたらす。
論文 参考訳(メタデータ) (2026-05-17T05:21:23Z) - Reducing Redundancy in Retrieval-Augmented Generation through Chunk Filtering [0.0]
本研究では,検索品質を維持しつつ,索引付きコーパスを削減するためのチャンクフィルタリング手法を検討する。
検索性能は、精度、リコール、クロスオーバー・ユニオンのメトリクスに基づくトークンベースのフレームワークを用いて評価される。
論文 参考訳(メタデータ) (2026-04-27T11:23:39Z) - HiGR: Efficient Generative Slate Recommendation via Hierarchical Planning and Multi-Objective Preference Alignment [22.73838860623495]
HiGRは効率的な生成スレートレコメンデーションフレームワークであり、階層的計画とリストワイドな優先順位調整を統合している。
大規模な商用メディアプラットフォームの実験では、HiGRがオフライン評価とオンラインデプロイメントの両方で一貫した改善を実現しています。
論文 参考訳(メタデータ) (2025-12-31T11:16:24Z) - FastCar: Cache Attentive Replay for Fast Auto-Regressive Video Generation on the Edge [60.000984252907195]
自動回帰(AR)モデルは、サンプリング効率が優れているため、近年、視覚生成タスクにおいて有望であることが示されている。
ビデオ生成は、コヒーレントな時間フレームを生成するために、かなり多くのトークンを必要とする。
我々は,時間的冗長性を探究して,ARビデオ生成のデコードフェーズを高速化する textbfFastCar フレームワークを提案する。
論文 参考訳(メタデータ) (2025-05-17T05:00:39Z) - Can Query Expansion Improve Generalization of Strong Cross-Encoder Rankers? [72.42500059688396]
本稿では,拡張されたクエリのランク付け結果を融合により高速化し,エンジニアリングの迅速化と集約を行うことにより,強力なニューラルネットワークローカの一般化を向上できることを示す。
BEIR と TREC Deep Learning の実験では,MonoT5 と RankT5 の nDCG@10 スコアがこれらのステップに従って改善された。
論文 参考訳(メタデータ) (2023-11-15T18:11:41Z) - Gradient Coding with Dynamic Clustering for Straggler-Tolerant
Distributed Learning [55.052517095437]
勾配降下(GD)は、複数の労働者にデータセットを分散することで学習タスクの並列化に広く用いられている。
分散同期gdにおけるイテレーション完了時間ごとの重要なパフォーマンスボトルネックは$straggling$ workersである。
コード化された分散技術は、最近ストラグラーを緩和し、労働者に冗長な計算を割り当てることでgdイテレーションを高速化するために導入された。
本稿では,従来のトラグリング動作に依存する可能性のあるコードの中から,冗長なデータを労働者に割り当てて選択する動的GC方式を提案する。
論文 参考訳(メタデータ) (2021-03-01T18:51:29Z) - Gradient Coding with Dynamic Clustering for Straggler Mitigation [57.9123881133818]
GC-DCは、前回のイテレーションにおけるストラグラーの振る舞いに基づいて、各クラスタ内のストラグラーワーカ数を規制する。
本稿では,GC-DCが従来のGC方式に比べて通信負荷を増大させることなく,各イテレーションの平均完了時間(各イテレーション)を大幅に改善できることを数値的に示す。
論文 参考訳(メタデータ) (2020-11-03T18:52:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。