論文の概要: Generative End-to-end Ad Retrieval at Douyin
- arxiv url: http://arxiv.org/abs/2609.39327v1
- Date: Wed, 30 Sep 2026 09:00:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.472806
- Title: Generative End-to-end Ad Retrieval at Douyin
- Title(参考訳): Douyinにおけるエンドツーエンド広告検索
- Abstract要約: 生成的検索は、離散アイテムトークンの生成としてレコメンデーションを再構成する。
Gearは、トークン処理器、ジェネレータ、リランカを共同で最適化するエンドツーエンドフレームワークである。
現在、Douyin Adsで毎日数億人のアクティブユーザーが利用しており、かなりの体験的改善をもたらしている。
- 参考スコア(独自算出の注目度): 12.274757176053603
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generative retrieval reformulates recommendation as the generation of discrete item tokens. However, scaling this paradigm to real-world recommender systems reveals two critical bottlenecks: 1) Representation collapse, where the item tokenizer converges to degenerate results under continuous distribution shifts, fundamentally hindering stable end-to-end adaptation. 2) Item collisions, where the massive candidate pool causes distinct items to share identical token sequences, compromising the final retrieval precision. Crucially, these bottlenecks are inherently coupled: expanding codebook capacity to mitigate collisions inevitably exacerbates collapse. To address them simultaneously, we propose GEAR, an end-to-end framework that jointly optimizes the tokenizer, generator, and reranker. To mitigate representation collapse, we introduce BasisVQ, which re-parameterizes the codebook via an orthogonal basis to enable global gradient sharing and rigid spatial rotation of the latent space, effectively stabilizing gradient dynamics without ad-hoc heuristics. We further extend it to prefix-aware BasisRQ, substantially enhancing the codebook's expressiveness with the same asymptotic time complexity. To resolve item collisions, GEAR integrates a context-conditioned reranking head into the generative process, efficiently disambiguating colliding items with minimal computational overhead. By unifying stable tokenization and joint reranking within an end-to-end generative framework, GEAR establishes a fully differentiable and scalable paradigm. It currently serves hundreds of millions of daily active users on Douyin Ads, yielding substantial empirical improvements in extensive online A/B tests.
- Abstract(参考訳): 生成的検索は、離散アイテムトークンの生成としてレコメンデーションを再構成する。
しかし、このパラダイムを現実のレコメンデータシステムに拡張すると、2つの重要なボトルネックが明らかになる。
1) アイテムトークン化器が連続的な分布シフトの下で縮退するために収束する表現崩壊は、基本的に安定なエンドツーエンド適応を妨げる。
2) 大規模候補プールが同一のトークン配列を共有するために異なる項目を発生させる項目衝突は,最終検索精度を損なう。
衝突を緩和するためにコードブックの容量を拡大することは、必然的に崩壊を悪化させる。
同時に対処するために,トークン化,ジェネレータ,再ランカを共同で最適化するエンドツーエンドフレームワークであるGEARを提案する。
表現の崩壊を軽減するため,直交的にコードブックを再パラメータ化するBasisVQを導入し,大域的な勾配共有と遅延空間の剛性的空間回転を実現し,アドホックなヒューリスティックスを使わずに勾配ダイナミクスを効果的に安定化させる。
さらにプレフィックスを意識したBasisRQに拡張し、同じ漸近時間複雑さでコードブックの表現性を大幅に向上させる。
アイテム衝突を解決するため、GEARはコンテキスト条件付きリグレードヘッドを生成プロセスに統合し、最小の計算オーバーヘッドで衝突アイテムを効率よく曖昧にする。
GEARは、安定したトークン化と、エンドツーエンドの生成フレームワークへの統合によって、完全に差別化可能でスケーラブルなパラダイムを確立します。
現在、Douyin Ads上で毎日数億人のアクティブユーザーが利用しており、オンラインA/Bテストでかなりの改善が加えられている。
関連論文リスト
- DISTA-Net++: Rethinking Infrared Small Target Unmixing Beyond Sub-Pixel Separation [50.40058918817059]
長距離赤外線画像は、回折制限されたシグネチャが1つの識別不能なブロブに融合する密度の高いターゲットクラスタに対向する。
DisTA-Net++は2つの相乗的なメカニズムで動的に展開するバックボーンをアンカーする。
DisTA-Net++は、CSO-mAPが16.15%、62.96%の精度で、計算の6分の1に過ぎない。
論文 参考訳(メタデータ) (2026-09-16T14:57:11Z) - Accelerating Unified Multimodal Models with Core-Expansion Routing and Unified Computation Scheduling [61.28599393707943]
統一マルチモーダルモデルは、理解と生成を共同でサポートするが、トークン、レイヤ、生成タイムステップ間でかなりの冗長な計算を行う。
本稿では,タスク共有型コアスコアラと進行条件付き生成拡張を提案し,生成分解とクロスタスクコアアライメントを最適化した。
2つの代表的UMMアーキテクチャの実験では、両タスク間で一貫した品質改善が示され、98.03%の高密度な理解性能を維持し、エンドツーエンドの推論速度は1.93times$である。
論文 参考訳(メタデータ) (2026-08-29T14:27:55Z) - The Laws of Context Allocation: Causal Measurement and Closed-Loop Orchestration in Generative Search [19.846305722187328]
Retrieval-Augmented Generation (RAG)は、多様なポートフォリオ生成にシフトする。
これは2つの重要なボトルネック、すなわち証拠利用率の欠陥測定と、最適条件下予算配分によって悪影響を受けている。
本稿では,遺伝子依存を正確に分離する因果排除プローブを提案する。
モノリシック・コンテキスト・ワイドニング(モノリシック・コンテキスト・ワイドニング)の一般的な戦略は、関連性の崩壊によって罰せられるアーキテクチャ・トラップであることを示す。
論文 参考訳(メタデータ) (2026-08-24T13:44:11Z) - Unifying Generative Recall and Multi-Objective Ranking in a Single Decoder-Only Sequence [26.231002784432842]
生成的リコールとランキングのスケーリングは、共通のTransformerベースのモデリング哲学を共有している。
我々は textbfUniR$2$, textbfUnified decoder のみの変換器を提案し, 生成 textbfRecall と Multi-Objective textbfRanking を統一する。
論文 参考訳(メタデータ) (2026-07-27T13:47:38Z) - C$^{2}$R: Cross-sample Consistency Regularization Mitigates Feature Splitting and Absorption in Sparse Autoencoders [56.67585330425431]
スパースオートエンコーダ(SAE)は、アクティベーションをスパースで人間の理解可能な機能に分解することで、大きな言語モデルを解釈するために広く使われている。
これらの問題は、サンプル間の一貫性のない潜在的な割り当てに起因している。
我々はC$2$Rを導入し、これは方向的に類似した潜伏剤の共活性化を罰する。
論文 参考訳(メタデータ) (2026-06-29T17:45:31Z) - ResRank: Unifying Retrieval and Listwise Reranking via End-to-End Joint Training with Residual Passage Compression [5.223477157195793]
中間のロスト」現象は、入力長が大きくなるにつれてランキング品質を低下させる。
推論レイテンシは、シーケンス長と超直線的にスケールし、産業展開において非現実的にリストワイズする。
ResRankは、両方の課題を根本的に解決する統合検索格付けフレームワークである。
論文 参考訳(メタデータ) (2026-04-24T03:11:51Z) - PRISM: Purified Representation and Integrated Semantic Modeling for Generative Sequential Recommendation [28.629759086187352]
本稿では,PRISMとPureified RepresentationとIntegrated Semantic Modelingを組み合わせた新しい生成レコメンデーションフレームワークを提案する。
PRISMは4つの実世界のデータセットで、最先端のベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2026-01-23T08:50:16Z) - From Feature Interaction to Feature Generation: A Generative Paradigm of CTR Prediction Models [81.43473418572567]
CTR(Click-Through Rate)予測は、レコメンデーションシステムにおける中核的なタスクである。
本稿では,埋め込み次元の崩壊と情報冗長性に対処する新しい生成フレームワークを提案する。
SFGは埋没崩壊を緩和し,情報冗長性を低減し,性能向上を図っている。
論文 参考訳(メタデータ) (2025-12-16T03:17:18Z) - Continuous Speculative Decoding for Autoregressive Image Generation [27.308442169466975]
連続的視覚自己回帰(AR)モデルは、画像生成において有望な性能を示す。
投機的復号化は 事実上 自己回帰推論を加速させた
この研究は、低受理率、不整合出力分布、解析式のない修正分布からの課題に対処する。
論文 参考訳(メタデータ) (2024-11-18T09:19:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。