論文の概要: Long-History User Transformers for Real-Time Ad Ranking
- arxiv url: http://arxiv.org/abs/2607.14331v1
- Date: Wed, 15 Jul 2026 19:51:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-17 17:01:32.89953
- Title: Long-History User Transformers for Real-Time Ad Ranking
- Title(参考訳): リアルタイム広告ランク付けのための長年のユーザトランス
- Abstract要約: 本稿では、リアルタイム推論から履歴エンコーディングを分離することで、プロダクション広告システムがこの対立を解決する方法について述べる。
高容量オフライン変圧器は、ユーザの全対面インタラクション履歴を、機能ストアにキャッシュされたコンパクトな表現に非同期に符号化する。
製品A/B実験では、検索広告で+2.77%、Yandex Advertising Networkで+2.1%、収益で+2.26%、+0.43%のランキングで+2.43%向上した。
- 参考スコア(独自算出の注目度): 0.027185251060695432
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Long interaction histories are among the most informative inputs for click-through rate (CTR) prediction, yet in online advertising they collide with a hard serving constraint: ads must be scored within a few hundred milliseconds to enter the auction, which rules out running a large sequence encoder at request time. We describe how a production advertising system resolves this conflict by decoupling history encoding from real-time inference. A high-capacity offline transformer asynchronously encodes the user's full cross-surface interaction history into a compact representation cached in a feature store, while a lightweight runtime model combines this cached representation with the user's most recent events and the request context at serving time. The offline encoder is pre-trained autoregressively on large-scale interaction logs with a dual objective - feedback prediction and next-item prediction - and the two-stage architecture is then fine-tuned for CTR prediction on the target advertising surface. Offline, the split design recovers 72-80% of the quality of a full-history runtime transformer that would be too expensive to deploy, and the cached representation is robust enough to staleness to permit inexpensive refresh policies. In production A/B experiments, the system improves the primary ranking metric by +2.77% in search advertising and +2.1% on the Yandex Advertising Network, with revenue gains of +2.26% and +0.43% respectively - without increasing serving latency.
- Abstract(参考訳): 長いインタラクション履歴はクリックスルーレート(CTR)予測において最も有益な入力であるが、オンライン広告ではハードサービス制約と衝突している。
本稿では、リアルタイム推論から履歴エンコーディングを分離することで、プロダクション広告システムがこの対立を解決する方法について述べる。
高容量のオフライントランスフォーマーは、ユーザの全対面インタラクション履歴を、フィーチャーストアにキャッシュされたコンパクトな表現に非同期にエンコードする一方、軽量ランタイムモデルは、このキャッシュされた表現と、ユーザの最新のイベントと、サービス時の要求コンテキストを結合する。
オフラインエンコーダは2つの目的(フィードバック予測と次点予測)を持つ大規模対話ログ上で自己回帰的に事前学習され、2段階アーキテクチャはターゲット広告面上のCTR予測のために微調整される。
オフラインでは、スプリットデザインはフルヒストリーランタイムトランスフォーマーの品質の72-80%を回復し、デプロイするには高すぎる。
製品A/B実験では、検索広告では+2.77%、Yandex Advertising Networkでは+2.1%、収益は+2.26%、+0.43%で、サービス遅延は増加しない。
関連論文リスト
- ChronicleRec: Pre-training Temporally Anchored Tokens for Lifelong User Modeling [19.519280627157716]
既存の長寿命関心手法は、各候補に対する目標関連行動を検索する。
最近のターゲット非依存圧縮手法はキャッシュされたユーザ要約を可能にするが、しばしばシーケンス終端にクエリトークンを付加する。
クロニクルトークンの時系列順序の集合に超長い動作シーケンスを一度圧縮するプレトレイン・アンド・トランスファーフレームワークであるChronicleRecを提案する。
論文 参考訳(メタデータ) (2026-09-11T02:47:55Z) - GRACE: Generative Recommender Acceleration Engine for Real-Time Ads Retrieval [15.73766250149643]
本稿では,広告生成検索のためのサービスシステムGRACEについて述べる。
GRACEはGTM(Generative Target Matching)を導入した。
計算コストとレイテンシに関して、GRACEはLLMよりも軽量なエンコーダ・デコーダ変換をターゲットとしている。
論文 参考訳(メタデータ) (2026-08-02T02:30:38Z) - TransX: Scaling Transformer-based Recommendation via Behavioral and Serving Stream Crossings [4.750812376477589]
本稿では,シーケンス・ツー・シーケンスのアクション問題として推奨を再構成する,生産指向のエンコーダ・デコーダアーキテクチャであるTransXを提案する。
低レイテンシで高QPSデプロイメントを実現するため、TransXは、インクリメンタルなビヘイビアエンコーディングとリクエスト毎のキー値キャッシュを組み合わせた、アモータイズされたサービス戦略で設計されている。
論文 参考訳(メタデータ) (2026-07-31T01:42:57Z) - Building a User Foundation Model for the Open Web [2.097346573871652]
ユーザ閲覧履歴に自己教師型学習を適用したユーザ基盤モデルを提案する。
学習した表現が複数の下流生産タスクを改善することを示す。
論文 参考訳(メタデータ) (2026-07-30T11:07:54Z) - Back from the Future: Key-Value Cache Management by Counter-Causal Surprise [67.1056509495879]
近年,キーバリュー(KV)キャッシュ管理が重要な研究方向として注目されている。
より最近のトークンからよく予測できる過去のトークンは冗長である,という洞察に動機づけられた,単純かつ効果的なKV消去スキームを提案する。
我々は,他の最先端手法と比較して,競争力や性能向上を示す各種オープンソースLCMとベンチマークデータセットについて,我々の戦略を評価した。
論文 参考訳(メタデータ) (2026-07-30T02:42:51Z) - DYNA-PRUNER: Input-Adaptive Data-Model Co-Pruning for Efficient and Scalable Spatio-Temporal Media Prediction [24.16400471463046]
Dyna-Prunerは、データとモデル構造を入力依存で共存するエンドツーエンドのフレームワークである。
共有重要同期機構は、冗長領域をプルーする結合マスクを生成する。
WeatherBench、SEVIR、TaxiBJの実験では、CNN、RNN、Transformerのバックボーンとシームレスに統合されている。
論文 参考訳(メタデータ) (2026-06-13T15:14:05Z) - End-to-End Context Compression at Scale [81.70601323130997]
長期コンテキスト言語モデル推論は、KVキャッシュがコンテキスト長とともに増加するにつれて、メモリによってボトルネックとなる。
KVキャッシュを圧縮する最近の技術は、モデル品質を著しく低下させるか、あるいはかなりの時間を要するか、1つの長いプロンプトを圧縮するために計算する。
既存のアプローチは、精度-効率のフロンティア上のKVキャッシュ圧縮と競合しない。
論文 参考訳(メタデータ) (2026-06-08T15:43:16Z) - Attend Locally, Remember Linearly: Linear Attention as Cross-Frame Memory for Autoregressive Video Diffusion [61.57938553036056]
ARL2は、二次的なクロスフレームアテンションを固定サイズのリカレント状態に置き換えるハイブリッドアテンションモジュールである。
本研究では,フレーム内ソフトマックスブランチとフレーム間リカレント線形ブランチの2つに分割し,ストリームコンテキストの固定サイズ状態を維持する。
75%の層がハイブリッドリニアアテンションに置き換えられ、最大2.26ウォールクロックのスピードアップと54%のメモリ削減を実現した。
論文 参考訳(メタデータ) (2026-05-15T19:33:45Z) - Beyond Item IDs: Scaling Short-Form-Video Recommendation via Semantic-Native Long Sequence Modeling [13.58338102892064]
本稿では,10億ユーザ規模の超長期ユーザ行動シーケンスをモデル化するための実運用フレームワークを提案する。
まず、コンテンツネイティブなセマンティックIDを採用することで、表現ボトルネックに対処する。
第2に、シーケンススケーリング障壁を克服するために、Global-Aware Compression Transformerを導入する。
論文 参考訳(メタデータ) (2026-05-04T00:00:53Z) - CADET: Context-Conditioned Ads CTR Prediction With a Decoder-Only Transformer [11.143142950626169]
我々は、LinkedInにデプロイされた広告CTR予測のための、エンド・ツー・エンドのデコーダのみの変換器CADETを提案する。
オンラインA/Bテストでは、CADETはLiRankベースラインモデルと比較して11.04%のCTRリフトを達成する。
システムはLinkedInの広告プラットフォームにデプロイされ、ホームフィードによるアップデートの主要なトラフィックを提供する。
論文 参考訳(メタデータ) (2026-02-11T22:24:33Z) - VideoCompressa: Data-Efficient Video Understanding via Joint Temporal Compression and Spatial Reconstruction [55.66673587952058]
ビデオ理解モデルは、大規模データセットの禁止ストレージと計算コストによって、ますます制限されている。
VideoCompressaはビデオデータ合成のための新しいフレームワークで、動的潜在圧縮として問題を再構成する。
論文 参考訳(メタデータ) (2025-11-24T07:07:58Z) - Bidding-Aware Retrieval for Multi-Stage Consistency in Online Advertising [30.108437268612438]
Bidding-Aware Retrieval (BAR) はモデルベースの検索フレームワークであり、検索スコア関数に広告入札値を組み込むことで、多段階の不整合に対処する。
BARの中核となる革新はビディン・アウェア・モデリング(Bidding-Aware Modeling)であり、経済的に一貫性のある表現を確保するために単調な学習とマルチタスクの蒸留を通じて入札信号を取り入れている。
大規模なオフライン実験とAlibabaのディスプレイ広告プラットフォームへのフルスケール展開により、BARの有効性が検証された。
論文 参考訳(メタデータ) (2025-08-07T09:43:34Z) - FastCar: Cache Attentive Replay for Fast Auto-Regressive Video Generation on the Edge [60.000984252907195]
自動回帰(AR)モデルは、サンプリング効率が優れているため、近年、視覚生成タスクにおいて有望であることが示されている。
ビデオ生成は、コヒーレントな時間フレームを生成するために、かなり多くのトークンを必要とする。
我々は,時間的冗長性を探究して,ARビデオ生成のデコードフェーズを高速化する textbfFastCar フレームワークを提案する。
論文 参考訳(メタデータ) (2025-05-17T05:00:39Z) - HiRE: High Recall Approximate Top-$k$ Estimation for Efficient LLM
Inference [68.59839755875252]
HiREは2つの新しいコンポーネントから構成される: (i) (i) (i) (i) (i) (i) (i) (i) (i) (i) (ii) DA-TOP-$k$: 効率的なマルチデバイス近似トップ-k$演算子) (i) (i) (i) (i) (i) (i) (i) DA-TOP-$k$演算子) 。
我々は、10億のパラメータモデルにおいて、HiREがソフトマックスとフィードフォワード層の両方に適用され、ほぼ一致した事前学習と下流の精度を実現し、1台のTPUv5eデバイスで1.47Times$の推論遅延を高速化することを示した。
論文 参考訳(メタデータ) (2024-02-14T18:04:36Z) - ReBotNet: Fast Real-time Video Enhancement [59.08038313427057]
ほとんどの復元ネットワークは遅く、高い計算ボトルネックがあり、リアルタイムビデオ拡張には使用できない。
本研究では,ライブビデオ通話やビデオストリームなどの実用的なユースケースをリアルタイムに拡張するための,効率的かつ高速なフレームワークを設計する。
提案手法を評価するために,実世界のビデオ通話とストリーミングのシナリオを示す2つの新しいデータセットをエミュレートし,ReBotNetがより少ない計算,メモリ要求の低減,より高速な推論時間で既存手法より優れていることを示す。
論文 参考訳(メタデータ) (2023-03-23T17:58:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。