論文の概要: TransX: Scaling Transformer-based Recommendation via Behavioral and Serving Stream Crossings
- arxiv url: http://arxiv.org/abs/2607.28940v1
- Date: Fri, 31 Jul 2026 01:42:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-03 14:29:40.560939
- Title: TransX: Scaling Transformer-based Recommendation via Behavioral and Serving Stream Crossings
- Title(参考訳): TransX: ビヘイビアおよびサービングストリームクロスによるトランスフォーマーベースのレコメンデーション
- Authors: Da Xu, Liyan Fang, Divya Venugopalan, Sunny Hsu, Xukai Wang, Rishav Roy Chowdhury, Cindy Liang, Nishant Satya Lakshmikanth,
- Abstract要約: 本稿では,シーケンス・ツー・シーケンスのアクション問題として推奨を再構成する,生産指向のエンコーダ・デコーダアーキテクチャであるTransXを提案する。
低レイテンシで高QPSデプロイメントを実現するため、TransXは、インクリメンタルなビヘイビアエンコーディングとリクエスト毎のキー値キャッシュを組み合わせた、アモータイズされたサービス戦略で設計されている。
- 参考スコア(独自算出の注目度): 4.750812376477589
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Modern industrial recommender systems (RecSys) increasingly adopt Transformer-based sequence models, with an emerging paradigm that frames recommendation as next-token prediction over a unified monolithic user sequence. However, collapsing heterogeneous data sources -- such as long-term user behaviors and real-time serving events -- into a single monolithic token stream that obscures their distinct causal roles and temporal characteristics, leading to inefficient modeling and elevated training and serving costs. We propose TransX, a production-oriented encoder-decoder architecture that reformulates recommendation as a sequence-to-sequence action transduction problem. TransX explicitly decouples behavior-stream modeling from serving-event modeling and conditions next-action decoding on scalable cross-attention between nearline behavior encodings and real-time serving representations. To enable low-latency, high-QPS deployment, TransX is co-designed with an amortized serving strategy that combines incremental behavior encoding with per-request key-value caching, rendering serving latency insensitive to behavior sequence length. Extensive offline experiments and large-scale online A/B tests on LinkedIn's recommender systems show that TransX consistently outperforms state-of-the-art DLRMs and sequential baselines, and delivers substantial CTR lift (+6.0%) and conversion gain (+4.4%) while maintaining serving costs comparable to existing production models where our co-designed serving strategy reduces online computation by approximately 80%.
- Abstract(参考訳): 現代の産業レコメンデータシステム(RecSys)はトランスフォーマーベースのシーケンスモデルを採用しており、統一されたモノリシックなユーザシーケンスに対して、リコメンデーションを次のトーケントな予測とみなす新しいパラダイムである。
しかし、長期のユーザ行動やリアルタイムのサービスイベントなどの異種データソースを単一のモノリシックなトークンストリームに分解することで、個々の因果的役割と時間的特性を曖昧にし、非効率なモデリングやトレーニングの強化、サービスコストの削減につながる。
本稿では,シーケンス・ツー・シーケンス・アクション・トランスダクション問題としてレコメンデーションを再構成する,生産指向のエンコーダ・デコーダアーキテクチャであるTransXを提案する。
TransXは、動作ストリームモデリングをサービスイベントモデリングと、ニアライン動作符号化とリアルタイムサービス表現の間のスケーラブルなクロスアテンションにおける次のアクションデコーディングから明確に分離する。
低レイテンシで高QPSデプロイメントを実現するため、TransXは、インクリメンタルなビヘイビアエンコーディングと要求単位のキー値キャッシュを組み合わせたアモータイズされたサービス戦略を共同設計し、レイテンシを動作シーケンスの長さに敏感にレンダリングする。
LinkedInの推奨システムにおける大規模なオフライン実験と大規模なオンラインA/Bテストにより、TransXは、最先端のDLRMとシーケンシャルベースラインを一貫して上回り、相当なCTRリフト(+6.0%)と変換ゲイン(+4.4%)を提供しながら、既存のプロダクションモデルに匹敵するコストを維持しながら、オンライン計算を約80%削減している。
関連論文リスト
- Proxy Exploration and Reusable Guidance: A Modular LLM Post-Training Paradigm via Proxy-Guided Update Signals [48.04226595566376]
Proxy-Guided Update Signal Transfer (PUST)は、分散アライメントから更新信号探索を根本的に分離する、ポストトレーニングフレームワークである。
PUSTは計算オーバーヘッドを大幅に削減し、最適化信号の非同期生成、キャッシュ、再利用を可能にする。
論文 参考訳(メタデータ) (2026-07-13T12:56:21Z) - DUET -- Dual User Embedding Transformers for Offsite Conversion Prediction [8.972672149050627]
計算レコメンデーションシステムにおいて,オフサイト変換率(OCVR)予測は重要なランキング問題である。
このタスクは、クリック信号が豊富で、短い時間的水平線を示すのに対して、変換信号は本質的に疎く、長い遅延があり、しばしば未配布である。
ユーザ行動データを2つのドメインコヒーレントなストリーム – クリックと変換 – に明示的に分割するフレームワークであるDUETを提案する。
論文 参考訳(メタデータ) (2026-06-08T23:13:58Z) - GEMs: Breaking the Long-Sequence Barrier in Generative Recommendation with a Multi-Stream Decoder [54.64137490632567]
本稿では,長期的履歴からユーザのシーケンスをキャプチャする新しい統一フレームワークを提案する。
GEM(Generative Multi-streamer)は、ユーザのシーケンスを3つのストリームに分割する。
大規模産業データセットに対する大規模な実験により、GEMは推奨精度において最先端の手法を大幅に上回っていることが示された。
論文 参考訳(メタデータ) (2026-02-14T06:42:56Z) - HyFormer: Revisiting the Roles of Sequence Modeling and Feature Interaction in CTR Prediction [8.97787361529607]
本稿では,HyFormerについて述べる。HyFormerは1つのバックボーンに長周期モデリングと特徴相互作用を密に統合するハイブリッドトランスフォーマーアーキテクチャである。
数十億の産業データセットに関する実験は、HyFormerが強いLONGERとRanMixerのベースラインを一貫して上回っていることを示している。
論文 参考訳(メタデータ) (2026-01-19T02:55:05Z) - LiQSS: Post-Transformer Linear Quantum-Inspired State-Space Tensor Networks for Real-Time 6G [85.58816960936069]
Sixth-Generation (6G) Open Radio Access Networks (O-RAN) における能動的およびエージェント的制御は、厳密なニアタイム(Near-RT)レイテンシと計算制約の下で制御グレードの予測を必要とする。
本稿では,効率的な無線テレメトリ予測のための変圧器後パラダイムについて検討する。
本稿では、自己アテンションを安定な状態空間動的カーネルに置き換える量子インスピレーション付き状態空間テンソルネットワークを提案する。
論文 参考訳(メタデータ) (2026-01-18T12:08:38Z) - Scaling Generative Recommendations with Context Parallelism on Hierarchical Sequential Transducers [29.05624030090006]
本稿では,HSTUアテンションに対するジャグテンソルサポートによるコンテキスト並列化を導入し,シーケンス次元のスケールアップのための基礎的機能を確立する。
提案手法により,分散データ並列処理(DDP)と組み合わせることで,ユーザインタラクションのシーケンス長が5.3倍向上し,スケーリング係数が1.55倍になる。
論文 参考訳(メタデータ) (2025-07-23T07:28:05Z) - Transferable Sequential Recommendation with Vanilla Cross-Entropy Loss [2.0048375809706274]
Sequential Recommendation (SR)システムでは、インタラクション履歴を分析してユーザの好みをモデル化する。
現在の手法は、新しいドメインに適応する際にかなりの微調整コストを発生させる。
MMM4Recは、効率的な伝達学習のための専用代数的制約機構を組み込んだ、新しいマルチモーダルSRフレームワークである。
論文 参考訳(メタデータ) (2025-06-03T14:18:19Z) - COrAL: Order-Agnostic Language Modeling for Efficient Iterative Refinement [80.18490952057125]
反復改良は、複雑なタスクにおける大規模言語モデル(LLM)の能力を高める効果的なパラダイムとして登場した。
我々はこれらの課題を克服するために、コンテキストワイズ順序非依存言語モデリング(COrAL)を提案する。
当社のアプローチでは、管理可能なコンテキストウィンドウ内で複数のトークン依存関係をモデル化しています。
論文 参考訳(メタデータ) (2024-10-12T23:56:19Z) - Towards Long-Term Time-Series Forecasting: Feature, Pattern, and
Distribution [57.71199089609161]
長期的時系列予測(LTTF)は、風力発電計画など、多くのアプリケーションで需要が高まっている。
トランスフォーマーモデルは、高い計算自己認識機構のため、高い予測能力を提供するために採用されている。
LTTFの既存の手法を3つの面で区別する,Conformer という,効率的なTransformer ベースモデルを提案する。
論文 参考訳(メタデータ) (2023-01-05T13:59:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。