論文の概要: CCFormer: Efficient Cross-Field Interaction and Hierarchical Sequence Compression for Industrial Recommendation at Tencent
- arxiv url: http://arxiv.org/abs/2607.28070v1
- Date: Thu, 30 Jul 2026 11:45:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-31 21:37:00.541948
- Title: CCFormer: Efficient Cross-Field Interaction and Hierarchical Sequence Compression for Industrial Recommendation at Tencent
- Title(参考訳): CCFormer:Tencentのインダストリアルレコメンデーションのための効率的なクロスフィールドインタラクションと階層シーケンス圧縮
- Abstract要約: 提案するCCFormerは,クロスフィールド機能インタラクションと圧縮長シーケンスモデリングを統一した,効率的なトランスフォーマーバックボーンである。
2つの公開ベンチマークと大規模産業データセットの実験は、CCFormerが一貫して最先端のベースラインを上回っていることを示している。
- 参考スコア(独自算出の注目度): 9.86057306648179
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent studies in industrial recommendation systems have demonstrated that sequential recommendation models built upon self-attention can benefit from predictable scaling laws by increasing sequence length and model capacity. However, practical recommender systems impose strict latency and resource constraints, making it challenging to balance computational overhead with fine-grained feature interaction. In this paper, we propose CCFormer, an efficient Transformer backbone that unifies cross-field feature interaction and compressed long-sequence modeling for industrial recommendation. Specifically, CCFormer combines feature-field separated cross attention with long-sequence subspace token mixing to exploit long-term preference signals across heterogeneous feature domains. A hierarchical sequence compression strategy with progressively expanded receptive fields enables efficient long-sequence modeling with reduced information loss. Extensive experiments on two public benchmarks and a large-scale industrial dataset demonstrate that CCFormer consistently outperforms state-of-the-art baselines. Online A/B tests in a video recommendation scenario and an advertising ranking scenario at Tencent further validate its industrial practicality, yielding a 3.57% CTR gain and a 1.71% advertising revenue lift, respectively, while accelerating model training by 2.21x over the strong HSTU baseline. CCFormer has been fully deployed in Tencent's production recommendation system, serving the main traffic of both scenarios.
- Abstract(参考訳): 産業レコメンデーションシステムにおける最近の研究により、自己注意に基づいて構築されたシーケンシャルレコメンデーションモデルは、シーケンス長とモデルキャパシティを増大させることで予測可能なスケーリング法則の恩恵を受けることが示されている。
しかし、実際のレコメンデータシステムは、厳格なレイテンシとリソースの制約を課し、計算オーバーヘッドときめ細かい機能相互作用のバランスをとることは困難である。
本稿では,産業用レコメンデーションのためのクロスフィールド特徴相互作用と圧縮長列モデリングを統一する効率的なトランスフォーマーバックボーンであるCCFormerを提案する。
具体的には、CCFormerは、異種特徴領域にわたる長期優先信号を利用するために、特徴フィールド分離されたクロスアテンションと長列サブスペーストークンミキシングを組み合わせる。
漸進的に拡張された受容場を持つ階層的なシーケンス圧縮戦略は、情報損失を低減した効率的なロングシーケンスモデリングを可能にする。
2つの公開ベンチマークと大規模産業データセットに関する大規模な実験は、CCFormerが一貫して最先端のベースラインを上回っていることを示している。
TencentのオンラインA/Bテストは、ビデオレコメンデーションシナリオと広告ランキングシナリオでさらに工業的実用性を検証し、それぞれ3.57%のCTRゲインと1.71%の広告収益を上げ、HSTUベースラインの2.21倍のモデルトレーニングを加速した。
CCFormerはTencentの製品レコメンデーションシステムに完全にデプロイされており、両方のシナリオの主なトラフィックを提供している。
関連論文リスト
- Joint Air Traffic Flow and Capacity Management via Answer Set Programming [64.47906587579985]
我々は、Answer Set Programming(ASP)におけるエンコーディングを伴う共同ATFCMモデルを導入する。
この結果から,ASP モデルは MIP モデルより優れていたことが示唆された。
DACはリルーティングよりもパフォーマンスを最大に改善しているが、DACの無制限な変種やリルーティングは検索スペースのスラッシングに繋がる。
論文 参考訳(メタデータ) (2026-06-22T07:58:54Z) - IAT: Instance-As-Token Compression for Historical User Sequence Modeling in Industrial Recommender Systems [19.111182803412458]
Instance-As-Token (IAT)は、新しい2段階のシーケンスモデリングフレームワークである。
IATは歴史的相互作用パターンをコンパクトだが情報的トークンにエンコードする。
IATは実世界の産業レコメンデーションシステムにうまく展開されている。
論文 参考訳(メタデータ) (2026-04-10T04:02:58Z) - MixFormer: Co-Scaling Up Dense and Sequence in Industrial Recommenders [11.566232697512879]
MixFormerは、レコメンデーションシステム用に設計されたTransformerスタイルの統一アーキテクチャである。
単一のバックボーン内でのシーケンシャルな振る舞いと特徴的相互作用を共同でモデル化する。
大規模産業データセットの実験は、MixFormerが常に優れた精度と効率を示すことを示した。
論文 参考訳(メタデータ) (2026-02-15T11:53:30Z) - GEMs: Breaking the Long-Sequence Barrier in Generative Recommendation with a Multi-Stream Decoder [54.64137490632567]
本稿では,長期的履歴からユーザのシーケンスをキャプチャする新しい統一フレームワークを提案する。
GEM(Generative Multi-streamer)は、ユーザのシーケンスを3つのストリームに分割する。
大規模産業データセットに対する大規模な実験により、GEMは推奨精度において最先端の手法を大幅に上回っていることが示された。
論文 参考訳(メタデータ) (2026-02-14T06:42:56Z) - Compress, Cross and Scale: Multi-Level Compression Cross Networks for Efficient Scaling in Recommender Systems [5.897678894426804]
MLCCは階層的な圧縮と動的合成によって機能横断を組織する構造化された機能相互作用アーキテクチャである。
MC-MLCCはマルチチャネル拡張であり、並列部分空間に特徴的相互作用を分解する。
提案モデルでは,高いDLRMスタイルのベースラインを最大0.52AUCで上回り,モデルパラメータとFLOPを最大26$times$で削減した。
論文 参考訳(メタデータ) (2026-02-12T15:06:46Z) - EST: Towards Efficient Scaling Laws in Click-Through Rate Prediction via Unified Modeling [13.693397814262681]
近年,産業用クリックスルーレート(CTR)予測の効率化が注目されている。
そこで本研究では,すべての生入力を単一シーケンスで処理して完全に統一されたモデリングを実現する,効率よくスケーラブルな変換器 (EST) を提案する。
ESTは生産ベースラインを大幅に上回り、3.27%のRPM(Revenue Per Mile)と1.22%のCTRリフトを提供する。
論文 参考訳(メタデータ) (2026-02-11T12:51:54Z) - Adapformer: Adaptive Channel Management for Multivariate Time Series Forecasting [49.40321003932633]
Adapformerは、効果的なチャネル管理を通じてCIとCD方法論のメリットをマージする、トランスフォーマーベースの高度なフレームワークである。
Adapformerは既存のモデルよりも優れた性能を実現し、予測精度と計算効率の両方を向上させる。
論文 参考訳(メタデータ) (2025-11-18T16:24:05Z) - LARES: Latent Reasoning for Sequential Recommendation [96.26996622771593]
本稿では、シークエンシャルレコメンデーションのための新しいスケーラブルなLatent ReasoningフレームワークであるLARESを紹介する。
提案手法では,パラメータの複雑性を増大させることなく推理深度を柔軟に拡張できる再帰的アーキテクチャを用いている。
我々のフレームワークは既存の高度なモデルとのシームレスな互換性を示し、推奨性能をさらに向上させる。
論文 参考訳(メタデータ) (2025-05-22T16:22:54Z) - LONGER: Scaling Up Long Sequence Modeling in Industrial Recommenders [23.70714095931094]
GPU効率の良いリコメンダのための長時間最適化されたtraNsformer。
オフラインのメトリクスとオンラインのA/Bテストでは、一貫して強力なベースラインを上回ります。
論文 参考訳(メタデータ) (2025-05-07T13:54:26Z) - Adversarial Feature Augmentation and Normalization for Visual
Recognition [109.6834687220478]
最近のコンピュータビジョンの進歩は、分類モデルの一般化能力を改善するために、逆データ拡張を利用する。
本稿では,中間的特徴埋め込みにおける敵対的拡張を提唱する効率的かつ効率的な代替手法を提案する。
代表的なバックボーンネットワークを用いて,多様な視覚認識タスクにまたがる提案手法を検証する。
論文 参考訳(メタデータ) (2021-03-22T20:36:34Z) - A Generic Network Compression Framework for Sequential Recommender
Systems [71.81962915192022]
シークエンシャルレコメンデーションシステム(SRS)は,ユーザの動的関心を捉え,高品質なレコメンデーションを生成する上で重要な技術となっている。
CpRecと呼ばれる圧縮されたシーケンシャルレコメンデーションフレームワークを提案する。
大規模なアブレーション研究により、提案したCpRecは実世界のSRSデータセットにおいて最大4$sim$8倍の圧縮速度を達成できることを示した。
論文 参考訳(メタデータ) (2020-04-21T08:40:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。