論文の概要: UniDot: A Unified Network for Sequence Modeling and Feature Interaction in Large-scale Recommendation
- arxiv url: http://arxiv.org/abs/2608.16797v1
- Date: Mon, 17 Aug 2026 16:52:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.798275
- Title: UniDot: A Unified Network for Sequence Modeling and Feature Interaction in Large-scale Recommendation
- Title(参考訳): UniDot: 大規模レコメンデーションにおけるシーケンスモデリングと特徴相互作用のための統一ネットワーク
- Abstract要約: ファクトリゼーション・マシンの観点から構築されたポストクリック変換予測のための新しいアーキテクチャであるUniDotを提案する。
トークンの単一のドット積は、機能の相互作用とシーケンスモデリングの両方を基盤にすることができる。
ユニドットは、TAAC KDDカップ2026のインダストリアルトラックで優勝した。
- 参考スコア(独自算出の注目度): 3.59042069607434
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Industrial recommenders rely on two model families that have evolved largely independently: feature-interaction models over multi-field user/item features, and sequential models over user-behavior histories. Production systems couple them only loosely. To unify the two, we present UniDot, a novel architecture for post-click conversion prediction built from the factorization-machine (FM) point of view: the embedding inner product---which powers collaborative filtering and lets a recommender generalize to unseen user--item pairs---is the same primitive as attention's query dot key scoring, so a single dot-product of tokens can underlie both feature interaction and sequence modeling. UniDot tokenizes non-sequential fields and multi-domain behavioral sequences into one shared token space and stacks a single macro-block in which a token-mixing bus and a sequence-retrieval bus (item tokens cross-attending the histories) run in parallel and exchange state each layer through an MLP-Mixer fusion, while an FM Highway carries explicit per-layer dot-product interactions around the residual stack directly to the classifier. The sequence side is embedded once per forward pass and shared by all consumers, bounding inference latency. Trained with a dual sparse/dense (Adagrad + Muon) optimizer, an auxiliary conversion-delay head, and multi-path mutual learning, UniDot finished as the runner-up on the Industrial track of the TAAC KDD Cup 2026.
- Abstract(参考訳): 産業推薦者は、主に独立して進化した2つのモデルファミリに依存している。
生産システムはそれらを緩やかに結合するだけである。
この2つを統合するために、ファクトリゼーション・マシン(FM)の観点から構築された、新しいクリック後変換予測アーキテクチャであるUniDotを紹介します。
UniDotは、非シーケンスフィールドとマルチドメインの振る舞いシーケンスを1つの共有トークン空間にトークン化し、トークンミキシングバスとシークエンス検索バス (item tokens cross-attending the Histories) が並列に実行され、各レイヤがMLP-Mixer融合を介して交換状態となる単一のマクロブロックをスタック化する。
シーケンス側はフォワードパス毎に一度埋め込み、すべてのコンシューマによって共有される。
デュアルスパース/ダンス(Adagrad + Muon)オプティマイザ、補助変換遅延ヘッド、マルチパス相互学習で訓練されたUniDotは、TAAC KDDカップ2026のインダストリアルトラックで優勝した。
関連論文リスト
- Topology-Masked Unified Backbone for Joint Feature Interaction and Multi-Domain Sequence Modeling [8.950162084237288]
MaskRecは、機能相互作用とマルチドメインシーケンスモデリングのための、トポロジにマッピングされた統一トークンインタラクションアーキテクチャである。
この統一トークン空間に基づいて、MaskRecは構造化されたアテンションマスクであるTopoMaskを設計し、アテンション接続を選択的に有効またはブロックする。
MaskRecは、産業用CVR予測のための統一フレームワークの有効性を検証し、公式ベースラインよりも安定した改善を実現している。
論文 参考訳(メタデータ) (2026-08-27T11:49:55Z) - RoleMix: Unifying Sequential and Non-Sequential Features via Semantic Tokenization for Post-Click Conversion Rate Prediction [1.6050320174037502]
RoleMixは、共有されたロール保存トークンインターフェースを通じて、シーケンシャルかつ非シーケンシャルなエビデンスを表す。
大規模なKDDカップ2026 Tencent UniRec Challengeでは、RoleMixは83.648%のオンラインAUCを達成し、公式産業ベースラインを1.953%上回っている。
論文 参考訳(メタデータ) (2026-07-18T15:44:48Z) - Field-Aware RankMixer with Dual-Stream Bilinear Fusion for the Tencent UNI-REC Challenge [6.560591409127247]
本報告では,KDDカップ2026 Tencent UNIREC Challengeの解について述べる。
このタスクには、複数ドメインのユーザ行動シーケンスを共同でモデリングする必要がある。
デュアルストリームバイリニア融合を用いたフィールド・アウェア・ランクミクサを開発した。
論文 参考訳(メタデータ) (2026-07-17T03:22:02Z) - OneMall: One Architecture, More Scenarios -- End-to-End Generative Recommender Family at Kuaishou E-Commerce [68.7552227901176]
OneMallは、Kuaishouのeコマースサービスに適したエンドツーエンドのジェネレーティブレコメンデーションフレームワークである。
製品カード、ショートビデオ、ライブストリーミングなど、eコマースの複数のアイテム配信シナリオを統合する。
OneMallはすでにデプロイされており、Kuaishouでは毎日4億人のアクティブユーザーが利用している。
論文 参考訳(メタデータ) (2026-01-29T14:22:39Z) - HyFormer: Revisiting the Roles of Sequence Modeling and Feature Interaction in CTR Prediction [8.97787361529607]
本稿では,HyFormerについて述べる。HyFormerは1つのバックボーンに長周期モデリングと特徴相互作用を密に統合するハイブリッドトランスフォーマーアーキテクチャである。
数十億の産業データセットに関する実験は、HyFormerが強いLONGERとRanMixerのベースラインを一貫して上回っていることを示している。
論文 参考訳(メタデータ) (2026-01-19T02:55:05Z) - MMGRec: Multimodal Generative Recommendation with Transformer Model [81.61896141495144]
MMGRecは、マルチモーダルレコメンデーションに生成パラダイムを導入することを目指している。
まず,階層的な量子化手法であるGraph CF-RQVAEを考案し,各項目にRec-IDを割り当てる。
次に、Transformerベースのレコメンデータをトレーニングし、過去のインタラクションシーケンスに基づいて、ユーザが推奨するアイテムのRec-IDを生成する。
論文 参考訳(メタデータ) (2024-04-25T12:11:27Z) - Mixed Attention Network for Cross-domain Sequential Recommendation [63.983590953727386]
ドメイン固有・クロスドメイン情報を抽出するために,ローカル・グローバル・アテンション・モジュールを用いた混在注意ネットワーク(MAN)を提案する。
2つの実世界のデータセットに対する実験結果から,提案モデルの有効性が示された。
論文 参考訳(メタデータ) (2023-11-14T16:07:16Z) - AMT: All-Pairs Multi-Field Transforms for Efficient Frame Interpolation [80.33846577924363]
ビデオフレームギスブのための新しいネットワークアーキテクチャであるAMT(All-Pairs Multi-Field Transforms)を提案する。
まず、すべての画素に対して双方向のボリュームを構築し、予測された両側フローを用いて相関関係を検索する。
第2に、入力フレーム上で逆向きのワープを行うために、一対の更新された粗い流れから細粒度の流れ場の複数のグループを導出する。
論文 参考訳(メタデータ) (2023-04-19T16:18:47Z) - GIMIRec: Global Interaction Information Aware Multi-Interest Framework
for Sequential Recommendation [5.416421678129053]
本稿では,GIMIレコメンデーションのための多目的フレームワーク(Global Interaction Aware Multi-Interest Framework for Sequential Recommendation,GIMIRec)という新たなレコメンデーションモデルを提案する。
Recall、NDCG、Hit RateインジケータにおけるGIMIRecの性能は、最先端の手法よりも大幅に優れている。
論文 参考訳(メタデータ) (2021-12-16T09:12:33Z) - SWAT: Spatial Structure Within and Among Tokens [53.525469741515884]
我々は,トークン化時に空間構造が保存される場合,モデルが顕著な利得が得られることを論じる。
本研究では,(1)構造認識のトークン化と(2)構造認識のミキシングという2つの重要なコントリビューションを提案する。
論文 参考訳(メタデータ) (2021-11-26T18:59:38Z) - Cluster-Former: Clustering-based Sparse Transformer for Long-Range
Dependency Encoding [90.77031668988661]
Cluster-Formerはクラスタリングベースの新しいスパーストランスであり、チャンクされたシーケンスにまたがって注意を向ける。
提案されたフレームワークは、Sliding-Window LayerとCluster-Former Layerの2つのユニークなタイプのTransformer Layerにピボットされている。
実験によると、Cluster-Formerはいくつかの主要なQAベンチマークで最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2020-09-13T22:09:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。