論文の概要: Multi-granularity Interest Retrieval and Refinement Network for Long-Term User Behavior Modeling in CTR Prediction
- arxiv url: http://arxiv.org/abs/2411.15005v1
- Date: Fri, 22 Nov 2024 15:29:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-25 15:02:20.791674
- Title: Multi-granularity Interest Retrieval and Refinement Network for Long-Term User Behavior Modeling in CTR Prediction
- Title(参考訳): CTR予測における長期ユーザ行動モデリングのための多粒性関心検索・リファインメントネットワーク
- Authors: Xiang Xu, Hao Wang, Wei Guo, Luankang Zhang, Wanshan Yang, Runlong Yu, Yong Liu, Defu Lian, Enhong Chen,
- Abstract要約: クリックスルーレート(CTR)の予測は、オンラインパーソナライズプラットフォームにとって不可欠である。
近年の進歩は、リッチなユーザの振る舞いをモデル化することで、CTR予測の性能を大幅に改善できることを示している。
マルチグラニュラリティ興味検索ネットワーク(MIRRN)を提案する。
- 参考スコア(独自算出の注目度): 68.90783662117936
- License:
- Abstract: Click-through Rate (CTR) prediction is crucial for online personalization platforms. Recent advancements have shown that modeling rich user behaviors can significantly improve the performance of CTR prediction. Current long-term user behavior modeling algorithms predominantly follow two cascading stages. The first stage retrieves subsequence related to the target item from the long-term behavior sequence, while the second stage models the relationship between the subsequence and the target item. Despite significant progress, these methods have two critical flaws. First, the retrieval query typically includes only target item information, limiting the ability to capture the user's diverse interests. Second, relational information, such as sequential and interactive information within the subsequence, is frequently overlooked. Therefore, it requires to be further mined to more accurately model user interests. To this end, we propose Multi-granularity Interest Retrieval and Refinement Network (MIRRN). Specifically, we first construct queries based on behaviors observed at different time scales to obtain subsequences, each capturing users' interest at various granularities. We then introduce an noval multi-head Fourier transformer to efficiently learn sequential and interactive information within the subsequences, leading to more accurate modeling of user interests. Finally, we employ multi-head target attention to adaptively assess the impact of these multi-granularity interests on the target item. Extensive experiments have demonstrated that MIRRN significantly outperforms state-of-the-art baselines. Furthermore, an A/B test shows that MIRRN increases the average number of listening songs by 1.32% and the average time of listening songs by 0.55% on a popular music streaming app. The implementation code is publicly available at https://github.com/psycho-demon/MIRRN.
- Abstract(参考訳): クリックスルーレート(CTR)の予測は、オンラインパーソナライズプラットフォームにとって不可欠である。
近年の進歩は、リッチなユーザの振る舞いをモデル化することで、CTR予測の性能を大幅に改善できることを示している。
現在の長期ユーザー行動モデリングアルゴリズムは、主に2つのカスケード段階に従う。
第1ステージは、長期動作シーケンスから対象アイテムに関連するサブシーケンスを検索し、第2ステージは、そのサブシーケンスと対象アイテムの関係をモデル化する。
著しい進歩にもかかわらず、これらの手法には2つの重大な欠陥がある。
まず、検索クエリは通常、ターゲットアイテム情報のみを含み、ユーザの多様な興味を捉える能力を制限する。
第二に、サブシーケンス内の逐次的かつインタラクティブな情報のような関係情報は、しばしば見過ごされる。
そのため、ユーザーの興味をより正確にモデル化するためにさらに掘り下げる必要がある。
そこで本研究では,Multi-granularity Interest Retrieval and Refinement Network (MIRRN)を提案する。
具体的には、まず、異なる時間スケールで観測された行動に基づいてクエリを構築し、各ユーザの興味を様々な粒度で捉える。
次に,名詞型マルチヘッドフーリエ変換器を導入し,サブシーケンス内の逐次的かつインタラクティブな情報を効率よく学習し,ユーザの興味をより正確にモデル化する。
最後に,これらの多粒度関心が対象物に与える影響を適応的に評価するために,多頭部目標注意を用いた。
大規模な実験により、MIRRNは最先端のベースラインを大きく上回っていることが示されている。
さらに、A/Bテストでは、MIRRNがポピュラーな音楽ストリーミングアプリで聴く曲の平均回数を1.32%増加し、聴く曲の平均時間を0.55%増加させることを示した。
実装コードはhttps://github.com/psycho-demon/MIRRN.comで公開されている。
関連論文リスト
- Long-Sequence Recommendation Models Need Decoupled Embeddings [49.410906935283585]
我々は、既存の長期推薦モデルにおいて無視された欠陥を識別し、特徴付ける。
埋め込みの単一のセットは、注意と表現の両方を学ぶのに苦労し、これら2つのプロセス間の干渉につながります。
本稿では,2つの異なる埋め込みテーブルを別々に学習し,注意と表現を完全に分離する,DARE(Decoupled Attention and Representation Embeddings)モデルを提案する。
論文 参考訳(メタデータ) (2024-10-03T15:45:15Z) - TWIN V2: Scaling Ultra-Long User Behavior Sequence Modeling for Enhanced CTR Prediction at Kuaishou [28.809014888174932]
SIMの強化であるTWIN-V2を導入し、ライフサイクルの振る舞いを圧縮し、より正確で多様なユーザの興味を明らかにする。
効率的なデプロイメントフレームワークの下では、TWIN-V2が主要なトラフィックにデプロイされ、Kuaishouでは毎日数億人のアクティブユーザを提供する。
論文 参考訳(メタデータ) (2024-07-23T10:00:45Z) - SEMINAR: Search Enhanced Multi-modal Interest Network and Approximate Retrieval for Lifelong Sequential Recommendation [16.370075234443245]
本稿では,SEMINAR-Search Enhanced Multi-Modal Interest Network と Approximate Retrieval という,一生涯にわたるマルチモーダルシーケンスモデルを提案する。
具体的には、Pretraining Search Unitと呼ばれるネットワークが、事前トレーニング-ファインタニング方式で、マルチモーダルクエリ-イテムペアの寿命のシーケンスを学習する。
マルチモーダル埋め込みのオンライン検索速度を高速化するために,マルチモーダルなコードブックベースの製品量子化戦略を提案する。
論文 参考訳(メタデータ) (2024-07-15T13:33:30Z) - Sequential Search with Off-Policy Reinforcement Learning [48.88165680363482]
本稿では,RNN学習フレームワークとアテンションモデルからなる,スケーラブルなハイブリッド学習モデルを提案する。
新たな最適化のステップとして、1つのRNNパスに複数の短いユーザシーケンスをトレーニングバッチ内に収める。
また、マルチセッションパーソナライズされた検索ランキングにおける非政治強化学習の利用についても検討する。
論文 参考訳(メタデータ) (2022-02-01T06:52:40Z) - Dynamic Sequential Graph Learning for Click-Through Rate Prediction [29.756257920214168]
本稿では,ユーザやアイテムに関連付けられたローカルサブグラフからの協調情報を活用することで,ユーザの表現を向上する新しい手法を提案する。
実世界のCTR予測ベンチマークの結果は、DSGLによってもたらされた改善を実証している。
論文 参考訳(メタデータ) (2021-09-26T09:23:43Z) - Learning Dual Dynamic Representations on Time-Sliced User-Item
Interaction Graphs for Sequential Recommendation [62.30552176649873]
シーケンシャルレコメンデーションのための動的表現学習モデル(DRL-SRe)を考案する。
両面から動的に特徴付けるためのユーザ・イテム相互作用をモデル化するため,提案モデルでは,時間スライス毎にグローバルなユーザ・イテム相互作用グラフを構築した。
モデルが微粒な時間情報を捕捉することを可能にするため,連続時間スライス上での補助的時間予測タスクを提案する。
論文 参考訳(メタデータ) (2021-09-24T07:44:27Z) - End-to-End User Behavior Retrieval in Click-Through RatePrediction Model [15.52581453176164]
本稿では,学習と推論のコストを大幅に削減できる ETA (Locality-sensitive hashing) 法を提案する。
GMV(Gross Merchandise Value)を2段階の長期ユーザシーケンスCTRモデルと比較して3.1%改善した。
論文 参考訳(メタデータ) (2021-08-10T06:28:29Z) - Dynamic Memory based Attention Network for Sequential Recommendation [79.5901228623551]
DMAN(Dynamic Memory-based Attention Network)と呼ばれる新しい連続的推薦モデルを提案する。
長い動作シーケンス全体を一連のサブシーケンスに分割し、モデルをトレーニングし、ユーザの長期的な利益を維持するためにメモリブロックのセットを維持する。
動的メモリに基づいて、ユーザの短期的および長期的関心を明示的に抽出し、組み合わせて効率的な共同推薦を行うことができる。
論文 参考訳(メタデータ) (2021-02-18T11:08:54Z) - Multi-Interactive Attention Network for Fine-grained Feature Learning in
CTR Prediction [48.267995749975476]
クリックスルー率(ctr)予測シナリオでは、ユーザのシーケンシャルな動作を利用してユーザの関心を捉える。
既存の手法は主にユーザの行動に注意を払っているが、CTR予測には必ずしも適していない。
マルチインタラクティブ・アテンション・ネットワーク (MIAN) を提案し, 各種微細な特徴間の潜在関係を総合的に抽出する。
論文 参考訳(メタデータ) (2020-12-13T05:46:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。