論文の概要: Kalman Filtering Attention for User Behavior Modeling in CTR Prediction
- arxiv url: http://arxiv.org/abs/2010.00985v2
- Date: Tue, 20 Oct 2020 06:48:43 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-12 00:39:27.444216
- Title: Kalman Filtering Attention for User Behavior Modeling in CTR Prediction
- Title(参考訳): CTR予測におけるユーザ行動モデリングのためのカルマンフィルタ注意
- Authors: Hu Liu, Jing Lu, Xiwei Zhao, Sulong Xu, Hao Peng, Yutong Liu, Zehua
Zhang, Jian Li, Junsheng Jin, Yongjun Bao, Weipeng Yan
- Abstract要約: 我々はKFAtt(Kalman Filtering Attention)と呼ばれる新しい注意機構を提案する。
KFAttは、ユーザ行動の少ない世界統計に頼っている。
主要なeコマースウェブサイトのランキングシステムに展開されている。
- 参考スコア(独自算出の注目度): 41.82669089501092
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Click-through rate (CTR) prediction is one of the fundamental tasks for
e-commerce search engines. As search becomes more personalized, it is necessary
to capture the user interest from rich behavior data. Existing user behavior
modeling algorithms develop different attention mechanisms to emphasize
query-relevant behaviors and suppress irrelevant ones. Despite being
extensively studied, these attentions still suffer from two limitations. First,
conventional attentions mostly limit the attention field only to a single
user's behaviors, which is not suitable in e-commerce where users often hunt
for new demands that are irrelevant to any historical behaviors. Second, these
attentions are usually biased towards frequent behaviors, which is unreasonable
since high frequency does not necessarily indicate great importance. To tackle
the two limitations, we propose a novel attention mechanism, termed Kalman
Filtering Attention (KFAtt), that considers the weighted pooling in attention
as a maximum a posteriori (MAP) estimation. By incorporating a priori, KFAtt
resorts to global statistics when few user behaviors are relevant. Moreover, a
frequency capping mechanism is incorporated to correct the bias towards
frequent behaviors. Offline experiments on both benchmark and a 10 billion
scale real production dataset, together with an Online A/B test, show that
KFAtt outperforms all compared state-of-the-arts. KFAtt has been deployed in
the ranking system of a leading e commerce website, serving the main traffic of
hundreds of millions of active users everyday.
- Abstract(参考訳): クリックスルー率(CTR)予測は,eコマース検索エンジンの基本課題の一つである。
検索がパーソナライズされるにつれて、リッチな行動データからユーザの関心を捉える必要がある。
既存のユーザ行動モデリングアルゴリズムは、クエリに関連する振る舞いを強調し、無関係な振る舞いを抑えるために異なる注意機構を開発する。
広く研究されているにもかかわらず、これらの注意は2つの制限に悩まされている。
第一に、従来の注意は注意領域を1人のユーザーの行動のみに限定しており、ユーザーは歴史的行動に関係のない新しい要求をしばしば探すeコマースには適さない。
第二に、これらの注意は通常頻繁な行動に偏りがあるが、高周波が必ずしも大きな重要性を示すとは限らないため、不合理である。
この2つの制約に対処するために,kalman filter attention (kfatt) と呼ばれる新しい注意機構を提案する。
優先順位を組み込むことで、kfattはユーザーの振る舞いがほとんど関係しないときにグローバル統計を参照する。
また、頻繁な行動に対するバイアスを補正するために周波数キャップ機構が組み込まれている。
ベンチマークと100億規模の実運用データセットのオフライン実験は、オンラインA/Bテストと合わせて、KFAttが比較対象の最先端よりも優れていることを示している。
KFAttは、主要なeコマースウェブサイトのランキングシステムにデプロイされ、毎日数億人のアクティブユーザーの主要なトラフィックを提供している。
関連論文リスト
- Deep Group Interest Modeling of Full Lifelong User Behaviors for CTR
Prediction [31.391637634812714]
Deep Group Interest Network (DGIN) は、ユーザーの行動履歴をモデル化するエンド・ツー・エンドの手法である。
DGINグルーピングはO(104)からO(102)までの行動長を著しく減少させる
我々は、生涯の行動シーケンスから、同じ項目_idと候補項目を共有する行動のサブセットを同定する。
論文 参考訳(メタデータ) (2023-11-15T06:36:11Z) - Temporal Interest Network for User Response Prediction [33.95334897033641]
本稿では,行動と対象間の意味的・時間的相関を同時に捉えるための時間的関心ネットワーク(TIN)を提案する。
TINは2023年10月から運用に成功し、WeChat Momentsのトラフィックに対応している。
論文 参考訳(メタデータ) (2023-08-15T05:48:44Z) - Neighbor Based Enhancement for the Long-Tail Ranking Problem in Video
Rank Models [0.0]
本稿では,対象ユーザや項目の表現のトレーニングを支援する新しい隣人拡張構造を提案する。
有名な公開データセットMovieLens 1Mの実験は、この手法の効率を実証している。
論文 参考訳(メタデータ) (2023-02-16T07:38:51Z) - DisenHCN: Disentangled Hypergraph Convolutional Networks for
Spatiotemporal Activity Prediction [53.76601630407521]
本稿では,既存のソリューションのギャップを埋めるために,DistenHCNと呼ばれるハイパーグラフネットワークモデルを提案する。
特に,ユーザの好みと時間的活動の複雑なマッチングをヘテロジニアスなハイパーグラフにまとめる。
次に、ユーザ表現を異なる側面(位置認識、時間認識、活動認識)に切り離し、構築したハイパーグラフ上に対応するアスペクトの特徴を集約する。
論文 参考訳(メタデータ) (2022-08-14T06:51:54Z) - Meta-Wrapper: Differentiable Wrapping Operator for User Interest
Selection in CTR Prediction [97.99938802797377]
クリックスルー率(CTR)予測は、ユーザーが商品をクリックする確率を予測することを目的としており、リコメンデーションシステムにおいてますます重要になっている。
近年,ユーザの行動からユーザの興味を自動的に抽出する深層学習モデルが大きな成功を収めている。
そこで我々は,メタラッパー(Meta-Wrapper)と呼ばれるラッパー手法の枠組みに基づく新しい手法を提案する。
論文 参考訳(メタデータ) (2022-06-28T03:28:15Z) - Learning Self-Modulating Attention in Continuous Time Space with
Applications to Sequential Recommendation [102.24108167002252]
本稿では,複雑で非線形に進化する動的ユーザの嗜好をモデル化する,自己変調型注意ネットワークを提案する。
提案手法がトップNシーケンシャルなレコメンデーションタスクに与える影響を実証的に示すとともに,3つの大規模実世界のデータセットによる結果から,我々のモデルが最先端のパフォーマンスを達成できることを示す。
論文 参考訳(メタデータ) (2022-03-30T03:54:11Z) - End-to-End User Behavior Retrieval in Click-Through RatePrediction Model [15.52581453176164]
本稿では,学習と推論のコストを大幅に削減できる ETA (Locality-sensitive hashing) 法を提案する。
GMV(Gross Merchandise Value)を2段階の長期ユーザシーケンスCTRモデルと比較して3.1%改善した。
論文 参考訳(メタデータ) (2021-08-10T06:28:29Z) - Causal Attention for Vision-Language Tasks [142.82608295995652]
新しい注意機構:Causal Attention (CATT)について紹介する。
CATTは、既存の注目に基づく視覚言語モデルにおける絶え間ない欠点を除去する。
特に,CATTは大規模プレトレーニングにおいて大きな可能性を秘めている。
論文 参考訳(メタデータ) (2021-03-05T06:38:25Z) - Multi-Interactive Attention Network for Fine-grained Feature Learning in
CTR Prediction [48.267995749975476]
クリックスルー率(ctr)予測シナリオでは、ユーザのシーケンシャルな動作を利用してユーザの関心を捉える。
既存の手法は主にユーザの行動に注意を払っているが、CTR予測には必ずしも適していない。
マルチインタラクティブ・アテンション・ネットワーク (MIAN) を提案し, 各種微細な特徴間の潜在関係を総合的に抽出する。
論文 参考訳(メタデータ) (2020-12-13T05:46:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。