論文の概要: Kalman Filtering Attention for User Behavior Modeling in CTR Prediction

• arxiv url: http://arxiv.org/abs/2010.00985v2
• Date: Tue, 20 Oct 2020 06:48:43 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-12 00:39:27.444216
• Title: Kalman Filtering Attention for User Behavior Modeling in CTR Prediction
• Title（参考訳）: CTR予測におけるユーザ行動モデリングのためのカルマンフィルタ注意
• Authors: Hu Liu, Jing Lu, Xiwei Zhao, Sulong Xu, Hao Peng, Yutong Liu, Zehua Zhang, Jian Li, Junsheng Jin, Yongjun Bao, Weipeng Yan
• Abstract要約: 我々はKFAtt(Kalman Filtering Attention)と呼ばれる新しい注意機構を提案する。 KFAttは、ユーザ行動の少ない世界統計に頼っている。 主要なeコマースウェブサイトのランキングシステムに展開されている。
• 参考スコア（独自算出の注目度）: 41.82669089501092
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Click-through rate (CTR) prediction is one of the fundamental tasks for e-commerce search engines. As search becomes more personalized, it is necessary to capture the user interest from rich behavior data. Existing user behavior modeling algorithms develop different attention mechanisms to emphasize query-relevant behaviors and suppress irrelevant ones. Despite being extensively studied, these attentions still suffer from two limitations. First, conventional attentions mostly limit the attention field only to a single user's behaviors, which is not suitable in e-commerce where users often hunt for new demands that are irrelevant to any historical behaviors. Second, these attentions are usually biased towards frequent behaviors, which is unreasonable since high frequency does not necessarily indicate great importance. To tackle the two limitations, we propose a novel attention mechanism, termed Kalman Filtering Attention (KFAtt), that considers the weighted pooling in attention as a maximum a posteriori (MAP) estimation. By incorporating a priori, KFAtt resorts to global statistics when few user behaviors are relevant. Moreover, a frequency capping mechanism is incorporated to correct the bias towards frequent behaviors. Offline experiments on both benchmark and a 10 billion scale real production dataset, together with an Online A/B test, show that KFAtt outperforms all compared state-of-the-arts. KFAtt has been deployed in the ranking system of a leading e commerce website, serving the main traffic of hundreds of millions of active users everyday.
• Abstract（参考訳）: クリックスルー率(CTR)予測は,eコマース検索エンジンの基本課題の一つである。 検索がパーソナライズされるにつれて、リッチな行動データからユーザの関心を捉える必要がある。 既存のユーザ行動モデリングアルゴリズムは、クエリに関連する振る舞いを強調し、無関係な振る舞いを抑えるために異なる注意機構を開発する。 広く研究されているにもかかわらず、これらの注意は2つの制限に悩まされている。 第一に、従来の注意は注意領域を1人のユーザーの行動のみに限定しており、ユーザーは歴史的行動に関係のない新しい要求をしばしば探すeコマースには適さない。 第二に、これらの注意は通常頻繁な行動に偏りがあるが、高周波が必ずしも大きな重要性を示すとは限らないため、不合理である。 この2つの制約に対処するために,kalman filter attention (kfatt) と呼ばれる新しい注意機構を提案する。 優先順位を組み込むことで、kfattはユーザーの振る舞いがほとんど関係しないときにグローバル統計を参照する。 また、頻繁な行動に対するバイアスを補正するために周波数キャップ機構が組み込まれている。 ベンチマークと100億規模の実運用データセットのオフライン実験は、オンラインA/Bテストと合わせて、KFAttが比較対象の最先端よりも優れていることを示している。 KFAttは、主要なeコマースウェブサイトのランキングシステムにデプロイされ、毎日数億人のアクティブユーザーの主要なトラフィックを提供している。

関連論文リスト

• Multi-granularity Interest Retrieval and Refinement Network for Long-Term User Behavior Modeling in CTR Prediction [68.90783662117936]
  クリックスルーレート(CTR)の予測は、オンラインパーソナライズプラットフォームにとって不可欠である。 近年の進歩は、リッチなユーザの振る舞いをモデル化することで、CTR予測の性能を大幅に改善できることを示している。 マルチグラニュラリティ興味検索ネットワーク(MIRRN)を提案する。
  論文  参考訳（メタデータ） (2024-11-22T15:29:05Z)
• Long-Sequence Recommendation Models Need Decoupled Embeddings [49.410906935283585]
  我々は、既存の長期推薦モデルにおいて無視された欠陥を識別し、特徴付ける。 埋め込みの単一のセットは、注意と表現の両方を学ぶのに苦労し、これら2つのプロセス間の干渉につながります。 本稿では,2つの異なる埋め込みテーブルを別々に学習し,注意と表現を完全に分離する,DARE(Decoupled Attention and Representation Embeddings)モデルを提案する。
  論文  参考訳（メタデータ） (2024-10-03T15:45:15Z)
• Deep Group Interest Modeling of Full Lifelong User Behaviors for CTR Prediction [32.35797628133921]
  Deep Group Interest Network (DGIN) は、ユーザーの行動履歴をモデル化するエンド・ツー・エンドの手法である。 DGINグルーピングはO(104)からO(102)までの行動長を著しく減少させる 我々は、生涯の行動シーケンスから、同じ項目_idと候補項目を共有する行動のサブセットを同定する。
  論文  参考訳（メタデータ） (2023-11-15T06:36:11Z)
• Neighbor Based Enhancement for the Long-Tail Ranking Problem in Video Rank Models [0.0]
  本稿では,対象ユーザや項目の表現のトレーニングを支援する新しい隣人拡張構造を提案する。 有名な公開データセットMovieLens 1Mの実験は、この手法の効率を実証している。
  論文  参考訳（メタデータ） (2023-02-16T07:38:51Z)
• Meta-Wrapper: Differentiable Wrapping Operator for User Interest Selection in CTR Prediction [97.99938802797377]
  クリックスルー率(CTR)予測は、ユーザーが商品をクリックする確率を予測することを目的としており、リコメンデーションシステムにおいてますます重要になっている。 近年,ユーザの行動からユーザの興味を自動的に抽出する深層学習モデルが大きな成功を収めている。 そこで我々は,メタラッパー(Meta-Wrapper)と呼ばれるラッパー手法の枠組みに基づく新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-06-28T03:28:15Z)
• Learning Self-Modulating Attention in Continuous Time Space with Applications to Sequential Recommendation [102.24108167002252]
  本稿では,複雑で非線形に進化する動的ユーザの嗜好をモデル化する,自己変調型注意ネットワークを提案する。 提案手法がトップNシーケンシャルなレコメンデーションタスクに与える影響を実証的に示すとともに,3つの大規模実世界のデータセットによる結果から,我々のモデルが最先端のパフォーマンスを達成できることを示す。
  論文  参考訳（メタデータ） (2022-03-30T03:54:11Z)
• End-to-End User Behavior Retrieval in Click-Through RatePrediction Model [15.52581453176164]
  本稿では,学習と推論のコストを大幅に削減できる ETA (Locality-sensitive hashing) 法を提案する。 GMV(Gross Merchandise Value)を2段階の長期ユーザシーケンスCTRモデルと比較して3.1%改善した。
  論文  参考訳（メタデータ） (2021-08-10T06:28:29Z)
• Multi-Interactive Attention Network for Fine-grained Feature Learning in CTR Prediction [48.267995749975476]
  クリックスルー率(ctr)予測シナリオでは、ユーザのシーケンシャルな動作を利用してユーザの関心を捉える。 既存の手法は主にユーザの行動に注意を払っているが、CTR予測には必ずしも適していない。 マルチインタラクティブ・アテンション・ネットワーク (MIAN) を提案し, 各種微細な特徴間の潜在関係を総合的に抽出する。
  論文  参考訳（メタデータ） (2020-12-13T05:46:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。