論文の概要: TBIN: Modeling Long Textual Behavior Data for CTR Prediction

• arxiv url: http://arxiv.org/abs/2308.08483v1
• Date: Wed, 9 Aug 2023 03:48:41 GMT
• ステータス: 処理完了
• システム内更新日: 2023-08-20 16:20:29.452060
• Title: TBIN: Modeling Long Textual Behavior Data for CTR Prediction
• Title（参考訳）: TBIN:CTR予測のための長文行動データモデリング
• Authors: Shuwei Chen, Xiang Li, Jian Dong, Jin Zhang, Yongkang Wang and Xingxing Wang
• Abstract要約: クリックスルー率(CTR)予測は、レコメンデーションの成功において重要な役割を果たす。 近年の言語モデル(LM)の発展に触発されて,テキストテキスト形式でユーザ行動データを整理することで,予測を改善する作業が急増している。 有望ではあるが、これらの研究は、LMにおける自己注意の2次計算オーバーヘッドを減らすために、テキストデータを切り離さなければならない。 本稿では,textbfTextual textbfBehavior-based textbfInterest Chunking textbfNを提案する。
• 参考スコア（独自算出の注目度）: 15.056265935931377
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Click-through rate (CTR) prediction plays a pivotal role in the success of recommendations. Inspired by the recent thriving of language models (LMs), a surge of works improve prediction by organizing user behavior data in a \textbf{textual} format and using LMs to understand user interest at a semantic level. While promising, these works have to truncate the textual data to reduce the quadratic computational overhead of self-attention in LMs. However, it has been studied that long user behavior data can significantly benefit CTR prediction. In addition, these works typically condense user diverse interests into a single feature vector, which hinders the expressive capability of the model. In this paper, we propose a \textbf{T}extual \textbf{B}ehavior-based \textbf{I}nterest Chunking \textbf{N}etwork (TBIN), which tackles the above limitations by combining an efficient locality-sensitive hashing algorithm and a shifted chunk-based self-attention. The resulting user diverse interests are dynamically activated, producing user interest representation towards the target item. Finally, the results of both offline and online experiments on real-world food recommendation platform demonstrate the effectiveness of TBIN.
• Abstract（参考訳）: クリックスルー率(CTR)予測は、レコメンデーションの成功において重要な役割を果たす。 近年の言語モデル (LM) の発展に触発されて, ユーザ行動データをtextbf{textual} 形式で整理し, 意味レベルでのユーザ関心を理解するためにLMを用いて予測を改善する作業が急増した。 有望な一方で、これらの研究は lms における自己アテンションの二次計算オーバーヘッドを減らすために、テキストデータを切り離さなければならない。 しかし,長期間のユーザ行動データがCTR予測に大きく寄与することが研究されている。 さらに、これらの作業は通常、ユーザの多様な関心事を単一の特徴ベクトルに集約し、モデルの表現能力を妨げる。 本稿では, 局所性に敏感なハッシュアルゴリズムとシフトしたチャンクベースの自己アテンションを組み合わせることで, 上記の制限に対処する, エクストリームな \textbf{T}extual \textbf{B}ehavior-based \textbf{I}nterest Chunking \textbf{N}etwork (TBIN) を提案する。 その結果、ユーザの多様な興味が動的に活性化され、ターゲットアイテムに対するユーザの関心表現が生成される。 最後に、実世界の食品レコメンデーションプラットフォームにおけるオフラインおよびオンライン両方の実験の結果、TBINの有効性を示した。

関連論文リスト

• Multi-granularity Interest Retrieval and Refinement Network for Long-Term User Behavior Modeling in CTR Prediction [68.90783662117936]
  クリックスルーレート(CTR)の予測は、オンラインパーソナライズプラットフォームにとって不可欠である。 近年の進歩は、リッチなユーザの振る舞いをモデル化することで、CTR予測の性能を大幅に改善できることを示している。 マルチグラニュラリティ興味検索ネットワーク(MIRRN)を提案する。
  論文  参考訳（メタデータ） (2024-11-22T15:29:05Z)
• LLM-assisted Explicit and Implicit Multi-interest Learning Framework for Sequential Recommendation [50.98046887582194]
  本研究では,ユーザの興味を2つのレベル – 行動と意味論 – でモデル化する,明示的で暗黙的な多目的学習フレームワークを提案する。 提案するEIMFフレームワークは,小型モデルとLLMを効果的に組み合わせ,多目的モデリングの精度を向上させる。
  論文  参考訳（メタデータ） (2024-11-14T13:00:23Z)
• ELCoRec: Enhance Language Understanding with Co-Propagation of Numerical and Categorical Features for Recommendation [38.64175351885443]
  大規模言語モデルは自然言語処理(NLP)領域で栄えている。 レコメンデーション指向の微調整モデルによって示された知性にもかかわらず、LLMはユーザーの行動パターンを完全に理解するのに苦労している。 既存の作業は、その重要な情報を導入することなく、与えられたテキストデータに対してのみLLMを微調整するだけである。
  論文  参考訳（メタデータ） (2024-06-27T01:37:57Z)
• CELA: Cost-Efficient Language Model Alignment for CTR Prediction [71.85120354973073]
  CTR(Click-Through Rate)予測は、レコメンダシステムにおいて最重要位置を占める。 最近の取り組みは、プレトレーニング言語モデル(PLM)を統合することでこれらの課題を緩和しようとしている。 CTR予測のためのtextbfCost-textbfEfficient textbfLanguage Model textbfAlignment (textbfCELA)を提案する。
  論文  参考訳（メタデータ） (2024-05-17T07:43:25Z)
• Deep Group Interest Modeling of Full Lifelong User Behaviors for CTR Prediction [32.35797628133921]
  Deep Group Interest Network (DGIN) は、ユーザーの行動履歴をモデル化するエンド・ツー・エンドの手法である。 DGINグルーピングはO(104)からO(102)までの行動長を著しく減少させる 我々は、生涯の行動シーケンスから、同じ項目_idと候補項目を共有する行動のサブセットを同定する。
  論文  参考訳（メタデータ） (2023-11-15T06:36:11Z)
• DELTA: Dynamic Embedding Learning with Truncated Conscious Attention for CTR Prediction [61.68415731896613]
  CTR(Click-Through Rate)予測は、製品とコンテンツの推奨において重要なタスクである。 本稿では,CTR予測のための動的埋め込み学習を実現するモデルを提案する。
  論文  参考訳（メタデータ） (2023-05-03T12:34:45Z)
• Meta-Wrapper: Differentiable Wrapping Operator for User Interest Selection in CTR Prediction [97.99938802797377]
  クリックスルー率(CTR)予測は、ユーザーが商品をクリックする確率を予測することを目的としており、リコメンデーションシステムにおいてますます重要になっている。 近年,ユーザの行動からユーザの興味を自動的に抽出する深層学習モデルが大きな成功を収めている。 そこで我々は,メタラッパー(Meta-Wrapper)と呼ばれるラッパー手法の枠組みに基づく新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-06-28T03:28:15Z)
• Sampling Is All You Need on Modeling Long-Term User Behaviors for CTR Prediction [15.97120392599086]
  textbfM(textbfSampling-based textbfDeep textbfModeling)を提案する。 提案手法は, 長期ユーザ行動のモデル化において, 標準的な注意モデルと同等に機能することが理論的, 実験的に示されている。
  論文  参考訳（メタデータ） (2022-05-20T15:20:52Z)
• Sequential Recommendation via Stochastic Self-Attention [68.52192964559829]
  Transformerベースのアプローチでは、アイテムをベクトルとして埋め込んで、ドット積の自己アテンションを使用してアイテム間の関係を測定する。 本稿では,これらの問題を克服するための新しいtextbfStochastic textbfSelf-textbfAttention (STOSA) を提案する。 我々は、アイテムと項目の位置関係を列で特徴づける新しいワッサースタイン自己保持モジュールを考案した。
  論文  参考訳（メタデータ） (2022-01-16T12:38:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。