論文の概要: Efficient Transfer Learning Framework for Cross-Domain Click-Through Rate Prediction

• arxiv url: http://arxiv.org/abs/2408.16238v1
• Date: Thu, 29 Aug 2024 03:34:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-10 16:53:41.450113
• Title: Efficient Transfer Learning Framework for Cross-Domain Click-Through Rate Prediction
• Title（参考訳）: クロスドメインクリックスルーレート予測のための効率的な伝達学習フレームワーク
• Authors: Qi Liu, Xingyuan Tang, Jianqiang Huang, Xiangqian Yu, Haoran Jin, Jin Chen, Yuanhao Pu, Defu Lian, Tan Qu, Zhe Wang, Jia Cheng, Jun Lei,
• Abstract要約: クロスドメインクリックスルーレート予測(E-CDCTR)のための効率的な伝達学習フレームワーク 鍵となる3つの要素:Tiny Pre-Traning Model (TPM)、Complete Pre-Traning Model (CPM)、そして—CTR Model (A-CTR) TPMは、CPMとA-CTRの両方に対して、ユーザとアイテムのよりリッチな表現を提供し、日々の更新に固有の問題を効果的に軽減します。
• 参考スコア（独自算出の注目度）: 47.7066461216227
• License:
• Abstract: Natural content and advertisement coexist in industrial recommendation systems but differ in data distribution. Concretely, traffic related to the advertisement is considerably sparser compared to that of natural content, which motivates the development of transferring knowledge from the richer source natural content domain to the sparser advertising domain. The challenges include the inefficiencies arising from the management of extensive source data and the problem of 'catastrophic forgetting' that results from the CTR model's daily updating. To this end, we propose a novel tri-level asynchronous framework, i.e., Efficient Transfer Learning Framework for Cross-Domain Click-Through Rate Prediction (E-CDCTR), to transfer comprehensive knowledge of natural content to advertisement CTR models. This framework consists of three key components: Tiny Pre-training Model ((TPM), which trains a tiny CTR model with several basic features on long-term natural data; Complete Pre-training Model (CPM), which trains a CTR model holding network structure and input features the same as target advertisement on short-term natural data; Advertisement CTR model (A-CTR), which derives its parameter initialization from CPM together with multiple historical embeddings from TPM as extra feature and then fine-tunes on advertisement data. TPM provides richer representations of user and item for both the CPM and A-CTR, effectively alleviating the forgetting problem inherent in the daily updates. CPM further enhances the advertisement model by providing knowledgeable initialization, thereby alleviating the data sparsity challenges typically encountered by advertising CTR models. Such a tri-level cross-domain transfer learning framework offers an efficient solution to address both data sparsity and `catastrophic forgetting', yielding remarkable improvements.
• Abstract（参考訳）: 産業レコメンデーションシステムでは自然コンテンツと広告が共存するが、データ配信では異なる。 具体的には、より豊かなソースの自然コンテンツドメインからスパサー広告ドメインへの知識移転の動機となる自然コンテンツと比較して、広告に関連するトラフィックがかなりスペーサーである。 この課題には、広範囲なソースデータ管理から生じる非効率性や、CTRモデルの日々の更新によって生じる「破滅的な忘れ」の問題が含まれる。 そこで本研究では,CTRの広告モデルに自然コンテンツの包括的知識を伝達するための3レベル非同期フレームワーク,すなわちクロスドメインクリックスルーレート予測(E-CDCTR)を提案する。 このフレームワークは、3つのキーコンポーネントから構成される:Tiny Pre-Training Model(TPM)は、長期自然データにいくつかの基本的な特徴を持つ小さなCTRモデルを訓練し、Complete Pre-Training Model(CPM)は、ネットワーク構造を持つCTRモデルを訓練し、短期自然データにターゲット広告と同じ入力特徴を持つCTRモデルを訓練する。 TPMは、CPMとA-CTRの両方に対して、ユーザとアイテムのよりリッチな表現を提供し、日々の更新に固有の忘れることの問題を効果的に軽減します。 CPMはさらに、知識に富んだ初期化を提供することで広告モデルを強化し、CTRモデルの広告によって直面するデータ空間の問題を軽減する。 このような三段階のクロスドメイン移行学習フレームワークは、データの疎さと‘破滅的な忘れ方’の両方に対処する効率的なソリューションを提供する。

関連論文リスト

• ClickPrompt: CTR Models are Strong Prompt Generators for Adapting Language Models to CTR Prediction [45.15127775876369]
  クリックスルー率(CTR)の予測は、様々なインターネットアプリケーションにとってますます不可欠になっている。 従来のCTRモデルは、マルチフィールド分類データをワンホット符号化によりID特徴に変換し、特徴間の協調信号を抽出する。 我々は、CTRモデルを組み込んで対話対応ソフトプロンプトを生成する、新しいモデル非依存フレームワーク(ClickPrompt)を提案する。
  論文  参考訳（メタデータ） (2023-10-13T16:37:53Z)
• CSPM: A Contrastive Spatiotemporal Preference Model for CTR Prediction in On-Demand Food Delivery Services [17.46228008447778]
  本稿では、コントラスト時間表現学習(CSRL)、時間表現抽出器(CSRPE)、時間情報フィルタ(StIF)を紹介する。 StIFは、SARをゲーティングネットワークに組み込んで、遅延時間効果で重要な特徴を自動的にキャプチャする。 CSPM はAlibaba のオンライン OFD プラットフォーム Ele.me にデプロイされ、その結果 CTR は0.88% 上昇し、ビジネス上の重大な意味を持つ。
  論文  参考訳（メタデータ） (2023-08-10T19:53:30Z)
• MAP: A Model-agnostic Pretraining Framework for Click-through Rate Prediction [39.48740397029264]
  本稿では,多分野分類データに特徴的破損と回復を適用したMAP(Model-Agnostic Pretraining)フレームワークを提案する。 マスク付き特徴予測(RFD)と代替特徴検出(RFD)の2つの実用的なアルゴリズムを導出する。
  論文  参考訳（メタデータ） (2023-08-03T12:55:55Z)
• DELTA: Dynamic Embedding Learning with Truncated Conscious Attention for CTR Prediction [61.68415731896613]
  CTR(Click-Through Rate)予測は、製品とコンテンツの推奨において重要なタスクである。 本稿では,CTR予測のための動的埋め込み学習を実現するモデルを提案する。
  論文  参考訳（メタデータ） (2023-05-03T12:34:45Z)
• Beyond Transfer Learning: Co-finetuning for Action Localisation [64.07196901012153]
  同時に、複数のアップストリームとダウンストリームのタスクで1つのモデルをトレーニングする。 共ファインタニングは、同じデータ量を使用する場合、従来のトランスファーラーニングよりも優れていることを示す。 さらに、複数のアップストリームデータセットへのアプローチを簡単に拡張して、パフォーマンスをさらに向上する方法も示しています。
  論文  参考訳（メタデータ） (2022-07-08T10:25:47Z)
• VFed-SSD: Towards Practical Vertical Federated Advertising [53.08038962443853]
  本稿では,2つの制限を緩和する半教師付き分割蒸留フレームワーク VFed-SSD を提案する。 具体的には,垂直分割された未ラベルデータを利用する自己教師型タスクMatchedPair Detection (MPD) を開発する。 当社のフレームワークは,デプロイコストの最小化と大幅なパフォーマンス向上を図った,リアルタイム表示広告のための効率的なフェデレーション強化ソリューションを提供する。
  論文  参考訳（メタデータ） (2022-05-31T17:45:30Z)
• CREATER: CTR-driven Advertising Text Generation with Controlled Pre-Training and Contrastive Fine-Tuning [14.912117221662054]
  本稿では,CTRによる広告テキスト生成手法であるCREATERを提案し,高品質なユーザレビューに基づいて広告テキストを生成する。 CTRの目的を取り入れるために、我々のモデルはコントラスト学習を伴うオンラインA/Bテストデータから学習し、より高いCTRを得る広告テキストを生成することを奨励する。 産業データセットの実験は、CREATERが現在のアプローチよりも大幅に優れていることを示している。
  論文  参考訳（メタデータ） (2022-05-18T14:17:04Z)
• Concept Drift Adaptation for CTR Prediction in Online Advertising Systems [6.900209851954917]
  クリックスルー率(CTR)予測は、ウェブ検索、レコメンダシステム、オンライン広告表示において重要な課題である。 本稿では,CTR予測データストリームにおける適応フィルタリングによるコンセプトドリフト問題を軽減するために,専門家の適応混合(AdaMoE)を提案する。
  論文  参考訳（メタデータ） (2022-04-01T07:43:43Z)
• Masked Transformer for Neighhourhood-aware Click-Through Rate Prediction [74.52904110197004]
  本稿では,近隣相互作用に基づくCTR予測を提案し,そのタスクを異種情報ネットワーク(HIN)設定に組み込む。 周辺地域の表現を高めるために,ノード間のトポロジカルな相互作用を4種類検討する。 本研究では,2つの実世界のデータセットに関する総合的な実験を行い,提案手法が最先端のCTRモデルを大幅に上回ることを示す。
  論文  参考訳（メタデータ） (2022-01-25T12:44:23Z)
• Towards Automated Neural Interaction Discovery for Click-Through Rate Prediction [64.03526633651218]
  CTR(Click-Through Rate)予測は、レコメンダシステムにおいて最も重要な機械学習タスクの1つである。 本稿では,AutoCTR と呼ばれる CTR 予測のための自動インタラクションアーキテクチャ探索フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-06-29T04:33:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。