論文の概要: Continual Learning for CTR Prediction: A Hybrid Approach
- arxiv url: http://arxiv.org/abs/2201.06886v1
- Date: Tue, 18 Jan 2022 11:30:57 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-19 18:29:57.700299
- Title: Continual Learning for CTR Prediction: A Hybrid Approach
- Title(参考訳): CTR予測のための連続学習:ハイブリッドアプローチ
- Authors: Ke Hu, Yi Qi, Jianqiang Huang, Jia Cheng, Jun Lei
- Abstract要約: CTR予測のためのハイブリッドなContinual Learning FrameworkであるCOLFを提案する。
COLFはメモリベースのモジュールアーキテクチャを持ち、継続的な適応、学習、予測を行うように設計されている。
中国の大手ショッピングアプリから収集したクリックログに関する実証的評価は,既存の方法よりも優れていることを示す。
- 参考スコア(独自算出の注目度): 37.668467137218286
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Click-through rate(CTR) prediction is a core task in cost-per-click(CPC)
advertising systems and has been studied extensively by machine learning
practitioners. While many existing methods have been successfully deployed in
practice, most of them are built upon i.i.d.(independent and identically
distributed) assumption, ignoring that the click data used for training and
inference is collected through time and is intrinsically non-stationary and
drifting. This mismatch will inevitably lead to sub-optimal performance. To
address this problem, we formulate CTR prediction as a continual learning task
and propose COLF, a hybrid COntinual Learning Framework for CTR prediction,
which has a memory-based modular architecture that is designed to adapt, learn
and give predictions continuously when faced with non-stationary drifting click
data streams. Married with a memory population method that explicitly controls
the discrepancy between memory and target data, COLF is able to gain positive
knowledge from its historical experience and makes improved CTR predictions.
Empirical evaluations on click log collected from a major shopping app in China
demonstrate our method's superiority over existing methods. Additionally, we
have deployed our method online and observed significant CTR and revenue
improvement, which further demonstrates our method's efficacy.
- Abstract(参考訳): クリックスルー率(CTR)予測はコスト・パー・クリック(CPC)広告システムにおける中核的なタスクであり、機械学習の実践者によって広く研究されている。
既存の多くのメソッドが実際にうまくデプロイされているが、そのほとんどは(独立で同一の)仮定に基づいて構築されており、トレーニングや推論に使用されるクリックデータが時間を通して収集され、本質的に非定常的でドリフトである。
このミスマッチは必然的に準最適パフォーマンスにつながるでしょう。
この問題に対処するため,CTR予測を連続学習タスクとして定式化し,非定常ドリフトクリックデータストリームに直面する場合の予測を適応・学習・継続するメモリベースのモジュールアーキテクチャを備えた,CTR予測のためのハイブリッド学習フレームワークであるCOLFを提案する。
メモリとターゲットデータの相違を明示的に制御するメモリ人口法と組み合わせて、COLFはその歴史的経験から肯定的な知識を得ることができ、CTR予測を改善することができる。
中国の大手ショッピングアプリから収集したクリックログに関する実証的評価は,既存の方法よりも優れていることを示す。
さらに,本手法をオンラインで展開し,CTRと収益の大幅な改善を観察し,本手法の有効性を実証した。
関連論文リスト
- Enhancing CTR Prediction through Sequential Recommendation Pre-training: Introducing the SRP4CTR Framework [13.574487867743773]
クリックスルーレート(CTR)予測のための逐次勧告事前学習フレームワーク(SRP4CTR)を提案する。
本稿では,事前学習モデルの導入が推論コストに与える影響について論じるとともに,シーケンス側情報を同時に符号化する事前学習手法を提案する。
我々は,事前学習モデルから産業用CTRモデルへの知識伝達を容易にするクエリ変換手法を開発した。
論文 参考訳(メタデータ) (2024-07-29T02:49:11Z) - Adaptive Rentention & Correction for Continual Learning [114.5656325514408]
連続学習における一般的な問題は、最新のタスクに対する分類層のバイアスである。
アダプティブ・リテンション・アンド・コレクション (ARC) のアプローチを例に挙げる。
ARCはCIFAR-100とImagenet-Rのデータセットで平均2.7%と2.6%のパフォーマンス向上を達成した。
論文 参考訳(メタデータ) (2024-05-23T08:43:09Z) - MAP: A Model-agnostic Pretraining Framework for Click-through Rate
Prediction [39.48740397029264]
本稿では,多分野分類データに特徴的破損と回復を適用したMAP(Model-Agnostic Pretraining)フレームワークを提案する。
マスク付き特徴予測(RFD)と代替特徴検出(RFD)の2つの実用的なアルゴリズムを導出する。
論文 参考訳(メタデータ) (2023-08-03T12:55:55Z) - Unified Off-Policy Learning to Rank: a Reinforcement Learning
Perspective [61.4025671743675]
メソッドをランク付けするオフポリシー学習は、ユーザがクリックデータを生成する方法に関して、強い仮定をすることが多い。
オフライン強化学習は,複雑なデバイアス手法や事前知識を使わずに,様々なクリックモデルに適応できることを示す。
様々な大規模データセットの結果から、CUOLRはアルゴリズムのランク付けに最先端のオフポリシー学習を一貫して上回っていることが示される。
論文 参考訳(メタデータ) (2023-06-13T03:46:22Z) - DELTA: Dynamic Embedding Learning with Truncated Conscious Attention for
CTR Prediction [61.68415731896613]
CTR(Click-Through Rate)予測は、製品とコンテンツの推奨において重要なタスクである。
本稿では,CTR予測のための動的埋め込み学習を実現するモデルを提案する。
論文 参考訳(メタデータ) (2023-05-03T12:34:45Z) - Always Strengthen Your Strengths: A Drift-Aware Incremental Learning
Framework for CTR Prediction [4.909628097144909]
クリックスルー率(CTR)予測はレコメンデーションシステムやオンライン広告プラットフォームにおいて非常に重要である。
ストリーミングデータには、基礎となる分布が時間とともにドリフトし、再帰する可能性があるという特徴がある。
我々は、CTR予測における破滅的な忘れに対処するために、アンサンブル学習に基づく新しいドリフト対応インクリメンタルラーニングフレームワークを設計する。
論文 参考訳(メタデータ) (2023-04-17T05:45:18Z) - Real-Time Evaluation in Online Continual Learning: A New Hope [104.53052316526546]
計算コストに関して,現在の継続学習(CL)手法を評価した。
簡単なベースラインは、この評価の下で最先端のCL法より優れている。
これは、既存のCL文献の大部分は、実用的でない特定の種類のストリームに適合していることを驚くほど示唆している。
論文 参考訳(メタデータ) (2023-02-02T12:21:10Z) - A Memory Transformer Network for Incremental Learning [64.0410375349852]
本研究では,モデルが学習する時間とともに,新しいデータクラスが観察される学習環境であるクラスインクリメンタルラーニングについて検討する。
素直な問題定式化にもかかわらず、クラス増分学習への分類モデルの素直な適用は、これまで見られたクラスの「破滅的な忘れ込み」をもたらす。
これは、過去のデータのサブセットをメモリバンクに保存し、将来のタスクをトレーニングする際の忘れの防止にそれを活用することで、破滅的な忘れの問題を克服するものだ。
論文 参考訳(メタデータ) (2022-10-10T08:27:28Z) - Rethinking Position Bias Modeling with Knowledge Distillation for CTR
Prediction [8.414183573280779]
本研究では,位置バイアスの影響を緩和し,位置情報を活用してCTR予測を改善する知識蒸留フレームワークを提案する。
提案手法は現実世界のオンライン広告システムに展開され、世界最大の電子商取引プラットフォームの1つで主要なトラフィックを提供する。
論文 参考訳(メタデータ) (2022-04-01T07:58:38Z) - Efficient Click-Through Rate Prediction for Developing Countries via
Tabular Learning [2.916402752324148]
CTR(Click-Through Rate)予測モデルは,限られた計算資源のため,展開が困難である。
本稿では,表型学習モデルがCTR予測においてより効率的かつ有効であることを示す。
論文 参考訳(メタデータ) (2021-04-15T16:07:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。