論文の概要: LT4REC:A Lottery Ticket Hypothesis Based Multi-task Practice for Video
Recommendation System
- arxiv url: http://arxiv.org/abs/2008.09872v2
- Date: Thu, 14 Oct 2021 16:24:40 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-26 07:54:51.259201
- Title: LT4REC:A Lottery Ticket Hypothesis Based Multi-task Practice for Video
Recommendation System
- Title(参考訳): LT4REC:ビデオレコメンデーションシステムのためのロッキーチケット仮説に基づくマルチタスク実践
- Authors: Xuanji Xiao, Huabin Chen, Yuzhen Liu, Xing Yao, Pei Liu, Chaosheng
Fan, Nian Ji, Xirong Jiang
- Abstract要約: クリックスルーレート予測(CTR)とクリック後変換レート予測(CVR)は、すべての産業ランキングシステムにおいて重要な役割を果たす。
本稿では,マルチタスク学習における宝くじをベースとしたスパース学習の導入により,CVRを新たな手法でモデル化する。
Tencentビデオのレコメンデーションシステムのトラフィックログから収集されたデータセットの実験は、CVRモデルのスパース共有が競合する手法を大幅に上回ることを示した。
- 参考スコア(独自算出の注目度): 2.7174057828883504
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Click-through rate prediction (CTR) and post-click conversion rate prediction
(CVR) play key roles across all industrial ranking systems, such as
recommendation systems, online advertising, and search engines. Different from
the extensive research on CTR, there is much less research on CVR estimation,
whose main challenge is extreme data sparsity with one or two orders of
magnitude reduction in the number of samples than CTR. People try to solve this
problem with the paradigm of multi-task learning with the sufficient samples of
CTR, but the typical hard sharing method can't effectively solve this problem,
because it is difficult to analyze which parts of network components can be
shared and which parts are in conflict, i.e., there is a large inaccuracy with
artificially designed neurons sharing. In this paper, we model CVR in a
brand-new method by adopting the lottery-ticket-hypothesis-based sparse sharing
multi-task learning, which can automatically and flexibly learn which neuron
weights to be shared without artificial experience. Experiments on the dataset
gathered from traffic logs of Tencent video's recommendation system demonstrate
that sparse sharing in the CVR model significantly outperforms competitive
methods. Due to the nature of weight sparsity in sparse sharing, it can also
significantly reduce computational complexity and memory usage which are very
important in the industrial recommendation system.
- Abstract(参考訳): クリックスルー率予測(CTR)とクリック後変換率予測(CVR)は、レコメンデーションシステム、オンライン広告、検索エンジンなど、すべての産業ランキングシステムにおいて重要な役割を果たす。
CTRの広範な研究とは異なり、CVR推定に関する研究は少なく、その主な課題は、CTRよりもサンプル数の1~2桁のスケール縮小を伴う極端なデータ間隔である。
人々は、ctrの十分なサンプルを用いてマルチタスク学習のパラダイムでこの問題を解決しようとするが、ネットワークコンポーネントのどの部分が共有可能か、どの部分が競合しているか、すなわち人工的に設計されたニューロンを共有することには不正確さがあるため、典型的なハードシェアリング手法は効果的に解決できない。
本稿では, 宝くじをベースとしたスパース共有マルチタスク学習を用いて, CVRを新たな手法でモデル化し, 人工的な経験を伴わずにどのニューロン重みを共有するかを自動的に柔軟に学習する。
Tencentビデオのレコメンデーションシステムのトラフィックログから収集されたデータセットの実験は、CVRモデルのスパース共有が競合する手法を大幅に上回ることを示した。
スパース共有における重み空間の性質により、産業レコメンデーションシステムにおいて非常に重要な計算複雑性とメモリ使用量を大幅に削減することができる。
関連論文リスト
- MAP: A Model-agnostic Pretraining Framework for Click-through Rate
Prediction [39.48740397029264]
本稿では,多分野分類データに特徴的破損と回復を適用したMAP(Model-Agnostic Pretraining)フレームワークを提案する。
マスク付き特徴予測(RFD)と代替特徴検出(RFD)の2つの実用的なアルゴリズムを導出する。
論文 参考訳(メタデータ) (2023-08-03T12:55:55Z) - Contrastive Learning for Conversion Rate Prediction [6.607531486024888]
本稿では,CL4CVR(Contrastive Learning for CVR Prediction)フレームワークを提案する。
教師付きCVR予測タスクと、より良いデータ表現を学ぶための対照的な学習タスクを関連付ける。
2つの実世界の変換データセットの実験結果は、CL4CVRの優れた性能を示している。
論文 参考訳(メタデータ) (2023-07-12T07:42:52Z) - Contrastive Multi-view Framework for Customer Lifetime Value Prediction [48.24479287526052]
既存のLTV予測手法の多くは、消費サンプルに基づいてシングルビューのLTV予測器を直接訓練する。
様々なバックボーンモデルと互換性のあるプラグ・アンド・プレイソリューションであるLTV予測のための対照的なマルチビューフレームワークを提案する。
実世界のLTV予測データセットについて広範な実験を行い,本手法の有効性を検証した。
論文 参考訳(メタデータ) (2023-06-26T03:23:53Z) - Unifying Synergies between Self-supervised Learning and Dynamic
Computation [53.66628188936682]
SSLとDCのパラダイム間の相互作用に関する新しい視点を提示する。
SSL設定において、スクラッチから高密度かつゲートされたサブネットワークを同時に学習することは可能であることを示す。
密集エンコーダとゲートエンコーダの事前学習における共進化は、良好な精度と効率のトレードオフをもたらす。
論文 参考訳(メタデータ) (2023-01-22T17:12:58Z) - Entire Space Counterfactual Learning: Tuning, Analytical Properties and
Industrial Applications [5.9460659646670875]
クリック後変換率(CVR)の推定は、長い間、サンプル選択バイアスとデータ空間の問題に悩まされてきた。
本稿では,全空間対物マルチタスクモデル (ESCM$2$) を提案する。
論文 参考訳(メタデータ) (2022-10-20T06:19:50Z) - Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。
パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
論文 参考訳(メタデータ) (2022-04-13T12:43:12Z) - Continual Learning for CTR Prediction: A Hybrid Approach [37.668467137218286]
CTR予測のためのハイブリッドなContinual Learning FrameworkであるCOLFを提案する。
COLFはメモリベースのモジュールアーキテクチャを持ち、継続的な適応、学習、予測を行うように設計されている。
中国の大手ショッピングアプリから収集したクリックログに関する実証的評価は,既存の方法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-01-18T11:30:57Z) - CATRO: Channel Pruning via Class-Aware Trace Ratio Optimization [61.71504948770445]
本稿では,CATRO (Class-Aware Trace Ratio Optimization) を用いた新しいチャネルプルーニング手法を提案する。
CATROは、他の最先端チャネルプルーニングアルゴリズムと同等の精度で、同様のコストまたは低コストで高い精度を達成できることを示す。
CATROは、クラス認識の特性のため、様々な分類サブタスクに適応的に効率の良いネットワークを創り出すのに適している。
論文 参考訳(メタデータ) (2021-10-21T06:26:31Z) - An Analysis Of Entire Space Multi-Task Models For Post-Click Conversion
Prediction [3.2979460528864926]
大規模広告プラットフォーム上でのモバイルアプリ広告におけるポストクリック変換イベント(インストール)の確率を近似することを検討する。
CTRタスクからCVRタスクへ、いくつかの異なるアプローチが、同様のポジティブなレベルの移行をもたらすことを示す。
我々の発見は、マルチタスク学習が現実世界の大規模アプリケーションで関連するイベントをモデル化する上で、合理的なアプローチであることを示す証拠が増えていることを示唆している。
論文 参考訳(メタデータ) (2021-08-18T13:39:50Z) - A Lottery Ticket Hypothesis Framework for Low-Complexity Device-Robust
Neural Acoustic Scene Classification [78.04177357888284]
デバイス・ロバスト音響シーン分類(ASC)のためのデータ拡張、知識伝達、プルーニング、量子化を組み合わせた新しいニューラルモデル圧縮戦略を提案する。
本稿では,低複雑マルチデバイスASCのためのアコースティック・ロッテリー(Austratic Lottery)という,効率的なジョイント・フレームワークについて報告する。
論文 参考訳(メタデータ) (2021-07-03T16:25:24Z) - Learning Diverse Representations for Fast Adaptation to Distribution
Shift [78.83747601814669]
本稿では,複数のモデルを学習する手法を提案する。
分散シフトへの迅速な適応を促進するフレームワークの能力を実証する。
論文 参考訳(メタデータ) (2020-06-12T12:23:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。