論文の概要: CAN: Feature Co-Action for Click-Through Rate Prediction
- arxiv url: http://arxiv.org/abs/2011.05625v3
- Date: Tue, 7 Dec 2021 06:16:07 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-27 00:43:42.969010
- Title: CAN: Feature Co-Action for Click-Through Rate Prediction
- Title(参考訳): can: クリックスルー率予測のための機能協調
- Authors: Weijie Bian, Kailun Wu, Lejian Ren, Qi Pi, Yujing Zhang, Can Xiao,
Xiang-Rong Sheng, Yong-Nan Zhu, Zhangming Chan, Na Mou, Xinchen Luo, Shiming
Xiang, Guorui Zhou, Xiaoqiang Zhu, Hongbo Deng
- Abstract要約: 本稿では,CAN(Co-Action Network)を提案する。
CANは最先端のCTRモデルとカルデシアン積法より優れている。
CANはAlibabaのディスプレイ広告システムにデプロイされ、CTRで12%改善されている。
- 参考スコア(独自算出の注目度): 42.251405364218805
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Feature interaction has been recognized as an important problem in machine
learning, which is also very essential for click-through rate (CTR) prediction
tasks. In recent years, Deep Neural Networks (DNNs) can automatically learn
implicit nonlinear interactions from original sparse features, and therefore
have been widely used in industrial CTR prediction tasks. However, the implicit
feature interactions learned in DNNs cannot fully retain the complete
representation capacity of the original and empirical feature interactions
(e.g., cartesian product) without loss. For example, a simple attempt to learn
the combination of feature A and feature B <A, B> as the explicit cartesian
product representation of new features can outperform previous implicit feature
interaction models including factorization machine (FM)-based models and their
variations. In this paper, we propose a Co-Action Network (CAN) to approximate
the explicit pairwise feature interactions without introducing too many
additional parameters. More specifically, giving feature A and its associated
feature B, their feature interaction is modeled by learning two sets of
parameters: 1) the embedding of feature A, and 2) a Multi-Layer Perceptron
(MLP) to represent feature B. The approximated feature interaction can be
obtained by passing the embedding of feature A through the MLP network of
feature B. We refer to such pairwise feature interaction as feature co-action,
and such a Co-Action Network unit can provide a very powerful capacity to
fitting complex feature interactions. Experimental results on public and
industrial datasets show that CAN outperforms state-of-the-art CTR models and
the cartesian product method. Moreover, CAN has been deployed in the display
advertisement system in Alibaba, obtaining 12\% improvement on CTR and 8\% on
Revenue Per Mille (RPM), which is a great improvement to the business.
- Abstract(参考訳): 機能相互作用は、クリックスルー率(CTR)予測タスクにも不可欠である機械学習において重要な問題として認識されている。
近年、ディープニューラルネットワーク(DNN)は、元のスパース特徴から暗黙の非線形相互作用を自動的に学習し、産業用CTR予測タスクで広く利用されている。
しかし、dnnで学習された暗黙的特徴相互作用は、オリジナルおよび経験的特徴相互作用(例えばデカルト積)の完全な表現能力を完全に保持することができない。
例えば、新機能の明示的なデカルト積表現としてのフィーチャーaとフィーチャーb<a,b>の組み合わせを学習しようとする単純な試みは、ファクタリゼーションマシン(fm)ベースのモデルとそのバリエーションを含む以前の暗黙的な機能インタラクションモデルを上回る可能性がある。
本稿では,余分なパラメータを伴わずに,明示的なペアワイズ特徴相互作用を近似する共振ネットワーク(CAN)を提案する。
より具体的には、機能aとその関連する機能bを与えると、それらの機能相互作用は2つのパラメータのセットを学習することによってモデル化される。
1) 特徴Aの埋め込み,及び
2) 特徴Bを表す多層パーセプトロン(MLP) 特徴BのMLPネットワークを介して特徴Aの埋め込みを渡すことで、近似された特徴相互作用が得られる。
公的および産業的なデータセットの実験結果から、CANは最先端のCTRモデルとカルテシアン製品法より優れていた。
さらに、CANはAlibabaのディスプレイ広告システムに展開されており、CTRの12倍、収益パーミル(RPM)の8倍の改善を実現している。
関連論文リスト
- Branches, Assemble! Multi-Branch Cooperation Network for Large-Scale Click-Through Rate Prediction at Taobao [49.11242099449315]
MBCnet(Multi-Branch Cooperation Network)を紹介する。
MBCnetは、Expert-based Feature Grouping and Crossing (EFGC)、低ランククロスネットブランチ、Deepブランチの3つのブランチで構成されている。
大規模産業データセットとオンラインA/Bテストの実験では、MBCnetのパフォーマンスが向上し、CTRが0.09ポイント、取引が1.49%、GMVが1.62%向上した。
論文 参考訳(メタデータ) (2024-11-20T06:10:06Z) - Disentangled Representation Learning for Text-Video Retrieval [51.861423831566626]
テキスト・ビデオ検索(TVR)における相互モダリティの相互作用
我々は相互作用のパラダイムを深く研究し、その計算を2つの項に分けることができることを示した。
本稿では,逐次的かつ階層的な表現を捉えるための非絡み合いフレームワークを提案する。
論文 参考訳(メタデータ) (2022-03-14T13:55:33Z) - Masked Transformer for Neighhourhood-aware Click-Through Rate Prediction [74.52904110197004]
本稿では,近隣相互作用に基づくCTR予測を提案し,そのタスクを異種情報ネットワーク(HIN)設定に組み込む。
周辺地域の表現を高めるために,ノード間のトポロジカルな相互作用を4種類検討する。
本研究では,2つの実世界のデータセットに関する総合的な実験を行い,提案手法が最先端のCTRモデルを大幅に上回ることを示す。
論文 参考訳(メタデータ) (2022-01-25T12:44:23Z) - Memorize, Factorize, or be Na\"ive: Learning Optimal Feature Interaction
Methods for CTR Prediction [29.343267933348372]
本稿では,各機能間相互作用に最も適したモデリング手法を求めるOPtInterというフレームワークを提案する。
実験の結果,OptInterは最先端のベースライン深部CTRモデルを最大2.21%改善することがわかった。
論文 参考訳(メタデータ) (2021-08-03T03:03:34Z) - GraphFM: Graph Factorization Machines for Feature Interaction Modeling [27.307086868266012]
本稿では,グラフ構造の特徴を自然に表現し,グラフ因子化マシン(GraphFM)を提案する。
特に,有用な特徴間相互作用を選択し,特徴間のエッジとして定式化する機構を設計する。
提案モデルでは, FMの相互作用関数をグラフニューラルネットワーク(GNN)の特徴集約戦略に統合する。
論文 参考訳(メタデータ) (2021-05-25T12:10:54Z) - AdnFM: An Attentive DenseNet based Factorization Machine for CTR
Prediction [11.958336595818267]
Attentive DenseNet based Factorization Machines (AdnFM) と呼ばれる新しいモデルを提案する。
AdnFMはフィードフォワードニューラルネットワークから隠されたすべての層を暗黙の高次の特徴として使用することにより、より包括的な深い特徴を抽出することができる。
2つの実世界のデータセットにおける実験により、提案モデルがクリックスルーレート予測の性能を効果的に向上できることが示されている。
論文 参考訳(メタデータ) (2020-12-20T01:00:39Z) - AutoDis: Automatic Discretization for Embedding Numerical Features in
CTR Prediction [45.69943728028556]
高度な機能相互作用の学習は、レコメンデータシステムにおけるClick-Through Rate(CTR)予測に不可欠である。
様々な深いCTRモデルは、埋め込みとフィーチャーインタラクションのパラダイムに従います。
数値フィールドの特徴を自動的に識別し、エンドツーエンドでCTRモデルに最適化するフレームワークであるAutoDisを提案します。
論文 参考訳(メタデータ) (2020-12-16T14:31:31Z) - FIVES: Feature Interaction Via Edge Search for Large-Scale Tabular Data [106.76845921324704]
本稿では,FIVES (Feature Interaction Via Edge Search) という新しい手法を提案する。
FIVESは、定義された特徴グラフ上のエッジを探すために、インタラクティブな特徴生成のタスクを定式化する。
本稿では,対話的特徴の探索を動機づける理論的証拠を提示する。
論文 参考訳(メタデータ) (2020-07-29T03:33:18Z) - Feature Interaction based Neural Network for Click-Through Rate
Prediction [5.095988654970358]
本稿では,3次元関係テンソルを用いて特徴相互作用をモデル化可能な特徴相互作用ベースニューラルネットワーク(FINN)を提案する。
我々のディープFINNモデルは、PNNやDeepFMのような最先端のディープモデルよりも優れていることを示す。
また、我々のモデルは、機能相互作用を効果的に学習し、実世界のデータセットでより良いパフォーマンスを達成することができることを示している。
論文 参考訳(メタデータ) (2020-06-07T03:53:24Z) - AutoFIS: Automatic Feature Interaction Selection in Factorization Models
for Click-Through Rate Prediction [75.16836697734995]
自動特徴相互作用選択(AutoFIS)と呼ばれる2段階のアルゴリズムを提案する。
AutoFISは、目標モデルを収束させるためにトレーニングするのと同等の計算コストで、因子化モデルに対する重要な特徴的相互作用を自動的に識別することができる。
AutoFISはHuawei App Storeレコメンデーションサービスのトレーニングプラットフォームにデプロイされている。
論文 参考訳(メタデータ) (2020-03-25T06:53:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。