論文の概要: DeepLight: Deep Lightweight Feature Interactions for Accelerating CTR
Predictions in Ad Serving
- arxiv url: http://arxiv.org/abs/2002.06987v3
- Date: Wed, 6 Jan 2021 22:13:51 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-31 12:37:42.301971
- Title: DeepLight: Deep Lightweight Feature Interactions for Accelerating CTR
Predictions in Ad Serving
- Title（参考訳）: DeepLight: 広告サービングにおけるCTR予測の高速化のためのディープライト機能インタラクション
- Authors: Wei Deng and Junwei Pan and Tian Zhou and Deguang Kong and Aaron
Flores and Guang Lin
- Abstract要約: クリックスルー率(CTR)予測は、オンラインディスプレイ広告において重要な課題である。
埋め込みベースのニューラルネットワークは、両方の明示的な特徴相互作用を学ぶために提案されている。
しかし、これらの洗練されたモデルは、予測を少なくとも何百回も遅くする。
- 参考スコア（独自算出の注目度）: 15.637357991632241
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Click-through rate (CTR) prediction is a crucial task in online display
advertising. The embedding-based neural networks have been proposed to learn
both explicit feature interactions through a shallow component and deep feature
interactions using a deep neural network (DNN) component. These sophisticated
models, however, slow down the prediction inference by at least hundreds of
times. To address the issue of significantly increased serving delay and high
memory usage for ad serving in production, this paper presents
\emph{DeepLight}: a framework to accelerate the CTR predictions in three
aspects: 1) accelerate the model inference via explicitly searching informative
feature interactions in the shallow component; 2) prune redundant layers and
parameters at intra-layer and inter-layer level in the DNN component; 3)
promote the sparsity of the embedding layer to preserve the most discriminant
signals. By combining the above efforts, the proposed approach accelerates the
model inference by 46X on Criteo dataset and 27X on Avazu dataset without any
loss on the prediction accuracy. This paves the way for successfully deploying
complicated embedding-based neural networks in production for ad serving.
- Abstract（参考訳）: クリックスルー率(CTR)予測はオンラインディスプレイ広告において重要な課題である。
埋め込み型ニューラルネットワークは、浅いコンポーネントによる明示的な特徴相互作用とディープニューラルネットワーク(DNN)コンポーネントを用いたディープ特徴相互作用の両方を学ぶために提案されている。
しかし、これらの洗練されたモデルは、予測を少なくとも数百倍遅くする。
本稿では,CTR予測を3つの側面で高速化するフレームワークである 'emph{DeepLight} を提案する。
1) 浅い成分における情報的特徴相互作用を明示的に探索することにより,モデル推論を加速する。
2) DNN成分の層内および層間レベルでの冗長な層とパラメータ
3)最も識別性の高い信号を保存するため、埋め込み層のスパース性を促進する。
以上と組み合わせることで,予測精度を損なうことなく,Criteoデータセットの46倍,Avazuデータセットの27倍のモデル推定を高速化する。
これにより、複雑な埋め込みベースのニューラルネットワークを広告提供のためにプロダクションにデプロイすることに成功した。
関連論文リスト
- Visual Prompting Upgrades Neural Network Sparsification: A Data-Model
Perspective [67.25782152459851]
より優れた重量空間を実現するために、新しいデータモデル共設計視点を導入する。
具体的には、提案したVPNフレームワークでニューラルネットワークのスパーシフィケーションをアップグレードするために、カスタマイズされたVisual Promptが実装されている。
論文 参考訳（メタデータ） (2023-12-03T13:50:24Z) - Efficient Graph Neural Network Inference at Large Scale [54.89457550773165]
グラフニューラルネットワーク(GNN)は、幅広いアプリケーションで優れた性能を示している。
既存のスケーラブルなGNNは、線形伝搬を利用して特徴を前処理し、トレーニングと推論の手順を高速化する。
本稿では,そのトポロジ情報に基づいて各ノードに対してパーソナライズされた伝搬順序を生成する適応的伝搬順序法を提案する。
論文 参考訳（メタデータ） (2022-11-01T14:38:18Z) - Deep Multi-Representation Model for Click-Through Rate Prediction [6.155158115218501]
CTR(Click-Through Rate Prediction)は、レコメンデーションシステムにおいて重要なタスクである。
本稿では、2つの強力な特徴表現学習コンポーネントの混合を共同で訓練するDeep Multi-Representation Model(DeepMR)を提案する。
3つの実世界のデータセットの実験により、提案モデルがクリックスルー率予測のタスクにおいて、すべての最先端モデルを著しく上回っていることが示された。
論文 参考訳（メタデータ） (2022-10-18T09:37:11Z) - NAF: Neural Attenuation Fields for Sparse-View CBCT Reconstruction [79.13750275141139]
本稿では,スパースビューCBCT再構成のための新規かつ高速な自己教師型ソリューションを提案する。
所望の減衰係数は、3次元空間座標の連続関数として表現され、完全に接続されたディープニューラルネットワークによってパラメータ化される。
ハッシュ符号化を含む学習ベースのエンコーダが採用され、ネットワークが高周波の詳細をキャプチャするのに役立つ。
論文 参考訳（メタデータ） (2022-09-29T04:06:00Z) - a novel attention-based network for fast salient object detection [14.246237737452105]
現在の有向物体検出ネットワークにおいて、最も一般的な方法はU字型構造を用いることである。
3つのコントリビューションを持つ新しい深層畳み込みネットワークアーキテクチャを提案する。
提案手法は, 精度を損なうことなく, 原サイズの1/3まで圧縮できることを示した。
論文 参考訳（メタデータ） (2021-12-20T12:30:20Z) - AdnFM: An Attentive DenseNet based Factorization Machine for CTR
Prediction [11.958336595818267]
Attentive DenseNet based Factorization Machines (AdnFM) と呼ばれる新しいモデルを提案する。
AdnFMはフィードフォワードニューラルネットワークから隠されたすべての層を暗黙の高次の特徴として使用することにより、より包括的な深い特徴を抽出することができる。
2つの実世界のデータセットにおける実験により、提案モデルがクリックスルーレート予測の性能を効果的に向上できることが示されている。
論文 参考訳（メタデータ） (2020-12-20T01:00:39Z) - PC-RGNN: Point Cloud Completion and Graph Neural Network for 3D Object
Detection [57.49788100647103]
LiDARベースの3Dオブジェクト検出は、自動運転にとって重要なタスクです。
現在のアプローチでは、遠方および閉ざされた物体の偏りと部分的な点雲に苦しむ。
本稿では,この課題を2つの解決法で解決する新しい二段階アプローチ,pc-rgnnを提案する。
論文 参考訳（メタデータ） (2020-12-18T18:06:43Z) - Iterative Boosting Deep Neural Networks for Predicting Click-Through
Rate [15.90144113403866]
クリックスルーレート(CTR)は、特定の項目のクリックの比率を、そのビューの総数に反映する。
XdBoostは、従来の機械学習の強化メカニズムの影響を受け、反復的な3段階ニューラルネットワークモデルである。
論文 参考訳（メタデータ） (2020-07-26T09:41:16Z) - Feature Interaction based Neural Network for Click-Through Rate
Prediction [5.095988654970358]
本稿では,3次元関係テンソルを用いて特徴相互作用をモデル化可能な特徴相互作用ベースニューラルネットワーク(FINN)を提案する。
我々のディープFINNモデルは、PNNやDeepFMのような最先端のディープモデルよりも優れていることを示す。
また、我々のモデルは、機能相互作用を効果的に学習し、実世界のデータセットでより良いパフォーマンスを達成することができることを示している。
論文 参考訳（メタデータ） (2020-06-07T03:53:24Z) - Resolution Adaptive Networks for Efficient Inference [53.04907454606711]
本稿では,低分解能表現が「容易」な入力を分類するのに十分である,という直感に触発された新しいレゾリューション適応ネットワーク(RANet)を提案する。
RANetでは、入力画像はまず、低解像度表現を効率的に抽出する軽量サブネットワークにルーティングされる。
ネットワーク内の高解像度パスは、"ハード"サンプルを認識する能力を維持している。
論文 参考訳（メタデータ） (2020-03-16T16:54:36Z) - Belief Propagation Reloaded: Learning BP-Layers for Labeling Problems [83.98774574197613]
最も単純な推論手法の1つとして、切り詰められた最大積のBelief伝播を取り上げ、それをディープラーニングモデルの適切なコンポーネントにするために必要となるものを加えます。
このBP-Layerは畳み込みニューラルネットワーク(CNN)の最終ブロックまたは中間ブロックとして使用できる
このモデルは様々な密集予測問題に適用可能であり、パラメータ効率が高く、ステレオ、光フロー、セマンティックセグメンテーションにおける堅牢な解を提供する。
論文 参考訳（メタデータ） (2020-03-13T13:11:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。