論文の概要: AdnFM: An Attentive DenseNet based Factorization Machine for CTR
Prediction
- arxiv url: http://arxiv.org/abs/2012.10820v1
- Date: Sun, 20 Dec 2020 01:00:39 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-01 09:20:22.628484
- Title: AdnFM: An Attentive DenseNet based Factorization Machine for CTR
Prediction
- Title（参考訳）: AdnFM: CTR予測のための注意用DenseNetベースの因子化マシン
- Authors: Kai Wang, Chunxu Shen, Wenye Ma
- Abstract要約: Attentive DenseNet based Factorization Machines (AdnFM) と呼ばれる新しいモデルを提案する。
AdnFMはフィードフォワードニューラルネットワークから隠されたすべての層を暗黙の高次の特徴として使用することにより、より包括的な深い特徴を抽出することができる。
2つの実世界のデータセットにおける実験により、提案モデルがクリックスルーレート予測の性能を効果的に向上できることが示されている。
- 参考スコア（独自算出の注目度）: 11.958336595818267
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we consider the Click-Through-Rate (CTR) prediction problem.
Factorization Machines and their variants consider pair-wise feature
interactions, but normally we won't do high-order feature interactions using FM
due to high time complexity. Given the success of deep neural networks (DNNs)
in many fields, researchers have proposed several DNN-based models to learn
high-order feature interactions. Multi-layer perceptrons (MLP) have been widely
employed to learn reliable mappings from feature embeddings to final logits. In
this paper, we aim to explore more about these high-order features
interactions. However, high-order feature interaction deserves more attention
and further development. Inspired by the great achievements of Densely
Connected Convolutional Networks (DenseNet) in computer vision, we propose a
novel model called Attentive DenseNet based Factorization Machines (AdnFM).
AdnFM can extract more comprehensive deep features by using all the hidden
layers from a feed-forward neural network as implicit high-order features, then
selects dominant features via an attention mechanism. Also, high-order
interactions in the implicit way using DNNs are more cost-efficient than in the
explicit way, for example in FM. Extensive experiments on two real-world
datasets show that the proposed model can effectively improve the performance
of CTR prediction.
- Abstract（参考訳）: 本稿では,Click-Through-Rate(CTR)予測問題について考察する。
ファクトリゼーションマシンとその変種は、ペアワイズな機能相互作用を考慮しますが、通常は、高速な複雑さのため、FMを使った高次機能相互作用は行いません。
多くの分野でディープニューラルネットワーク(DNN)の成功を考えると、研究者は高次特徴相互作用を学ぶためにいくつかのDNNベースのモデルを提案している。
マルチ層パーセプトロン (MLP) は機能埋め込みから最終ログへの信頼性の高いマッピングを学習するために広く用いられている。
本稿では,これらの高次特徴の相互作用についてより深く検討することを目的とする。
しかし、高次機能相互作用はより注意と更なる開発に値する。
本稿では,コンピュータビジョンにおけるDensely Connected Convolutional Networks (DenseNet) の大きな成果に触発されて,Attentive DenseNet based Factorization Machines (AdnFM) と呼ばれる新しいモデルを提案する。
adnfmは、フィードフォワードニューラルネットワークから隠されたすべてのレイヤを暗黙の高次特徴として使用することで、より包括的な深い特徴を抽出することができる。
また、DNNを用いた暗黙の方法での高次相互作用は、例えばFMのような明示的な方法よりもコスト効率が高い。
2つの実世界のデータセットに対する大規模な実験により、提案モデルがCTR予測の性能を効果的に改善できることが示されている。
関連論文リスト
- Multilinear Operator Networks [60.7432588386185]
ポリノミアルネットワーク(Polynomial Networks)は、アクティベーション関数を必要としないモデルのクラスである。
マルチリニア演算子のみに依存するMONetを提案する。
論文 参考訳（メタデータ） (2024-01-31T16:52:19Z) - Directed Acyclic Graph Factorization Machines for CTR Prediction via
Knowledge Distillation [65.62538699160085]
本稿では,既存の複雑な相互作用モデルから,知識蒸留によるCTR予測のための高次特徴相互作用を学習するための非巡回グラフファクトリゼーションマシン(KD-DAGFM)を提案する。
KD-DAGFMは、オンラインとオフラインの両方の実験において、最先端のFLOPの21.5%未満で最高の性能を達成する。
論文 参考訳（メタデータ） (2022-11-21T03:09:42Z) - Deep Multi-Representation Model for Click-Through Rate Prediction [6.155158115218501]
CTR(Click-Through Rate Prediction)は、レコメンデーションシステムにおいて重要なタスクである。
本稿では、2つの強力な特徴表現学習コンポーネントの混合を共同で訓練するDeep Multi-Representation Model(DeepMR)を提案する。
3つの実世界のデータセットの実験により、提案モデルがクリックスルー率予測のタスクにおいて、すべての最先端モデルを著しく上回っていることが示された。
論文 参考訳（メタデータ） (2022-10-18T09:37:11Z) - Deep Architecture Connectivity Matters for Its Convergence: A
Fine-Grained Analysis [94.64007376939735]
我々は、勾配降下訓練におけるディープニューラルネットワーク(DNN)の収束に対する接続パターンの影響を理論的に特徴づける。
接続パターンの単純なフィルタリングによって、評価対象のモデルの数を削減できることが示される。
論文 参考訳（メタデータ） (2022-05-11T17:43:54Z) - Global Filter Networks for Image Classification [90.81352483076323]
本稿では,対数線形複雑度を持つ周波数領域における長期空間依存性を学習する,概念的に単純だが計算効率のよいアーキテクチャを提案する。
この結果から,GFNetはトランスフォーマー型モデルやCNNの効率,一般化能力,堅牢性において,非常に競争力のある代替手段となる可能性が示唆された。
論文 参考訳（メタデータ） (2021-07-01T17:58:16Z) - DCAP: Deep Cross Attentional Product Network for User Response
Prediction [20.17934000984361]
我々はDCAP(Deep Cross Attentional Product Network)という新しいアーキテクチャを提案する。
DCAPは、高階機能相互作用をベクトルレベルで明示的にモデリングするクロスネットワークの利点を維持します。
提案モデルは容易に実装でき,並行して訓練できる。
論文 参考訳（メタデータ） (2021-05-18T16:27:20Z) - Rank-R FNN: A Tensor-Based Learning Model for High-Order Data
Classification [69.26747803963907]
Rank-R Feedforward Neural Network (FNN)は、そのパラメータにCanonical/Polyadic分解を課すテンソルベースの非線形学習モデルである。
まず、入力をマルチリニアアレイとして扱い、ベクトル化の必要性を回避し、すべてのデータ次元に沿って構造情報を十分に活用することができる。
Rank-R FNNの普遍的な近似と学習性の特性を確立し、実世界のハイパースペクトルデータセットのパフォーマンスを検証する。
論文 参考訳（メタデータ） (2021-04-11T16:37:32Z) - Field-Embedded Factorization Machines for Click-through rate prediction [2.942829992746068]
クリックスルーレート(CTR)予測モデルは、デジタル広告やレコメンダシステムなど、多くのオンラインアプリケーションで一般的である。
我々は,新しい浅場埋め込み因子化マシン (FEFM) と深場埋め込み因子化マシン (DeepFEFM) を提案する。
FEFMはFFMよりもモデル複雑さが著しく低く、FwFMとほぼ同じ複雑さを持つ。
論文 参考訳（メタデータ） (2020-09-13T15:32:42Z) - GateNet: Gating-Enhanced Deep Network for Click-Through Rate Prediction [3.201333208812837]
近年、多くのニューラルネットワークベースのCTRモデルが提案され、成功している。
本稿では,GateNetと呼ばれる新しいモデルを提案する。このモデルでは,埋込層に特徴埋込ゲートまたは隠蔽ゲートを導入するか,あるいは隠蔽CTRモデルを導入する。
論文 参考訳（メタデータ） (2020-07-06T12:45:46Z) - Feature Interaction based Neural Network for Click-Through Rate
Prediction [5.095988654970358]
本稿では,3次元関係テンソルを用いて特徴相互作用をモデル化可能な特徴相互作用ベースニューラルネットワーク(FINN)を提案する。
我々のディープFINNモデルは、PNNやDeepFMのような最先端のディープモデルよりも優れていることを示す。
また、我々のモデルは、機能相互作用を効果的に学習し、実世界のデータセットでより良いパフォーマンスを達成することができることを示している。
論文 参考訳（メタデータ） (2020-06-07T03:53:24Z) - Neural Additive Models: Interpretable Machine Learning with Neural Nets [77.66871378302774]
ディープニューラルネットワーク(DNN)は、さまざまなタスクにおいて優れたパフォーマンスを達成した強力なブラックボックス予測器である。
本稿では、DNNの表現性と一般化した加法モデルの固有知性を組み合わせたニューラル付加モデル(NAM)を提案する。
NAMは、ニューラルネットワークの線形結合を学び、それぞれが単一の入力機能に付随する。
論文 参考訳（メタデータ） (2020-04-29T01:28:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。