Fugu-MT 論文翻訳(概要): DCAP: Deep Cross Attentional Product Network for User Response Prediction

論文の概要: DCAP: Deep Cross Attentional Product Network for User Response Prediction

arxiv url: http://arxiv.org/abs/2105.08649v1
Date: Tue, 18 May 2021 16:27:20 GMT
ステータス: 処理完了
システム内更新日: 2021-05-19 14:09:54.716855
Title: DCAP: Deep Cross Attentional Product Network for User Response Prediction
Title（参考訳）: DCAP:ユーザ応答予測のためのディープクロス注意製品ネットワーク
Authors: Zekai Chen, Fangtian Zhong, Zhumin Chen, Xiao Zhang, Robert Pless, Xiuzhen Cheng
Abstract要約: 我々はDCAP(Deep Cross Attentional Product Network)という新しいアーキテクチャを提案する。 DCAPは、高階機能相互作用をベクトルレベルで明示的にモデリングするクロスネットワークの利点を維持します。提案モデルは容易に実装でき,並行して訓練できる。
参考スコア（独自算出の注目度）: 20.17934000984361
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: User response prediction, which aims to predict the probability that a user will provide a predefined positive response in a given context such as clicking on an ad or purchasing an item, is crucial to many industrial applications such as online advertising, recommender systems, and search ranking. However, due to the high dimensionality and super sparsity of the data collected in these tasks, handcrafting cross features is inevitably time expensive. Prior studies in predicting user response leveraged the feature interactions by enhancing feature vectors with products of features to model second-order or high-order cross features, either explicitly or implicitly. Nevertheless, these existing methods can be hindered by not learning sufficient cross features due to model architecture limitations or modeling all high-order feature interactions with equal weights. This work aims to fill this gap by proposing a novel architecture Deep Cross Attentional Product Network (DCAP), which keeps cross network's benefits in modeling high-order feature interactions explicitly at the vector-wise level. Beyond that, it can differentiate the importance of different cross features in each network layer inspired by the multi-head attention mechanism and Product Neural Network (PNN), allowing practitioners to perform a more in-depth analysis of user behaviors. Additionally, our proposed model can be easily implemented and train in parallel. We conduct comprehensive experiments on three real-world datasets. The results have robustly demonstrated that our proposed model DCAP achieves superior prediction performance compared with the state-of-the-art models.
Abstract（参考訳）: ユーザが広告をクリックしたりアイテムを購入したりといった特定のコンテキストで事前定義されたポジティブな応答を提供する確率を予測することを目的としたユーザ応答予測は、オンライン広告やレコメンデーションシステム、検索ランキングといった多くの産業アプリケーションにとって不可欠である。しかし、これらのタスクで収集されたデータの高次元性と超広さのため、クロス機能は必然的に高価である。ユーザ応答の予測に関する以前の研究では、機能ベクタを2次あるいは高次クロス機能を明示的に、あるいは暗黙的にモデル化するために、機能ベクターを拡張して機能インタラクションを利用した。しかし、これらの既存手法は、モデルアーキテクチャの制限のために十分なクロスフィーチャを学習しなかったり、同じ重みを持つ全ての高階特徴相互作用をモデル化することによって妨げられる。この研究は、新しいアーキテクチャであるDeep Cross Attentional Product Network (DCAP)を提案することで、このギャップを埋めることを目的としている。さらに、マルチヘッドアテンションメカニズムとProduct Neural Network(PNN)にインスパイアされた各ネットワーク層における異なるクロス機能の重要性を区別し、実践者がより詳細なユーザ行動分析を行うことを可能にする。さらに,提案モデルは容易に実装でき,並行して訓練できる。実世界の3つのデータセットに関する総合的な実験を行う。その結果,提案モデルDCAPは最先端モデルと比較して優れた予測性能が得られることが示された。

関連論文リスト

A Click-Through Rate Prediction Method Based on Cross-Importance of Multi-Order Features [4.820576346277399]
本稿では,FiiNet (Multiple Order Feature Interaction Importance Neural Networks) という新しいモデルを提案する。モデルはまず選択的なカーネルネットワーク(SKNet)を使用して、マルチオーダーの機能クロスを明示的に構築する。機能相互作用の組み合わせの重要性をきめ細かな方法で動的に学習する。
論文参考訳（メタデータ） (2024-05-14T16:05:57Z)
Visual Prompting Upgrades Neural Network Sparsification: A Data-Model Perspective [64.04617968947697]
より優れた重量空間を実現するために、新しいデータモデル共設計視点を導入する。具体的には、提案したVPNフレームワークでニューラルネットワークのスパーシフィケーションをアップグレードするために、カスタマイズされたVisual Promptが実装されている。
論文参考訳（メタデータ） (2023-12-03T13:50:24Z)
Cross-modal Orthogonal High-rank Augmentation for RGB-Event Transformer-trackers [58.802352477207094]
本研究では,2つのモード間の分布ギャップを埋めるために,事前学習された視覚変換器(ViT)の潜在可能性を探る。本研究では,いくつかのトークンの特定のモダリティをランダムにマスキングし,異なるモダリティのトークン間の相互作用を積極的に行うマスクモデリング戦略を提案する。実験により,我々のプラグアンドプレイトレーニング強化技術は,追跡精度と成功率の両方の観点から,最先端のワンストリームと2つのトラッカーストリームを大幅に向上させることができることが示された。
論文参考訳（メタデータ） (2023-07-09T08:58:47Z)
Multi-Behavior Hypergraph-Enhanced Transformer for Sequential Recommendation [33.97708796846252]
短期および長期のクロスタイプの振る舞い依存を捉えるために,新しいMBHT(Multi-Behavior Hypergraph-enhanced Transformer framework)を導入する。具体的には、多スケールトランスフォーマーは、細粒度および粗粒度から振舞い対応のシーケンシャルパターンを共同符号化するために、低ランクの自己アテンションを備える。
論文参考訳（メタデータ） (2022-07-12T15:07:21Z)
Preference Enhanced Social Influence Modeling for Network-Aware Cascade Prediction [59.221668173521884]
本稿では,ユーザの嗜好モデルを強化することで,カスケードサイズ予測を促進する新しいフレームワークを提案する。エンド・ツー・エンドの手法により,ユーザの情報拡散プロセスがより適応的で正確になる。
論文参考訳（メタデータ） (2022-04-18T09:25:06Z)
Correlation-Aware Deep Tracking [83.51092789908677]
本稿では,自己/横断的意図に着想を得た,新たなターゲット依存型特徴ネットワークを提案する。我々のネットワークは機能ネットワークの複数の層にクロスイメージの特徴相関を深く埋め込んでいる。我々のモデルは、豊富な未ペア画像に対して柔軟に事前訓練が可能であり、既存の手法よりも顕著に高速な収束をもたらす。
論文参考訳（メタデータ） (2022-03-03T11:53:54Z)
XCrossNet: Feature Structure-Oriented Learning for Click-Through Rate Prediction [46.72935114485706]
提案するExtreme Cross Network(略してXCrossNet)は,高密度かつスパースな特徴相互作用を明示的な方法で学習することを目的としている。特徴構造指向モデルとしてのXCrossNetは、より表現力のある表現とより正確なCTR予測をもたらす。 Criteo Kaggleデータセットに関する実験的研究は、XCrossNetの効率性と効率の両方に関する最先端のモデルに対する大幅な改善を示しています。
論文参考訳（メタデータ） (2021-04-22T07:37:36Z)
Probabilistic Graph Attention Network with Conditional Kernels for Pixel-Wise Prediction [158.88345945211185]
本稿では,画素レベルの予測を基本的側面,すなわち,技術の現状を推し進める新たなアプローチを提案する。構造化されたマルチスケール機能学習と融合。本論文では,マルチスケール表現を原理的に学習・融合するための新しいアテンテンションゲート条件ランダムフィールド(AG-CRFs)モデルに基づく確率的グラフアテンションネットワーク構造を提案する。
論文参考訳（メタデータ） (2021-01-08T04:14:29Z)
AdnFM: An Attentive DenseNet based Factorization Machine for CTR Prediction [11.958336595818267]
Attentive DenseNet based Factorization Machines (AdnFM) と呼ばれる新しいモデルを提案する。 AdnFMはフィードフォワードニューラルネットワークから隠されたすべての層を暗黙の高次の特徴として使用することにより、より包括的な深い特徴を抽出することができる。 2つの実世界のデータセットにおける実験により、提案モデルがクリックスルーレート予測の性能を効果的に向上できることが示されている。
論文参考訳（メタデータ） (2020-12-20T01:00:39Z)
Learning Long-term Visual Dynamics with Region Proposal Interaction Networks [75.06423516419862]
オブジェクト間およびオブジェクト環境間の相互作用を長距離にわたってキャプチャするオブジェクト表現を構築します。単純だが効果的なオブジェクト表現のおかげで、我々の手法は先行手法よりも大幅に優れている。
論文参考訳（メタデータ） (2020-08-05T17:48:00Z)
Feature Interaction based Neural Network for Click-Through Rate Prediction [5.095988654970358]
本稿では,3次元関係テンソルを用いて特徴相互作用をモデル化可能な特徴相互作用ベースニューラルネットワーク(FINN)を提案する。我々のディープFINNモデルは、PNNやDeepFMのような最先端のディープモデルよりも優れていることを示す。また、我々のモデルは、機能相互作用を効果的に学習し、実世界のデータセットでより良いパフォーマンスを達成することができることを示している。
論文参考訳（メタデータ） (2020-06-07T03:53:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。