論文の概要: ContextNet: A Click-Through Rate Prediction Framework Using Contextual
information to Refine Feature Embedding
- arxiv url: http://arxiv.org/abs/2107.12025v1
- Date: Mon, 26 Jul 2021 08:29:40 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-27 15:55:16.529525
- Title: ContextNet: A Click-Through Rate Prediction Framework Using Contextual
information to Refine Feature Embedding
- Title（参考訳）: ContextNet: コンテキスト情報を用いたクリックスルーレート予測フレームワーク
- Authors: Zhiqiang Wang, Qingyun She, PengTao Zhang, Junlin Zhang
- Abstract要約: 我々は,高次機能相互作用を暗黙的にモデル化するContextNetという新しいCTRフレームワークを提案する。
実世界の4つのデータセットについて広範な実験を行い、提案したContextNet-PFFNとContextNet-SFFNモデルがDeepFMやxDeepFMといった最先端モデルよりも優れていることを示した。
- 参考スコア（独自算出の注目度）: 2.146541845019669
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Click-through rate (CTR) estimation is a fundamental task in personalized
advertising and recommender systems and it's important for ranking models to
effectively capture complex high-order features.Inspired by the success of ELMO
and Bert in NLP field, which dynamically refine word embedding according to the
context sentence information where the word appears, we think it's also
important to dynamically refine each feature's embedding layer by layer
according to the context information contained in input instance in CTR
estimation tasks. We can effectively capture the useful feature interactions
for each feature in this way. In this paper, We propose a novel CTR Framework
named ContextNet that implicitly models high-order feature interactions by
dynamically refining each feature's embedding according to the input context.
Specifically, ContextNet consists of two key components: contextual embedding
module and ContextNet block. Contextual embedding module aggregates contextual
information for each feature from input instance and ContextNet block maintains
each feature's embedding layer by layer and dynamically refines its
representation by merging contextual high-order interaction information into
feature embedding. To make the framework specific, we also propose two
models(ContextNet-PFFN and ContextNet-SFFN) under this framework by introducing
linear contextual embedding network and two non-linear mapping sub-network in
ContextNet block. We conduct extensive experiments on four real-world datasets
and the experiment results demonstrate that our proposed ContextNet-PFFN and
ContextNet-SFFN model outperform state-of-the-art models such as DeepFM and
xDeepFM significantly.
- Abstract（参考訳）: Click-through rate (CTR) estimation is a fundamental task in personalized advertising and recommender systems and it's important for ranking models to effectively capture complex high-order features.Inspired by the success of ELMO and Bert in NLP field, which dynamically refine word embedding according to the context sentence information where the word appears, we think it's also important to dynamically refine each feature's embedding layer by layer according to the context information contained in input instance in CTR estimation tasks.
この方法で、各機能で有用な機能インタラクションを効果的にキャプチャできます。
本稿では,入力コンテキストに応じて各特徴の埋め込みを動的に洗練することにより,高次特徴の相互作用を暗黙的にモデル化する新しいCTRフレームワークContextNetを提案する。
contextnet は、context embedded module と contextnet block の2つの主要なコンポーネントから構成されている。
コンテキスト埋め込みモジュールは入力インスタンスから各機能のコンテキスト情報を集約し、ContextNetブロックは各機能の埋め込み層をレイヤ単位で維持し、コンテキスト高次相互作用情報を機能埋め込みにマージすることでその表現を動的に洗練する。
また,このフレームワークを具体化するために,線形コンテキスト埋め込みネットワークと,コンテキストネットブロック内の2つの非線形マッピングサブネットワークを導入することにより,このフレームワークの下で2つのモデル(contextnet-pffnとcontextnet-sffn)を提案する。
実世界の4つのデータセットについて広範な実験を行い、提案したContextNet-PFFNとContextNet-SFFNモデルがDeepFMやxDeepFMといった最先端モデルよりも優れていることを示した。
関連論文リスト
- Exploiting Contextual Target Attributes for Target Sentiment
Classification [53.30511968323911]
TSCの既存のPTLMベースモデルは、1)PTLMをコンテキストエンコーダとして採用した微調整ベースモデル、2)テキスト/単語生成タスクに分類タスクを転送するプロンプトベースモデル、の2つのグループに分類される。
我々は,PTLM を TSC に活用する新たな視点として,言語モデリングと文脈的ターゲット属性による明示的ターゲットコンテキスト相互作用の利点を同時に活用する。
論文 参考訳（メタデータ） (2023-12-21T11:45:28Z) - FLIP: Fine-grained Alignment between ID-based Models and Pretrained Language Models for CTR Prediction [49.510163437116645]
クリックスルーレート(CTR)予測は、パーソナライズされたオンラインサービスにおいてコア機能モジュールとして機能する。
CTR予測のための従来のIDベースのモデルは、表形式の1ホットエンコードされたID特徴を入力として取る。
事前訓練された言語モデル(PLM)は、テキストのモダリティの文を入力として取る別のパラダイムを生み出した。
本稿では,CTR予測のためのIDベースモデルと事前学習言語モデル(FLIP)間の細粒度特徴レベルのアライメントを提案する。
論文 参考訳（メタデータ） (2023-10-30T11:25:03Z) - CTNet: Context-based Tandem Network for Semantic Segmentation [77.4337867789772]
本研究では,空間コンテキスト情報とチャネルコンテキスト情報とを対話的に探索し,新しいコンテキストベースタンデムネットワーク(CTNet)を提案する。
セマンティックセグメンテーションのための学習表現の性能をさらに向上するため、2つのコンテキストモジュールの結果を適応的に統合する。
論文 参考訳（メタデータ） (2021-04-20T07:33:11Z) - DCANet: Dense Context-Aware Network for Semantic Segmentation [4.960604671885823]
ローカル詳細情報をグローバルな依存関係と適応的に統合する新しいモジュールであるContext-Aware (DCA) モジュールを提案する。
コンテキスト関係によって駆動されるDCAモジュールは、コンテキスト情報の集約により、より強力な機能を生成することができる。
3つの挑戦的なデータセットに関する広範な実験により、私たちのアプローチの有望なパフォーマンスを実証しています。
論文 参考訳（メタデータ） (2021-04-06T14:12:22Z) - Neural Function Modules with Sparse Arguments: A Dynamic Approach to
Integrating Information across Layers [84.57980167400513]
Neural Function Modules (NFM)は、ディープラーニングに同じ構造機能を導入することを目的としている。
トップダウンとボトムアップのフィードバックを組み合わせたフィードフォワードネットワークのコンテキストにおける作業のほとんどは、分類の問題に限られている。
私たちの仕事の重要な貢献は、フレキシブルなアルゴリズムで注意、疎結合、トップダウン、ボトムアップのフィードバックを組み合わせることです。
論文 参考訳（メタデータ） (2020-10-15T20:43:17Z) - Referring Image Segmentation via Cross-Modal Progressive Comprehension [94.70482302324704]
画像セグメンテーションの参照は、自然言語表現で与えられた記述によく一致するエンティティの前景マスクをセグメンテーションすることを目的としている。
従来のアプローチでは、暗黙的な特徴相互作用と視覚的モダリティと言語的モダリティの融合を用いてこの問題に対処していた。
本稿では,この課題に効果的に対応するために,Cross-Modal Progressive (CMPC) モジュールと Text-Guided Feature Exchange (TGFE) モジュールを提案する。
論文 参考訳（メタデータ） (2020-10-01T16:02:30Z) - Hierarchical Context Embedding for Region-based Object Detection [40.9463003508027]
階層型コンテキスト埋め込み(HCE)フレームワークは、プラグイン・アンド・プレイコンポーネントとして適用することができる。
文脈依存型オブジェクトカテゴリの認識を促進するために,画像レベルのカテゴリ埋め込みモジュールを提案する。
画像全体と関心領域の両方に階層的に埋め込まれたコンテキスト情報を活用することで、新しいRoI機能を生成する。
論文 参考訳（メタデータ） (2020-08-04T05:33:22Z) - Global Context-Aware Progressive Aggregation Network for Salient Object
Detection [117.943116761278]
我々は,低レベルな外観特徴,高レベルな意味特徴,グローバルな文脈特徴を統合化するための新しいネットワークGCPANetを提案する。
提案手法は, 定量的かつ定性的に, 最先端の手法よりも優れていることを示す。
論文 参考訳（メタデータ） (2020-03-02T04:26:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。