論文の概要: AutoDis: Automatic Discretization for Embedding Numerical Features in
CTR Prediction
- arxiv url: http://arxiv.org/abs/2012.08986v1
- Date: Wed, 16 Dec 2020 14:31:31 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-04 11:32:21.808216
- Title: AutoDis: Automatic Discretization for Embedding Numerical Features in
CTR Prediction
- Title（参考訳）: AutoDis: CTR予測に数値的特徴を埋め込むための自動離散化
- Authors: Huifeng Guo, Bo Chen, Ruiming Tang, Zhenguo Li, Xiuqiang He
- Abstract要約: 高度な機能相互作用の学習は、レコメンデータシステムにおけるClick-Through Rate(CTR)予測に不可欠である。
様々な深いCTRモデルは、埋め込みとフィーチャーインタラクションのパラダイムに従います。
数値フィールドの特徴を自動的に識別し、エンドツーエンドでCTRモデルに最適化するフレームワークであるAutoDisを提案します。
- 参考スコア（独自算出の注目度）: 45.69943728028556
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning sophisticated feature interactions is crucial for Click-Through Rate
(CTR) prediction in recommender systems. Various deep CTR models follow an
Embedding & Feature Interaction paradigm. The majority focus on designing
network architectures in Feature Interaction module to better model feature
interactions while the Embedding module, serving as a bottleneck between data
and Feature Interaction module, has been overlooked. The common methods for
numerical feature embedding are Normalization and Discretization. The former
shares a single embedding for intra-field features and the latter transforms
the features into categorical form through various discretization approaches.
However, the first approach surfers from low capacity and the second one limits
performance as well because the discretization rule cannot be optimized with
the ultimate goal of CTR model. To fill the gap of representing numerical
features, in this paper, we propose AutoDis, a framework that discretizes
features in numerical fields automatically and is optimized with CTR models in
an end-to-end manner. Specifically, we introduce a set of meta-embeddings for
each numerical field to model the relationship among the intra-field features
and propose an automatic differentiable discretization and aggregation approach
to capture the correlations between the numerical features and meta-embeddings.
Comprehensive experiments on two public and one industrial datasets are
conducted to validate the effectiveness of AutoDis over the SOTA methods.
- Abstract（参考訳）: 高度な機能相互作用の学習は、推奨システムにおけるクリックスルーレート(CTR)予測に不可欠である。
様々な深いCTRモデルは、埋め込みとフィーチャーインタラクションのパラダイムに従います。
データと機能インタラクションモジュールのボトルネックとして機能する組み込みモジュールが見過ごされている一方で、機能インタラクションモジュールにおけるネットワークアーキテクチャの設計に重点が置かれている。
数値特徴埋め込みの一般的な方法は正規化と離散化である。
前者はフィールド内特徴に対する単一の埋め込みを共有し、後者は様々な離散化アプローチを通じて特徴を分類形式に変換する。
しかし、第1のアプローチサーファーは低容量であり、第2のアプローチサーファーはCTRモデルの究極のゴールで離散化ルールを最適化できないため、性能も制限する。
本稿では,数値的な特徴を表現するためのギャップを埋めるために,数値場の特徴を自動的に識別し,CTRモデルでエンドツーエンドに最適化するフレームワークであるAutoDisを提案する。
具体的には,フィールド内特徴間の関係をモデル化するメタエンベディングのセットを紹介し,数値特徴とメタエンベディングの相関を捉えるための自動微分可能離散化と集約手法を提案する。
SOTA法に対するAutoDisの有効性を検証するために,2つのパブリックデータセットと1つの産業データセットに関する総合的な実験を行った。
関連論文リスト
- AdaptDHM: Adaptive Distribution Hierarchical Model for Multi-Domain CTR
Prediction [4.299153274884263]
本稿では,適応分布階層モデル (Adaptive Distribution Hierarchical Model, AdaptDHM) という,エレガントで柔軟なマルチディストリビューション・モデリング手法を提案する。
本モデルでは, 予測精度が向上し, トレーニング期間中の時間コストは, 他のモデルに比べて50%以上低下する。
論文 参考訳（メタデータ） (2022-11-22T09:10:37Z) - Meta-Wrapper: Differentiable Wrapping Operator for User Interest
Selection in CTR Prediction [97.99938802797377]
クリックスルー率(CTR)予測は、ユーザーが商品をクリックする確率を予測することを目的としており、リコメンデーションシステムにおいてますます重要になっている。
近年,ユーザの行動からユーザの興味を自動的に抽出する深層学習モデルが大きな成功を収めている。
そこで我々は,メタラッパー(Meta-Wrapper)と呼ばれるラッパー手法の枠組みに基づく新しい手法を提案する。
論文 参考訳（メタデータ） (2022-06-28T03:28:15Z) - Masked Transformer for Neighhourhood-aware Click-Through Rate Prediction [74.52904110197004]
本稿では,近隣相互作用に基づくCTR予測を提案し,そのタスクを異種情報ネットワーク(HIN)設定に組み込む。
周辺地域の表現を高めるために,ノード間のトポロジカルな相互作用を4種類検討する。
本研究では,2つの実世界のデータセットに関する総合的な実験を行い,提案手法が最先端のCTRモデルを大幅に上回ることを示す。
論文 参考訳（メタデータ） (2022-01-25T12:44:23Z) - Dynamic Parameterized Network for CTR Prediction [6.749659219776502]
我々は、明示的かつ暗黙的な相互作用をインスタンスワイズで学習するために、新しいプラグイン操作であるDynamic ized Operation (DPO)を提案した。
DNNモジュールとアテンションモジュールへのDPOの導入は,クリックスルー率(CTR)予測においてそれぞれ2つの主要なタスクに有効であることを示した。
我々のDynamic ized Networksは、パブリックデータセットと実世界のプロダクションデータセットのオフライン実験において、最先端の手法を著しく上回る。
論文 参考訳（メタデータ） (2021-11-09T08:15:03Z) - Memorize, Factorize, or be Na\"ive: Learning Optimal Feature Interaction
Methods for CTR Prediction [29.343267933348372]
本稿では,各機能間相互作用に最も適したモデリング手法を求めるOPtInterというフレームワークを提案する。
実験の結果,OptInterは最先端のベースライン深部CTRモデルを最大2.21%改善することがわかった。
論文 参考訳（メタデータ） (2021-08-03T03:03:34Z) - Multi-path Neural Networks for On-device Multi-domain Visual
Classification [55.281139434736254]
本稿では,モバイルデバイス上でのマルチドメイン視覚分類のためのマルチパスネットワークの自動学習手法を提案する。
提案するマルチパスネットワークは,各ドメインに1つの強化学習コントローラを適用して,MobileNetV3のような検索空間から生成されたスーパーネットワークの最適経路を選択することにより,ニューラルネットワーク検索から学習する。
決定されたマルチパスモデルは、個々のドメインパス内の非共有ノード内にドメイン固有のパラメータを保持しながら、共有ノード内のドメイン間でパラメータを選択的に共有する。
論文 参考訳（メタデータ） (2020-10-10T05:13:49Z) - Multi-Partition Embedding Interaction with Block Term Format for
Knowledge Graph Completion [3.718476964451589]
知識グラフ埋め込み法は、実体と関係を埋め込みベクトルとして表現することでタスクを実行する。
従来の作業は通常、各埋め込み全体を扱い、これらの埋め込み全体間の相互作用をモデル化してきた。
本稿では,ブロック項形式を用いたマルチパーティション埋め込み相互作用(MEI)モデルを提案し,この問題に対処する。
論文 参考訳（メタデータ） (2020-06-29T20:37:11Z) - Towards Automated Neural Interaction Discovery for Click-Through Rate
Prediction [64.03526633651218]
CTR(Click-Through Rate)予測は、レコメンダシステムにおいて最も重要な機械学習タスクの1つである。
本稿では,AutoCTR と呼ばれる CTR 予測のための自動インタラクションアーキテクチャ探索フレームワークを提案する。
論文 参考訳（メタデータ） (2020-06-29T04:33:01Z) - AutoFIS: Automatic Feature Interaction Selection in Factorization Models
for Click-Through Rate Prediction [75.16836697734995]
自動特徴相互作用選択(AutoFIS)と呼ばれる2段階のアルゴリズムを提案する。
AutoFISは、目標モデルを収束させるためにトレーニングするのと同等の計算コストで、因子化モデルに対する重要な特徴的相互作用を自動的に識別することができる。
AutoFISはHuawei App Storeレコメンデーションサービスのトレーニングプラットフォームにデプロイされている。
論文 参考訳（メタデータ） (2020-03-25T06:53:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。