論文の概要: Memorize, Factorize, or be Na\"ive: Learning Optimal Feature Interaction Methods for CTR Prediction

• arxiv url: http://arxiv.org/abs/2108.01265v1
• Date: Tue, 3 Aug 2021 03:03:34 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-04 13:50:50.266471
• Title: Memorize, Factorize, or be Na\"ive: Learning Optimal Feature Interaction Methods for CTR Prediction
• Title（参考訳）: memorize, factorize, be na\"ive: ctr予測のための最適特徴間相互作用法
• Authors: Fuyuan Lyu, Xing Tang, Huifeng Guo, Ruiming Tang, Xiuqiang He, Rui Zhang, Xue Liu
• Abstract要約: 本稿では,各機能間相互作用に最も適したモデリング手法を求めるOPtInterというフレームワークを提案する。 実験の結果,OptInterは最先端のベースライン深部CTRモデルを最大2.21%改善することがわかった。
• 参考スコア（独自算出の注目度）: 29.343267933348372
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Click-through rate prediction is one of the core tasks in commercial recommender systems. It aims to predict the probability of a user clicking a particular item given user and item features. As feature interactions bring in non-linearity, they are widely adopted to improve the performance of CTR prediction models. Therefore, effectively modelling feature interactions has attracted much attention in both the research and industry field. The current approaches can generally be categorized into three classes: (1) na\"ive methods, which do not model feature interactions and only use original features; (2) memorized methods, which memorize feature interactions by explicitly viewing them as new features and assigning trainable embeddings; (3) factorized methods, which learn latent vectors for original features and implicitly model feature interactions through factorization functions. Studies have shown that modelling feature interactions by one of these methods alone are suboptimal due to the unique characteristics of different feature interactions. To address this issue, we first propose a general framework called OptInter which finds the most suitable modelling method for each feature interaction. Different state-of-the-art deep CTR models can be viewed as instances of OptInter. To realize the functionality of OptInter, we also introduce a learning algorithm that automatically searches for the optimal modelling method. We conduct extensive experiments on four large datasets. Our experiments show that OptInter improves the best performed state-of-the-art baseline deep CTR models by up to 2.21%. Compared to the memorized method, which also outperforms baselines, we reduce up to 91% parameters. In addition, we conduct several ablation studies to investigate the influence of different components of OptInter. Finally, we provide interpretable discussions on the results of OptInter.
• Abstract（参考訳）: クリックスルー率予測は、商用レコメンデータシステムにおける中核的なタスクの1つである。 ユーザが特定の項目をクリックした確率と,その項目の特徴を予測することを目的としている。 特徴相互作用は非線形性をもたらすため、CTR予測モデルの性能向上のために広く採用されている。 したがって、機能相互作用を効果的にモデル化することは、研究と産業の両方において大きな注目を集めている。 現在の手法は,(1)特徴の相互作用をモデル化せず,原特徴のみを使用せず,(2)特徴の相互作用を明示的に認識し,トレーニング可能な埋め込みを割り当てることで特徴の相互作用を記憶する記憶的手法,(3)原特徴の潜伏ベクトルを学習し,因子化関数を通じて暗黙的に特徴の相互作用をモデル化する分解的手法,の3つのクラスに分類される。 研究により、これらの方法の1つだけで特徴的相互作用のモデリングは、異なる特徴的相互作用の独特な特徴のために準最適であることが示されている。 この問題に対処するため,まずOptInterというフレームワークを提案し,各機能間相互作用に最適なモデリング手法を提案する。 最先端の深部CTRモデルはOptInterのインスタンスと見なすことができる。 また,OptInterの機能を実現するために,最適なモデリング手法を自動検索する学習アルゴリズムを導入する。 4つの大きなデータセットについて広範な実験を行う。 実験の結果,OptInterは最先端のベースライン深部CTRモデルを最大2.21%改善することがわかった。 また,ベースラインよりも優れた暗記法と比較して,最大91%のパラメータを削減した。 また,オプトインターの異なる成分の影響を調べるため,いくつかのアブレーション研究を行った。 最後に optinter の結果について解釈可能な議論を行う。

関連論文リスト

• Exploring the cloud of feature interaction scores in a Rashomon set [17.775145325515993]
  本稿では,Rashomon セットのコンテキストにおける特徴相互作用スコア (FIS) について述べる。 我々は、合成データを用いてFISの特性を実証し、他の統計分野との接続を図示する。 この結果から,提案したFISは,機械学習モデルにおける特徴相互作用の性質に関する貴重な洞察を得られることが示唆された。
  論文  参考訳（メタデータ） (2023-05-17T13:05:26Z)
• Coarse-to-Fine Knowledge-Enhanced Multi-Interest Learning Framework for Multi-Behavior Recommendation [52.89816309759537]
  マルチタイプの行動(例えば、クリック、カートの追加、購入など)は、ほとんどの現実世界のレコメンデーションシナリオに広く存在する。 最先端のマルチ振る舞いモデルは、すべての歴史的相互作用を入力として区別しない振る舞い依存を学習する。 本稿では,多様な行動に対する共有的・行動特異的な関心を学習するための,多目的学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-08-03T05:28:14Z)
• Meta-Wrapper: Differentiable Wrapping Operator for User Interest Selection in CTR Prediction [97.99938802797377]
  クリックスルー率(CTR)予測は、ユーザーが商品をクリックする確率を予測することを目的としており、リコメンデーションシステムにおいてますます重要になっている。 近年,ユーザの行動からユーザの興味を自動的に抽出する深層学習モデルが大きな成功を収めている。 そこで我々は,メタラッパー(Meta-Wrapper)と呼ばれるラッパー手法の枠組みに基づく新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-06-28T03:28:15Z)
• Masked Transformer for Neighhourhood-aware Click-Through Rate Prediction [74.52904110197004]
  本稿では,近隣相互作用に基づくCTR予測を提案し,そのタスクを異種情報ネットワーク(HIN)設定に組み込む。 周辺地域の表現を高めるために,ノード間のトポロジカルな相互作用を4種類検討する。 本研究では,2つの実世界のデータセットに関する総合的な実験を行い,提案手法が最先端のCTRモデルを大幅に上回ることを示す。
  論文  参考訳（メタデータ） (2022-01-25T12:44:23Z)
• Efficient Data-specific Model Search for Collaborative Filtering [56.60519991956558]
  協調フィルタリング(CF)はレコメンダシステムの基本的なアプローチである。 本稿では,機械学習(AutoML)の最近の進歩を動機として,データ固有のCFモデルを設計することを提案する。 ここでキーとなるのは、最先端(SOTA)のCFメソッドを統一し、それらを入力エンコーディング、埋め込み関数、インタラクション、予測関数の非結合ステージに分割する新しいフレームワークである。
  論文  参考訳（メタデータ） (2021-06-14T14:30:32Z)
• Neural Graph Matching based Collaborative Filtering [13.086302251856756]
  属性相互作用の2つの異なるタイプ、内部相互作用とクロス相互作用を識別する。 既存のモデルはこれら2種類の属性相互作用を区別しない。 ニューラルグラフマッチングに基づく協調フィルタリングモデル(GMCF)を提案する。 我々のモデルは最先端のモデルより優れている。
  論文  参考訳（メタデータ） (2021-05-10T01:51:46Z)
• AutoDis: Automatic Discretization for Embedding Numerical Features in CTR Prediction [45.69943728028556]
  高度な機能相互作用の学習は、レコメンデータシステムにおけるClick-Through Rate(CTR)予測に不可欠である。 様々な深いCTRモデルは、埋め込みとフィーチャーインタラクションのパラダイムに従います。 数値フィールドの特徴を自動的に識別し、エンドツーエンドでCTRモデルに最適化するフレームワークであるAutoDisを提案します。
  論文  参考訳（メタデータ） (2020-12-16T14:31:31Z)
• CAN: Feature Co-Action for Click-Through Rate Prediction [42.251405364218805]
  本稿では,CAN(Co-Action Network)を提案する。 CANは最先端のCTRモデルとカルデシアン積法より優れている。 CANはAlibabaのディスプレイ広告システムにデプロイされ、CTRで12%改善されている。
  論文  参考訳（メタデータ） (2020-11-11T08:33:07Z)
• FIVES: Feature Interaction Via Edge Search for Large-Scale Tabular Data [106.76845921324704]
  本稿では,FIVES (Feature Interaction Via Edge Search) という新しい手法を提案する。 FIVESは、定義された特徴グラフ上のエッジを探すために、インタラクティブな特徴生成のタスクを定式化する。 本稿では,対話的特徴の探索を動機づける理論的証拠を提示する。
  論文  参考訳（メタデータ） (2020-07-29T03:33:18Z)
• AutoFIS: Automatic Feature Interaction Selection in Factorization Models for Click-Through Rate Prediction [75.16836697734995]
  自動特徴相互作用選択(AutoFIS)と呼ばれる2段階のアルゴリズムを提案する。 AutoFISは、目標モデルを収束させるためにトレーニングするのと同等の計算コストで、因子化モデルに対する重要な特徴的相互作用を自動的に識別することができる。 AutoFISはHuawei App Storeレコメンデーションサービスのトレーニングプラットフォームにデプロイされている。
  論文  参考訳（メタデータ） (2020-03-25T06:53:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。