論文の概要: Leaf-FM: A Learnable Feature Generation Factorization Machine for Click-Through Rate Prediction

• arxiv url: http://arxiv.org/abs/2107.12024v1
• Date: Mon, 26 Jul 2021 08:29:18 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-27 15:55:39.318549
• Title: Leaf-FM: A Learnable Feature Generation Factorization Machine for Click-Through Rate Prediction
• Title（参考訳）: リーフFM:クリックスルーレート予測のための学習可能な特徴生成因子化装置
• Authors: Qingyun She, Zhiqiang Wang, Junlin Zhang
• Abstract要約: 本稿では,FM に基づく LeafFM モデルを提案する。 実世界の3つのデータセットで実験を行い、その結果、Leaf-FMモデルは標準FMよりも大きなマージンで優れていることを示した。
• 参考スコア（独自算出の注目度）: 2.412497918389292
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Click-through rate (CTR) prediction plays important role in personalized advertising and recommender systems. Though many models have been proposed such as FM, FFM and DeepFM in recent years, feature engineering is still a very important way to improve the model performance in many applications because using raw features can rarely lead to optimal results. For example, the continuous features are usually transformed to the power forms by adding a new feature to allow it to easily form non-linear functions of the feature. However, this kind of feature engineering heavily relies on peoples experience and it is both time consuming and labor consuming. On the other side, concise CTR model with both fast online serving speed and good model performance is critical for many real life applications. In this paper, we propose LeafFM model based on FM to generate new features from the original feature embedding by learning the transformation functions automatically. We also design three concrete Leaf-FM models according to the different strategies of combing the original and the generated features. Extensive experiments are conducted on three real-world datasets and the results show Leaf-FM model outperforms standard FMs by a large margin. Compared with FFMs, Leaf-FM can achieve significantly better performance with much less parameters. In Avazu and Malware dataset, add version Leaf-FM achieves comparable performance with some deep learning based models such as DNN and AutoInt. As an improved FM model, Leaf-FM has the same computation complexity with FM in online serving phase and it means Leaf-FM is applicable in many industry applications because of its better performance and high computation efficiency.
• Abstract（参考訳）: クリックスルー率(CTR)予測は、パーソナライズされた広告とレコメンデーションシステムにおいて重要な役割を果たす。 近年、FM、FFM、DeepFMなど多くのモデルが提案されているが、生の機能を使用することで最適な結果が得られないため、多くのアプリケーションにおいて、機能工学はモデル性能を改善するための非常に重要な方法である。 例えば、連続的な特徴は通常、特徴の非線形関数を簡単に形成できるように新しい機能を追加することで、パワーフォームに変換される。 しかし、この種の機能エンジニアリングは人々の経験に大きく依存しており、時間消費と労働消費の両方である。 一方、高速なオンラインサービス速度と優れたモデル性能を持つ簡潔なCTRモデルは、多くの実生活アプリケーションにとって不可欠である。 本稿では,fmに基づくリーフfmモデルを提案し,変換関数を自動的に学習することにより,特徴埋め込みから新機能を生成する。 また,元の特徴と生成された特徴を組み合わせた3つの具体的なリーフFMモデルを設計する。 実世界の3つのデータセットについて広範な実験を行い,リーフfmモデルが標準fmsよりも大きなマージンを示した。 FFMと比較すると、Leaf-FMはパラメータをはるかに少なくして大幅に性能が向上する。 AvazuとMalwareのデータセットでは、バージョンLeaf-FMはDNNやAutoIntといったディープラーニングベースのモデルで同等のパフォーマンスを達成する。 改良されたFMモデルとして、Leaf-FMは、オンラインサービスフェーズにおけるFMと同じ計算複雑性を持ち、Leaf-FMは多くの業界アプリケーションに適用できることを意味している。

関連論文リスト

• Specialized Foundation Models Struggle to Beat Supervised Baselines [60.23386520331143]
  ゲノミクス、衛星画像、時系列の3つのモードを最近のFMで調べ、それらを標準的な教師付き学習ワークフローと比較する。 最新のファンデーションモデルにマッチしたり、性能を上回るような、シンプルな教師付きモデルのトレーニングが一貫して可能であることが分かりました。
  論文  参考訳（メタデータ） (2024-11-05T04:10:59Z)
• A Survey on Efficient Federated Learning Methods for Foundation Model Training [62.473245910234304]
  フェデレーテッド・ラーニング(FL)は、多数のクライアントにわたるプライバシー保護協調トレーニングを促進するための確立した技術となっている。 Foundation Models (FM)の後、多くのディープラーニングアプリケーションでは現実が異なる。 FLアプリケーションに対するパラメータ効率細調整(PEFT)の利点と欠点について論じる。
  論文  参考訳（メタデータ） (2024-01-09T10:22:23Z)
• EdgeFM: Leveraging Foundation Model for Open-set Learning on the Edge [15.559604113977294]
  We propose EdgeFM, a novel edge-cloud collaborative system with open-set recognition capabilities。 EdgeFMは、エンドツーエンドのレイテンシを3.2倍に削減し、ベースラインと比較して34.3%の精度向上を実現している。
  論文  参考訳（メタデータ） (2023-11-18T06:40:39Z)
• Learn From Model Beyond Fine-Tuning: A Survey [78.80920533793595]
  Learn From Model (LFM) は、モデルインターフェースに基づいた基礎モデル(FM)の研究、修正、設計に焦点を当てている。 LFM技術の研究は、モデルチューニング、モデル蒸留、モデル再利用、メタラーニング、モデル編集の5つの分野に大別できる。 本稿では, LFM の観点から, FM に基づく現在の手法を概観する。
  論文  参考訳（メタデータ） (2023-10-12T10:20:36Z)
• VideoGLUE: Video General Understanding Evaluation of Foundation Models [89.07145427268948]
  我々は、慎重に設計された実験プロトコルを用いて、基礎モデル(FM)の映像理解能力を評価する。 一般的な映像理解タスクに適応する際のFMの目印と有効性について共同で検討する。
  論文  参考訳（メタデータ） (2023-07-06T17:47:52Z)
• Quaternion Factorization Machines: A Lightweight Solution to Intricate Feature Interaction Modelling [76.89779231460193]
  factorization machine(fm)は、機能間の高次インタラクションを自動的に学習し、手動の機能エンジニアリングを必要とせずに予測を行うことができる。 本研究では,スパース予測解析のためのQFM(Quaternion factorization Machine)とQNFM(Quaternion neural factorization Machine)を提案する。
  論文  参考訳（メタデータ） (2021-04-05T00:02:36Z)
• $FM^2$: Field-matrixed Factorization Machines for Recommender Systems [9.461169933697379]
  フィールド情報を効果的かつ効率的にモデル化するための新しい手法を提案する。 提案手法はFwFMの直接改良であり、FmFM(Field-matrixed Factorization Machines)と呼ばれている。
  論文  参考訳（メタデータ） (2021-02-20T00:03:37Z)
• Field-Embedded Factorization Machines for Click-through rate prediction [2.942829992746068]
  クリックスルーレート(CTR)予測モデルは、デジタル広告やレコメンダシステムなど、多くのオンラインアプリケーションで一般的である。 我々は,新しい浅場埋め込み因子化マシン (FEFM) と深場埋め込み因子化マシン (DeepFEFM) を提案する。 FEFMはFFMよりもモデル複雑さが著しく低く、FwFMとほぼ同じ複雑さを持つ。
  論文  参考訳（メタデータ） (2020-09-13T15:32:42Z)
• AutoFIS: Automatic Feature Interaction Selection in Factorization Models for Click-Through Rate Prediction [75.16836697734995]
  自動特徴相互作用選択(AutoFIS)と呼ばれる2段階のアルゴリズムを提案する。 AutoFISは、目標モデルを収束させるためにトレーニングするのと同等の計算コストで、因子化モデルに対する重要な特徴的相互作用を自動的に識別することができる。 AutoFISはHuawei App Storeレコメンデーションサービスのトレーニングプラットフォームにデプロイされている。
  論文  参考訳（メタデータ） (2020-03-25T06:53:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。