論文の概要: Scaling User Modeling: Large-scale Online User Representations for Ads
Personalization in Meta
- arxiv url: http://arxiv.org/abs/2311.09544v1
- Date: Thu, 16 Nov 2023 03:47:48 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-17 16:37:23.049878
- Title: Scaling User Modeling: Large-scale Online User Representations for Ads
Personalization in Meta
- Title(参考訳): ユーザモデリングのスケール: 広告パーソナライズのための大規模オンラインユーザ表現
- Authors: Wei Zhang, Dai Li, Chen Liang, Fang Zhou, Zhongke Zhang, Xuewei Wang,
Ru Li, Yi Zhou, Yaning Huang, Dong Liang, Kai Wang, Zhangyuan Wang, Zhengxing
Chen, Min Li, Fenggang Wu, Minghai Chen, Huayu Li, Yunnan Wu, Zhan Shu, Mindi
Yuan, Sri Reddy
- Abstract要約: Scaling User Modeling (SUM)はMetaの広告ランキングシステムに広くデプロイされているフレームワークである。
これまでSUMはMetaの数百の広告ランキングモデルでローンチされ、毎日数十億のユーザーリクエストを処理する。
- 参考スコア(独自算出の注目度): 26.379183885464748
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Effective user representations are pivotal in personalized advertising.
However, stringent constraints on training throughput, serving latency, and
memory, often limit the complexity and input feature set of online ads ranking
models. This challenge is magnified in extensive systems like Meta's, which
encompass hundreds of models with diverse specifications, rendering the
tailoring of user representation learning for each model impractical. To
address these challenges, we present Scaling User Modeling (SUM), a framework
widely deployed in Meta's ads ranking system, designed to facilitate efficient
and scalable sharing of online user representation across hundreds of ads
models. SUM leverages a few designated upstream user models to synthesize user
embeddings from massive amounts of user features with advanced modeling
techniques. These embeddings then serve as inputs to downstream online ads
ranking models, promoting efficient representation sharing. To adapt to the
dynamic nature of user features and ensure embedding freshness, we designed SUM
Online Asynchronous Platform (SOAP), a latency free online serving system
complemented with model freshness and embedding stabilization, which enables
frequent user model updates and online inference of user embeddings upon each
user request. We share our hands-on deployment experiences for the SUM
framework and validate its superiority through comprehensive experiments. To
date, SUM has been launched to hundreds of ads ranking models in Meta,
processing hundreds of billions of user requests daily, yielding significant
online metric gains and infrastructure cost savings.
- Abstract(参考訳): 効果的なユーザー表現はパーソナライズされた広告において重要である。
しかし、トレーニングスループット、レイテンシ、メモリに対する厳密な制約は、しばしばオンライン広告ランキングモデルの複雑さと入力機能セットを制限する。
この課題は、さまざまな仕様を持つ数百のモデルを包含するmetaのような広範囲なシステムで拡大され、各モデルに対するユーザ表現学習のカスタマイズが非現実的になる。
これらの課題に対処するため、数百の広告モデルにわたるオンラインユーザ表現の効率的かつスケーラブルな共有を容易にするために、Metaの広告ランキングシステムに広くデプロイされているフレームワークであるScaling User Modeling (SUM)を紹介した。
SUMはいくつかの指定された上流ユーザーモデルを活用し、高度なモデリング技術を用いて大量のユーザー機能からユーザー埋め込みを合成する。
これらの埋め込みは、下流のオンライン広告ランキングモデルへのインプットとなり、効率的な表現共有を促進する。
ユーザ機能の動的な性質に適応し、新鮮さを確保するために、sum online asynchronous platform(soap)を設計しました。これは、モデル鮮度と組み込み安定化を補完する、レイテンシフリーなオンラインサービスシステムで、ユーザーモデルの頻繁な更新と各ユーザ要求に対するユーザ埋め込みのオンライン推論を可能にします。
我々は、SUMフレームワークのハンズオンデプロイメント経験を共有し、包括的な実験を通じてその優位性を検証する。
これまでSUMはMetaの数百の広告ランキングモデルでローンチされ、毎日数十億のユーザーリクエストを処理している。
関連論文リスト
- Towards Unified Multi-Modal Personalization: Large Vision-Language Models for Generative Recommendation and Beyond [87.1712108247199]
我々の目標は、マルチモーダルパーソナライゼーションシステム(UniMP)のための統一パラダイムを確立することである。
我々は、幅広いパーソナライズされたニーズに対処できる汎用的でパーソナライズされた生成フレームワークを開発する。
我々の手法は、パーソナライズされたタスクのための基礎言語モデルの能力を高める。
論文 参考訳(メタデータ) (2024-03-15T20:21:31Z) - Generalized User Representations for Transfer Learning [6.953653891411339]
本稿では,大規模レコメンデーションシステムにおけるユーザ表現のための新しいフレームワークを提案する。
提案手法は,表現学習と伝達学習を組み合わせた2段階の手法を用いる。
提案するフレームワークは,代替手法と比較して,インフラコストを大幅に削減できることを示す。
論文 参考訳(メタデータ) (2024-03-01T15:05:21Z) - LiMAML: Personalization of Deep Recommender Models via Meta Learning [13.69036196446634]
我々は、個人メンバーや他のエンティティのためのモデルのパーソナライズに適した革新的なメタラーニングソリューションを導入する。
モデル非依存メタラーニング(MAML)アルゴリズムを用いて,最近のユーザインタラクションデータを用いて,タスクごとのサブネットワークを適応する。
私たちのアプローチは、さまざまなLinkedInアプリケーションにまたがる、高度にパーソナライズされたAIモデルのデプロイを可能にしました。
論文 参考訳(メタデータ) (2024-02-23T22:06:36Z) - CAM2: Conformity-Aware Multi-Task Ranking Model for Large-Scale
Recommender Systems [0.0]
本稿では,業界最大のレコメンデーションプラットフォームであるCAM2を紹介する。
オンライン実験を通して、CAM2モデルがユーザエンゲージメントの累積を0.50%増加させることを示す。
論文 参考訳(メタデータ) (2023-04-17T19:00:55Z) - Visual Prompt Based Personalized Federated Learning [83.04104655903846]
pFedPTと呼ばれる画像分類タスクのための新しいPFLフレームワークを提案し、クライアントのローカルデータ配信情報を暗黙的に表現するためにパーソナライズされた視覚的プロンプトを利用する。
CIFAR10とCIFAR100データセットの実験では、pFedPTは様々な設定でいくつかの最先端(SOTA)PFLアルゴリズムより優れていた。
論文 参考訳(メタデータ) (2023-03-15T15:02:15Z) - Latent User Intent Modeling for Sequential Recommenders [92.66888409973495]
逐次リコメンデータモデルは、プラットフォーム上での氏のインタラクション履歴に基づいて、ユーザが次に対話する可能性のあるアイテムを予測することを学習する。
しかし、ほとんどのシーケンシャルなレコメンデータは、ユーザの意図に対する高いレベルの理解を欠いている。
したがって、インテントモデリングはユーザー理解と長期ユーザーエクスペリエンスの最適化に不可欠である。
論文 参考訳(メタデータ) (2022-11-17T19:00:24Z) - PinnerFormer: Sequence Modeling for User Representation at Pinterest [60.335384724891746]
我々は、ユーザの将来的なエンゲージメントを予測するためにトレーニングされたユーザ表現であるPinnerFormerを紹介する。
従来のアプローチとは異なり、新しい密集した全アクション損失を通じて、モデリングをバッチインフラストラクチャに適応させます。
その結果,1日に1回発生するバッチユーザ埋め込みと,ユーザがアクションを行うたびに発生するリアルタイムユーザ埋め込みとの間には,大きなギャップがあることが判明した。
論文 参考訳(メタデータ) (2022-05-09T18:26:51Z) - Incremental user embedding modeling for personalized text classification [12.381095398791352]
個々のユーザプロファイルとインタラクション履歴は、現実世界のアプリケーションでカスタマイズされたエクスペリエンスを提供する上で重要な役割を果たす。
本稿では,ユーザの最近のインタラクション履歴を動的に統合したインクリメンタルなユーザ埋め込みモデリング手法を提案する。
Redditデータセットに基づくパーソナライズされた多クラス分類タスクに適用することで,このアプローチの有効性を実証する。
論文 参考訳(メタデータ) (2022-02-13T17:33:35Z) - Exploiting Behavioral Consistence for Universal User Representation [11.290137806288191]
我々は普遍的ユーザ表現モデルの開発に注力する。
得られた普遍表現には豊富な情報が含まれることが予想される。
行動データを普遍表現にエンコードする自己監視型ユーザモデリングネットワーク(SUMN)を提案する。
論文 参考訳(メタデータ) (2020-12-11T06:10:14Z) - Learning Transferrable Parameters for Long-tailed Sequential User
Behavior Modeling [70.64257515361972]
テールユーザに注力することで、より多くのメリットをもたらし、長いテールの問題に対処できる、と私たちは主張しています。
具体的には、頭部から尾部への知識伝達を容易にするために、勾配アライメントを提案し、敵のトレーニングスキームを採用する。
論文 参考訳(メタデータ) (2020-10-22T03:12:02Z) - MetaSelector: Meta-Learning for Recommendation with User-Level Adaptive
Model Selection [110.87712780017819]
推薦システムにおけるユーザレベルの適応モデル選択を容易にするメタラーニングフレームワークを提案する。
2つのパブリックデータセットと実世界のプロダクションデータセットで実験を行います。
論文 参考訳(メタデータ) (2020-01-22T16:05:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。