論文の概要: Mosaic: A Fleet of User Embedding Specialists for Recommendation at Meta
- arxiv url: http://arxiv.org/abs/2607.24015v1
- Date: Mon, 27 Jul 2026 05:25:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:15.321096
- Title: Mosaic: A Fleet of User Embedding Specialists for Recommendation at Meta
- Title（参考訳）: Mosaic: Metaでのレコメンデーションを専門とするフリート
- Abstract要約: 私たちはMosaicを紹介します。Mosaicは、ユーザ埋め込みを学ぶために、たくさんのスペシャリストを雇うユーザモデリングプラットフォームです。
また、新しいロギング不要な埋め込み評価フレームワークであるCoEvalとUser Tower Zero-Outを紹介します。
Mosaicは、オンラインゲインに加えて、一貫した、重要なオフラインNE改善を提供する。
- 参考スコア（独自算出の注目度）: 12.699812020588974
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: User representation is one of the highest-leverage modeling problems in industrial recommendation systems: a single advancement in how users are encoded can propagate across retrieval, ranking, and integrity tasks at platform scale. Prior industrial user representation work builds either a single user model that emits one or more embedding vectors or a shared backbone with task-specific adaptation. In this paper, we present Mosaic, a foundational user modeling platform that employs a fleet of specialists to learn user embeddings. The fleet comprises four architecturally diverse model families - memorization-driven, dense-heavy, sequential-based, and CoTrain models - each focusing on a distinct facet of user behavior. We developed MRM (Multi-task Relations Mining) and CRL (Cosine Redundancy Loss) techniques to maximize the marginal information contribution of each new specialist. We also introduce CoEval and User Tower Zero-Out, new logging-free embedding evaluation framework that improves development velocity while preserving downstream-aligned accuracy. Our hybrid CPU/GPU, online-and-offline serving stack allows each specialist to choose the adequate serving strategy to meet the freshness, latency, and computational requirements. Mosaic delivers consistent and significant offline NE improvements in addition to online gains.
- Abstract（参考訳）: ユーザ表現は、産業レコメンデーションシステムにおいて最も多い平均モデリング問題の1つであり、ユーザがエンコードされる方法の1つの進歩は、プラットフォームスケールでの検索、ランキング、整合性タスクを伝播することができる。
以前の産業ユーザ表現作業では、1つ以上の埋め込みベクターを出力する単一のユーザモデルを構築したり、タスク固有の適応を伴う共有バックボーンを構築した。
本稿では,ユーザ埋め込みの学習に多数の専門家を駆使した基礎的ユーザモデリングプラットフォームであるMosaicを紹介する。
アーキテクチャ的に多様な4つのモデルファミリ – 暗記駆動、高密度化、シーケンシャルベース、CoTrainモデル – で構成されている。
MRM (Multi-task Relations Mining) とCRL (Cosine Redundancy Loss) を開発した。
CoEval と User Tower Zero-Out も導入しています。これは、下流の精度を維持しながら開発速度を向上させる新しいロギング不要な埋め込み評価フレームワークです。
当社のハイブリッドCPU/GPU、オンラインおよびオフラインサービススタックは、各スペシャリストが、鮮度、レイテンシ、計算上の要件を満たす適切なサービス戦略を選択することができます。
Mosaicは、オンラインゲインに加えて、一貫した、重要なオフラインNE改善を提供する。
関連論文リスト
- m3BERT: A Modern, Multi-lingual, Matryoshka Bidirectional Encoder [50.2753694138149]
我々はm3BERT: A Modern, Multi-lingual, Matryoshka Bidirectional representationsを紹介する。
トランス層と複数の埋め込み次元にまたがる表現を共同で最適化する、新しい事前学習戦略が特徴である。
大規模な産業検索データセットであるBing-Clickでは、最先端の埋め込みモデルよりも大幅に優れています。
論文 参考訳（メタデータ） (2026-05-19T09:13:49Z) - Action-Aware Generative Sequence Modeling for Short Video Recommendation [50.74467504063892]
ショートビデオには様々な部分が含まれており、ユーザーはそれらすべてに対して同じ態度を取ることはできない。
従来のバイナリ分類レコメンデーションモデルは、ビデオを単一の全体的エンティティとして扱うが、そのような微妙な好みを正確に捉えるには限界に直面している。
本稿では,時間的次元に沿ってユーザアクションを洗練させる行動認識生成系列ネットワーク(A2Gen)を提案する。
論文 参考訳（メタデータ） (2026-04-28T16:41:04Z) - CURP: Codebook-based Continuous User Representation for Personalized Generation with LLMs [60.867541073274715]
双方向ユーザエンコーダと離散プロトタイプコードブックを用いて,多次元ユーザ特性を抽出する新しいフレームワークCURPを提案する。
この設計により、少数のトレーニング可能なパラメータでプラグアンドプレイのパーソナライズが可能となる。
CURPは,強いベースラインに比べて優れた性能と一般化を実現していることを示す。
論文 参考訳（メタデータ） (2026-01-31T14:13:06Z) - Youtu-LLM: Unlocking the Native Agentic Potential for Lightweight Large Language Models [78.73992315826035]
ネイティブエージェントインテリジェンスと高い計算効率を調和させる軽量言語モデルであるYoutu-LLMを紹介する。
Youtu-LLMは、スクラッチから体系的に推論と計画能力の育成まで事前訓練されている。
論文 参考訳（メタデータ） (2025-12-31T04:25:11Z) - EoS-FM: Can an Ensemble of Specialist Models act as a Generalist Feature Extractor? [8.178030486012437]
リモートセンシングファウンデーションモデル(RSFM)構築のためのアンサンブル・オブ・スペシャリストフレームワークを提案する。
本手法はトレーニングプロセスを,凍結・再利用可能な軽量でタスク固有のConvNeXtV2専門家に分解する。
我々のフレームワークは、スケーラブルで効率的なRSFMを構築するための新しい方向を設定します。
論文 参考訳（メタデータ） (2025-11-26T15:52:56Z) - NExT-OMNI: Towards Any-to-Any Omnimodal Foundation Models with Discrete Flow Matching [64.10695425442164]
NExT-OMNI(英語版)は、離散フローパラダイムによる統一モデリングを実現するオープンソース・オムニモーダル・ファンデーション・モデルである。
NExT-OMNIは、大規模なインターリーブ付きテキスト、画像、ビデオ、オーディオデータに基づいて訓練され、マルチモーダル生成および理解ベンチマーク上で競合するパフォーマンスを提供する。
さらなる研究を進めるために、トレーニングの詳細、データプロトコル、およびコードとモデルチェックポイントの両方をオープンソース化する。
論文 参考訳（メタデータ） (2025-10-15T16:25:18Z) - Realizing Scaling Laws in Recommender Systems: A Foundation-Expert Paradigm for Hyperscale Model Deployment [16.883389041355073]
本稿では,超大規模レコメンデーションFMの開発と展開を目的としたフレームワークを提案する。
提案手法では, 生涯にわたる, クロスサイト, マルチモーダルなユーザデータに基づいて, 一般化可能な知識を学習する。
この知識は、ターゲット認識の埋め込みを通じて、様々な軽量で表面特異的な「専門家」モデルに効率的に伝達される。
論文 参考訳（メタデータ） (2025-08-04T22:03:13Z) - Noise-powered Multi-modal Knowledge Graph Representation Framework [52.95468915728721]
マルチモーダル・プレトレーニングの台頭は、統合されたマルチモーダル知識グラフ表現学習フレームワークの必要性を強調している。
モードレベルのノイズマスキングを備えたトランスフォーマーアーキテクチャを用いた新しいSNAG手法を提案する。
提案手法は10個のデータセットにまたがってSOTA性能を実現し,その汎用性を実証する。
論文 参考訳（メタデータ） (2024-03-11T15:48:43Z) - LiMAML: Personalization of Deep Recommender Models via Meta Learning [13.69036196446634]
我々は、個人メンバーや他のエンティティのためのモデルのパーソナライズに適した革新的なメタラーニングソリューションを導入する。
モデル非依存メタラーニング(MAML)アルゴリズムを用いて,最近のユーザインタラクションデータを用いて,タスクごとのサブネットワークを適応する。
私たちのアプローチは、さまざまなLinkedInアプリケーションにまたがる、高度にパーソナライズされたAIモデルのデプロイを可能にしました。
論文 参考訳（メタデータ） (2024-02-23T22:06:36Z) - Scaling User Modeling: Large-scale Online User Representations for Ads Personalization in Meta [25.100342052990793]
Scaling User Modeling (SUM)はMetaの広告ランキングシステムに広くデプロイされているフレームワークである。
これまでSUMはMetaの数百の広告ランキングモデルでローンチされ、毎日数十億のユーザーリクエストを処理する。
論文 参考訳（メタデータ） (2023-11-16T03:47:48Z) - Empowering General-purpose User Representation with Full-life Cycle
Behavior Modeling [11.698166058448555]
本稿では,この課題に対処するために,フルライフサイクルユーザ表現モデル(LURM)と呼ばれる新しいフレームワークを提案する。
LURMは2つのカスケードサブモデルで構成されている: (I) Bag-of-Interests (BoI) は、任意の期間におけるユーザの振る舞いを超高次元のスパースベクトル(例:105)にエンコードする。
SMENは、ユーザ関心の異なる側面を学習できる新しいマルチアンカーモジュールの恩恵を受け、ほぼ次元の削減を実現している。
論文 参考訳（メタデータ） (2021-10-20T08:24:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。