論文の概要: UniFormer: Efficient and Unified Model-Centric Scaling for Industrial Recommendation

• arxiv url: http://arxiv.org/abs/2606.27058v1
• Date: Thu, 25 Jun 2026 14:03:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 18:46:32.313898
• Title: UniFormer: Efficient and Unified Model-Centric Scaling for Industrial Recommendation
• Title（参考訳）: UniFormer: インダストリアルレコメンデーションのための効率的かつ統一されたモデル中心スケーリング
• Abstract要約: UniFormerは、産業レコメンデーションシステムのための効率的で統一されたモデル中心のスケーリングフレームワークである。 効率を改善するために、UniFormerは全体のモデリング空間を機能空間とタスク空間に分解する。 UniFormerは、ユーザーエンゲージメントとインタラクションのメトリクスを継続的に改善します。
• 参考スコア（独自算出の注目度）: 46.05454633225205
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recently, substantial progress has been made in industrial recommendation through component-centric model scaling, where individual components such as behavior modeling, feature interaction, or task modeling are independently scaled to improve model capacity. Although recent methods such as HyFormer and OneTrans further explore cross-module co-scaling by jointly modeling behavior and interaction, their designs are still confined to the feature space and lack a unified model-centric scaling framework over the overall modeling space. In this paper, we propose UniFormer, an efficient and unified model-centric scaling framework for industrial recommender systems. To improve efficiency, UniFormer decomposes the overall modeling space into feature and task spaces, which are modeled by stacked Feature-space Interaction Modules and Task-space Interaction Modules, respectively. Moreover, UniFormer introduces semantic-based tokenization scheme to enable user-item decoupling, thereby achieving request-level inference acceleration. To prevent preference collapse, UniFormer employs multi-sequence cross-attention to separately capture heterogeneous behavior patterns, followed by the self-attention to enhance interaction modeling. Besides, dedicated multi-view FFNs are introduced to support flexible and scalable parameter scaling across different modeling components. Extensive online A/B testing in two production scenarios, Kuaishou and Kuaishou Lite, shows that UniFormer consistently improves user engagement and interaction metrics, achieving gains of +0.101%/+0.260% in App Stay Time and +0.729%/+1.113% in Watch Time, respectively.
• Abstract（参考訳）: 近年, モデルキャパシティを向上させるために, 振る舞いモデリング, 機能相互作用, タスクモデリングといった個々のコンポーネントを独立してスケールする, コンポーネント中心のモデルスケーリングを通じて, 産業的な推奨が大幅に進展している。 HyFormerやOneTransといった最近の手法は、振る舞いと相互作用を共同でモデル化することで、クロスモジュールのコスケーリングをさらに探求しているが、それらの設計は、まだ機能領域に限られており、モデリング全体にわたって統一されたモデル中心のスケーリングフレームワークが欠如している。 本稿では,産業レコメンデータシステムのための,効率的かつ統一されたモデル中心スケーリングフレームワークUniFormerを提案する。 効率を改善するために、UniFormerは、全体的なモデリング空間を、それぞれスタック化された特徴空間相互作用モジュールとタスク空間相互作用モジュールによってモデル化された特徴空間とタスク空間に分解する。 さらに、UniFormerはセマンティックベースのトークン化スキームを導入し、ユーザ間デカップリングを可能にし、リクエストレベルの推論アクセラレーションを実現する。 嗜好の崩壊を防ぐため、UniFormerは複数シーケンスのクロスアテンションを使用して異種行動パターンを分離し、続いて自己アテンションを使って相互作用モデリングを強化する。 さらに、さまざまなモデリングコンポーネントをまたいだフレキシブルでスケーラブルなパラメータスケーリングをサポートするために、専用のマルチビューFFNが導入されている。 2つのプロダクションシナリオにおける大規模なオンラインA/Bテスト、KuaishouとKuaishou Liteは、UniFormerがユーザーエンゲージメントとインタラクションの指標を継続的に改善し、App Stay Timeで+0.101%/+0.260%、Watch Timeで+0.729%/+1.113%を達成したことを示している。

関連論文リスト

• WHALE: A Scalable Unified Model for Recommendation with Wukong-HSTU Architecture [20.297096513302744]
  We present WHALE, a scalable unified recommendation architecture that togetherly model non-sequence and sequence features on the Wukong and HSTU。 この設計では、両バックボーンはネットワーク全体でアクティブであり、Wukong-HSTUのプログレッシブな交換を可能にする。 大規模産業レコメンデーションデータでは、WHALEはオフライン実験において一貫した利得を達成する。
  論文  参考訳（メタデータ） (2026-07-19T00:59:09Z)
• M*: A Modular, Extensible, Serving System for Multimodal Models [62.77975969000349]
  本稿では,複合AIモデルの効率的な提供を目的とした汎用サービスシステムであるM*を提案する。 広範囲の家族から合成モデルを簡潔にキャプチャする方法を示す。 M*はまた、ロボット計画のためのV-JEPA 2-ACロールアウトベースラインを最大12.5倍上回っている。
  論文  参考訳（メタデータ） (2026-06-10T21:22:22Z)
• MixFormer: Co-Scaling Up Dense and Sequence in Industrial Recommenders [11.566232697512879]
  MixFormerは、レコメンデーションシステム用に設計されたTransformerスタイルの統一アーキテクチャである。 単一のバックボーン内でのシーケンシャルな振る舞いと特徴的相互作用を共同でモデル化する。 大規模産業データセットの実験は、MixFormerが常に優れた精度と効率を示すことを示した。
  論文  参考訳（メタデータ） (2026-02-15T11:53:30Z)
• FuXi-$α$: Scaling Recommendation Model with Feature Interaction Enhanced Transformer [81.12174905444229]
  近年の進歩は、大規模レコメンデーションモデルに逐次レコメンデーションモデルを拡張することが効果的な戦略であることを示している。 これらの問題に対処するために、FuXi-$alpha$と呼ばれる新しいモデルを提案する。 我々のモデルは既存のモデルよりも優れており、モデルのサイズが大きくなるにつれてその性能は継続的に向上する。
  論文  参考訳（メタデータ） (2025-02-05T09:46:54Z)
• A Collaborative Ensemble Framework for CTR Prediction [73.59868761656317]
  我々は、複数の異なるモデルを活用するための新しいフレームワーク、CETNet(Collaborative Ensemble Training Network)を提案する。 ナイーブなモデルスケーリングとは違って,私たちのアプローチは,共同学習による多様性とコラボレーションを重視しています。 当社のフレームワークは,Metaの3つのパブリックデータセットと大規模産業データセットに基づいて検証する。
  論文  参考訳（メタデータ） (2024-11-20T20:38:56Z)
• EMR-Merging: Tuning-Free High-Performance Model Merging [55.03509900949149]
  Elect, Mask & Rescale-Merging (EMR-Merging) は既存のマージ手法と比較して優れた性能を示した。 EMR-Mergingはチューニング不要なので、データアベイラビリティや追加のトレーニングは必要ありません。
  論文  参考訳（メタデータ） (2024-05-23T05:25:45Z)
• Training-Free Pretrained Model Merging [38.16269074353077]
  双対空間制約(MuDSC)の下でのマージという,革新的なモデルマージフレームワークを提案する。 ユーザビリティを高めるため,マルチヘッドアテンションやグループ正規化など,グループ構造への適応も取り入れた。
  論文  参考訳（メタデータ） (2024-03-04T06:19:27Z)
• A Lightweight Feature Fusion Architecture For Resource-Constrained Crowd Counting [3.5066463427087777]
  クラウドカウントモデルの汎用性を高めるために,2つの軽量モデルを導入する。 これらのモデルは、MobileNetとMobileViTという2つの異なるバックボーンを持ちながら、同じダウンストリームアーキテクチャを維持している。 隣接特徴融合を利用して、事前学習モデル(PTM)から多様な特徴を抽出し、その後、シームレスにこれらの特徴を組み合わせる。
  論文  参考訳（メタデータ） (2024-01-11T15:13:31Z)
• Switchable Representation Learning Framework with Self-compatibility [50.48336074436792]
  自己整合性(SFSC)を考慮した交換可能な表現学習フレームワークを提案する。 SFSCは1つのトレーニングプロセスを通じて、異なる能力を持つ一連の互換性のあるサブモデルを生成する。 SFSCは評価データセット上で最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2022-06-16T16:46:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。