論文の概要: Lightweight Ranking Heads: Accelerating Multi-Task Experimentation in Production Recommender Systems

• arxiv url: http://arxiv.org/abs/2609.25433v1
• Date: Mon, 21 Sep 2026 21:37:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-23 18:04:04.12288
• Title: Lightweight Ranking Heads: Accelerating Multi-Task Experimentation in Production Recommender Systems
• Title（参考訳）: 軽量ランキングヘッド:生産レコメンダシステムにおけるマルチタスク実験の高速化
• Abstract要約: 私たちは、継続的なオンライン学習環境のための軽量ランキングヘッド(Lightweight Ranking Heads, Light Heads)フレームワークを紹介します。 Light Headsは、既存のマルチタスクランキングモデルに新しいタスクを動的に注入することを可能にする。 システムアーキテクチャを詳述し、ステートレスなコールドスタートヘッドのトレーニングダイナミクスを分析し、パフォーマンスをフルヘッドと比較し、Light Headsがいかに高速なA/B実験を可能にしたかを実証する。
• 参考スコア（独自算出の注目度）: 7.922662193901508
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Modern production-scale recommender systems rely on complex, multi-task ranking models. Introducing new prediction tasks into these massive systems often causes bottlenecks - it risks negative task conflicts with existing tasks, and can lead to long development and experimentation cycles due to the expensive retraining of backbone models and downstream models or tuning of reward combination formulas. To address the critical challenge of slow experimentation velocity, we introduce the Lightweight Ranking Heads (Light Heads) framework. Designed for continuous online learning environments, Light Heads enable the dynamic injection of new tasks into existing multi-task ranking models, effectively obviating the need for model cold-starting and retraining of backbone models. By utilizing stop-gradients and stateless daily training, this design strictly isolates new tasks, mitigating the risk of adverse task conflicts. Crucially, this framework uses a centralized configuration that allows Light Heads to be added to multiple models simultaneously, unblocking faster training data generation and co-training of downstream models. Successfully deployed at YouTube scale, this approach reduces the iteration cycle for multi-task experimentation from several weeks to days. In this paper, we detail the system architecture, analyze the training dynamics of stateless cold-started heads, compare their performance to full heads, and demonstrate how Light Heads have enabled the rapid A/B experimentation and deployment of new ranking tasks that yield measurable production value.
• Abstract（参考訳）: 現代のプロダクションスケールのレコメンデーターシステムは複雑なマルチタスクランキングモデルに依存している。 これらの巨大なシステムに新しい予測タスクを導入すると、しばしばボトルネックが発生します – 既存のタスクと負のタスクの衝突を危険にさらし、バックボーンモデルや下流モデルの高価な再トレーニングや報酬の組み合わせの公式のチューニングによって、開発と実験のサイクルを長くすることになります。 実験速度を遅くする上で重要な課題に対処するために、軽量ランキングヘッド(Lightweight Ranking Heads, Light Heads)フレームワークを紹介します。 継続的オンライン学習環境のために設計されたLight Headsは、既存のマルチタスクランキングモデルに新しいタスクを動的に注入することで、バックボーンモデルのコールドスタートと再トレーニングの必要性を効果的に回避する。 この設計では、停止段階とステートレスな日々のトレーニングを利用することで、新しいタスクを厳密に分離し、有害なタスク競合のリスクを軽減する。 重要な点として、このフレームワークは、複数のモデルに同時にLight Headを追加可能な集中型構成を使用しており、より高速なトレーニングデータ生成と下流モデルの同時トレーニングをブロックしている。 YouTubeスケールでのデプロイに成功したこのアプローチは、マルチタスク実験のイテレーションサイクルを数週間から数日に短縮する。 本稿では、システムアーキテクチャを詳述し、ステートレスコールドスタートヘッドのトレーニングダイナミクスを分析し、その性能をフルヘッドと比較し、Light Headsがいかにして、測定可能な生産価値をもたらす新しいランキングタスクの迅速なA/B実験および展開を可能にしたかを実証する。

関連論文リスト

• Emergent temporal abstractions in autoregressive models enable hierarchical reinforcement learning [61.380634253724594]
  次トーケン予測に基づく大規模自己回帰モデルの構築と強化学習(RL)による微調整 自己回帰モデルの内部表現を動作させ,探索することにより,この問題を克服できることを示す。
  論文  参考訳（メタデータ） (2025-12-23T18:51:50Z)
• Purifying Task Vectors in Knowledge-Aware Subspace for Model Merging [83.5273168208788]
  モデルマージは、個別に調整されたモデルのタスク固有の能力を、余分なトレーニングなしで単一のモデルに統合することを目的としている。 統合モデルは、タスクベクトルのタスク非関連冗長性に起因する競合により、しばしば顕著なパフォーマンス劣化に悩まされる。 本稿では,これらの課題を克服するために,知識対応サブ空間におけるTAsk Vectors (PAVE) の純粋化を提案する。
  論文  参考訳（メタデータ） (2025-10-16T14:02:57Z)
• Self-evolved Imitation Learning in Simulated World [16.459715139048367]
  自己進化的模倣学習(Self-Evolved Imitation Learning、SEIL)は、シミュレーターインタラクションを通じて数ショットモデルを改善するフレームワークである。 SEILは、数ショットの模倣学習シナリオにおいて、最先端のパフォーマンスを新たに達成する。
  論文  参考訳（メタデータ） (2025-09-23T18:15:32Z)
• Continual Diffuser (CoD): Mastering Continual Offline Reinforcement Learning with Experience Rehearsal [54.93261535899478]
  強化学習のロボット制御のような現実世界の応用では、タスクが変化し、新しいタスクが順次発生する。 この状況は、タスクの変更に適応し、獲得した知識を保持するエージェントを訓練する上で、可塑性-安定トレードオフという新たな課題を生じさせる。 本研究では,連続拡散器(Continuous diffuser,CoD)と呼ばれるリハーサルに基づく連続拡散モデルを提案する。
  論文  参考訳（メタデータ） (2024-09-04T08:21:47Z)
• Model Breadcrumbs: Scaling Multi-Task Model Merging with Sparse Masks [12.146530928616386]
  目標問題に対する一般的なアプローチは、特定の目標タスクに対して、訓練済みの基礎モデルを微調整することである。 この研究は、補助的なタスクのスペクトルから導かれた同じ基礎モデルの複数の微調整をマージする問題に焦点を当てる。 事前学習したモデルの重み空間内でモデル適応を誘導する疎定義の重み集合からなる,新しい簡易な方法であるモデルブレッドクラブを導入する。
  論文  参考訳（メタデータ） (2023-12-11T19:10:55Z)
• AdaMerging: Adaptive Model Merging for Multi-Task Learning [68.75885518081357]
  本稿では,Adaptive Model Merging (AdaMerging)と呼ばれる革新的な手法を紹介する。 本来のトレーニングデータに頼ることなく、タスクレベルでも階層的にも、モデルマージの係数を自律的に学習することを目指している。 AdaMergingは、現在の最先端のタスク演算のマージ方式と比較すると、パフォーマンスが11%向上している。
  論文  参考訳（メタデータ） (2023-10-04T04:26:33Z)
• Leveraging Jumpy Models for Planning and Fast Learning in Robotic Domains [25.245208731491346]
  本研究では,ラベルのない経験からマルチステップダイナミクス予測モデル(ジャンピーモデル)を学習する問題について検討する。 我々は,以前に収集した経験から,スキル埋め込みスペースのオフライン化とともに,跳躍モデルを学習することを提案する。 我々は、RGBスタック環境で一連の実験を行い、学習したスキルと関連するモデルによる計画が、新しいタスクにゼロショットの一般化を可能にすることを示す。
  論文  参考訳（メタデータ） (2023-02-24T13:26:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。