論文の概要: Task-Blind No MORE: Multi-Task Information Flow in Unified Ranking Backbones
- arxiv url: http://arxiv.org/abs/2609.07273v1
- Date: Mon, 07 Sep 2026 09:36:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-12 00:58:48.704564
- Title: Task-Blind No MORE: Multi-Task Information Flow in Unified Ranking Backbones
- Title(参考訳): Task-Blind No MORE:Unified Ranking Backboneにおけるマルチタスク情報フロー
- Abstract要約: MORE (Multi-task cO-evolving Ranking modEl) はバックボーン内にマルチタスク情報フローを埋め込む。
タスク固有の信号は、ポストホック融合ではなく、各レイヤでシーケンスと特徴表現を共進化させることができる。
MOREは、同等のパラメータとFLOPの予算の下で、すべてのタスクのベースラインを一貫して上回り、モデルサイズとうまくスケールします。
- 参考スコア(独自算出の注目度): 15.647515309133025
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Industrial ranking models for recommendation have scaled feature interaction and sequence modeling separately; recent architectures such as HyFormer and MixFormer unify both in a stackable backbone. Real-world recommender systems, however, nearly always require multi-task learning, yet existing unified architectures confine multi-task modeling to shallow post-backbone towers, leaving the backbone without task-aware information flow. We propose MORE (Multi-task cO-evolving Ranking modEl), which embeds multi-task information flow inside the backbone, enabling task-specific signals to co-evolve with sequence and feature representations at every layer rather than in a post-hoc fusion. It introduces Anchor Tokens that persist across backbone layers: Shared Anchors encode cross-task commonalities, while Private Anchors capture task-specific priors. In each block, Anchor Tokens (1) read task-conditioned signals from behavior sequences, (2) mix with non-sequential features under a task-boundary mask, and (3) refine per-task representations through independent branches; as blocks stack, each task obtains a differentiated representation refined through all backbone layers. Experiments on large-scale industrial datasets show that MORE consistently outperforms baselines across all tasks under comparable parameter and FLOPs budgets, and scales well with model size. Online A/B tests on Momo, a leading Chinese social discovery platform with tens of millions of monthly active users, yield 3% improvement in usage duration, 3.6% in interaction rate, and 2% in deep-chat rate. MORE is deployed in production with request-level shared computation reducing scoring latency by about 30%.
- Abstract(参考訳): HyFormerやMixFormerといった最近のアーキテクチャは、スタック可能なバックボーンに統一されている。
しかし、現実のレコメンデータシステムは、ほとんど常にマルチタスク学習を必要とするが、既存の統一アーキテクチャでは、マルチタスクモデリングを浅いバックボーンタワーに限定し、バックボーンはタスクを意識しない情報の流れを残している。
バックボーン内にマルチタスク情報フローを埋め込んだMORE(Multi-task cO-evolving Ranking modEl)を提案する。
Shared Anchorsはクロスタスクの共通性をエンコードし、Private Anchorsはタスク固有の先行情報をキャプチャします。
各ブロックにおいて、Anchor Tokens (1) は、動作シーケンスからタスク条件付き信号を読み取り、(2) タスク境界マスクの下で非シーケンス特徴と混合し、(3) 独立したブランチを介してタスク毎の表現を洗練し、(3) ブロックスタックとして、各タスクは、すべてのバックボーン層を通して洗練された差別化された表現を得る。
大規模産業データセットの実験では、MOREは同等のパラメータとFLOPの予算の下で全タスクのベースラインを一貫して上回り、モデルサイズとうまくスケールしている。
オンラインA/Bテストは、数千万人の月間アクティブユーザを持つ中国のソーシャルディスカバリプラットフォームであるMomoで、使用期間が3%改善され、インタラクションレートが3.6%、ディープチャットレートが2%向上した。
MOREは、要求レベルの共有計算で本番環境にデプロイされ、スコアリング遅延を約30%削減する。
関連論文リスト
- IntHQ: Task-Interactive Hierarchical Query on Dual-Stream Representations for Generative Recommendation [20.546679348797905]
既存のマルチタスクは本質的に3倍の崩壊を起こしやすいことを示す。
InHQは3つのコンポーネントを持つマルチタスク生成レコメンデータで、1つの崩壊を緩和する。
オフライン評価では、InHQは4つの代表的なタスクヘッド構成の下で、競争力のあるバックボーンを一貫して上回っている。
論文 参考訳(メタデータ) (2026-08-10T14:13:47Z) - DRDN: Decoupled Representation Dynamic Network for From-Scratch ViT Class-Incremental Learning [6.097306160389619]
クラスインクリメンタルラーニング(CIL)のための動的拡張手法は、専用トークンや計算作業でタスク固有の知識を保護する。
我々は、主に現在のタスクデータに対する逐次トレーニングからのクロスタスクの混乱と、バックボーン内の過度に最適化された共有表現の2つの課題を特定する。
本稿では,2つのメカニズムを通じてこれらの課題に対処する解答表現動的ネットワーク(DRDN)を提案する。
論文 参考訳(メタデータ) (2026-07-02T02:57:58Z) - M3Net: Multimodal Multi-task Learning for 3D Detection, Segmentation, and Occupancy Prediction in Autonomous Driving [48.17490295484055]
M3Netは、自動運転の検知、セグメンテーション、および3D占有率予測に同時に取り組む新しいネットワークである。
M3NetはnuScenesベンチマークで最先端のマルチタスク学習性能を達成する。
論文 参考訳(メタデータ) (2025-03-23T15:08:09Z) - Pilot: Building the Federated Multimodal Instruction Tuning Framework [79.56362403673354]
本フレームワークは、視覚エンコーダとLCMのコネクタに「アダプタのアダプタ」の2つの段階を統合する。
ステージ1では視覚情報からタスク固有の特徴とクライアント固有の特徴を抽出する。
ステージ2では、クロスタスクインタラクションを実行するために、クロスタスクMixture-of-Adapters(CT-MoA)モジュールを構築します。
論文 参考訳(メタデータ) (2025-01-23T07:49:24Z) - RepVF: A Unified Vector Fields Representation for Multi-task 3D Perception [64.80760846124858]
本稿では,様々な知覚タスクの表現を調和させる新しい統一表現RepVFを提案する。
RepVFは、ベクトル場を通じてシーン内の異なるターゲットの構造を特徴付け、シングルヘッドでマルチタスクの学習モデルを可能にする。
RepVF 上に構築された RFTR は,タスク間の固有性を利用したネットワークである。
論文 参考訳(メタデータ) (2024-07-15T16:25:07Z) - A Dynamic Feature Interaction Framework for Multi-task Visual Perception [100.98434079696268]
複数の共通認識課題を解決するための効率的な統合フレームワークを考案する。
これらのタスクには、インスタンスセグメンテーション、セマンティックセグメンテーション、モノクル3D検出、深さ推定が含まれる。
提案するフレームワークはD2BNetと呼ばれ,マルチタスク認識のためのパラメータ効率予測に一意なアプローチを示す。
論文 参考訳(メタデータ) (2023-06-08T09:24:46Z) - DenseMTL: Cross-task Attention Mechanism for Dense Multi-task Learning [18.745373058797714]
本稿では,相互に相互にタスクを交換するマルチタスク学習アーキテクチャを提案する。
我々は3つのマルチタスク・セットアップにまたがって広範な実験を行い、合成および実世界のベンチマークにおいて競合するベースラインと比較して、我々のアプローチの利点を示している。
論文 参考訳(メタデータ) (2022-06-17T17:59:45Z) - Multi-Task Learning with Multi-Query Transformer for Dense Prediction [38.476408482050815]
本稿では,複数のタスク間の推論を容易にするために,Multi-Query Transformer (MQ Transformer) という単純なパイプラインを提案する。
異なるタスク間での高密度なピクセル単位のコンテキストをモデル化する代わりに、タスク固有のプロキシを使ってクロスタスク推論を行う。
実験の結果,提案手法は有効な手法であり,最先端の結果が得られた。
論文 参考訳(メタデータ) (2022-05-28T06:51:10Z) - Low Resource Multi-Task Sequence Tagging -- Revisiting Dynamic
Conditional Random Fields [67.51177964010967]
異なるタスクに対するラベルシーケンス間の依存関係を利用する低リソースマルチタスクシーケンスタグの異なるモデルを比較した。
タスク予測間の相互依存性の明示的モデリングは、通常のマルチタスクモデルと同様にシングルタスクよりも優れていることがわかった。
論文 参考訳(メタデータ) (2020-05-01T07:11:34Z) - Adversarial Continual Learning [99.56738010842301]
本稿では,タスク不変およびタスク特化機能に対する不整合表現を学習するハイブリッド連続学習フレームワークを提案する。
本モデルでは,タスク固有のスキルの忘れを防止するためにアーキテクチャの成長と,共有スキルを維持するための経験的リプレイアプローチを組み合わせる。
論文 参考訳(メタデータ) (2020-03-21T02:08:17Z) - MTI-Net: Multi-Scale Task Interaction Networks for Multi-Task Learning [82.62433731378455]
特定のスケールで高い親和性を持つタスクは、他のスケールでこの動作を維持することが保証されていないことを示す。
本稿では,この発見に基づく新しいアーキテクチャ MTI-Net を提案する。
論文 参考訳(メタデータ) (2020-01-19T21:02:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。