論文の概要: Macro Graph of Experts for Billion-Scale Multi-Task Recommendation

• arxiv url: http://arxiv.org/abs/2506.10520v1
• Date: Thu, 12 Jun 2025 09:28:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-13 15:37:22.6706
• Title: Macro Graph of Experts for Billion-Scale Multi-Task Recommendation
• Title（参考訳）: 数十億ドル規模のマルチタスクレコメンデーションの専門家のマクログラフ
• Authors: Hongyu Yao, Zijin Hong, Hao Chen, Yuanchen Bei, Zhiqing Li, Qijie Shen, Zuobin Ying, Huan Gong, Feiran Huang,
• Abstract要約: グラフベースのマルチタスク学習は、異なるタスクが異なる10億スケールグラフに対応するため、重要な課題となる。 我々は、マクログラフの埋め込みを利用してタスク固有のマクロ特徴をキャプチャできる最初のアプローチであるマクログラフ・オブ・エキスパート(MGOE)フレームワークを紹介する。 MGOEは大規模に展開され、トップ10億規模のレコメンデーションシステムのホームページのマルチタスク学習に力を入れている。
• 参考スコア（独自算出の注目度）: 11.567160148709831
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Graph-based multi-task learning at billion-scale presents a significant challenge, as different tasks correspond to distinct billion-scale graphs. Traditional multi-task learning methods often neglect these graph structures, relying solely on individual user and item embeddings. However, disregarding graph structures overlooks substantial potential for improving performance. In this paper, we introduce the Macro Graph of Expert (MGOE) framework, the first approach capable of leveraging macro graph embeddings to capture task-specific macro features while modeling the correlations between task-specific experts. Specifically, we propose the concept of a Macro Graph Bottom, which, for the first time, enables multi-task learning models to incorporate graph information effectively. We design the Macro Prediction Tower to dynamically integrate macro knowledge across tasks. MGOE has been deployed at scale, powering multi-task learning for the homepage of a leading billion-scale recommender system. Extensive offline experiments conducted on three public benchmark datasets demonstrate its superiority over state-of-the-art multi-task learning methods, establishing MGOE as a breakthrough in multi-task graph-based recommendation. Furthermore, online A/B tests confirm the superiority of MGOE in billion-scale recommender systems.
• Abstract（参考訳）: グラフベースのマルチタスク学習は、異なるタスクが異なる10億スケールグラフに対応するため、重要な課題となる。 従来のマルチタスク学習手法は、個々のユーザやアイテムの埋め込みのみに依存するため、これらのグラフ構造を無視することが多い。 しかし、グラフ構造を無視することは、パフォーマンス向上のかなりの可能性を見落としている。 本稿では、マクログラフの埋め込みを利用してタスク固有のマクロ特徴を抽出し、タスク固有の専門家間の相関関係をモデル化する最初のアプローチであるマクログラフ・オブ・エキスパート(MGOE)フレームワークを紹介する。 具体的には,マルチタスク学習モデルでグラフ情報を効果的に組み込むことのできるマクログラフボトムの概念を提案する。 タスク間でマクロ知識を動的に統合するマクロ予測タワーを設計する。 MGOEは大規模に展開され、トップ10億規模のレコメンデーションシステムのホームページのマルチタスク学習に力を入れている。 3つの公開ベンチマークデータセットで実施された大規模なオフライン実験は、最先端のマルチタスク学習手法よりも優位性を示し、マルチタスクグラフベースの推奨のブレークスルーとしてMGOEを確立した。 さらに、オンラインA/Bテストは、数十億規模のレコメンデーションシステムにおけるMGOEの優位性を確認する。

関連論文リスト

• Dual-level Mixup for Graph Few-shot Learning with Fewer Tasks [23.07584018576066]
  We propose a SiMple yet effectIve approach for graph few-shot Learning with fEwer task, named SMILE。 メタ学習において利用可能なノードとタスクを同時に強化するために、マルチレベルのミックスアップ戦略を導入し、タスク内とタスク間ミックスアップの両方を包含する。 経験的に言えば、SMILEは、ドメイン内設定とクロスドメイン設定で評価されたすべてのデータセットに対して、他の競合モデルよりも大きなマージンで、一貫して優れています。
  論文  参考訳（メタデータ） (2025-02-19T23:59:05Z)
• UniGraph2: Learning a Unified Embedding Space to Bind Multimodal Graphs [34.48393396390799]
  マルチモーダルグラフ上での汎用的な表現学習を可能にする新しいクロスドメイングラフ基盤モデルを提案する。 UniGraph2は、グラフニューラルネットワーク(GNN)と共にモダリティ固有のエンコーダを使用して、統一された低次元埋め込み空間を学習する。 我々は,UniGraph2が表現学習,伝達学習,マルチモーダル生成タスクなどのタスクにおいて,最先端モデルよりも大幅に優れていることを示す。
  論文  参考訳（メタデータ） (2025-02-02T14:04:53Z)
• Task Preference Optimization: Improving Multimodal Large Language Models with Vision Task Alignment [58.94611347128066]
  タスク選好最適化(TPO)は、典型的なきめ細かい視覚的タスクから派生した微分可能なタスク選好を利用する新しい手法である。 トレーニング中にリッチなビジュアルラベルを活用することで、TPOはMLLMのマルチモーダル能力とタスク固有のパフォーマンスを大幅に向上させる。 VideoChatとLLaVAによるこのアプローチのインスタンス化は、ベースラインモデルと比較して、総合的に14.6%のマルチモーダル性能の向上を示している。
  論文  参考訳（メタデータ） (2024-12-26T18:56:05Z)
• MuseGraph: Graph-oriented Instruction Tuning of Large Language Models for Generic Graph Mining [41.19687587548107]
  グラフニューラルネットワーク(GNN)は、異なるグラフタスクやデータセットに適用されるたびに、再トレーニングされる必要がある。 GNNとLarge Language Models(LLM)の強みをシームレスに統合する新しいフレームワークMusteGraphを提案する。 実験結果から,異なるグラフタスクの大幅な改善が示された。
  論文  参考訳（メタデータ） (2024-03-02T09:27:32Z)
• ULTRA-DP: Unifying Graph Pre-training with Multi-task Graph Dual Prompt [67.8934749027315]
  本稿では,タスク識別と位置識別をGNNに注入する,グラフハイブリッド事前学習のための統合フレームワークを提案する。 また,約$k$-nearest隣人のグループに基づいた,新しい事前学習パラダイムを提案する。
  論文  参考訳（メタデータ） (2023-10-23T12:11:13Z)
• A Versatile Graph Learning Approach through LLM-based Agent [33.37921145183175]
  LLMに基づくエージェントを用いた多目的グラフ学習手法を提案する。 多様なプロファイル,ツール,機能,人間体験を備えたLCMエージェントを複数開発する。 多様なタスクやグラフを評価することで、エージェントの正しい結果と同等の性能が提案手法の汎用性を示している。
  論文  参考訳（メタデータ） (2023-09-08T19:34:29Z)
• Unsupervised Task Graph Generation from Instructional Video Transcripts [53.54435048879365]
  本研究では,実世界の活動を行う指導ビデオのテキスト書き起こしを提供する環境について考察する。 目標は、これらの重要なステップ間の依存関係関係と同様に、タスクに関連する重要なステップを特定することです。 本稿では,命令調整言語モデルの推論能力とクラスタリングとランキングコンポーネントを組み合わせたタスクグラフ生成手法を提案する。
  論文  参考訳（メタデータ） (2023-02-17T22:50:08Z)
• Multimodal Subtask Graph Generation from Instructional Videos [51.96856868195961]
  実世界のタスクは複数の相互依存サブタスクから構成される。 本研究では,タスクを記述する指導ビデオから,そのようなサブタスク間の因果関係をモデル化することを目的とする。 マルチモーダルなサブタスクグラフ生成(MSG2)を提案する。これは、ノイズの多いWebビデオからタスクに関連するタスクのサブタスク間の依存性を定義するサブタスクグラフを構築するアプローチである。
  論文  参考訳（メタデータ） (2023-02-17T03:41:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。