論文の概要: MTMD: A Multi-Task Multi-Domain Framework for Unified Ad Lightweight Ranking at Pinterest
- arxiv url: http://arxiv.org/abs/2510.09857v1
- Date: Fri, 10 Oct 2025 20:46:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-14 18:06:29.652975
- Title: MTMD: A Multi-Task Multi-Domain Framework for Unified Ad Lightweight Ranking at Pinterest
- Title(参考訳): MTMD:Pinterestの統一広告軽量ランキングのためのマルチタスクマルチドメインフレームワーク
- Authors: Xiao Yang, Peifeng Yin, Abe Engle, Jinfeng Zhuang, Ling Leng,
- Abstract要約: 従来のTwo-Towerパラダイムの下で,Multi-Task Multi-Domain (MTMD)アーキテクチャを提案する。
MTMDはオフライン損失値を12%から36%改善し、クリックあたりのコストを2%削減した。
9つのプロダクションモデルを置き換えたPinterestの広告レコメンデーションのために、この単一のMTMDフレームワークを本番環境にデプロイしました。
- 参考スコア(独自算出の注目度): 4.807492269982828
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The lightweight ad ranking layer, living after the retrieval stage and before the fine ranker, plays a critical role in the success of a cascaded ad recommendation system. Due to the fact that there are multiple optimization tasks depending on the ad domain, e.g., Click Through Rate (CTR) for click ads and Conversion Rate (CVR) for conversion ads, as well as multiple surfaces where an ad is served (home feed, search, or related item recommendation) with diverse ad products (shopping or standard ad); it is an essentially challenging problem in industry on how to do joint holistic optimization in the lightweight ranker, such that the overall platform's value, advertiser's value, and user's value are maximized. Deep Neural Network (DNN)-based multitask learning (MTL) can handle multiple goals naturally, with each prediction head mapping to a particular optimization goal. However, in practice, it is unclear how to unify data from different surfaces and ad products into a single model. It is critical to learn domain-specialized knowledge and explicitly transfer knowledge between domains to make MTL effective. We present a Multi-Task Multi-Domain (MTMD) architecture under the classic Two-Tower paradigm, with the following key contributions: 1) handle different prediction tasks, ad products, and ad serving surfaces in a unified framework; 2) propose a novel mixture-of-expert architecture to learn both specialized knowledge each domain and common knowledge shared between domains; 3) propose a domain adaption module to encourage knowledge transfer between experts; 4) constrain the modeling of different prediction tasks. MTMD improves the offline loss value by 12% to 36%, mapping to 2% online reduction in cost per click. We have deployed this single MTMD framework into production for Pinterest ad recommendation replacing 9 production models.
- Abstract(参考訳): 検索段階の後に住み、微ランクの前の軽量広告ランキング層は、カスケード広告推薦システムの成功に重要な役割を果たす。
広告ドメインに依存した複数の最適化タスク、例えばクリック広告のクリックスルーレート(CTR)、コンバージョン広告のコンバージョンレート(CVR)、広告が提供される複数の面(ホームフィード、検索、関連するアイテムレコメンデーション)、様々な広告製品(ショッピングまたは標準広告)があるという事実から、軽量なローダにおける共同全体最適化の方法に関する業界における本質的に難しい問題である。
ディープニューラルネットワーク(DNN)ベースのマルチタスク学習(MTL)は、各予測ヘッドを特定の最適化目標にマッピングすることで、複数の目標を自然に処理することができる。
しかし、実際には、異なる表面や広告製品からのデータをどのように単一のモデルに統一するかは定かではない。
ドメイン特化知識を学習し、MTLを効果的にするためにドメイン間で知識を明示的に伝達することが重要である。
従来のTwo-Towerパラダイムの下で,Multi-Task Multi-Domain(MTMD)アーキテクチャを提案する。
1) 統合された枠組みにおいて,異なる予測タスク,広告製品及び広告提供面を処理する。
2) 各ドメインの専門知識とドメイン間で共有される共通知識の両方を学習するための新しい知識混合アーキテクチャを提案する。
3)専門家間の知識伝達を促進するためのドメイン適応モジュールを提案する。
4)異なる予測タスクのモデリングを制約する。
MTMDはオフライン損失値を12%から36%改善し、クリックあたりのコストを2%削減した。
9つのプロダクションモデルを置き換えたPinterestの広告レコメンデーションのために、この単一のMTMDフレームワークを本番環境にデプロイしました。
関連論文リスト
- Progressive Modality Cooperation for Multi-Modality Domain Adaptation [70.26879294371052]
我々は,PMC(Progressive Modality Cooperation)と呼ばれる汎用多モードドメイン適応フレームワークを提案する。
MMDA設定の下では、両方のドメインのサンプルはすべてのモダリティを持つ。
MMDA-PI設定では、ターゲットドメインにいくつかのモダリティが欠落している。
論文 参考訳(メタデータ) (2025-06-24T05:13:56Z) - Commute Your Domains: Trajectory Optimality Criterion for Multi-Domain Learning [50.80758278865274]
マルチドメイン学習では、共有知識を活用し、一般化を改善するために、多様なデータドメインで単一のモデルを訓練する。
これらのドメインからのデータがトレーニングに使用される順序は、各ドメインにおけるモデルの性能に大きく影響します。
勾配ベクトル場のリーブラケットの概念を用いたマルチドメイン学習における訓練順序(またはデータ混合)の影響について検討する。
論文 参考訳(メタデータ) (2025-01-26T15:12:06Z) - MLoRA: Multi-Domain Low-Rank Adaptive Network for CTR Prediction [18.524017579108044]
CTR予測のためのMulti-domain Low-Rank Adaptive Network (MLoRA)を提案する。
実験により,MLoRA法は最先端のベースラインに比べて大幅に改善された。
MLoRAのコードは公開されています。
論文 参考訳(メタデータ) (2024-08-14T05:53:02Z) - M3oE: Multi-Domain Multi-Task Mixture-of Experts Recommendation Framework [32.68911775382326]
M3oEは適応型マルチドメインMulti-task Mixture-of-Expertsレコメンデーションフレームワークである。
3つのMix-of-expertsモジュールを利用して、共通、ドメイン・アスペクト、タスク・アスペクトのユーザの好みを学習します。
多様な領域やタスクをまたいだ特徴抽出と融合を正確に制御するための2レベル融合機構を設計する。
論文 参考訳(メタデータ) (2024-04-29T06:59:30Z) - Meta-DMoE: Adapting to Domain Shift by Meta-Distillation from
Mixture-of-Experts [33.21435044949033]
既存のほとんどのメソッドは、単一のモデルを使って複数のソースドメインでトレーニングを行います。
本稿では,知識蒸留プロセスとして定式化された非教師なし試験時間適応のための新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-08T02:28:10Z) - Multi-Modal Cross-Domain Alignment Network for Video Moment Retrieval [55.122020263319634]
ビデオモーメント検索(VMR)は、与えられた言語クエリに従って、未編集のビデオからターゲットモーメントをローカライズすることを目的としている。
本稿では、新しいタスクであるクロスドメインVMRに焦点を当て、完全なアノテーション付きデータセットをひとつのドメインで利用できるが、関心のあるドメインは、注釈なしのデータセットのみを含む。
本稿では、アノテーションの知識をソースドメインからターゲットドメインに転送するマルチモーダル・クロスドメインアライメント・ネットワークを提案する。
論文 参考訳(メタデータ) (2022-09-23T12:58:20Z) - Diverse Preference Augmentation with Multiple Domains for Cold-start
Recommendations [92.47380209981348]
メタラーニングをベースとした多元的ドメインを用いた多元的推論拡張フレームワークを提案する。
我々は、疎結合の場合の過度な適合を扱うために、新しい関心領域において多様な評価を生成する。
これらの評価は、選好メタラーナーを学ぶためのメタトレーニング手順に導入され、優れた一般化能力が得られる。
論文 参考訳(メタデータ) (2022-04-01T10:10:50Z) - Curriculum Graph Co-Teaching for Multi-Target Domain Adaptation [78.28390172958643]
マルチターゲットドメイン適応(MTDA)における複数のドメインシフトを軽減するのに役立つ2つの重要な側面を同定する。
本論文では,二重分類器ヘッドを用いたCGCT(Curriculum Graph Co-Teaching)を提案する。そのうちの1つがグラフ畳み込みネットワーク(GCN)である。
ドメインラベルが利用可能になると、まずより簡単なターゲットドメインに適応し、続いて難しいドメインに適応する逐次適応戦略であるDomain-Aware Curriculum Learning (DCL)を提案する。
論文 参考訳(メタデータ) (2021-04-01T23:41:41Z) - Multi-Domain Spoken Language Understanding Using Domain- and Task-Aware
Parameterization [78.93669377251396]
音声言語理解は、各ドメインでトレーニングデータのセットが利用できる教師付き学習問題として対処されてきた。
既存の1つのアプローチは、ドメイン間の共同トレーニングに共有パラメータを使用して、マルチドメイン学習を行うことによって、この問題を解決する。
本稿では,ドメイン固有モデルパラメータとタスク固有モデルパラメータを用いて,この手法のパラメータ化を改善することを提案する。
論文 参考訳(メタデータ) (2020-04-30T15:15:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。