論文の概要: Native Multimodal Representation Learning for Click-Through Rate Prediction in E-Commerce Scenarios
- arxiv url: http://arxiv.org/abs/2608.24091v1
- Date: Tue, 25 Aug 2026 05:36:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:34.82212
- Title: Native Multimodal Representation Learning for Click-Through Rate Prediction in E-Commerce Scenarios
- Title(参考訳): Eコマースシナリオにおけるクリックスルーレート予測のためのネイティブマルチモーダル表現学習
- Abstract要約: マルチモーダル表現は、産業用eコマースレコメンデーションシステムで広く採用されている。
CTRデータから高品質で多モードで解釈可能なトレーニングサンプルをマイニングするMine-Then-Train法を提案する。
- 参考スコア(独自算出の注目度): 12.746111237120289
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multimodal representations have been widely adopted in industrial e-commerce recommendation systems. Due to their strong semantic understanding and generalization capabilities, they enhance the performance of traditional sparse ID-based Click-Through Rate (CTR) prediction models. Current multimodal application frameworks in the CTR prediction task typically follow a two-stage paradigm: first, pre-training a multimodal encoder on data from specific recommendation scenarios; second, extracting items' multimodal representations using this pre-trained multimodal encoder and integrating them into the CTR prediction model. However, the training objectives and data distribution of multimodal pre-training tasks often differ from those of the CTR prediction task, which limits the effectiveness of multimodal representation on downstream tasks. In this paper, we focus on how to learn Native Multimodal Representation for the CTR prediction task. One intuitive solution is to jointly train the multimodal encoder and CTR model end-to-end on the CTR task, with the expectation that the encoder can automatically learn downstream-relevant knowledge. However, we find that the end-to-end training does not bring performance improvements to existing multimodal application paradigms. Our analysis reveals that user behaviors in raw CTR data are driven by both multimodal semantics and non-multimodal factors, leading to ambiguous supervision and inconsistent encoder updates. To address this, we propose a Mine-Then-Train method that mines high-quality, multimodally interpretable training samples from CTR data and uses them to fine-tune the multimodal encoder for better alignment with user click preferences. Offline and online experiments demonstrate the effectiveness of our approach.
- Abstract(参考訳): マルチモーダル表現は、産業用eコマースレコメンデーションシステムで広く採用されている。
強力なセマンティック理解と一般化能力により、従来のスパースIDベースのClick-Through Rate(CTR)予測モデルの性能が向上する。
CTR予測タスクにおける現在のマルチモーダルアプリケーションフレームワークは、一般的に2段階のパラダイムを踏襲している: まず、特定のレコメンデーションシナリオからデータに対するマルチモーダルエンコーダを事前訓練し、次に、この事前訓練されたマルチモーダルエンコーダを使用してアイテムのマルチモーダル表現を抽出し、それらをCTR予測モデルに統合する。
しかし、マルチモーダル事前学習タスクの訓練目標とデータ分布は、下流タスクにおけるマルチモーダル表現の有効性を制限するCTR予測タスクとはしばしば異なる。
本稿では,CTR予測タスクにおけるNative Multimodal Representationの学習方法に焦点をあてる。
直感的な解決策の1つは、CTRタスク上でマルチモーダルエンコーダとCTRモデルのエンドツーエンドを共同でトレーニングすることであり、エンコーダが下流関連知識を自動的に学習できることを期待している。
しかし、エンドツーエンドのトレーニングは、既存のマルチモーダルアプリケーションパラダイムにパフォーマンス改善をもたらすものではない。
分析の結果,生のCTRデータのユーザ動作はマルチモーダルなセマンティクスと非マルチモーダルな要素の両方によって駆動され,不明瞭な監視と一貫性のないエンコーダ更新につながることがわかった。
そこで本研究では,CTRデータから高品質でマルチモーダルなトレーニングサンプルをマイニングするMine-Then-Train法を提案する。
オフラインおよびオンライン実験は、我々のアプローチの有効性を実証する。
関連論文リスト
- DecepGPT: Schema-Driven Deception Detection with Multicultural Datasets and Robust Multimodal Learning [64.33887406863899]
マルチモーダル偽装検出は、法医学とセキュリティのための聴覚的手がかりを解析することにより、偽装行動を特定することを目的としている。
既存のベンチマークでは、中間的な推論手段を使わずにバイナリラベルのみを提供する。
構造的キューレベルの記述と推論チェーンを用いた推論データセットを構築した。
1695年のサンプルでは、非実験的偽装検出データセットとしては最大である。
論文 参考訳(メタデータ) (2026-03-25T04:06:36Z) - LADLE-MM: Limited Annotation based Detector with Learned Ensembles for Multimodal Misinformation [8.769506450302154]
LADLE-MMはLearred Ensembles for Multimodal missinformationをモデルに用いたマルチモーダル誤報検出装置である。
2つの単項枝と、画像とテキストの表現を強化する第3のマルチモーダル枝で構成されている。
バイナリとマルチラベルの分類タスクにおいて、競合的なパフォーマンスを実現する。
論文 参考訳(メタデータ) (2025-12-23T11:14:58Z) - MultiMAE Meets Earth Observation: Pre-training Multi-modal Multi-task Masked Autoencoders for Earth Observation Tasks [11.359741665798195]
本稿では,地球観測(EO)データに対する,より柔軟なマルチモーダル・マルチタスク事前学習戦略について検討する。
具体的には,マルチモーダルなマルチタスク・マスケッド・オートエンコーダ(MultiMAE)を採用し,多様な入力モダリティを再構成することによって事前学習を行う。
提案手法は,モダリティ固有の事前学習モデルを必要とせず,多様な入力構成を処理し,高い柔軟性を示す。
論文 参考訳(メタデータ) (2025-05-20T22:24:36Z) - Feature Fusion Revisited: Multimodal CTR Prediction for MMCTR Challenge [4.3058911704400415]
EReL@MIRワークショップは、マルチモーダル表現学習の効率向上を目的とした様々なアプローチを試す貴重な機会となった。
我がチームは第2タスク-勝者賞(Multimodal CTR Prediction)を受賞した。
論文 参考訳(メタデータ) (2025-04-26T16:04:33Z) - Quadratic Interest Network for Multimodal Click-Through Rate Prediction [12.989347150912685]
産業レコメンデーションシステムにおいて,マルチモーダルクリックスルー率(CTR)予測は重要な手法である。
マルチモーダルCTR予測のためのQINと呼ばれるタスク2の新しいモデルを提案する。
論文 参考訳(メタデータ) (2025-04-24T16:08:52Z) - MIND: Modality-Informed Knowledge Distillation Framework for Multimodal Clinical Prediction Tasks [50.98856172702256]
マルチモーダルモデル圧縮手法である MIND (Modality-Informed Knowledge Distillation) フレームワークを提案する。
MINDは、様々なサイズの事前訓練されたディープニューラルネットワークのアンサンブルから、より小さなマルチモーダルの学生に知識を伝達する。
時系列データと胸部X線画像を用いた2値および複数ラベルの臨床予測タスクにおけるMINDの評価を行った。
論文 参考訳(メタデータ) (2025-02-03T08:50:00Z) - MTR++: Multi-Agent Motion Prediction with Symmetric Scene Modeling and
Guided Intention Querying [110.83590008788745]
自律運転システムにとって、複雑な運転シナリオを理解し、情報的な決定を下すためには、動きの予測が不可欠である。
本稿では,これらの課題に対処するためのMotion TRansformer (MTR) フレームワークを提案する。
最初のMTRフレームワークは、学習可能な意図クエリを備えたトランスフォーマーエンコーダ-デコーダ構造を利用する。
複数のエージェントに対するマルチモーダル動作を同時に予測するMTR++フレームワークを導入する。
論文 参考訳(メタデータ) (2023-06-30T16:23:04Z) - Routing with Self-Attention for Multimodal Capsule Networks [108.85007719132618]
我々は,カプセルの強度をマルチモーダル学習フレームワークの文脈で活用できる,新しいマルチモーダルカプセルネットワークを提案する。
カプセルを大規模入力データに適応させるために, カプセルを選択する自己保持機構による新たなルーティングを提案する。
これにより、ノイズの多いビデオデータによる堅牢なトレーニングだけでなく、従来のルーティング方法と比較してカプセルネットワークのサイズを拡大することが可能になる。
論文 参考訳(メタデータ) (2021-12-01T19:01:26Z) - Unsupervised Multimodal Language Representations using Convolutional
Autoencoders [5.464072883537924]
本稿では,教師なしマルチモーダル言語表現の抽出について提案する。
単語レベルのアライメントされたマルチモーダルシーケンスを2次元行列にマップし、畳み込みオートエンコーダを用いて複数のデータセットを組み合わせることで埋め込みを学習する。
また,本手法は非常に軽量で,他のタスクに容易に一般化でき,少ない性能低下とほぼ同じ数のパラメータを持つ未確認データが得られることを示した。
論文 参考訳(メタデータ) (2021-10-06T18:28:07Z) - Joint predictions of multi-modal ride-hailing demands: a deep multi-task
multigraph learning-based approach [64.18639899347822]
本稿では、複数のマルチグラフ畳み込み(MGC)ネットワークを組み合わせて、異なるサービスモードの要求を予測する深層マルチタスクマルチグラフ学習手法を提案する。
提案手法は,様々な配車モードの予測精度において,ベンチマークアルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2020-11-11T07:10:50Z) - SMART: Simultaneous Multi-Agent Recurrent Trajectory Prediction [72.37440317774556]
本稿では,将来の軌道予測における2つの重要な課題に対処する手法を提案する。
エージェントの数に関係なく、トレーニングデータと予測と一定時間の推測の両方において、マルチモーダリティ。
論文 参考訳(メタデータ) (2020-07-26T08:17:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。