論文の概要: From Feature Interaction to Feature Generation: A Generative Paradigm of CTR Prediction Models
- arxiv url: http://arxiv.org/abs/2512.14041v1
- Date: Tue, 16 Dec 2025 03:17:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-17 16:49:26.56406
- Title: From Feature Interaction to Feature Generation: A Generative Paradigm of CTR Prediction Models
- Title(参考訳): 特徴相互作用から特徴生成へ:CTR予測モデルの生成パラダイム
- Authors: Mingjia Yin, Junwei Pan, Hao Wang, Ximei Wang, Shangyu Zhang, Jie Jiang, Defu Lian, Enhong Chen,
- Abstract要約: CTR(Click-Through Rate)予測は、レコメンデーションシステムにおける中核的なタスクである。
本稿では,埋め込み次元の崩壊と情報冗長性に対処する新しい生成フレームワークを提案する。
SFGは埋没崩壊を緩和し,情報冗長性を低減し,性能向上を図っている。
- 参考スコア(独自算出の注目度): 81.43473418572567
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Click-Through Rate (CTR) prediction, a core task in recommendation systems, aims to estimate the probability of users clicking on items. Existing models predominantly follow a discriminative paradigm, which relies heavily on explicit interactions between raw ID embeddings. However, this paradigm inherently renders them susceptible to two critical issues: embedding dimensional collapse and information redundancy, stemming from the over-reliance on feature interactions \emph{over raw ID embeddings}. To address these limitations, we propose a novel \emph{Supervised Feature Generation (SFG)} framework, \emph{shifting the paradigm from discriminative ``feature interaction" to generative ``feature generation"}. Specifically, SFG comprises two key components: an \emph{Encoder} that constructs hidden embeddings for each feature, and a \emph{Decoder} tasked with regenerating the feature embeddings of all features from these hidden representations. Unlike existing generative approaches that adopt self-supervised losses, we introduce a supervised loss to utilize the supervised signal, \ie, click or not, in the CTR prediction task. This framework exhibits strong generalizability: it can be seamlessly integrated with most existing CTR models, reformulating them under the generative paradigm. Extensive experiments demonstrate that SFG consistently mitigates embedding collapse and reduces information redundancy, while yielding substantial performance gains across various datasets and base models. The code is available at https://github.com/USTC-StarTeam/GE4Rec.
- Abstract(参考訳): CTR(Click-Through Rate)予測は、レコメンデーションシステムにおける中核的なタスクであり、ユーザーがアイテムをクリックする確率を推定することを目的としている。
既存のモデルは、生のID埋め込み間の明示的な相互作用に大きく依存する差別的パラダイムに主に従っている。
しかし、このパラダイムは本質的に2つの重要な問題(次元の崩壊と情報冗長性)に影響を及ぼす。
これらの制約に対処するため,新たなフレームワークである \emph{Supervised Feature Generation (SFG) を提案し,そのパラダイムを差別的な `feature Interaction" から生成的な `feature Generation" にシフトさせる。
具体的には、各機能に隠された埋め込みを構成する \emph{Encoder} と、これらの隠された表現からすべての機能の埋め込みを再生する \emph{Decoder} という2つの重要なコンポーネントから構成される。
自己監督的損失を導入した既存の生成的アプローチとは違って,CTR予測タスクにおいて教師付き信号, \ie, click, not を利用するように教師付き損失を導入する。
このフレームワークは強力な一般化可能性を示し、既存のほとんどのCTRモデルとシームレスに統合でき、生成パラダイムの下でそれらを再構成することができる。
大規模な実験により、SFGは埋め込みの崩壊を一貫して軽減し、情報の冗長性を低減し、さまざまなデータセットやベースモデルに対して大幅なパフォーマンス向上をもたらすことが示されている。
コードはhttps://github.com/USTC-StarTeam/GE4Recで入手できる。
関連論文リスト
- Towards Federated Clustering: A Client-wise Private Graph Aggregation Framework [57.04850867402913]
フェデレーションクラスタリングは、分散化されたラベルのないデータからパターンを抽出する課題に対処する。
本研究では,プライバシ保護のための知識共有媒体として,局所構造グラフを革新的に活用する新しいアルゴリズムSPP-FGCを提案する。
我々のフレームワークは最先端のパフォーマンスを実現し、認証可能なプライバシー保証を維持しつつ、フェデレーションベースラインよりも最大10%(NMI)のクラスタリング精度を向上させる。
論文 参考訳(メタデータ) (2025-11-14T03:05:22Z) - DGenCTR: Towards a Universal Generative Paradigm for Click-Through Rate Prediction via Discrete Diffusion [6.189010741030871]
離散拡散に基づく2段階CTRトレーニングフレームワーク(DGenCTR)を提案する。
本発明の2段階のフレームワークは、拡散ベースの生成前訓練段階と、CTRのためのCTRを標的とした微調整段階とを含む。
論文 参考訳(メタデータ) (2025-08-20T07:42:21Z) - Act-With-Think: Chunk Auto-Regressive Modeling for Generative Recommendation [49.45822979879046]
ジェネレーティブレコメンデーション(GR)は通常、アイテム情報の振る舞いや意味的な側面を離散トークンにエンコードする。
本稿では,Chunk AutoRegressive Modeling(CAR)について紹介する。
論文 参考訳(メタデータ) (2025-06-30T09:13:54Z) - Decoupled Classifier-Free Guidance for Counterfactual Diffusion Models [14.792134583650787]
CFGはすべての属性に対してグローバルなガイダンス尺度を定めており、推論されたカウンターファクトの大幅な変更につながっている。
本稿では,因果グラフに従う属性ワイズ制御を可能にする,フレキシブルでモデルに依存しないガイダンス手法であるDecoupled-Free Guidance (DCFG)を提案する。
論文 参考訳(メタデータ) (2025-06-17T10:56:09Z) - TF4CTR: Twin Focus Framework for CTR Prediction via Adaptive Sample Differentiation [14.047096669510369]
本稿では,Twin Focus (TF) Loss, Sample Selection Embedding Module (SSEM), Dynamic Fusion Module (DFM) を統合した新しいCTR予測フレームワークを提案する。
5つの実世界のデータセットの実験は、フレームワークの有効性と互換性を確認している。
論文 参考訳(メタデータ) (2024-05-06T05:22:40Z) - Triplet Contrastive Learning for Unsupervised Vehicle Re-identification [55.445358749042384]
部分的特徴学習は、車両の再識別におけるセマンティック理解にとって重要な技術である。
本稿では,クラスタ機能を活用したTCL(Triplet Contrastive Learning framework)を提案する。
論文 参考訳(メタデータ) (2023-01-23T15:52:12Z) - Decoupled Multi-task Learning with Cyclical Self-Regulation for Face
Parsing [71.19528222206088]
顔解析のための周期的自己統制型デカップリング型マルチタスク学習を提案する。
具体的には、DML-CSRは、顔解析、バイナリエッジ、カテゴリエッジ検出を含むマルチタスクモデルを設計する。
提案手法は,Helen,CelebA-HQ,LapaMaskのデータセット上での最先端性能を実現する。
論文 参考訳(メタデータ) (2022-03-28T02:12:30Z) - Adversarial Feature Augmentation and Normalization for Visual
Recognition [109.6834687220478]
最近のコンピュータビジョンの進歩は、分類モデルの一般化能力を改善するために、逆データ拡張を利用する。
本稿では,中間的特徴埋め込みにおける敵対的拡張を提唱する効率的かつ効率的な代替手法を提案する。
代表的なバックボーンネットワークを用いて,多様な視覚認識タスクにまたがる提案手法を検証する。
論文 参考訳(メタデータ) (2021-03-22T20:36:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。