論文の概要: IAT: Instance-As-Token Compression for Historical User Sequence Modeling in Industrial Recommender Systems
- arxiv url: http://arxiv.org/abs/2604.08933v1
- Date: Fri, 10 Apr 2026 04:02:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-13 17:57:53.674274
- Title: IAT: Instance-As-Token Compression for Historical User Sequence Modeling in Industrial Recommender Systems
- Title(参考訳): IAT:産業用レコメンダシステムにおける歴史的ユーザシーケンスモデリングのためのインスタンス・アズ・トークン圧縮
- Authors: Xinchun Li, Ning Zhang, Qianqian Yang, Fei Teng, Wenlin Zhao, Huizhi Yang, Heng Shi, Linlan Chen, Yixin Wu, Zhen Wang, Daiye Hou, Fei Qin, Lele Yu, Yaocheng Tan,
- Abstract要約: Instance-As-Token (IAT)は、新しい2段階のシーケンスモデリングフレームワークである。
IATは歴史的相互作用パターンをコンパクトだが情報的トークンにエンコードする。
IATは実世界の産業レコメンデーションシステムにうまく展開されている。
- 参考スコア(独自算出の注目度): 19.111182803412458
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Although sophisticated sequence modeling paradigms have achieved remarkable success in recommender systems, the information capacity of hand-crafted sequential features constrains the performance upper bound. To better enhance user experience by encoding historical interaction patterns, this paper presents a novel two-stage sequence modeling framework termed Instance-As-Token (IAT). The first stage of IAT compresses all features of each historical interaction instance into a unified instance embedding, which encodes the interaction characteristics in a compact yet informative token. Both temporal-order and user-order compression schemes are proposed, with the latter better aligning with the demands of downstream sequence modeling. The second stage involves the downstream task fetching fixed-length compressed instance tokens via timestamps and adopting standard sequence modeling approaches to learn long-range preferences patterns. Extensive experiments demonstrate that IAT significantly outperforms state-of-the-art methods and exhibits superior in-domain and cross-domain transferability. IAT has been successfully deployed in real-world industrial recommender systems, including e-commerce advertising, shopping mall marketing, and live-streaming e-commerce, delivering substantial improvements in key business metrics.
- Abstract(参考訳): 高度なシーケンスモデリングパラダイムはレコメンデータシステムにおいて顕著な成功を収めてきたが、手作りのシーケンシャルな特徴の情報容量は性能上界を制約している。
本稿では,過去のインタラクションパターンを符号化することでユーザエクスペリエンスを向上させるために,インスタンス・アズ・トークン(IAT)と呼ばれる新しい2段階のシーケンス・モデリング・フレームワークを提案する。
IATの第1段階は、各歴史的なインタラクションインスタンスのすべての特徴を統一されたインスタンス埋め込みに圧縮し、コンパクトだが情報的なトークンで相互作用特性を符号化する。
時間次とユーザ次の両方の圧縮スキームが提案され、後者はダウンストリームシーケンスモデリングの要求に適合する。
第2段階では、タイムスタンプを通じて圧縮された固定長のインスタンストークンを下流タスクフェッチし、標準シーケンスモデリングアプローチを採用して、長距離の好みパターンを学習する。
大規模な実験により、IATは最先端の手法を著しく上回り、ドメイン内およびドメイン間の転送性が優れていることが示された。
IATは、Eコマース広告、ショッピングモールマーケティング、ライブストリーミングeコマースなど、現実の産業レコメンデーションシステムに成功し、主要なビジネス指標を大幅に改善した。
関連論文リスト
- Query as Anchor: Scenario-Adaptive User Representation via Large Language Model [28.30329175937291]
静的エンコーディングから動的クエリ認識合成へユーザモデリングをシフトするフレームワークであるQuery-as-Anchorを提案する。
まず,産業規模の事前学習データセットであるUserUを構築し,行動系列とユーザ理解のセマンティクスを整合させる。
クラスタベースのSoft Prompt Tuningを導入し、識別潜在構造を強制する。
デプロイメントでは、シーケンスターミニでのクエリのアンカーにより、無視可能なインクリメンタルレイテンシでKVキャッシュを加速する推論が可能になる。
論文 参考訳(メタデータ) (2026-02-16T06:09:31Z) - MixFormer: Co-Scaling Up Dense and Sequence in Industrial Recommenders [11.566232697512879]
MixFormerは、レコメンデーションシステム用に設計されたTransformerスタイルの統一アーキテクチャである。
単一のバックボーン内でのシーケンシャルな振る舞いと特徴的相互作用を共同でモデル化する。
大規模産業データセットの実験は、MixFormerが常に優れた精度と効率を示すことを示した。
論文 参考訳(メタデータ) (2026-02-15T11:53:30Z) - HyFormer: Revisiting the Roles of Sequence Modeling and Feature Interaction in CTR Prediction [8.97787361529607]
本稿では,HyFormerについて述べる。HyFormerは1つのバックボーンに長周期モデリングと特徴相互作用を密に統合するハイブリッドトランスフォーマーアーキテクチャである。
数十億の産業データセットに関する実験は、HyFormerが強いLONGERとRanMixerのベースラインを一貫して上回っていることを示している。
論文 参考訳(メタデータ) (2026-01-19T02:55:05Z) - STAR-Rec: Making Peace with Length Variance and Pattern Diversity in Sequential Recommendation [61.320991769685065]
STAR-Recは、好みを認識した注意と状態空間モデリングを組み合わせた新しいアーキテクチャである。
STAR-Recは、最先端のシーケンシャルレコメンデーション手法よりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2025-05-06T12:40:38Z) - SIGMA: Selective Gated Mamba for Sequential Recommendation [56.85338055215429]
最近の進歩であるMambaは、時系列予測において例外的なパフォーマンスを示した。
SIGMA(Selective Gated Mamba)と呼ばれる,シークエンシャルレコメンデーションのための新しいフレームワークを紹介する。
以上の結果から,SIGMAは5つの実世界のデータセットにおいて,現在のモデルよりも優れていたことが示唆された。
論文 参考訳(メタデータ) (2024-08-21T09:12:59Z) - Contrastive Self-supervised Sequential Recommendation with Robust
Augmentation [101.25762166231904]
Sequential Recommendation Describes a set of technique to model dynamic user behavior to order to predict future interaction in sequence user data。
データスパーシリティやノイズの多いデータなど、古くて新しい問題はまだ残っている。
逐次レコメンデーション(CoSeRec)のためのコントラスト型自己監督学習を提案する。
論文 参考訳(メタデータ) (2021-08-14T07:15:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。