論文の概要: ChronicleRec: Pre-training Temporally Anchored Tokens for Lifelong User Modeling
- arxiv url: http://arxiv.org/abs/2609.12375v1
- Date: Fri, 11 Sep 2026 02:47:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-15 07:38:31.593067
- Title: ChronicleRec: Pre-training Temporally Anchored Tokens for Lifelong User Modeling
- Title（参考訳）: ChronicleRec: 生涯のユーザモデリングのためのトレーニング済みの一時的なアンコールトークン
- Abstract要約: 既存の長寿命関心手法は、各候補に対する目標関連行動を検索する。
最近のターゲット非依存圧縮手法はキャッシュされたユーザ要約を可能にするが、しばしばシーケンス終端にクエリトークンを付加する。
クロニクルトークンの時系列順序の集合に超長い動作シーケンスを一度圧縮するプレトレイン・アンド・トランスファーフレームワークであるChronicleRecを提案する。
- 参考スコア（独自算出の注目度）: 19.519280627157716
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Modeling ultra-long user behavior sequences is crucial for industrial recommendation and online advertising, yet directly feeding thousands of historical actions into ranking models is computationally prohibitive, while truncation discards long-range signals. Existing lifelong-interest methods retrieve target-relevant behaviors for each candidate, coupling long-sequence modeling with candidate scoring and repeated online cost. Recent target-independent compression methods enable cached user summaries, but often append query tokens at the sequence end and use bidirectional encoding, producing unordered and redundant summaries that overlook temporal structure. We propose ChronicleRec, a pre-train-and-transfer framework that compresses an ultra-long behavior sequence once into a chronologically ordered set of Chronicle Tokens. ChronicleRec applies a recency-aware multi-granularity merge, preserving recent behaviors while coarsening distant history. It then interleaves query tokens with the merged sequence and uses a causal encoder, so each query summarizes only the history before its temporal anchor. A multi-horizon design masks different recent-history windows across parallel branches to learn complementary long-range interests. The compressor is pre-trained with a mask-and-predict objective that reconstructs held-out recent behaviors from compressed older history, aligning historical signals with near-present intent. Since Chronicle Tokens are target-independent, they can be cached per user, decoupling ultra-long sequence modeling from online candidate scoring. Experiments on KuaiRand and Tencent AdLive show that ChronicleRec outperforms recent-window and single-pass compression baselines while approaching full-attention performance. Token analyses reveal temporally organized and complementary representations, and a seven-day online A/B test confirms significant production gains.
- Abstract（参考訳）: 超長期のユーザー行動シーケンスをモデル化することは、産業の推薦やオンライン広告にとって重要であるが、数千の歴史的アクションをランキングモデルに直接供給することは、計算的に禁止されている。
既存手法では,各候補に対する目標関連行動の検索,長周期モデリングと候補スコアの結合,オンラインコストの反復といった手法が提案されている。
最近のターゲット非依存圧縮手法はキャッシュされたユーザ要約を可能にするが、しばしばシーケンスの端にクエリトークンを付加し、双方向のエンコーディングを使用して、時間構造を見渡す不順序で冗長な要約を生成する。
本稿では,クロニクルトークンの時系列順序集合に超長い動作シーケンスを一度圧縮する,プレトレイン・アンド・トランスファーフレームワークであるChronicleRecを提案する。
ChronicleRecは、直流対応の多粒性マージを適用し、最近の挙動を保ちながら、遠くの履歴を粗くしている。
その後、マージされたシーケンスとクエリトークンをインターリーブし、因果エンコーダを使用する。
マルチホライゾンデザインは、並列ブランチにまたがる最近の異なるウィンドウをマスクし、補完的な長距離の関心事を学ぶ。
圧縮機はマスク・アンド・予測目標で事前訓練され、圧縮された古い歴史から保持された最近の動作を再構築し、歴史的信号とほぼ現在の意図とを一致させる。
クロニクルトークンはターゲット非依存であるため、ユーザ毎のキャッシュが可能であり、オンライン候補スコアリングから超長期シーケンスモデリングを分離する。
KuaiRandとTencent AdLiveの実験によると、ChronicleRecは、フルアテンションパフォーマンスに近づきながら、最近のウィンドウとシングルパス圧縮ベースラインを上回っている。
トケ分析では,時間的に整理された相補的な表現が明らかになり,オンラインA/Bテストが7日間実施され,生産量の著しい増加が確認された。
関連論文リスト
- Preference-Drift-Aware Subsequence Learning and Hierarchical Context Fusion for Long-Sequence Generative Recommendation [20.33597628832828]
時系列生成レコメンデーション手法は、ユーザのインタラクションシーケンスを自己回帰的にモデル化し、次のitem表現を生成する。
既存の手法は、効率的なフルシーケンスモデリングとターゲット認識コンテキスト検索の2つのカテゴリに分類される。
提案手法は,長文生成推薦のための優先区切り型サブシーケンス学習と階層型コンテキスト融合である。
論文 参考訳（メタデータ） (2026-09-11T08:01:29Z) - SequenceO1: End-to-End Ultra-Long (100K) Sequence Modeling in Recommendation with Low-Rank Caching [17.335538522124555]
SequenceO1は、超長期のユーザ行動シーケンスモデリングのためのエンドツーエンドフレームワークである。
Douyinのフルトラフィックにデプロイされ、最大100Kのインタラクション履歴がある。
結果は、オフラインとオンラインの連続的なゲインを示しているが、スケッチは、エンドツーエンドのシーケンスランキングを直接100Kにスケーリングするメリットの大部分を保っている。
論文 参考訳（メタデータ） (2026-09-08T08:49:44Z) - Rethinking Convolutional Networks for Attribute-Aware Sequential Recommendation [6.846413131554734]
属性対応シーケンシャルレコメンデーションでは、ユーザが過去のインタラクションの時系列的に順序付けられた履歴に基づいて、次に対話するアイテムを予測する。
既存の方法は典型的には、シーケンス全体を統一表現に集約するために自己認識機構を利用する。
本稿では,畳み込み層を階層的かつ低スケールに利用して,コンパクトかつ表現力のあるシーケンス表現を生成するConvRecを提案する。
論文 参考訳（メタデータ） (2026-05-06T10:18:43Z) - Recurrent Preference Memory for Efficient Long-Sequence Generative Recommendation [27.325586037888]
本稿では,長いユーザインタラクション履歴をコンパクトなPreference Memoryトークンに圧縮するフレームワークRec2PMを紹介する。
実験の結果、Rec2PMは推論遅延とメモリフットプリントを著しく低減し、フルシーケンスモデルよりも精度が高いことがわかった。
論文 参考訳（メタデータ） (2026-02-12T05:51:52Z) - CoFiRec: Coarse-to-Fine Tokenization for Generative Recommendation [55.783414010717074]
CoFiRecは、アイテム情報をセマンティックレベルに分解する新しい生成レコメンデーションフレームワークである。
我々は、CoFiRecが既存の手法より優れており、ジェネレーティブレコメンデーションの新しい視点を提供することを示す。
論文 参考訳（メタデータ） (2025-11-27T18:59:35Z) - Deep Multiple Quantization Network on Long Behavior Sequence for Click-Through Rate Prediction [5.465812199325144]
CTR(Click-Through Rate)予測では、長い行動列が候補項目に対するユーザの関心を評価する上で重要な影響を与える。
本稿では,DMQN(Deep Multiple Quantization Network)を提案する。
広告システムにおけるA/Bテストでは、DMQNはCTRを3.5%改善し、RPMを2.0%改善した。
論文 参考訳（メタデータ） (2025-08-28T14:58:47Z) - RefreshKV: Updating Small KV Cache During Long-form Generation [54.00118604124301]
生成中の入力トークンのサブセットに対して、完全なコンテキストアテンションとアテンションを柔軟に交互に交互に切り替える新しい推論手法RefreshKVを提案する。
本手法をオフザシェルフ LLM に適用することにより,様々な長文生成タスクの性能を向上しつつ,エビクションベースの手法に匹敵する高速化を実現する。
論文 参考訳（メタデータ） (2024-11-08T18:57:07Z) - Parallel Decoding via Hidden Transfer for Lossless Large Language Model Acceleration [54.897493351694195]
本稿では,複数連続するトークンを1つのフォワードパスで同時に復号する,新しい並列復号法,すなわちthithidden Transferを提案する。
加速度測定では,Medusa や Self-Speculative decoding など,単モデル加速技術よりも優れています。
論文 参考訳（メタデータ） (2024-04-18T09:17:06Z) - Contrastive Self-supervised Sequential Recommendation with Robust
Augmentation [101.25762166231904]
Sequential Recommendation Describes a set of technique to model dynamic user behavior to order to predict future interaction in sequence user data。
データスパーシリティやノイズの多いデータなど、古くて新しい問題はまだ残っている。
逐次レコメンデーション(CoSeRec)のためのコントラスト型自己監督学習を提案する。
論文 参考訳（メタデータ） (2021-08-14T07:15:25Z) - Augmenting Sequential Recommendation with Pseudo-Prior Items via
Reversely Pre-training Transformer [61.818320703583126]
逐次レコメンデーションはアイテムシーケンスを時系列的にモデル化することで進化するパターンを特徴付ける。
最近のトランスフォーマの開発はコミュニティに効果的なシーケンスエンコーダの設計を促している。
textbfseudo-prior items(asrep)を用いたtextbfsequential textbfrecommendationのためのtextbfaugmentingの新しいフレームワークを提案する。
論文 参考訳（メタデータ） (2021-05-02T18:06:23Z) - Dynamic Memory based Attention Network for Sequential Recommendation [79.5901228623551]
DMAN(Dynamic Memory-based Attention Network)と呼ばれる新しい連続的推薦モデルを提案する。
長い動作シーケンス全体を一連のサブシーケンスに分割し、モデルをトレーニングし、ユーザの長期的な利益を維持するためにメモリブロックのセットを維持する。
動的メモリに基づいて、ユーザの短期的および長期的関心を明示的に抽出し、組み合わせて効率的な共同推薦を行うことができる。
論文 参考訳（メタデータ） (2021-02-18T11:08:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。