論文の概要: DP-Rec: Towards Dynamic Patching for Efficient Long-Sequence Recommendation
- arxiv url: http://arxiv.org/abs/2609.32215v1
- Date: Sat, 26 Sep 2026 04:21:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-07 18:49:39.588129
- Title: DP-Rec: Towards Dynamic Patching for Efficient Long-Sequence Recommendation
- Title(参考訳): DP-Rec: 効率的な長周期レコメンデーションのための動的パッチ
- Abstract要約: 本稿では,動的潜在パッチアーキテクチャであるDP-Recを提案する。
アイテムレベルのモデリングから、インタラクションシーケンスのセグメント化によるパッチレベルのモデリングへと移行します。
長いシーケンスに効果的にスケールし、非圧縮および固定サイズの圧縮ベースラインよりも優れた効率と精度のトレードオフを実現する。
- 参考スコア(独自算出の注目度): 4.399762175621324
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Transformers have redefined sequential recommendation by effectively modeling dynamic user behaviors and long-range dependencies. However, they remain inherently inefficient: standard architectures operate at a fixed rate, allocating comparable computation to every item in a user's history regardless of its information content. This leads to prohibitive computational overhead on long sequences and increased sensitivity to behavioral noise. To address this, practitioners often resort to lossy sequence compression, staged modeling, or truncation. This limits the model's ability to leverage the full context of long histories during inference. Inspired by the recent success of Byte Latent Transformer, we propose DP-Rec, a dynamic latent patching architecture for recommendation. DP-Rec shifts from item-level modeling to patch-level modeling by segmenting interaction sequences using contrastive entropy surprise to identify informative behavioral boundaries. A lightweight patch encoder compresses these temporally contextualized segments into a reduced set of dynamic latent behavior vectors, which are then processed by a larger latent transformer and decoded for next-item prediction. Extensive experiments show that, under constrained computational budgets, DP-Rec scales effectively to long sequences and achieves a superior efficiency-accuracy trade-off over both non-compressed and fixed-size compression baselines.
- Abstract(参考訳): トランスフォーマーは、動的ユーザ動作と長距離依存関係を効果的にモデル化することで、シーケンシャルなレコメンデーションを再定義した。
しかし、それらは本質的に非効率であり、標準アーキテクチャは固定レートで動作し、情報の内容に関わらず、ユーザーの履歴にあるすべての項目に匹敵する計算を割り当てる。
これにより、長い列の計算オーバーヘッドが禁じられ、行動ノイズに対する感度が増大する。
これを解決するために、実践者はしばしば、損失のあるシーケンス圧縮、ステージドモデリング、あるいは切り離しに頼る。
これにより、モデルが推論中に長い履歴の完全なコンテキストを活用する能力を制限する。
近年のByte Latent Transformerの成功に触発されて,動的潜在パッチアーキテクチャDP-Recを提案する。
DP-Recは、アイテムレベルのモデリングから、情報的行動境界を特定するために、対照的なエントロピーサプライズを用いた相互作用シーケンスのセグメント化によるパッチレベルのモデリングへ移行する。
軽量パッチエンコーダは、これらの時間的に文脈化されたセグメントを動的潜在行動ベクトルの縮小セットに圧縮し、次により大きな潜在行動変換器によって処理され、次のイテム予測のためにデコードされる。
計算予算が制限された場合,DP-Recは長周期に効果的にスケールし,非圧縮・固定サイズの圧縮ベースラインよりも優れた効率・精度のトレードオフを実現する。
関連論文リスト
- Preference-Drift-Aware Subsequence Learning and Hierarchical Context Fusion for Long-Sequence Generative Recommendation [20.33597628832828]
時系列生成レコメンデーション手法は、ユーザのインタラクションシーケンスを自己回帰的にモデル化し、次のitem表現を生成する。
既存の手法は、効率的なフルシーケンスモデリングとターゲット認識コンテキスト検索の2つのカテゴリに分類される。
提案手法は,長文生成推薦のための優先区切り型サブシーケンス学習と階層型コンテキスト融合である。
論文 参考訳(メタデータ) (2026-09-11T08:01:29Z) - Planning-aligned Token Compression for Long-Context Autonomous Driving [95.59023657139208]
条件付きVQ-VA上に構築した計画整合型ワーキングメモリフレームワークを提案する。
圧縮は歴史的軌跡と学習した計画意図の両方で条件付けられている。
歴史的文脈が行動の正確性に最も重要となる高信号動的シナリオについて評価する。
論文 参考訳(メタデータ) (2026-06-05T17:16:21Z) - Unleashing the Potential of Sparse Attention on Long-term Behaviors for CTR Prediction [17.78352301235849]
本研究では,ユーザの長期行動に特化して設計された効率的かつ効果的なモデルであるSparseCTRを提案する。
これらのチャンクに基づいて,ユーザのグローバルな関心を共同で識別する3枝のスパース自己認識機構を提案する。
SparseCTRは効率を向上するだけでなく、最先端の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2026-01-25T13:39:26Z) - Scalable Sequential Recommendation under Latency and Memory Constraints [0.14053129774629072]
逐次リコメンデータシステムは、厳格なメモリとレイテンシの制約の下で動作しながら、長距離ユーザの振る舞いをモデル化する必要がある。
トランスフォーマーベースのアプローチは、高い精度を達成するが、二次的な注意の複雑さに悩まされる。
本稿では,属性認識の埋め込みのためのホログラフィック還元表現を組み合わせた,軽量なシーケンシャルレコメンデーションアーキテクチャであるHoloMambaRecを提案する。
論文 参考訳(メタデータ) (2026-01-13T09:16:49Z) - DeepCoT: Deep Continual Transformers for Real-Time Inference on Data Streams [63.27233749591346]
トランスフォーマーベースのモデルは、ますます複雑なタスクに取り組むために、そのサイズとパラメータ数を劇的に増加させてきた。
ストリームデータ推論は通常、スライディング時間ウィンドウ上で実行され、非常に冗長な計算に繋がる。
提案するDeep Continual Transformer(DeepCoT)は冗長性のないエンコーダのみのモデルであり,最小限の変更で既存のディープエンコーダアーキテクチャに適用できる。
論文 参考訳(メタデータ) (2025-11-21T16:15:43Z) - OmniSAT: Compact Action Token, Faster Auto Regression [70.70037017501357]
我々は、コンパクトで転送可能なアクション表現を学ぶOmni Swift Action Tokenizerを紹介する。
その結果、離散トークン化はトレーニングシーケンスを6.8$times$に短縮し、ターゲットエントロピーを低下させる。
論文 参考訳(メタデータ) (2025-10-08T03:55:24Z) - EntroPE: Entropy-Guided Dynamic Patch Encoder for Time Series Forecasting [50.794700596484894]
IntroPE(Entropy-Guided Dynamic Patch)は,条件付きエントロピーによる遷移点を動的に検出する新しい時間情報フレームワークである。
これは、パッチの計算上の利点を維持しながら、時間構造を保存する。
長期予測ベンチマークによる実験では、EntroPEは精度と効率の両方を改善している。
論文 参考訳(メタデータ) (2025-09-30T12:09:56Z) - Bidirectional Feature-aligned Motion Transformation for Efficient Dynamic Point Cloud Compression [97.66080040613726]
特徴空間における動きを暗黙的にモデル化する双方向特徴整合運動変換(Bi-FMT)フレームワークを提案する。
Bi-FMTは、時間的に一貫した潜在表現を生成するために、過去と将来の両方のフレームで機能を調整する。
圧縮効率とランタイムの両方において, Bi-FMT が D-DPCC と AdaDPCC を上回っていることを示す。
論文 参考訳(メタデータ) (2025-09-18T03:51:06Z) - DBA: Efficient Transformer with Dynamic Bilinear Low-Rank Attention [53.02648818164273]
動的双線形低ランク注意(DBA)という,効率的かつ効果的な注意機構を提案する。
DBAは入力感度の動的射影行列によってシーケンス長を圧縮し、線形時間と空間の複雑さを実現する。
様々なシーケンス長条件のタスクに対する実験は、DBAが最先端のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2022-11-24T03:06:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。