論文の概要: MARS: Multi-rate Aggregation of Recency Signals for Sequential Recommendation across Sparse and Dense Regimes
- arxiv url: http://arxiv.org/abs/2606.03718v1
- Date: Tue, 02 Jun 2026 14:39:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-03 22:00:05.074427
- Title: MARS: Multi-rate Aggregation of Recency Signals for Sequential Recommendation across Sparse and Dense Regimes
- Title(参考訳): MARS:スパースレジームとデンスレジームをまたいだシークエンシャルレコメンデーションのための多重レートアグリゲーション
- Authors: Zhenyu Yu, Shuigeng Zhou,
- Abstract要約: 我々は,実時間スタンプを消費し,K要約を生成するエンコーダに依存しないアグリゲーション演算子MARSを提案する。
火星は、スパースデータのMARS-T(Transformer)と密度データのMARS-M(Mamba)の2つのエンコーダインスタンスを自動的に選択することで、データ密度に適応する。
統一されたRecBoleプロトコルの下で10のTransformerとMambaベースのベースラインに対する5つの公開ベンチマークで、MARSはすべてのベンチマークで最高のHR@10を達成する。
- 参考スコア(独自算出の注目度): 23.627157851520845
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sequential recommenders weight historical interactions either through positional self-attention as in Transformers or through a single implicit decay schedule as in State-Space Models. Neither makes the multi-scale temporal structure of real user behaviour explicit. We propose MARS, an encoder-agnostic aggregation operator that consumes real timestamps and produces K summaries emphasising distinct recency scales, fused by a context-adaptive gate. MARS adds at most 6% parameters and runs in $\mathcal{O}(LdK)$ time. MARS adapts to data density by automatically selecting between two encoder instantiations: MARS-T (Transformer) for sparse data and MARS-M (Mamba) for dense data, based on the average sequence length of the training set. On five public benchmarks against ten Transformer- and Mamba-based baselines under a unified RecBole protocol, MARS attains the best HR@10 on every benchmark, with mean relative gain +19.7% over the strongest content-only Transformer baseline on sparse data (reaching +36.2% on Games) and +3.2% HR@10 / +0.9% NDCG over SIGMA on dense ML-1M at 42% fewer MFLOPs, occupying the accuracy-efficiency Pareto frontier across the data-density spectrum. A backbone-only ablation isolates the marginal contribution of MARS at +4% to +19% HR@10 on sparse data and motivates the dual-instantiation design. The code is included in the supplementary material.
- Abstract(参考訳): シークエンシャルレコメンダは、トランスフォーマーのように位置的自己注意によって、またはステートスペースモデルのように単一の暗黙の減衰スケジュールを通して、歴史的な相互作用を重くする。
実際のユーザ動作のマルチスケールの時間構造も明確ではない。
本稿では,実時間スタンプを消費するエンコーダに依存しない集約演算子MARSを提案する。
MARSは6%以上のパラメータを追加し、$\mathcal{O}(LdK)$ timeで実行される。
MARSは、トレーニングセットの平均シーケンス長に基づいて、スパースデータのMARS-T(Transformer)と密度データのMARS-M(Mamba)の2つのエンコーダインスタンスを自動的に選択することで、データ密度に適応する。
統一されたRecBoleプロトコルの下で10のTransformerとMambaベースのベースラインに対する5つの公開ベンチマークにおいて、MARSはすべてのベンチマークで最高のHR@10を達成し、スパースデータ(ゲーム上では+36.2%)上の最もコンテントのみのTransformerベースラインよりも平均で+19.7%、高密度ML-1M上のSIGMA上で+3.2%のHR@10と+0.9%のNDCGを42%のMFLOPで達成し、精度-効率のParetoフロンティアを占有した。
バックボーンのみのアブレーションは、スパースデータに対するMARSの限界寄与を+4%から+19%のHR@10で分離し、デュアル・インスタンス設計を動機付ける。
コードは補足資料に含まれます。
関連論文リスト
- ISOMORPH: A Supply Chain Digital Twin for Simulation, Dataset Generation, and Forecasting Benchmarks [6.803642669632622]
マルチエケロンロジスティクスネットワークの最初のパブリックデジタルツインであるISOMORPHを紹介する。
シミュレータは、離散時間で有向ルーティンググラフを前進させる。
マルコフ連鎖に符号化された3つの保護法が検証ツールとして機能する。
論文 参考訳(メタデータ) (2026-05-12T21:31:32Z) - Learning from the Best: Smoothness-Driven Metrics for Data Quality in Imitation Learning [2.452887009229123]
RINSEは、ポリシーアーキテクチャに依存しない軌道の滑らかさに基づいて、デモを評価するためのフレームワークである。
本研究では,スムーズなフィルタリングにより,保持データ分布の条件変動を低減できることを示す。
Re-Mixドメインの再重み付けにおけるソフトウェイトとして、RINSEスコアは、学習されたRe-Mixアロケーションと高い相関を持つドメインアロケーションを生成する。
論文 参考訳(メタデータ) (2026-04-24T20:40:11Z) - MARS: Enabling Autoregressive Models Multi-Token Generation [34.63470140050534]
自動回帰(AR)言語モデルは、先行した文脈で連続したトークンが高度に予測可能な場合でも、一度に1つのトークンを生成する。
我々は,前方通過毎に複数のトークンを予測する命令調整ARモデルを,軽量な微調整法であるMARSを紹介した。
論文 参考訳(メタデータ) (2026-04-08T12:41:37Z) - PanFoMa: A Lightweight Foundation Model and Benchmark for Pan-Cancer [54.958921946378304]
トランスフォーマーと状態空間モデルの強みを組み合わせた軽量ハイブリッドニューラルネットワークであるPanFoMaを紹介する。
PanFoMaはフロントエンドのローカルコンテキストエンコーダと共有自己認識層から構成され、複雑で秩序に依存しない遺伝子相互作用をキャプチャする。
また,350万以上の高品質な細胞を含む大規模パンキャンサー単細胞ベンチマークPanFoMaBenchを構築した。
論文 参考訳(メタデータ) (2025-12-02T08:31:31Z) - Diffusion Language Models are Super Data Learners [61.721441061210896]
ユニークなデータが限られている場合、拡散言語モデル(DLM)は、よりエポックなトレーニングによって、常に自己回帰モデル(AR)を上回ります。
本研究の目的は,(1) 任意の次数モデリング,(2) 反復的双方向 denoising からの超高次計算,(3) モンテカルロ増分という3つの複合的要因に起因する。
論文 参考訳(メタデータ) (2025-11-05T08:17:42Z) - MARS-M: When Variance Reduction Meets Matrices [47.405031764674014]
マトリックスベースのプレコンディショニングは、大規模なニューラルネットワークのためのスカラーベースのプレコンディショニングよりも効率的であることが示されている。
我々は,MARSにおける分散低減手法をMuonと統合する新しい手法であるMARS-Mを紹介する。
言語モデリングとコンピュータビジョンタスクにおける実験結果から、MARS-Mは、様々な下流ベンチマークにおいて、一貫して損失を減らし、性能を向上することを示した。
論文 参考訳(メタデータ) (2025-10-20T16:49:22Z) - MARS-Sep: Multimodal-Aligned Reinforced Sound Separation [72.85468563236005]
MARS-Sepは音分離のための強化学習フレームワークである。
クリッピングされた信頼領域サロゲートによって最適化された、ファクタライズされたベータマスクポリシを学ぶ。
複数のベンチマークの実験は、テキスト、オーディオ、イメージ-キュード分離において一貫した利得を示している。
論文 参考訳(メタデータ) (2025-10-12T09:05:28Z) - Score-based Generative Modeling in Latent Space [93.8985523558869]
スコアベース生成モデル(SGM)は,最近,サンプル品質と分布範囲の両面で顕著な結果を示した。
本稿では,Latent Score-based Generative Model (LSGM)を提案する。
データから潜在空間への移動により、より表現力のある生成モデルをトレーニングし、非連続データにSGMを適用し、よりスムーズなSGMをより小さな空間で学習することができる。
論文 参考訳(メタデータ) (2021-06-10T17:26:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。