論文の概要: GLINT-RU: Gated Lightweight Intelligent Recurrent Units for Sequential Recommender Systems
- arxiv url: http://arxiv.org/abs/2406.10244v1
- Date: Thu, 6 Jun 2024 13:55:55 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-23 13:35:51.776855
- Title: GLINT-RU: Gated Lightweight Intelligent Recurrent Units for Sequential Recommender Systems
- Title(参考訳): GLINT-RU:逐次リコメンダシステムのための軽量インテリジェントリカレントユニット
- Authors: Sheng Zhang, Maolin Wang, Xiangyu Zhao,
- Abstract要約: 本稿では,新しい効率的なシーケンシャルレコメンデーションフレームワークGLINT-RUを提案する。
推論速度を加速するために、GRU(Gated Recurrent Units)モジュールを使用する。
我々のフレームワークは、既存のベースラインよりも優れた予測速度と予測精度を実現している。
- 参考スコア(独自算出の注目度): 24.758106816702767
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In the rapidly evolving field of artificial intelligence, transformer-based models have gained significant attention in the context of Sequential Recommender Systems (SRSs), demonstrating remarkable proficiency in capturing user-item interactions. However, such attention-based frameworks result in substantial computational overhead and extended inference time. To address this problem, this paper proposes a novel efficient sequential recommendation framework GLINT-RU that leverages dense selective Gated Recurrent Units (GRU) module to accelerate the inference speed, which is a pioneering work to further exploit the potential of efficient GRU modules in SRSs. The GRU module lies at the heart of GLINT-RU, playing a crucial role in substantially reducing both inference time and GPU memory usage. Through the integration of a dense selective gate, our framework adeptly captures both long-term and short-term item dependencies, enabling the adaptive generation of item scores. GLINT-RU further integrates a mixing block, enriching it with global user-item interaction information to bolster recommendation quality. Moreover, we design a gated Multi-layer Perceptron (MLP) for our framework where the information is deeply filtered. Extensive experiments on three datasets are conducted to highlight the effectiveness and efficiency of GLINT-RU. Our GLINT-RU achieves exceptional inference speed and prediction accuracy, outperforming existing baselines based on Recurrent Neural Network (RNN), Transformer, MLP and State Space Model (SSM). These results establish a new standard in sequential recommendation, highlighting the potential of GLINT-RU as a renewing approach in the realm of recommender systems.
- Abstract(参考訳): 人工知能の急速に発展する分野において、トランスフォーマーベースのモデルはシーケンシャル・レコメンダー・システム(SRS)の文脈において大きな注目を集めており、ユーザーとイテムの相互作用を捉えるのに顕著な習熟性を示している。
しかし、このような注意に基づくフレームワークは計算オーバーヘッドが大きくなり、推論時間が延長される。
そこで本研究では,SRSにおける効率的なGRUモジュールの可能性をさらに活用するための先駆的な手法として,高密度選択型GRU(Gated Recurrent Units)モジュールを活用して推論速度を高速化する,新しい効率的なシーケンシャルレコメンデーションフレームワークGLINT-RUを提案する。
GRUモジュールはGLINT-RUの中心に位置し、推論時間とGPUメモリ使用量の削減に重要な役割を果たしている。
本フレームワークは,高密度選択ゲートの統合により,長期および短期の項目依存を適切に捕捉し,項目スコアを適応的に生成する。
GLINT-RUはさらにミキシングブロックを統合し、グローバルなユーザとイテムのインタラクション情報を豊かにすることで、レコメンデーションの品質を高めている。
さらに,情報を深くフィルタする多層パーセプトロン(MLP)を設計する。
GLINT-RUの有効性と有効性を明らかにするために、3つのデータセットに関する大規模な実験を行った。
我々のGLINT-RUは、リカレントニューラルネットワーク(RNN)、トランスフォーマー、MLP、ステートスペースモデル(SSM)に基づく既存のベースラインよりも優れた予測速度と予測精度を実現している。
これらの結果は、リコメンデータシステム領域における更新アプローチとしてのGLINT-RUの可能性を強調し、シーケンシャルなレコメンデーションにおける新しい標準を確立した。
関連論文リスト
- Large Language Model Empowered Embedding Generator for Sequential Recommendation [57.49045064294086]
大言語モデル(LLM)は、その人気に関係なく、項目間の意味的関係を理解する能力を持つ。
LLMEmbは、LCMを利用してアイテム埋め込みを作成し、シークエンシャル・レコメンダ・システムの性能を高める革新的な技術である。
論文 参考訳(メタデータ) (2024-09-30T03:59:06Z) - Bidirectional Gated Mamba for Sequential Recommendation [56.85338055215429]
最近の進歩であるMambaは、時系列予測において例外的なパフォーマンスを示した。
SIGMA(Selective Gated Mamba)と呼ばれる,シークエンシャルレコメンデーションのための新しいフレームワークを紹介する。
以上の結果から,SIGMAは5つの実世界のデータセットにおいて,現在のモデルよりも優れていたことが示唆された。
論文 参考訳(メタデータ) (2024-08-21T09:12:59Z) - Delayed Memory Unit: Modelling Temporal Dependency Through Delay Gate [16.4160685571157]
リカレントニューラルネットワーク(RNN)は、時間的依存をモデル化する能力で広く認識されている。
本稿では、ゲートRNNのための新しい遅延メモリユニット(DMU)を提案する。
DMUは遅延線構造と遅延ゲートをバニラRNNに組み込み、時間的相互作用を高め、時間的信用割り当てを容易にする。
論文 参考訳(メタデータ) (2023-10-23T14:29:48Z) - Faster Learning of Temporal Action Proposal via Sparse Multilevel
Boundary Generator [9.038216757761955]
ビデオにおける時間的行動のローカライゼーションは、コンピュータビジョンの分野で大きな課題を呈している。
本稿では,境界分類と動作完全性回帰を用いた境界感性手法を改良したSMBG(Sparse Multilevel boundary Generator)を提案する。
提案手法は,ActivityNet-1.3 と THUMOS14 の2つのベンチマークで評価され,より高速な推論速度 (2.47xBSN++, 2.12xDBG) で最先端の性能を実現する。
論文 参考訳(メタデータ) (2023-03-06T14:26:56Z) - GUESR: A Global Unsupervised Data-Enhancement with Bucket-Cluster
Sampling for Sequential Recommendation [58.6450834556133]
本研究では,グローバルな視点から複雑な関連性を持つ項目表現を強化するために,グラフコントラスト学習を提案する。
本稿では,CapsNetモジュールを拡張したターゲットアテンション機構により,ユーザの動的嗜好を導出する。
提案したGUESRは,大幅な改善を達成できただけでなく,汎用的な拡張戦略ともみなすことができた。
論文 参考訳(メタデータ) (2023-03-01T05:46:36Z) - Gated Recurrent Neural Networks with Weighted Time-Delay Feedback [59.125047512495456]
重み付き時間遅延フィードバック機構を備えた新しいゲートリカレントユニット(GRU)を導入する。
我々は、$tau$-GRUが、最先端のリカレントユニットやゲート型リカレントアーキテクチャよりも早く収束し、より一般化できることを示します。
論文 参考訳(メタデータ) (2022-12-01T02:26:34Z) - IMDeception: Grouped Information Distilling Super-Resolution Network [7.6146285961466]
SISR(Single-Image-Super-Resolution)は、ディープラーニング手法の最近の進歩の恩恵を受けている古典的なコンピュータビジョン問題である。
本稿では,機能集約のためのIICモジュールの代替として,GPRM(Global Progressive Refinement Module)を提案する。
また,1秒あたりのパラメータ数や浮動小数点演算量(FLOPS)をさらに削減するために,GIDB(Grouped Information Distilling Blocks)を提案する。
実験の結果,提案したネットワークは,パラメータ数やFLOPSが限られているにもかかわらず,最先端モデルと同等に動作していることがわかった。
論文 参考訳(メタデータ) (2022-04-25T06:43:45Z) - DepthFormer: Exploiting Long-Range Correlation and Local Information for
Accurate Monocular Depth Estimation [50.08080424613603]
高精度な単分子深度推定には長距離相関が不可欠である。
我々は,このグローバルコンテキストを効果的な注意機構でモデル化するためにTransformerを活用することを提案する。
提案したモデルであるDepthFormerは、最先端のモノクル深度推定手法をはるかに超えている。
論文 参考訳(メタデータ) (2022-03-27T05:03:56Z) - Lightweight Self-Attentive Sequential Recommendation [30.048184102259494]
シーケンシャルレコメンデーションのために,新しい軽量自己注意ネットワーク(LSAN)を導入する。
元の埋め込み行列を積極的に圧縮するために、LSANは構成埋め込みの概念を利用する。
本稿では,各項目の内在的ダイナミクスを考慮し,時間的文脈認識型埋め込み合成スキームを提案する。
論文 参考訳(メタデータ) (2021-08-25T16:46:47Z) - Refined Gate: A Simple and Effective Gating Mechanism for Recurrent
Units [68.30422112784355]
本稿では,この問題に対処する一般ゲートリカレントニューラルネットワークにおける新しいゲーティング機構を提案する。
提案したゲートは、抽出された入力特徴とバニラゲートの出力を直接的にショートする。
LSTM, GRU, MGUの3種類のゲートRNNに対して, 提案したゲーティング機構を検証する。
論文 参考訳(メタデータ) (2020-02-26T07:51:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。