論文の概要: Dynamic Embedding Size Search with Minimum Regret for Streaming
Recommender System
- arxiv url: http://arxiv.org/abs/2308.07760v1
- Date: Tue, 15 Aug 2023 13:27:18 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-16 12:51:06.535345
- Title: Dynamic Embedding Size Search with Minimum Regret for Streaming
Recommender System
- Title(参考訳): ストリーミングリコメンダシステムのための最小レギュレットを用いた動的埋め込みサイズ探索
- Authors: Bowei He, Xu He, Renrui Zhang, Yingxue Zhang, Ruiming Tang, Chen Ma
- Abstract要約: 同一かつ静的な埋め込みサイズの設定は、推奨性能とメモリコストの面で準最適であることを示す。
非定常的な方法でユーザ側とアイテム側の埋め込みサイズ選択を最小化する手法を提案する。
- 参考スコア(独自算出の注目度): 39.78277554870799
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the continuous increase of users and items, conventional recommender
systems trained on static datasets can hardly adapt to changing environments.
The high-throughput data requires the model to be updated in a timely manner
for capturing the user interest dynamics, which leads to the emergence of
streaming recommender systems. Due to the prevalence of deep learning-based
recommender systems, the embedding layer is widely adopted to represent the
characteristics of users, items, and other features in low-dimensional vectors.
However, it has been proved that setting an identical and static embedding size
is sub-optimal in terms of recommendation performance and memory cost,
especially for streaming recommendations. To tackle this problem, we first
rethink the streaming model update process and model the dynamic embedding size
search as a bandit problem. Then, we analyze and quantify the factors that
influence the optimal embedding sizes from the statistics perspective. Based on
this, we propose the \textbf{D}ynamic \textbf{E}mbedding \textbf{S}ize
\textbf{S}earch (\textbf{DESS}) method to minimize the embedding size selection
regret on both user and item sides in a non-stationary manner. Theoretically,
we obtain a sublinear regret upper bound superior to previous methods.
Empirical results across two recommendation tasks on four public datasets also
demonstrate that our approach can achieve better streaming recommendation
performance with lower memory cost and higher time efficiency.
- Abstract(参考訳): ユーザやアイテムの継続的な増加に伴い、静的データセットでトレーニングされた従来のレコメンデータシステムは、環境の変化にほとんど適応できない。
高スループットデータは、ユーザの関心を捉えるために、タイムリーな方法でモデルを更新する必要があるため、ストリーミングレコメンダシステムの出現につながる。
深層学習に基づくレコメンダシステムの普及により,低次元ベクトルにおけるユーザ,アイテム,その他の特徴を表現するために埋め込み層が広く採用されている。
しかし、特にストリーミングレコメンデーションにおいて、同一かつ静的な埋め込みサイズの設定が推奨性能とメモリコストの面で準最適であることが証明されている。
この問題を解決するために,まずストリーミングモデル更新プロセスを再考し,動的埋め込みサイズ探索をバンドイット問題としてモデル化する。
そして、統計の観点から最適な埋め込みサイズに影響を与える要因を分析し定量化する。
そこで本研究では,ユーザとアイテムの双方に対する埋め込みサイズ選択の後悔を最小限に抑えるために, \textbf{d}ynamic \textbf{e}mbedding \textbf{s}ize \textbf{s}earch (\textbf{dess}) 法を提案する。
理論的には,従来の手法よりも上な線形後悔上限が得られる。
4つの公開データセット上の2つのレコメンデーションタスクにまたがる実証的な結果は、我々のアプローチがメモリコストを低減し、より高い時間効率でストリーミングレコメンデーションパフォーマンスを向上できることを示している。
関連論文リスト
- A Recommendation Model Utilizing Separation Embedding and Self-Attention for Feature Mining [7.523158123940574]
レコメンデーションシステムは、ユーザのニーズを満たすコンテンツをユーザに提供します。
従来のクリックスルーレート予測とTOP-Kレコメンデーションメカニズムはレコメンデーションのニーズを満たすことができない。
本稿では,ネットワーク間の分離に基づくレコメンデーションシステムモデルを提案する。
論文 参考訳(メタデータ) (2024-10-19T07:49:21Z) - Bridging User Dynamics: Transforming Sequential Recommendations with Schrödinger Bridge and Diffusion Models [49.458914600467324]
拡散に基づく逐次レコメンデーションモデルにSchr"odinger Bridgeを導入し、SdifRecモデルを作成する。
また、ユーザクラスタリング情報を誘導条件として利用するcon-SdifRecと呼ばれるSdifRecの拡張版も提案する。
論文 参考訳(メタデータ) (2024-08-30T09:10:38Z) - Embedding Compression in Recommender Systems: A Survey [44.949824174769]
本稿では,ディープラーニングレコメンデーションモデルと,レコメンデーションシステムへの埋め込み圧縮の基本概念を紹介する。
既存のアプローチを,低精度,混合次元,重量共有という3つのカテゴリに体系的に分類する。
論文 参考訳(メタデータ) (2024-08-05T08:30:16Z) - Scalable Dynamic Embedding Size Search for Streaming Recommendation [54.28404337601801]
実世界のレコメンデーションシステムは、しばしばストリーミングレコメンデーションシナリオで機能する。
ユーザやアイテムの数は増加を続けており、かなりのストレージリソース消費につながっている。
SCALLと呼ばれるストリーミングレコメンデーション用のLightweight Embeddingsを学び、ユーザ/イテムの埋め込みサイズを適応的に調整できる。
論文 参考訳(メタデータ) (2024-07-22T06:37:24Z) - Large-scale Fully-Unsupervised Re-Identification [78.47108158030213]
大規模未ラベルデータから学ぶための2つの戦略を提案する。
第1の戦略は、近傍関係に違反することなく、それぞれのデータセットサイズを減らすために、局所的な近傍サンプリングを行う。
第2の戦略は、低時間上限の複雑さを持ち、メモリの複雑さを O(n2) から O(kn) に k n で還元する新しい再帰的手法を利用する。
論文 参考訳(メタデータ) (2023-07-26T16:19:19Z) - Modeling Dynamic User Preference via Dictionary Learning for Sequential
Recommendation [133.8758914874593]
ユーザの好みのダイナミックさを捉えることは、ユーザの将来の行動を予測する上で非常に重要です。
浅いものも深いものも含む、既存のレコメンデーションアルゴリズムの多くは、このようなダイナミクスを独立してモデル化することが多い。
本稿では、ユーザのシーケンシャルな振る舞いを、ユーザ好みの潜伏した空間に埋め込むことの問題について考察する。
論文 参考訳(メタデータ) (2022-04-02T03:23:46Z) - Bayesian Non-stationary Linear Bandits for Large-Scale Recommender
Systems [6.009759445555003]
この問題に対処するために,線形コンテキスト多重武装バンディットフレームワークを構築した。
本研究では,高次元特徴ベクトルを用いた線形帯域問題に対する意思決定ポリシーを開発する。
提案するリコメンデータシステムは,実行環境を最小化しながら,ユーザの項目嗜好をオンラインで学習する。
論文 参考訳(メタデータ) (2022-02-07T13:51:19Z) - A Generic Network Compression Framework for Sequential Recommender
Systems [71.81962915192022]
シークエンシャルレコメンデーションシステム(SRS)は,ユーザの動的関心を捉え,高品質なレコメンデーションを生成する上で重要な技術となっている。
CpRecと呼ばれる圧縮されたシーケンシャルレコメンデーションフレームワークを提案する。
大規模なアブレーション研究により、提案したCpRecは実世界のSRSデータセットにおいて最大4$sim$8倍の圧縮速度を達成できることを示した。
論文 参考訳(メタデータ) (2020-04-21T08:40:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。