論文の概要: A Thorough Performance Benchmarking on Lightweight Embedding-based Recommender Systems

• arxiv url: http://arxiv.org/abs/2406.17335v1
• Date: Tue, 25 Jun 2024 07:45:00 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-26 15:11:49.155581
• Title: A Thorough Performance Benchmarking on Lightweight Embedding-based Recommender Systems
• Title（参考訳）: 軽量埋め込み型レコメンダシステムにおける詳細な性能ベンチマーク
• Authors: Hung Vinh Tran, Tong Chen, Quoc Viet Hung Nguyen, Zi Huang, Lizhen Cui, Hongzhi Yin,
• Abstract要約: State-of-the-art recommender system (RS) は、埋め込みベクトルによって符号化される分類的特徴に依存し、結果として非常に大きな埋め込みテーブルとなる。 軽量埋め込み型RSの繁栄にもかかわらず、評価プロトコルには幅広い多様性が見られる。 本研究では, LERSの性能, 効率, クロスタスク転送性について, 徹底的なベンチマークによる検討を行った。
• 参考スコア（独自算出の注目度）: 67.52782366565658
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Since the creation of the Web, recommender systems (RSs) have been an indispensable mechanism in information filtering. State-of-the-art RSs primarily depend on categorical features, which ecoded by embedding vectors, resulting in excessively large embedding tables. To prevent over-parameterized embedding tables from harming scalability, both academia and industry have seen increasing efforts in compressing RS embeddings. However, despite the prosperity of lightweight embedding-based RSs (LERSs), a wide diversity is seen in evaluation protocols, resulting in obstacles when relating LERS performance to real-world usability. Moreover, despite the common goal of lightweight embeddings, LERSs are evaluated with a single choice between the two main recommendation tasks -- collaborative filtering and content-based recommendation. This lack of discussions on cross-task transferability hinders the development of unified, more scalable solutions. Motivated by these issues, this study investigates various LERSs' performance, efficiency, and cross-task transferability via a thorough benchmarking process. Additionally, we propose an efficient embedding compression method using magnitude pruning, which is an easy-to-deploy yet highly competitive baseline that outperforms various complex LERSs. Our study reveals the distinct performance of LERSs across the two tasks, shedding light on their effectiveness and generalizability. To support edge-based recommendations, we tested all LERSs on a Raspberry Pi 4, where the efficiency bottleneck is exposed. Finally, we conclude this paper with critical summaries of LERS performance, model selection suggestions, and underexplored challenges around LERSs for future research. To encourage future research, we publish source codes and artifacts at \href{this link}{https://github.com/chenxing1999/recsys-benchmark}.
• Abstract（参考訳）: Web 作成以来,レコメンダシステム (RS) は情報フィルタリングにおいて必須のメカニズムとなっている。 State-of-the-art RSは、主に分類的特徴に依存し、埋め込みベクトルによって符号化され、結果として非常に大きな埋め込みテーブルとなる。 過度にパラメータ化された埋め込みテーブルがスケーラビリティを損なうのを防ぐために、学術と産業の両方がRS埋め込みの圧縮に力を入れている。 しかし、軽量埋め込み型RS(LERS)の繁栄にもかかわらず、評価プロトコルには幅広い多様性が見られ、LERSの性能と現実のユーザビリティとの関連性に障害が生じている。 さらに、軽量な埋め込みという共通の目標にもかかわらず、LERSは2つの主要なレコメンデーションタスク – 協調フィルタリングとコンテンツベースのレコメンデーション – の1つの選択で評価される。 クロスタスクトランスファービリティに関する議論の欠如は、統一的でスケーラブルなソリューションの開発を妨げる。 これらの課題に触発された本研究では, LERSの性能, 効率, クロスタスクの転送性について, 徹底的なベンチマークによる検討を行った。 さらに,様々な複雑なLERSよりも優れた,容易に展開できるが高い競争力を持つベースラインであるマグニチュードプルーニングを用いた効率的な埋め込み圧縮手法を提案する。 本研究は,2つのタスクにまたがるLERSの性能を明らかにし,その有効性と一般化性に光を当てた。 エッジベースのレコメンデーションをサポートするために、すべてのLERSをRaspberry Pi 4上でテストしました。 最後に, LERSの性能, モデル選択の提案, 今後の研究におけるLERSの課題について概説した。 今後の研究を促進するため、ソースコードとアーティファクトを \href{this link}{https://github.com/chenxing 1999/recsys-benchmark} で公開しています。

関連論文リスト

• Retentive Decision Transformer with Adaptive Masking for Reinforcement Learning based Recommendation Systems [17.750449033873036]
  Reinforcement Learning-based Recommender Systems (RLRS) は、様々なアプリケーションで約束されている。 しかし彼らは、特に報酬関数の作成や、既存の大規模なデータセットの活用など、課題に悩まされている。 オフラインRLRSの最近の進歩は、これらの2つの課題に対処するためのソリューションを提供する。
  論文  参考訳（メタデータ） (2024-03-26T12:08:58Z)
• EASRec: Elastic Architecture Search for Efficient Long-term Sequential Recommender Systems [82.76483989905961]
  現在のSRS(Sequential Recommender Systems)は、計算とリソースの非効率に悩まされている。 我々は、効率的な長期シーケンスレコメンダシステム(EASRec)のための弾性アーキテクチャー探索を開発する。 EASRecは、入力データバッチから履歴情報を活用するデータ認識ゲートを導入し、レコメンデーションネットワークの性能を改善する。
  論文  参考訳（メタデータ） (2024-02-01T07:22:52Z)
• Query-Dependent Prompt Evaluation and Optimization with Offline Inverse RL [62.824464372594576]
  ゼロショットプロンプト最適化により,Large Language Models (LLM) の算術的推論能力を向上させることを目的とする。 このような最適化では、以前見過ごされたクエリ依存の目的を特定します。 本稿では、オフライン逆強化学習を利用して、実演データから洞察を引き出すPrompt-OIRLを紹介する。
  論文  参考訳（メタデータ） (2023-09-13T01:12:52Z)
• Query Encoder Distillation via Embedding Alignment is a Strong Baseline Method to Boost Dense Retriever Online Efficiency [4.254906060165999]
  2層のBERTベースのクエリエンコーダであっても、BEIRベンチマークでは完全なDEパフォーマンスの92.5%を維持可能であることを示す。 私たちの発見が、メソッドの複雑さとパフォーマンスの改善の間のトレードオフを再評価することを、コミュニティに促すことを願っています。
  論文  参考訳（メタデータ） (2023-06-05T06:53:55Z)
• FeaRLESS: Feature Refinement Loss for Ensembling Self-Supervised Learning Features in Robust End-to-end Speech Recognition [34.40924909515384]
  エンド・ツー・エンド(E2E)ASRモデルにおける様々な融合手法を用いた多様なSSLR組合せの有効性について検討する。 提案した「FeaRLESS学習機能」は,WSJとFearless Steps Challenge(FSC)のコーパスにおいて,機能改善を伴わないシステムよりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-06-30T06:39:40Z)
• Choosing the Best of Both Worlds: Diverse and Novel Recommendations through Multi-Objective Reinforcement Learning [68.45370492516531]
  本稿では,Recommender Systems (RS) 設定のための拡張多目的強化学習(SMORL)を紹介する。 SMORLエージェントは、標準レコメンデーションモデルを拡張し、RLレイヤーを追加し、3つの主要な目的(正確性、多様性、新しいレコメンデーション)を同時に満たすように強制する。 実世界の2つのデータセットに対する実験結果から,集約的多様性の顕著な増加,精度の適度な向上,レコメンデーションの反復性の低下,および相補的目的としての多様性と新規性の強化の重要性が示された。
  論文  参考訳（メタデータ） (2021-10-28T13:22:45Z)
• Optimal Resource Allocation for Serverless Queries [8.59568779761598]
  以前の作業では、リソース割り当てと実行時の積極的なトレードオフを無視しながら、ピークアロケーションの予測に重点を置いていた。 本稿では,新しいクエリと過去のクエリの両方に対して,アグレッシブなトレードオフでパフォーマンスを予測できる最適なリソース割り当てシステムを提案する。
  論文  参考訳（メタデータ） (2021-07-19T02:55:48Z)
• CRACT: Cascaded Regression-Align-Classification for Robust Visual Tracking [97.84109669027225]
  改良された提案改良モジュールCascaded Regression-Align- Classification (CRAC)を導入する。 CRACは多くのベンチマークで最先端のパフォーマンスを得る。 OTB-2015、UAV123、NfS、VOT-2018、TrackingNet、GOT-10k、LaSOTを含む7つのベンチマークの実験において、我々のCRACTは最先端の競合他社と比較して非常に有望な結果を示している。
  論文  参考訳（メタデータ） (2020-11-25T02:18:33Z)
• Exploration in two-stage recommender systems [79.50534282841618]
  2段階のレコメンデータシステムは、スケーラビリティと保守性のために業界で広く採用されている。 このセットアップの鍵となる課題は、各ステージの最適性能が最適なグローバルパフォーマンスを暗示していないことである。 そこで本研究では,ランクとノミネーター間の探索戦略を同期させる手法を提案する。
  論文  参考訳（メタデータ） (2020-09-01T16:52:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。