論文の概要: Clustered Embedding Learning for Recommender Systems
- arxiv url: http://arxiv.org/abs/2302.01478v1
- Date: Fri, 3 Feb 2023 01:20:49 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-06 17:48:07.573313
- Title: Clustered Embedding Learning for Recommender Systems
- Title(参考訳): レコメンダシステムのためのクラスタ組込み学習
- Authors: Yizhou Chen, Guangda Huzhang, Anxiang Zeng, Qingtao Yu, Hui Sun,
Hengyi Li, Jingyi Li, Yabo Ni, Han Yu, Zhiming Zhou
- Abstract要約: クラスタ化埋め込み学習(Clustered Embedding Learning, CEL)は、任意の機能相互作用モデルと組み合わせることができる、プラグインとプレイの組込み学習フレームワークである。
CELは、クラスタ化されたエンティティが共有埋め込みを共同で学習する、トップダウンの方法で、ユーザとアイテムの自動的および動的クラスタリングを可能にする。
CELは、現在の最先端手法に対して一貫して優れた性能を示す。
- 参考スコア(独自算出の注目度): 25.569153861374648
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In recent years, recommender systems have advanced rapidly, where embedding
learning for users and items plays a critical role. A standard method learns a
unique embedding vector for each user and item. However, such a method has two
important limitations in real-world applications: 1) it is hard to learn
embeddings that generalize well for users and items with rare interactions on
their own; and 2) it may incur unbearably high memory costs when the number of
users and items scales up. Existing approaches either can only address one of
the limitations or have flawed overall performances. In this paper, we propose
Clustered Embedding Learning (CEL) as an integrated solution to these two
problems. CEL is a plug-and-play embedding learning framework that can be
combined with any differentiable feature interaction model. It is capable of
achieving improved performance, especially for cold users and items, with
reduced memory cost. CEL enables automatic and dynamic clustering of users and
items in a top-down fashion, where clustered entities jointly learn a shared
embedding. The accelerated version of CEL has an optimal time complexity, which
supports efficient online updates. Theoretically, we prove the identifiability
and the existence of a unique optimal number of clusters for CEL in the context
of nonnegative matrix factorization. Empirically, we validate the effectiveness
of CEL on three public datasets and one business dataset, showing its
consistently superior performance against current state-of-the-art methods. In
particular, when incorporating CEL into the business model, it brings an
improvement of $+0.6\%$ in AUC, which translates into a significant revenue
gain; meanwhile, the size of the embedding table gets $2650$ times smaller.
- Abstract(参考訳): 近年,レコメンダシステムは急速に進歩し,ユーザやアイテムへの埋め込み学習が重要な役割を担っている。
標準手法はユーザとアイテムごとに独自の埋め込みベクトルを学習する。
しかし、そのような手法は現実世界の応用には2つの重要な制限がある。
1) ユーザやアイテムに共通する埋め込みの学習は困難であり, かつ, 個別に行うことは困難である。
2)ユーザ数や項目数が増えると,メモリコストが不当に高くなる可能性がある。
既存のアプローチは、制限の1つしか対処できないか、全体的なパフォーマンスに欠陥がある。
本稿では,これらの2つの問題に対する統合解として,クラスタ型埋め込み学習(CEL)を提案する。
CELはプラグインとプレイの組込み学習フレームワークで、あらゆる異なる機能相互作用モデルと組み合わせることができる。
特に寒冷なユーザやアイテムに対して、メモリコストを削減して、パフォーマンスの向上を実現することができる。
celは、クラスタ化されたエンティティが共同で共有埋め込みを学習するトップダウン方式で、ユーザとアイテムの自動および動的クラスタリングを可能にする。
CELのアクセラレーションバージョンは、効率的なオンライン更新をサポートする最適な時間複雑性を持つ。
理論的には、非負行列分解の文脈において、CEL に対する一意の最適数のクラスタの存在と識別可能性を証明する。
実証的に,3つの公開データセットと1つのビジネスデータセットに対するCELの有効性を検証する。
特に、CELをビジネスモデルに組み込むと、AUCの$+0.6\%が改善され、その一方で、埋め込みテーブルのサイズは2650ドルより小さくなる。
関連論文リスト
- LLM-assisted Explicit and Implicit Multi-interest Learning Framework for Sequential Recommendation [50.98046887582194]
本研究では,ユーザの興味を2つのレベル – 行動と意味論 – でモデル化する,明示的で暗黙的な多目的学習フレームワークを提案する。
提案するEIMFフレームワークは,小型モデルとLLMを効果的に組み合わせ,多目的モデリングの精度を向上させる。
論文 参考訳(メタデータ) (2024-11-14T13:00:23Z) - Lifelong Personalized Low-Rank Adaptation of Large Language Models for Recommendation [50.837277466987345]
我々は、推奨のために大規模言語モデル(LLM)の分野に焦点を当てる。
ユーザ毎に独立したLoRAを管理するPersonalized LoRAモジュールを組み込んだRecLoRAを提案する。
また、Few2Many Learning Strategyを設計し、従来のレコメンデーションモデルをレンズとして使用して、小さなトレーニングスペースをフルスペースに拡大する。
論文 参考訳(メタデータ) (2024-08-07T04:20:28Z) - Efficient and Responsible Adaptation of Large Language Models for Robust Top-k Recommendations [11.004673022505566]
何百万というユーザの長いクエリは、大規模言語モデルのパフォーマンスを低下させ、推奨することができる。
本稿では,大規模言語モデルと従来のレコメンデーションシステムの両方の機能を利用するハイブリッドタスク割り当てフレームワークを提案する。
実世界の3つのデータセットによる結果から,弱い利用者の減少と,サブ人口に対するRSのロバスト性の向上が示唆された。
論文 参考訳(メタデータ) (2024-05-01T19:11:47Z) - Large Language Models meet Collaborative Filtering: An Efficient All-round LLM-based Recommender System [19.8986219047121]
協調フィルタリング推薦システム (CF-RecSys) は, ソーシャルメディアやeコマースプラットフォーム上でのユーザエクスペリエンス向上に成功している。
近年の戦略は、事前訓練されたモダリティエンコーダと大規模言語モデルに基づくユーザ/イテムのモダリティ情報の活用に重点を置いている。
コールドシナリオだけでなく、ウォームシナリオにおいても優れたA-LLMRecと呼ばれる全周LCMベースのレコメンダシステムを提案する。
論文 参考訳(メタデータ) (2024-04-17T13:03:07Z) - Automated Contrastive Learning Strategy Search for Time Series [48.68664732145665]
時系列データセットやタスクに対するコントラスト学習(AutoCL)を自動的に学習する,MicrosoftのAutomated Machine Learning(AutoML)プラクティスを提示する。
まず,データ拡張,埋め込み変換,コントラッシブなペア構成,コントラスト的な損失を網羅した,3時間1012ドルの探索空間を構築した。
さらに,評価タスクの性能からCLSを最適化し,空間内で有効なCLSを得る効率的な強化学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-03-19T11:24:14Z) - RecDCL: Dual Contrastive Learning for Recommendation [65.6236784430981]
本稿では、RecDCLという2つのコントラスト学習推薦フレームワークを提案する。
RecDCLでは、FCLの目的は、ユーザとイテムの正のペアに対する冗長なソリューションを排除することである。
BCLの目的は、表現の堅牢性を高めるために出力ベクトルにコントラスト埋め込みを生成するために利用される。
論文 参考訳(メタデータ) (2024-01-28T11:51:09Z) - EfficientRec an unlimited user-item scale recommendation system based on
clustering and users interaction embedding profile [0.2912705470788796]
本稿では,ユーザの好みを抽出する上で,コントラスト学習フレームワークを用いたグラフニューラルネットワークの新たな手法を提案する。
我々は、推論プロセスの計算コストを大幅に削減するソフトクラスタリングアーキテクチャを組み込んだ。
実験の結果,学習段階と予測段階の両方において,低い計算コストでユーザの好みを学習できることがわかった。
論文 参考訳(メタデータ) (2024-01-18T02:48:06Z) - End-to-end Learnable Clustering for Intent Learning in Recommendation [54.157784572994316]
我々は、アンダーラインELCRecと呼ばれる新しい意図学習手法を提案する。
振る舞い表現学習をUnderlineEnd-to-end UnderlineLearnable UnderlineClusteringフレームワークに統合する。
1億3000万ページビューの産業レコメンデーションシステムに本手法をデプロイし,有望な結果を得る。
論文 参考訳(メタデータ) (2024-01-11T15:22:55Z) - An Efficient Framework for Clustered Federated Learning [26.24231986590374]
本稿では,ユーザがクラスタに分散するフェデレーション学習(FL)の問題に対処する。
反復フェデレーションクラスタリングアルゴリズム(IFCA)を提案する。
ニューラルネットワークのような非分割問題では,アルゴリズムが効率的であることを示す。
論文 参考訳(メタデータ) (2020-06-07T08:48:59Z) - Multi-Center Federated Learning [62.57229809407692]
本稿では,フェデレート学習のための新しい多中心集約機構を提案する。
非IIDユーザデータから複数のグローバルモデルを学び、同時にユーザとセンタ間の最適なマッチングを導出する。
ベンチマークデータセットによる実験結果から,本手法はいくつかの一般的なフェデレーション学習法より優れていることが示された。
論文 参考訳(メタデータ) (2020-05-03T09:14:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。