論文の概要: Facet-Aware Multi-Head Mixture-of-Experts Model for Sequential Recommendation

• arxiv url: http://arxiv.org/abs/2411.01457v1
• Date: Sun, 03 Nov 2024 06:47:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-05 21:27:35.767285
• Title: Facet-Aware Multi-Head Mixture-of-Experts Model for Sequential Recommendation
• Title（参考訳）: 逐次レコメンデーションのための面認識型マルチヘッド混合実験モデル
• Authors: Mingrui Liu, Sixiao Zhang, Cheng Long,
• Abstract要約: 逐次レコメンデーションのためのFAME(Facet-Aware Multi-Head Mixture-of-Experts Model for Sequential Recommendation)という新しい構造を提案する。 最後のマルチヘッドアテンション層における各頭部からのサブ埋め込みを活用して,次の項目を別々に予測する。 ゲーティングメカニズムは、各ヘッドからのレコメンデーションを統合し、それらの重要性を動的に決定する。
• 参考スコア（独自算出の注目度）: 25.516648802281626
• License:
• Abstract: Sequential recommendation (SR) systems excel at capturing users' dynamic preferences by leveraging their interaction histories. Most existing SR systems assign a single embedding vector to each item to represent its features, and various types of models are adopted to combine these item embeddings into a sequence representation vector to capture the user intent. However, we argue that this representation alone is insufficient to capture an item's multi-faceted nature (e.g., movie genres, starring actors). Besides, users often exhibit complex and varied preferences within these facets (e.g., liking both action and musical films in the facet of genre), which are challenging to fully represent. To address the issues above, we propose a novel structure called Facet-Aware Multi-Head Mixture-of-Experts Model for Sequential Recommendation (FAME). We leverage sub-embeddings from each head in the last multi-head attention layer to predict the next item separately. This approach captures the potential multi-faceted nature of items without increasing model complexity. A gating mechanism integrates recommendations from each head and dynamically determines their importance. Furthermore, we introduce a Mixture-of-Experts (MoE) network in each attention head to disentangle various user preferences within each facet. Each expert within the MoE focuses on a specific preference. A learnable router network is adopted to compute the importance weight for each expert and aggregate them. We conduct extensive experiments on four public sequential recommendation datasets and the results demonstrate the effectiveness of our method over existing baseline models.
• Abstract（参考訳）: 逐次レコメンデーション(SR)システムは、インタラクション履歴を活用することで、ユーザの動的嗜好を捉えるのに優れている。 既存のSRシステムでは、各項目に1つの埋め込みベクトルを割り当てて特徴を表現し、各項目の埋め込みをシーケンス表現ベクトルに組み合わせ、ユーザ意図をキャプチャする。 しかし、この表現だけでは、アイテムの多面的な性質(映画ジャンル、俳優の出演など)を捉えるには不十分であると主張する。 さらに、ユーザーはこれらのファセット(例えば、ジャンルの面においてアクション映画とミュージカル映画の両方を好む)の中で複雑で多様な好みを示すことがしばしばあり、それは完全な表現が難しい。 上記の課題に対処するため,FAME (Facet-Aware Multi-Head Mixture-of-Experts Model for Sequential Recommendation) と呼ばれる新しい構造を提案する。 最後のマルチヘッドアテンション層における各頭部からのサブ埋め込みを活用して,次の項目を別々に予測する。 このアプローチは、モデルの複雑さを増大させることなく、アイテムの潜在的な多面的な性質を捉えます。 ゲーティングメカニズムは、各ヘッドからのレコメンデーションを統合し、それらの重要性を動的に決定する。 さらに,各アテンションヘッドにMixture-of-Experts(MoE)ネットワークを導入し,各ファセット内で様々なユーザの好みを乱す。 MoE内の各専門家は、特定の好みに重点を置いている。 学習可能なルータネットワークを用いて各専門家の重み付けを計算し集約する。 提案手法は,4つのパブリックなレコメンデーションデータセットに対して広範な実験を行い,既存のベースラインモデルに対する提案手法の有効性を実証した。

関連論文リスト

• GaVaMoE: Gaussian-Variational Gated Mixture of Experts for Explainable Recommendation [55.769720670731516]
  GaVaMoEは、説明可能なレコメンデーションのための新しいフレームワークである。 特定のユーザータイプや好みのカスタマイズされた説明を生成する。 疎いユーザ-イテムインタラクションのシナリオでは、堅牢なパフォーマンスを示す。
  論文  参考訳（メタデータ） (2024-10-15T17:59:30Z)
• Attention-based sequential recommendation system using multimodal data [8.110978727364397]
  本稿では,画像やテキスト,カテゴリといった項目のマルチモーダルなデータを用いた注意に基づくシーケンシャルレコメンデーション手法を提案する。 Amazonデータセットから得られた実験結果は,提案手法が従来の逐次レコメンデーションシステムよりも優れていることを示している。
  論文  参考訳（メタデータ） (2024-05-28T08:41:05Z)
• Ada-Retrieval: An Adaptive Multi-Round Retrieval Paradigm for Sequential Recommendations [50.03560306423678]
  本稿では,レコメンダシステムのための適応型マルチラウンド検索パラダイムであるAda-Retrievalを提案する。 Ada-Retrievalは、ユーザー表現を反復的に洗練し、全項目領域の潜在的な候補をよりよく捉えます。
  論文  参考訳（メタデータ） (2024-01-12T15:26:40Z)
• MISSRec: Pre-training and Transferring Multi-modal Interest-aware Sequence Representation for Recommendation [61.45986275328629]
  逐次レコメンデーションのためのマルチモーダル事前学習・転送学習フレームワークであるMISSRecを提案する。 ユーザ側ではトランスフォーマーベースのエンコーダデコーダモデルを設計し、コンテキストエンコーダがシーケンスレベルのマルチモーダルユーザ興味を捉えることを学習する。 候補項目側では,ユーザ適応項目表現を生成するために動的融合モジュールを採用する。
  論文  参考訳（メタデータ） (2023-08-22T04:06:56Z)
• Dynamic Prototype Mask for Occluded Person Re-Identification [88.7782299372656]
  既存の手法では、目に見える部分を識別するために、余分なネットワークによって提供される身体の手がかりを利用することで、この問題に対処している。 2つの自己明快な事前知識に基づく新しい動的プロトタイプマスク(DPM)を提案する。 この条件下では、隠蔽された表現は、選択された部分空間において自然にうまく整列することができる。
  論文  参考訳（メタデータ） (2022-07-19T03:31:13Z)
• Multi-Behavior Hypergraph-Enhanced Transformer for Sequential Recommendation [33.97708796846252]
  短期および長期のクロスタイプの振る舞い依存を捉えるために,新しいMBHT(Multi-Behavior Hypergraph-enhanced Transformer framework)を導入する。 具体的には、多スケールトランスフォーマーは、細粒度および粗粒度から振舞い対応のシーケンシャルパターンを共同符号化するために、低ランクの自己アテンションを備える。
  論文  参考訳（メタデータ） (2022-07-12T15:07:21Z)
• GIMIRec: Global Interaction Information Aware Multi-Interest Framework for Sequential Recommendation [5.416421678129053]
  本稿では,GIMIレコメンデーションのための多目的フレームワーク(Global Interaction Aware Multi-Interest Framework for Sequential Recommendation,GIMIRec)という新たなレコメンデーションモデルを提案する。 Recall、NDCG、Hit RateインジケータにおけるGIMIRecの性能は、最先端の手法よりも大幅に優れている。
  論文  参考訳（メタデータ） (2021-12-16T09:12:33Z)
• Knowledge-Enhanced Hierarchical Graph Transformer Network for Multi-Behavior Recommendation [56.12499090935242]
  本研究では,ユーザとレコメンデータシステムにおける項目間の多種類の対話パターンを探索する知識強化階層型グラフトランスフォーマネットワーク(KHGT)を提案する。 KHGTはグラフ構造化ニューラルネットワーク上に構築され、タイプ固有の振る舞い特性をキャプチャする。 KHGTは、様々な評価設定において、最先端のレコメンデーション手法よりも一貫して優れていることを示す。
  論文  参考訳（メタデータ） (2021-10-08T09:44:00Z)
• Sparse-Interest Network for Sequential Recommendation [78.83064567614656]
  本稿では,シーケンシャルレコメンデーションのためのtextbfSparse textbfInterest textbfNEtwork(SINE)を提案する。 我々のスパース関心モジュールは、大きなコンセプトプールから各ユーザに対してスパースの概念セットを適応的に推測することができる。 SINEは最先端の手法よりも大幅に改善できる。
  論文  参考訳（メタデータ） (2021-02-18T11:03:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。