論文の概要: Addressing the Rank Degeneration in Sequential Recommendation via
Singular Spectrum Smoothing
- arxiv url: http://arxiv.org/abs/2306.11986v1
- Date: Wed, 21 Jun 2023 02:42:37 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-22 15:07:32.662347
- Title: Addressing the Rank Degeneration in Sequential Recommendation via
Singular Spectrum Smoothing
- Title(参考訳): Singular Spectrum Smoothingによる逐次推薦におけるランク劣化の対応
- Authors: Ziwei Fan, Zhiwei Liu, Hao Peng, and Philip S. Yu
- Abstract要約: 逐次レコメンデーション(SR)は、動的ユーザ嗜好モデリングを調査し、次のイテム予測を生成する。
シーケンスとアイテムの表現は、データ空間の問題によりランク劣化の問題に悩まされる。
本稿では,列と項目の双方における階調劣化を軽減するために,規則化を円滑にする新しい特異スペクトルを提案する。
- 参考スコア(独自算出の注目度): 75.13552062552174
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sequential recommendation (SR) investigates the dynamic user preferences
modeling and generates the next-item prediction. The next item preference is
typically generated by the affinity between the sequence and item
representations. However, both sequence and item representations suffer from
the rank degeneration issue due to the data sparsity problem. The rank
degeneration issue significantly impairs the representations for SR. This
motivates us to measure how severe is the rank degeneration issue and alleviate
the sequence and item representation rank degeneration issues simultaneously
for SR.
In this work, we theoretically connect the sequence representation
degeneration issue with the item rank degeneration, particularly for short
sequences and cold items. We also identify the connection between the fast
singular value decay phenomenon and the rank collapse issue in transformer
sequence output and item embeddings. We propose the area under the singular
value curve metric to evaluate the severity of the singular value decay
phenomenon and use it as an indicator of rank degeneration. We further
introduce a novel singular spectrum smoothing regularization to alleviate the
rank degeneration on both sequence and item sides, which is the Singular
sPectrum sMoothing for sequential Recommendation (SPMRec). We also establish a
correlation between the ranks of sequence and item embeddings and the rank of
the user-item preference prediction matrix, which can affect recommendation
diversity. We conduct experiments on four benchmark datasets to demonstrate the
superiority of SPMRec over the state-of-the-art recommendation methods,
especially in short sequences. The experiments also demonstrate a strong
connection between our proposed singular spectrum smoothing and recommendation
diversity.
- Abstract(参考訳): 逐次レコメンデーション(SR)は、動的ユーザ嗜好モデリングを調査し、次のイテム予測を生成する。
次の項目の好みは通常、シーケンスとアイテムの表現の間の親和性によって生成される。
しかし、シーケンス表現とアイテム表現は、データ空間の問題によりランク劣化の問題に悩まされる。
ランク劣化問題は、SRの表現を著しく損なう。
これにより、ランクデジェネレーション問題がどれほど深刻かを測定し、SRのシーケンスとアイテム表現のランクデジェネレーション問題を同時に緩和する。
本研究では,シーケンス表現の退化問題とアイテムランクの退化問題,特にショートシーケンスやコールドアイテムについて理論的に関連付ける。
また,変圧器列出力とアイテム埋め込みにおける高速特異値減衰現象とランク崩壊問題との関係を明らかにした。
特異値減衰現象の重症度を評価するために, 特異値曲線計量の下の領域を提案し, 階数劣化の指標として用いる。
さらに、シーケンシャルレコメンデーションのためのSingular sPectrum sMoothing(SPMRec)という、シーケンシャルおよびアイテムサイドの階調劣化を軽減するために、規則化を円滑にする新しい特異スペクトルを導入する。
また、シーケンスとアイテムの埋め込みのランクとユーザの好み予測行列のランクの相関関係を確立し、推薦の多様性に影響を与える可能性がある。
4つのベンチマークデータセットで実験を行い,spmrecが最先端のレコメンデーション手法,特に短いシーケンスよりも優れていることを示す。
実験はまた、提案した特異スペクトルの滑らか化と推薦多様性の強い関係を示す。
関連論文リスト
- Conditional Denoising Diffusion for Sequential Recommendation [62.127862728308045]
GAN(Generative Adversarial Networks)とVAE(VAE)の2つの顕著な生成モデル
GANは不安定な最適化に苦しむ一方、VAEは後続の崩壊と過度に平らな世代である。
本稿では,シーケンスエンコーダ,クロスアテンティブデノナイジングデコーダ,ステップワイズディフューザを含む条件付きデノナイジング拡散モデルを提案する。
論文 参考訳(メタデータ) (2023-04-22T15:32:59Z) - Attention Mixtures for Time-Aware Sequential Recommendation [10.017195276758454]
トランスフォーマーはシーケンシャルなレコメンデーションのための強力な方法として登場した。
改良された Transformer シーケンシャルレコメンデータシステムである MOJITO を導入する。
いくつかの実世界のデータセットで逐次レコメンデーションを行うために、既存のTransformerを実証的に上回ることによって、我々のアプローチの妥当性を実証する。
論文 参考訳(メタデータ) (2023-04-17T11:11:19Z) - Action Quality Assessment with Temporal Parsing Transformer [84.1272079121699]
行動品質評価(AQA)は、作業の理解と解決に重要である。
本稿では,時間的部分表現に包括的特徴を分解する時間的パーシング変換器を提案する。
提案手法は,3つの公開AQAベンチマークにおける先行研究よりもかなりのマージンで優れていた。
論文 参考訳(メタデータ) (2022-07-19T13:29:05Z) - Learning Temporal Point Processes for Efficient Retrieval of Continuous
Time Event Sequences [24.963828650935913]
NEUROSEQRETは,あるクエリシーケンスに対して,関連する連続時間イベントシーケンスの検索とランク付けを学習する。
精度と効率のトレードオフを提供する関係モデルの2つの変種を開発する。
いくつかのデータセットを用いて行った実験では、NEUROSEQRETの精度がいくつかのベースラインを超えていることが示されている。
論文 参考訳(メタデータ) (2022-02-17T11:16:31Z) - Sequential Recommendation via Stochastic Self-Attention [68.52192964559829]
Transformerベースのアプローチでは、アイテムをベクトルとして埋め込んで、ドット積の自己アテンションを使用してアイテム間の関係を測定する。
本稿では,これらの問題を克服するための新しいtextbfStochastic textbfSelf-textbfAttention (STOSA) を提案する。
我々は、アイテムと項目の位置関係を列で特徴づける新しいワッサースタイン自己保持モジュールを考案した。
論文 参考訳(メタデータ) (2022-01-16T12:38:45Z) - Continuous-Time Sequential Recommendation with Temporal Graph
Collaborative Transformer [69.0621959845251]
本稿では,定義した連続時間二部グラフ上での時間グラフシーケンスレコメンダ(TGSRec)を提案する。
TCTレイヤは、ユーザとアイテムの両方からの協調的な信号を同時にキャプチャすると同時に、シーケンシャルパターン内の時間的ダイナミクスも考慮する。
5つのデータセットの実証結果は、TGSRecが他のベースラインを大幅に上回っていることを示している。
論文 参考訳(メタデータ) (2021-08-14T22:50:53Z) - Contrastive Self-supervised Sequential Recommendation with Robust
Augmentation [101.25762166231904]
Sequential Recommendation Describes a set of technique to model dynamic user behavior to order to predict future interaction in sequence user data。
データスパーシリティやノイズの多いデータなど、古くて新しい問題はまだ残っている。
逐次レコメンデーション(CoSeRec)のためのコントラスト型自己監督学習を提案する。
論文 参考訳(メタデータ) (2021-08-14T07:15:25Z) - Adversarial and Contrastive Variational Autoencoder for Sequential
Recommendation [25.37244686572865]
本稿では、逐次レコメンデーションのためのAdversarial and Contrastive Variational Autoencoder (ACVAE) と呼ばれる新しい手法を提案する。
まず,本モデルが高品質な潜在変数を生成することを可能にするadversarial variational bayesフレームワークの下で,シーケンス生成のためのadversarial trainingを導入する。
さらに、シーケンスをエンコードする場合、シーケンス内のグローバルおよびローカルの関係をキャプチャするために、繰り返しおよび畳み込み構造を適用します。
論文 参考訳(メタデータ) (2021-03-19T09:01:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。