論文の概要: Modeling Sequences as Distributions with Uncertainty for Sequential
Recommendation
- arxiv url: http://arxiv.org/abs/2106.06165v1
- Date: Fri, 11 Jun 2021 04:35:21 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-15 02:26:49.535585
- Title: Modeling Sequences as Distributions with Uncertainty for Sequential
Recommendation
- Title(参考訳): シークエンシャルレコメンデーションのための不確実性のある分布としてのシーケンスのモデル化
- Authors: Ziwei Fan, Zhiwei Liu, Lei Zheng, Shen Wang, Philip S. Yu
- Abstract要約: 既存のシーケンシャルメソッドの多くは、ユーザが決定論的であると仮定する。
項目-項目遷移は、いくつかの項目において著しく変動し、ユーザの興味のランダム性を示す。
本稿では,不確実性を逐次モデルに注入する分散型トランスフォーマーシークエンシャルレコメンデーション(DT4SR)を提案する。
- 参考スコア(独自算出の注目度): 63.77513071533095
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: The sequential patterns within the user interactions are pivotal for
representing the user's preference and capturing latent relationships among
items. The recent advancements of sequence modeling by Transformers advocate
the community to devise more effective encoders for the sequential
recommendation. Most existing sequential methods assume users are
deterministic. However, item-item transitions might fluctuate significantly in
several item aspects and exhibit randomness of user interests. This
\textit{stochastic characteristics} brings up a solid demand to include
uncertainties in representing sequences and items. Additionally, modeling
sequences and items with uncertainties expands users' and items' interaction
spaces, thus further alleviating cold-start problems.
In this work, we propose a Distribution-based Transformer for Sequential
Recommendation (DT4SR), which injects uncertainties into sequential modeling.
We use Elliptical Gaussian distributions to describe items and sequences with
uncertainty. We describe the uncertainty in items and sequences as Elliptical
Gaussian distribution. And we adopt Wasserstein distance to measure the
similarity between distributions. We devise two novel Trans-formers for
modeling mean and covariance, which guarantees the positive-definite property
of distributions. The proposed method significantly outperforms the
state-of-the-art methods. The experiments on three benchmark datasets also
demonstrate its effectiveness in alleviating cold-start issues. The code is
available inhttps://github.com/DyGRec/DT4SR.
- Abstract(参考訳): ユーザインタラクション内のシーケンシャルなパターンは、ユーザの好みを表現し、アイテム間の潜在関係を捉える上で重要なものだ。
トランスフォーマーによるシーケンスモデリングの最近の進歩は、より効果的なエンコーダを連続的な推奨のために考案するコミュニティを提唱している。
既存のシーケンシャルメソッドの多くは、ユーザが決定論的であると仮定する。
しかし、項目-項目遷移はいくつかの項目において著しく変動し、ユーザの興味のランダム性を示す。
この \textit{stochastic characteristic} は、シーケンスやアイテムを表す不確実性を含むという確固たる要求をもたらす。
さらに、不確実性のあるシーケンスやアイテムのモデリングは、ユーザのインタラクション空間を拡大し、コールドスタート問題をさらに緩和する。
本研究では, 逐次モデルに不確実性を注入する分散型逐次推薦変換器(DT4SR)を提案する。
不確実性のある項目やシーケンスを記述するために楕円ガウス分布を用いる。
項目とシーケンスの不確かさを楕円ガウス分布として記述する。
分布間の類似性を測定するためにwasserstein距離を採用する。
平均と共分散をモデル化するための2つの新しいトランスフォーマーを考案し、分布の正定性を保証する。
提案手法は最先端手法を著しく上回っている。
3つのベンチマークデータセットの実験は、コールドスタート問題を緩和する効果も示している。
コードはhttps://github.com/dygrec/dt4srで入手できる。
関連論文リスト
- Mutual Exclusivity Training and Primitive Augmentation to Induce
Compositionality [84.94877848357896]
最近のデータセットは、標準的なシーケンス・ツー・シーケンスモデルにおける体系的な一般化能力の欠如を露呈している。
本稿では,セq2seqモデルの振る舞いを分析し,相互排他バイアスの欠如と全例を記憶する傾向の2つの要因を同定する。
広範に使用されている2つの構成性データセット上で、標準的なシーケンス・ツー・シーケンスモデルを用いて、経験的改善を示す。
論文 参考訳(メタデータ) (2022-11-28T17:36:41Z) - Sequential Recommendation via Stochastic Self-Attention [68.52192964559829]
Transformerベースのアプローチでは、アイテムをベクトルとして埋め込んで、ドット積の自己アテンションを使用してアイテム間の関係を測定する。
本稿では,これらの問題を克服するための新しいtextbfStochastic textbfSelf-textbfAttention (STOSA) を提案する。
我々は、アイテムと項目の位置関係を列で特徴づける新しいワッサースタイン自己保持モジュールを考案した。
論文 参考訳(メタデータ) (2022-01-16T12:38:45Z) - Two-level monotonic multistage recommender systems [5.983189537988243]
パーソナライズされた予測のためのイベントのモノトニック連鎖を特徴付ける2レベルモノトニック特性
ユーザ固有の振る舞いを異なる段階で学習するための正規化コスト関数。
ブロックワイズ座標降下に基づくアルゴリズム
論文 参考訳(メタデータ) (2021-10-06T08:50:32Z) - DeepExpress: Heterogeneous and Coupled Sequence Modeling for Express
Delivery Prediction [41.49535437719119]
消費者の配送要求を正確に見積もるには、ショッピング行動、天気状況、イベント、ビジネスキャンペーン、そしてそれらの結合といったシーケンシャルな要因が伴わなければならない。
DeepExpressは、シークエンスと機能の間の複雑な結合を学ぶために、古典的なSeq2seqフレームワークを拡張したディープラーニングベースの表現配信シーケンス予測モデルである。
論文 参考訳(メタデータ) (2021-08-18T14:24:19Z) - Contrastive Self-supervised Sequential Recommendation with Robust
Augmentation [101.25762166231904]
Sequential Recommendation Describes a set of technique to model dynamic user behavior to order to predict future interaction in sequence user data。
データスパーシリティやノイズの多いデータなど、古くて新しい問題はまだ残っている。
逐次レコメンデーション(CoSeRec)のためのコントラスト型自己監督学習を提案する。
論文 参考訳(メタデータ) (2021-08-14T07:15:25Z) - Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。
提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
論文 参考訳(メタデータ) (2021-06-07T17:44:49Z) - Variation Control and Evaluation for Generative SlateRecommendations [22.533997063750597]
アイテムの摂動はスレート変動を強制し,生成スレートの過剰濃度を緩和できることを示した。
また,ピボット選択フェーズを生成プロセスから分離し,モデルが生成前に摂動を適用できるようにする。
論文 参考訳(メタデータ) (2021-02-26T05:04:40Z) - Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。
AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。
本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文 参考訳(メタデータ) (2020-10-24T07:01:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。