論文の概要: Filter-enhanced MLP is All You Need for Sequential Recommendation
- arxiv url: http://arxiv.org/abs/2202.13556v1
- Date: Mon, 28 Feb 2022 05:49:35 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-01 17:15:42.604489
- Title: Filter-enhanced MLP is All You Need for Sequential Recommendation
- Title(参考訳): フィルタ強化型MLPは、シークエンシャルレコメンデーションに必要なもの
- Authors: Kun Zhou, Hui Yu, Wayne Xin Zhao and Ji-Rong Wen
- Abstract要約: オンラインプラットフォームでは、ログされたユーザの行動データはノイズを含まないことは避けられない。
周波数領域の雑音を減衰させる信号処理から,フィルタアルゴリズムのアイデアを借用する。
逐次レコメンデーションタスクのための学習可能なフィルタを備えたオールMLPモデルである textbfFMLP-Rec を提案する。
- 参考スコア(独自算出の注目度): 89.0974365344997
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recently, deep neural networks such as RNN, CNN and Transformer have been
applied in the task of sequential recommendation, which aims to capture the
dynamic preference characteristics from logged user behavior data for accurate
recommendation. However, in online platforms, logged user behavior data is
inevitable to contain noise, and deep recommendation models are easy to overfit
on these logged data. To tackle this problem, we borrow the idea of filtering
algorithms from signal processing that attenuates the noise in the frequency
domain. In our empirical experiments, we find that filtering algorithms can
substantially improve representative sequential recommendation models, and
integrating simple filtering algorithms (eg Band-Stop Filter) with an all-MLP
architecture can even outperform competitive Transformer-based models.
Motivated by it, we propose \textbf{FMLP-Rec}, an all-MLP model with learnable
filters for sequential recommendation task. The all-MLP architecture endows our
model with lower time complexity, and the learnable filters can adaptively
attenuate the noise information in the frequency domain. Extensive experiments
conducted on eight real-world datasets demonstrate the superiority of our
proposed method over competitive RNN, CNN, GNN and Transformer-based methods.
Our code and data are publicly available at the link:
\textcolor{blue}{\url{https://github.com/RUCAIBox/FMLP-Rec}}.
- Abstract(参考訳): 近年,RNN,CNN,Transformerなどのディープニューラルネットワークがシーケンシャルレコメンデーションのタスクに応用され,ログ化されたユーザ行動データから動的リコメンデーション特性をキャプチャして,正確なレコメンデーションを実現している。
しかし、オンラインプラットフォームでは、ログされたユーザの行動データがノイズを含まないことは避けられず、詳細なレコメンデーションモデルはこれらのログされたデータに簡単に適合する。
この問題に対処するために、周波数領域の雑音を減衰させる信号処理からアルゴリズムをフィルタリングするアイデアを借用する。
実証実験では,フィルタアルゴリズムは逐次レコメンデーションモデルを大幅に改善し,単純なフィルタリングアルゴリズム(例えばBand-Stop Filter)をオールMLPアーキテクチャと組み合わせることで,競合するTransformerベースのモデルよりも優れることがわかった。
そこで我々は, 逐次レコメンデーションタスクのための学習可能なフィルタを備えたオールMLPモデルである \textbf{FMLP-Rec} を提案する。
全mlpアーキテクチャは、より少ない時間複雑性でモデルを内包し、学習可能なフィルタは、周波数領域のノイズ情報を適応的に減衰させることができる。
8つの実世界のデータセットを用いた広範囲な実験により,提案手法が競合型rnn,cnn,gnnおよびtransformerベースの手法よりも優れていることを示した。
コードとデータはリンクで公開されている。 \textcolor{blue}{\url{https://github.com/RUCAIBox/FMLP-Rec}}。
関連論文リスト
- Frequency-aware Graph Signal Processing for Collaborative Filtering [26.317108637430664]
協調フィルタリングのための周波数対応グラフ信号処理法(FaGSP)を提案する。
まず,理想的な高域通過フィルタと理想的な低域通過フィルタからなるカスケードフィルタモジュールを設計する。
そこで,2つの低域通過フィルタからなる並列フィルタモジュールを考案した。
論文 参考訳(メタデータ) (2024-02-13T12:53:18Z) - Filter Pruning for Efficient CNNs via Knowledge-driven Differential
Filter Sampler [103.97487121678276]
フィルタプルーニングは同時に計算を加速し、CNNのメモリオーバーヘッドを低減する。
本稿では,MFM(Masked Filter Modeling)フレームワークを用いた知識駆動型微分フィルタサンプリング(KDFS)を提案する。
論文 参考訳(メタデータ) (2023-07-01T02:28:41Z) - Neural Network-augmented Kalman Filtering for Robust Online Speech
Dereverberation in Noisy Reverberant Environments [13.49645012479288]
ノイズローバストオンラインデバーベレーションのためのニューラルネットワーク拡張アルゴリズムを提案する。
提示されたフレームワークは、単一チャネルのノイズの多い残響データセット上で堅牢なデバーベレーションを可能にする。
論文 参考訳(メタデータ) (2022-04-06T11:38:04Z) - FAMLP: A Frequency-Aware MLP-Like Architecture For Domain Generalization [73.41395947275473]
本稿では、変換周波数領域において、ドメイン固有の特徴をフィルタリングする新しい周波数認識アーキテクチャを提案する。
3つのベンチマークの実験では、最先端の手法をそれぞれ3%、4%、9%のマージンで上回った。
論文 参考訳(メタデータ) (2022-03-24T07:26:29Z) - Scalable Penalized Regression for Noise Detection in Learning with Noisy
Labels [44.79124350922491]
理論的に保証された雑音ラベル検出フレームワークを用いて,雑音ラベルを用いた学習のためのノイズデータの検出と除去を行う。
具体的には,ネットワーク特徴量と1ホットラベルの線形関係をモデル化するためのペナル化回帰を設計する。
多数のカテゴリやトレーニングデータを含むデータセットに対して,フレームワークをスケーラブルにするために,トレーニングセット全体を小片に分割する分割アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-03-15T11:09:58Z) - Batch Normalization Tells You Which Filter is Important [49.903610684578716]
我々は,事前学習したCNNのBNパラメータに基づいて,各フィルタの重要性を評価することによって,簡易かつ効果的なフィルタ刈取法を提案する。
CIFAR-10とImageNetの実験結果から,提案手法が優れた性能を発揮することを示す。
論文 参考訳(メタデータ) (2021-12-02T12:04:59Z) - Adaptive Low-Pass Filtering using Sliding Window Gaussian Processes [71.23286211775084]
ガウス過程回帰に基づく適応型低域通過フィルタを提案する。
本研究では,提案手法の誤差が一様境界であることを示す。
論文 参考訳(メタデータ) (2021-11-05T17:06:59Z) - Identifying Untrustworthy Samples: Data Filtering for Open-domain
Dialogues with Bayesian Optimization [28.22184410167622]
オープンドメイン対話のためのデータフィルタリング手法を提案する。
トレーニングサンプルを品質基準で評価し、下位順にソートし、下位でそれらをフィルタリングします。
2つのデータセットに対する実験結果から,本手法は信頼できないサンプルを効果的に同定できることが示唆された。
論文 参考訳(メタデータ) (2021-09-14T06:42:54Z) - Unrolling of Deep Graph Total Variation for Image Denoising [106.93258903150702]
本稿では,従来のグラフ信号フィルタリングと深い特徴学習を併用して,競合するハイブリッド設計を提案する。
解釈可能な低パスグラフフィルタを用い、最先端のDL復調方式DnCNNよりも80%少ないネットワークパラメータを用いる。
論文 参考訳(メタデータ) (2020-10-21T20:04:22Z) - CNN-Based Real-Time Parameter Tuning for Optimizing Denoising Filter
Performance [2.876893463410366]
本稿では,フィルタリングに基づく復調アルゴリズムの復調品質をリアルタイムに向上するための新しい方向を提案する。
我々は,最先端のフィルタリングに基づく denoising アルゴリズム BM3D を用いて,我々のアプローチを実証し,検証する。
論文 参考訳(メタデータ) (2020-01-20T03:46:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。