論文の概要: Learning Transferrable Parameters for Long-tailed Sequential User
Behavior Modeling
- arxiv url: http://arxiv.org/abs/2010.11401v2
- Date: Sun, 1 Nov 2020 13:36:51 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-04 06:07:32.209421
- Title: Learning Transferrable Parameters for Long-tailed Sequential User
Behavior Modeling
- Title(参考訳): 長期連続ユーザ行動モデリングのための学習可能なパラメータ
- Authors: Jianwen Yin, Chenghao Liu, Weiqing Wang, Jianling Sun, Steven C.H. Hoi
- Abstract要約: テールユーザに注力することで、より多くのメリットをもたらし、長いテールの問題に対処できる、と私たちは主張しています。
具体的には、頭部から尾部への知識伝達を容易にするために、勾配アライメントを提案し、敵のトレーニングスキームを採用する。
- 参考スコア(独自算出の注目度): 70.64257515361972
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Sequential user behavior modeling plays a crucial role in online
user-oriented services, such as product purchasing, news feed consumption, and
online advertising. The performance of sequential modeling heavily depends on
the scale and quality of historical behaviors. However, the number of user
behaviors inherently follows a long-tailed distribution, which has been seldom
explored. In this work, we argue that focusing on tail users could bring more
benefits and address the long tails issue by learning transferrable parameters
from both optimization and feature perspectives. Specifically, we propose a
gradient alignment optimizer and adopt an adversarial training scheme to
facilitate knowledge transfer from the head to the tail. Such methods can also
deal with the cold-start problem of new users. Moreover, it could be directly
adaptive to various well-established sequential models. Extensive experiments
on four real-world datasets verify the superiority of our framework compared
with the state-of-the-art baselines.
- Abstract(参考訳): 逐次ユーザー行動モデリングは、製品購入、ニュースフィードの消費、オンライン広告などのオンラインユーザー指向サービスにおいて重要な役割を果たす。
逐次モデリングの性能は、歴史的行動のスケールと品質に大きく依存する。
しかし、ユーザー行動の個数は本質的には、ほとんど探求されていないロングテールのディストリビューションに従っている。
本研究では,最適化と機能の観点から,転送可能なパラメータを学習することで,テールユーザへの注目がより多くの利益をもたらし,長いテールの問題に対処できる,と論じる。
具体的には,グラデーションアライメントオプティマイザを提案し,頭から尾への知識伝達を容易にするための逆訓練方式を採用する。
このような手法は、新規ユーザのコールドスタート問題にも対処できる。
さらに、様々な確立された逐次モデルに直接適応することができる。
4つの実世界のデータセットに関する広範な実験は、最先端のベースラインと比較して、フレームワークの優位性を検証するものです。
関連論文リスト
- Prioritized Generative Replay [121.83947140497655]
本稿では,オンライン体験を再現する生成モデルを用いて,エージェントのメモリの優先的でパラメトリックなバージョンを提案する。
このパラダイムは、生成モデルの一般化能力の恩恵を受ける新しい世代と共に、過去の経験の密度化を可能にする。
このレシピは条件付き拡散モデルと単純な関連関数を用いてインスタンス化できることを示す。
論文 参考訳(メタデータ) (2024-10-23T17:59:52Z) - Incorporating Group Prior into Variational Inference for Tail-User Behavior Modeling in CTR Prediction [8.213386595519928]
我々は,新しい変分推論手法,すなわちグループ事前サンプリング変分推論(GPSVI)を提案する。
GPSVIは、グループ嗜好を先行として導入し、末尾ユーザーのための潜伏したユーザー関心を洗練させる。
厳密な分析と広範な実験により、GPSVIはテールユーザーの性能を一貫して改善することを示した。
論文 参考訳(メタデータ) (2024-10-19T13:15:36Z) - AdaptSSR: Pre-training User Model with Augmentation-Adaptive
Self-Supervised Ranking [19.1857792382924]
本稿では,Augmentation-Supervised Ranking (AdaptSSR)を提案する。
我々は、暗黙的に拡張されたビュー、明示的な拡張されたビュー、および他のユーザからのビューの類似性の順序をキャプチャするために、ユーザモデルを訓練する複数のペアランキング損失を採用する。
6つの下流タスクを持つパブリックデータセットとインダストリアルデータセットの実験は、AdaptSSRの有効性を検証する。
論文 参考訳(メタデータ) (2023-10-15T02:19:28Z) - Latent User Intent Modeling for Sequential Recommenders [92.66888409973495]
逐次リコメンデータモデルは、プラットフォーム上での氏のインタラクション履歴に基づいて、ユーザが次に対話する可能性のあるアイテムを予測することを学習する。
しかし、ほとんどのシーケンシャルなレコメンデータは、ユーザの意図に対する高いレベルの理解を欠いている。
したがって、インテントモデリングはユーザー理解と長期ユーザーエクスペリエンスの最適化に不可欠である。
論文 参考訳(メタデータ) (2022-11-17T19:00:24Z) - Personalizing Intervened Network for Long-tailed Sequential User
Behavior Modeling [66.02953670238647]
タイルユーザーは、共同トレーニング後のヘッドユーザーよりも大幅に品質の低いレコメンデーションに悩まされる。
テールユーザーで個別に訓練されたモデルは、限られたデータのために依然として劣った結果が得られる。
本稿では,テールユーザの推薦性能を大幅に向上させる新しい手法を提案する。
論文 参考訳(メタデータ) (2022-08-19T02:50:19Z) - Sequential Search with Off-Policy Reinforcement Learning [48.88165680363482]
本稿では,RNN学習フレームワークとアテンションモデルからなる,スケーラブルなハイブリッド学習モデルを提案する。
新たな最適化のステップとして、1つのRNNパスに複数の短いユーザシーケンスをトレーニングバッチ内に収める。
また、マルチセッションパーソナライズされた検索ランキングにおける非政治強化学習の利用についても検討する。
論文 参考訳(メタデータ) (2022-02-01T06:52:40Z) - How Well Do Sparse Imagenet Models Transfer? [75.98123173154605]
転送学習は、大規模な"上流"データセットで事前訓練されたモデルが、"下流"データセットで良い結果を得るために適応される古典的なパラダイムである。
本研究では、ImageNetデータセットでトレーニングされた畳み込みニューラルネットワーク(CNN)のコンテキストにおいて、この現象を詳細に調査する。
スパースモデルでは, 高空間であっても, 高密度モデルの転送性能にマッチしたり, 性能に優れることを示す。
論文 参考訳(メタデータ) (2021-11-26T11:58:51Z) - Handling Long-Tail Queries with Slice-Aware Conversational Systems [29.41747850530487]
スライスベース学習(SBL)の最近の概念を探ります。
まず、テールインテントの弱い監視データを生成するためのラベリング関数のセットを定義します。
その後、ベースラインモデルをスライスに拡張し、選択したテールインテントのモデルパフォーマンスを監視および改善します。
実験では、スライス認識モデルは、全体的なパフォーマンスを維持しながら、テールインテントのモデルパフォーマンスを改善するのに有益であることを示している。
論文 参考訳(メタデータ) (2021-04-26T10:23:28Z) - Parameter-Efficient Transfer from Sequential Behaviors for User Modeling
and Recommendation [111.44445634272235]
本稿では,PeterRecと呼ばれるパラメータ効率のよい移動学習アーキテクチャを提案する。
PeterRecは、トレーニング済みのパラメータを、一連の再学習ニューラルネットワークを注入することで、微調整中に修正されないようにする。
我々は5つの下流タスクにおいて学習したユーザ表現の有効性を示すために、広範囲な実験的アブレーションを行う。
論文 参考訳(メタデータ) (2020-01-13T14:09:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。