論文の概要: Incremental user embedding modeling for personalized text classification
- arxiv url: http://arxiv.org/abs/2202.06369v1
- Date: Sun, 13 Feb 2022 17:33:35 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-15 15:40:13.491077
- Title: Incremental user embedding modeling for personalized text classification
- Title(参考訳): パーソナライズされたテキスト分類のためのインクリメンタルユーザ埋め込みモデリング
- Authors: Ruixue Lian, Che-Wei Huang, Yuqing Tang, Qilong Gu, Chengyuan Ma,
Chenlei Guo
- Abstract要約: 個々のユーザプロファイルとインタラクション履歴は、現実世界のアプリケーションでカスタマイズされたエクスペリエンスを提供する上で重要な役割を果たす。
本稿では,ユーザの最近のインタラクション履歴を動的に統合したインクリメンタルなユーザ埋め込みモデリング手法を提案する。
Redditデータセットに基づくパーソナライズされた多クラス分類タスクに適用することで,このアプローチの有効性を実証する。
- 参考スコア(独自算出の注目度): 12.381095398791352
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Individual user profiles and interaction histories play a significant role in
providing customized experiences in real-world applications such as chatbots,
social media, retail, and education. Adaptive user representation learning by
utilizing user personalized information has become increasingly challenging due
to ever-growing history data. In this work, we propose an incremental user
embedding modeling approach, in which embeddings of user's recent interaction
histories are dynamically integrated into the accumulated history vectors via a
transformer encoder. This modeling paradigm allows us to create generalized
user representations in a consecutive manner and also alleviate the challenges
of data management. We demonstrate the effectiveness of this approach by
applying it to a personalized multi-class classification task based on the
Reddit dataset, and achieve 9% and 30% relative improvement on prediction
accuracy over a baseline system for two experiment settings through appropriate
comment history encoding and task modeling.
- Abstract(参考訳): 個々のユーザープロファイルとインタラクション履歴は、チャットボット、ソーシャルメディア、小売、教育といった現実世界のアプリケーションでカスタマイズされた体験を提供する上で重要な役割を果たしている。
ユーザパーソナライズされた情報を活用した適応型ユーザ表現学習は,歴史データの増加に伴い,ますます困難になりつつある。
本研究では,近年のユーザインタラクション履歴の埋め込みを,トランスフォーマーエンコーダを介して動的に蓄積した履歴ベクトルに統合する,インクリメンタルなユーザ埋め込みモデリング手法を提案する。
このモデリングパラダイムにより、連続的に一般化されたユーザ表現を作成し、データ管理の課題を軽減することができる。
redditデータセットに基づくパーソナライズされたマルチクラス分類タスクに適用し,適切なコメント履歴エンコーディングとタスクモデリングによる2つの実験設定のベースラインシステムに対して,予測精度の9%,30%を相対的に向上させることで,この手法の有効性を実証する。
関連論文リスト
- USE: Dynamic User Modeling with Stateful Sequence Models [26.74966828348815]
User Stateful Embedding (USE)は、徹底的な再処理を必要とせずに、ユーザ埋め込みを生成する。
我々は,次世代の予測の限界を超越するために,将来のW行動予測という新たな訓練目標を導入する。
静的(固定されたユーザ行動シーケンス)および動的(定期的に更新されたユーザ行動シーケンス)設定の両方で、Snapchatユーザーの行動ログを使用して、8つの下流タスクで実験を行う。
論文 参考訳(メタデータ) (2024-03-20T07:05:19Z) - Towards Unified Multi-Modal Personalization: Large Vision-Language Models for Generative Recommendation and Beyond [87.1712108247199]
我々の目標は、マルチモーダルパーソナライゼーションシステム(UniMP)のための統一パラダイムを確立することである。
我々は、幅広いパーソナライズされたニーズに対処できる汎用的でパーソナライズされた生成フレームワークを開発する。
我々の手法は、パーソナライズされたタスクのための基礎言語モデルの能力を高める。
論文 参考訳(メタデータ) (2024-03-15T20:21:31Z) - Generalized User Representations for Transfer Learning [6.953653891411339]
本稿では,大規模レコメンデーションシステムにおけるユーザ表現のための新しいフレームワークを提案する。
提案手法は,表現学習と伝達学習を組み合わせた2段階の手法を用いる。
提案するフレームワークは,代替手法と比較して,インフラコストを大幅に削減できることを示す。
論文 参考訳(メタデータ) (2024-03-01T15:05:21Z) - Persona-DB: Efficient Large Language Model Personalization for Response Prediction with Collaborative Data Refinement [79.2400720115588]
本稿では,タスクコンテキスト間の一般化を改善するための階層的な構築プロセスからなる,シンプルで効果的なフレームワークであるPersona-DBを紹介する。
応答予測の評価において,Persona-DB は精度を著しく低減した検索サイズで維持する上で,より優れたコンテキスト効率を示す。
我々の実験は、ユーザーが極めて少ないデータを持つ場合、コールドスタートシナリオで10%以上の顕著な改善が示されていることも示している。
論文 参考訳(メタデータ) (2024-02-16T20:20:43Z) - Unsupervised Neural Stylistic Text Generation using Transfer learning
and Adapters [66.17039929803933]
応答生成のためのスタイル特化属性を学習するために,モデルパラメータの0.3%しか更新しない新しい転送学習フレームワークを提案する。
我々はPERSONALITY-CAPTIONSデータセットからスタイル固有の属性を学習する。
論文 参考訳(メタデータ) (2022-10-07T00:09:22Z) - PinnerFormer: Sequence Modeling for User Representation at Pinterest [60.335384724891746]
我々は、ユーザの将来的なエンゲージメントを予測するためにトレーニングされたユーザ表現であるPinnerFormerを紹介する。
従来のアプローチとは異なり、新しい密集した全アクション損失を通じて、モデリングをバッチインフラストラクチャに適応させます。
その結果,1日に1回発生するバッチユーザ埋め込みと,ユーザがアクションを行うたびに発生するリアルタイムユーザ埋め込みとの間には,大きなギャップがあることが判明した。
論文 参考訳(メタデータ) (2022-05-09T18:26:51Z) - UserBERT: Modeling Long- and Short-Term User Preferences via
Self-Supervision [6.8904125699168075]
本稿では,BERTモデルを電子商取引ユーザデータに拡張し,自己教師型で表現を事前学習する。
文中の単語に類似したシーケンスでユーザアクションを見ることにより、既存のBERTモデルをユーザ行動データに拡張する。
本稿では,異なる種類のユーザ行動シーケンスのトークン化,入力表現の生成,および事前学習されたモデルが自身の入力から学習できるようにするための新しいプレテキストタスクを提案する。
論文 参考訳(メタデータ) (2022-02-14T08:31:36Z) - Exploiting Behavioral Consistence for Universal User Representation [11.290137806288191]
我々は普遍的ユーザ表現モデルの開発に注力する。
得られた普遍表現には豊富な情報が含まれることが予想される。
行動データを普遍表現にエンコードする自己監視型ユーザモデリングネットワーク(SUMN)を提案する。
論文 参考訳(メタデータ) (2020-12-11T06:10:14Z) - Learning Transferrable Parameters for Long-tailed Sequential User
Behavior Modeling [70.64257515361972]
テールユーザに注力することで、より多くのメリットをもたらし、長いテールの問題に対処できる、と私たちは主張しています。
具体的には、頭部から尾部への知識伝達を容易にするために、勾配アライメントを提案し、敵のトレーニングスキームを採用する。
論文 参考訳(メタデータ) (2020-10-22T03:12:02Z) - Unsupervised Model Personalization while Preserving Privacy and
Scalability: An Open Problem [55.21502268698577]
本研究では,非教師なしモデルパーソナライゼーションの課題について検討する。
この問題を探求するための新しいDual User-Adaptation Framework(DUA)を提供する。
このフレームワークは、サーバ上のモデルパーソナライズとユーザデバイス上のローカルデータ正規化に柔軟にユーザ適応を分散させる。
論文 参考訳(メタデータ) (2020-03-30T09:35:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。