論文の概要: Exploiting Behavioral Consistence for Universal User Representation
- arxiv url: http://arxiv.org/abs/2012.06146v1
- Date: Fri, 11 Dec 2020 06:10:14 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-11 03:07:41.553508
- Title: Exploiting Behavioral Consistence for Universal User Representation
- Title(参考訳): ユニバーサルユーザ表現における行動構成の活用
- Authors: Jie Gu, Feng Wang, Qinghui Sun, Zhiquan Ye, Xiaoxiao Xu, Jingmin Chen,
Jun Zhang
- Abstract要約: 我々は普遍的ユーザ表現モデルの開発に注力する。
得られた普遍表現には豊富な情報が含まれることが予想される。
行動データを普遍表現にエンコードする自己監視型ユーザモデリングネットワーク(SUMN)を提案する。
- 参考スコア(独自算出の注目度): 11.290137806288191
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: User modeling is critical for developing personalized services in industry. A
common way for user modeling is to learn user representations that can be
distinguished by their interests or preferences. In this work, we focus on
developing universal user representation model. The obtained universal
representations are expected to contain rich information, and be applicable to
various downstream applications without further modifications (e.g., user
preference prediction and user profiling). Accordingly, we can be free from the
heavy work of training task-specific models for every downstream task as in
previous works. In specific, we propose Self-supervised User Modeling Network
(SUMN) to encode behavior data into the universal representation. It includes
two key components. The first one is a new learning objective, which guides the
model to fully identify and preserve valuable user information under a
self-supervised learning framework. The other one is a multi-hop aggregation
layer, which benefits the model capacity in aggregating diverse behaviors.
Extensive experiments on benchmark datasets show that our approach can
outperform state-of-the-art unsupervised representation methods, and even
compete with supervised ones.
- Abstract(参考訳): ユーザモデリングは、業界におけるパーソナライズされたサービスを開発する上で重要である。
ユーザモデリングの一般的な方法は、興味や好みによって区別できるユーザ表現を学ぶことである。
本研究では,ユニバーサルユーザ表現モデルの開発に焦点をあてる。
得られた普遍表現はリッチな情報を含むことが期待され、さらに変更を加えることなく、様々な下流アプリケーションに適用することができる(例えば、ユーザ嗜好予測とユーザプロファイリング)。
したがって、これまでの作業のように、ダウンストリームタスク毎にタスク固有のモデルをトレーニングする重い作業から解放できるのです。
具体的には,行動データを普遍表現にエンコードする自己教師型ユーザモデリングネットワーク(SUMN)を提案する。
主なコンポーネントは2つある。
1つ目は、自己教師型学習フレームワークの下で、価値あるユーザ情報の完全な識別と保存をモデルに導く、新たな学習目標である。
もうひとつはマルチホップアグリゲーション層で、さまざまな振る舞いを集約するモデルキャパシティにメリットがあります。
ベンチマークデータセットに関する広範囲な実験は、このアプローチが最先端の教師なし表現メソッドよりも優れており、教師なし表現メソッドとさえ競合することを示している。
関連論文リスト
- Generalized User Representations for Transfer Learning [6.953653891411339]
本稿では,大規模レコメンデーションシステムにおけるユーザ表現のための新しいフレームワークを提案する。
提案手法は,表現学習と伝達学習を組み合わせた2段階の手法を用いる。
提案するフレームワークは,代替手法と比較して,インフラコストを大幅に削減できることを示す。
論文 参考訳(メタデータ) (2024-03-01T15:05:21Z) - Fantastic Gains and Where to Find Them: On the Existence and Prospect of
General Knowledge Transfer between Any Pretrained Model [74.62272538148245]
事前訓練されたモデルの任意のペアリングに対して、一方のモデルは他方では利用できない重要なデータコンテキストを抽出する。
このような「補的」な知識を,性能劣化を伴わずに,あるモデルから別のモデルへ伝達できるかどうかを検討する。
論文 参考訳(メタデータ) (2023-10-26T17:59:46Z) - Prototype-guided Cross-task Knowledge Distillation for Large-scale
Models [103.04711721343278]
クロスタスクの知識蒸留は、競争力のあるパフォーマンスを得るために小さな学生モデルを訓練するのに役立ちます。
本稿では,大規模教師ネットワークの内在的ローカルレベルのオブジェクト知識を様々なタスクシナリオに転送するための,プロトタイプ誘導型クロスタスク知識蒸留(ProC-KD)アプローチを提案する。
論文 参考訳(メタデータ) (2022-12-26T15:00:42Z) - PaDPaF: Partial Disentanglement with Partially-Federated GANs [5.195669033269619]
フェデレーテッド・ラーニングは、多くの潜在的な現実のアプリケーションで人気のある機械学習パラダイムとなっている。
本研究では,グローバルクライアント非依存とローカルクライアント固有の生成モデルを組み合わせた新しいアーキテクチャを提案する。
提案モデルでは,グローバルな一貫した表現を暗黙的に切り離すことで,プライバシーとパーソナライゼーションを実現する。
論文 参考訳(メタデータ) (2022-12-07T18:28:54Z) - Latent User Intent Modeling for Sequential Recommenders [92.66888409973495]
逐次リコメンデータモデルは、プラットフォーム上での氏のインタラクション履歴に基づいて、ユーザが次に対話する可能性のあるアイテムを予測することを学習する。
しかし、ほとんどのシーケンシャルなレコメンデータは、ユーザの意図に対する高いレベルの理解を欠いている。
したがって、インテントモデリングはユーザー理解と長期ユーザーエクスペリエンスの最適化に不可欠である。
論文 参考訳(メタデータ) (2022-11-17T19:00:24Z) - Scaling Law for Recommendation Models: Towards General-purpose User
Representations [3.3073775218038883]
広義のユーザエンコーダを大規模に訓練し,汎用的なユーザ表現学習の可能性を検討する。
本稿では,ユーザモデリング領域におけるスケーリングの法則について述べる。この法則では,トレーニングエラーが計算量とともにパワー則としてスケールする。
また,モデルキャパシティ,シーケンス長,バッチサイズなど,スケールアップ要因によるパフォーマンスの変化についても検討する。
論文 参考訳(メタデータ) (2021-11-15T10:39:29Z) - Empowering General-purpose User Representation with Full-life Cycle
Behavior Modeling [11.698166058448555]
本稿では,この課題に対処するために,フルライフサイクルユーザ表現モデル(LURM)と呼ばれる新しいフレームワークを提案する。
LURMは2つのカスケードサブモデルで構成されている: (I) Bag-of-Interests (BoI) は、任意の期間におけるユーザの振る舞いを超高次元のスパースベクトル(例:105)にエンコードする。
SMENは、ユーザ関心の異なる側面を学習できる新しいマルチアンカーモジュールの恩恵を受け、ほぼ次元の削減を実現している。
論文 参考訳(メタデータ) (2021-10-20T08:24:44Z) - Learning Dual Dynamic Representations on Time-Sliced User-Item
Interaction Graphs for Sequential Recommendation [62.30552176649873]
シーケンシャルレコメンデーションのための動的表現学習モデル(DRL-SRe)を考案する。
両面から動的に特徴付けるためのユーザ・イテム相互作用をモデル化するため,提案モデルでは,時間スライス毎にグローバルなユーザ・イテム相互作用グラフを構築した。
モデルが微粒な時間情報を捕捉することを可能にするため,連続時間スライス上での補助的時間予測タスクを提案する。
論文 参考訳(メタデータ) (2021-09-24T07:44:27Z) - Interest-oriented Universal User Representation via Contrastive Learning [28.377233340976197]
我々は2つの視点から普遍的なユーザ表現を改善することを試みる。
表現モデルトレーニングを導くために、対照的な自己教師型学習パラダイムが提示される。
新規な多目的抽出モジュールが提示される。
論文 参考訳(メタデータ) (2021-09-18T07:42:00Z) - Explainable Recommender Systems via Resolving Learning Representations [57.24565012731325]
説明はユーザー体験を改善し、システムの欠陥を発見するのに役立つ。
本稿では,表現学習プロセスの透明性を向上させることによって,説明可能な新しい推薦モデルを提案する。
論文 参考訳(メタデータ) (2020-08-21T05:30:48Z) - Disentangled Graph Collaborative Filtering [100.26835145396782]
Disentangled Graph Collaborative Filtering (DGCF)は、インタラクションデータからユーザとアイテムの情報表現を学ぶための新しいモデルである。
ユーザ・イテムのインタラクション毎に意図を超越した分布をモデル化することにより、インテント・アウェアなインタラクショングラフと表現を反復的に洗練する。
DGCFはNGCF、DisenGCN、MacridVAEといった最先端モデルよりも大幅に改善されている。
論文 参考訳(メタデータ) (2020-07-03T15:37:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。