論文の概要: SimCURL: Simple Contrastive User Representation Learning from Command
Sequences
- arxiv url: http://arxiv.org/abs/2207.14760v1
- Date: Fri, 29 Jul 2022 16:06:03 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-01 12:42:19.260496
- Title: SimCURL: Simple Contrastive User Representation Learning from Command
Sequences
- Title(参考訳): SimCURL: コマンドシーケンスからの単純なコントラスト的ユーザ表現学習
- Authors: Hang Chu, Amir Hosein Khasahmadi, Karl D.D. Willis, Fraser Anderson,
Yaoli Mao, Linh Tran, Justin Matejka, Jo Vermeulen
- Abstract要約: 我々は,ラベルのないコマンドシーケンスからユーザ表現を学習する,コントラッシブな自己教師型ディープラーニングフレームワークであるSimCURLを提案する。
我々は、50億以上のコマンドからなる実世界のコマンドシーケンスデータセット上で、我々の手法を訓練し、評価する。
- 参考スコア(独自算出の注目度): 22.92215383896495
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: User modeling is crucial to understanding user behavior and essential for
improving user experience and personalized recommendations. When users interact
with software, vast amounts of command sequences are generated through logging
and analytics systems. These command sequences contain clues to the users'
goals and intents. However, these data modalities are highly unstructured and
unlabeled, making it difficult for standard predictive systems to learn from.
We propose SimCURL, a simple yet effective contrastive self-supervised deep
learning framework that learns user representation from unlabeled command
sequences. Our method introduces a user-session network architecture, as well
as session dropout as a novel way of data augmentation. We train and evaluate
our method on a real-world command sequence dataset of more than half a billion
commands. Our method shows significant improvement over existing methods when
the learned representation is transferred to downstream tasks such as
experience and expertise classification.
- Abstract(参考訳): ユーザモデリングはユーザの振る舞いを理解するために不可欠であり、ユーザエクスペリエンスとパーソナライズされたレコメンデーションを改善するために不可欠である。
ユーザがソフトウェアと対話するとき、ログや分析システムを通じて大量のコマンドシーケンスが生成される。
これらのコマンドシーケンスには、ユーザの目標と意図のヒントが含まれている。
しかし、これらのデータモダリティは高度に構造化されておらずラベルも付かないため、標準的な予測システムがそこから学ぶことは困難である。
ラベルのないコマンドシーケンスからユーザ表現を学習する,シンプルで効果的な自己教師型ディープラーニングフレームワークであるSimCURLを提案する。
提案手法では,新たなデータ拡張手法として,ユーザセッションネットワークアーキテクチャとセッションドロップアウトを導入する。
5億以上のコマンドからなる実世界のコマンドシーケンスデータセット上で,本手法をトレーニングし,評価する。
本手法は,経験や専門知識の分類など,学習表現を下流タスクに移す際に,既存の手法よりも大幅に改善することを示す。
関連論文リスト
- Leave No One Behind: Online Self-Supervised Self-Distillation for Sequential Recommendation [20.52842524024608]
シーケンシャルレコメンデーション手法は、現代のレコメンデーションシステムにおいて重要な役割を担っている。
近年の手法では、コントラスト学習を利用して自己超越信号の導出を行っている。
そこで我々は,オンライン自己監督型自己蒸留(Online Self-Supervised Self-distillation for Sequential Recommendation)という新しい学習パラダイムを導入する。
論文 参考訳(メタデータ) (2024-03-22T12:27:21Z) - One-Shot Learning as Instruction Data Prospector for Large Language Models [108.81681547472138]
textscNuggetsはワンショット学習を使用して、広範なデータセットから高品質な命令データを選択する。
我々は,textscNuggets がキュレートした例の上位1%による命令チューニングが,データセット全体を用いた従来の手法よりも大幅に優れていることを示す。
論文 参考訳(メタデータ) (2023-12-16T03:33:12Z) - Bootstrapping Adaptive Human-Machine Interfaces with Offline
Reinforcement Learning [82.91837418721182]
適応インターフェイスは、ユーザがシーケンシャルな意思決定タスクを実行するのに役立つ。
近年のヒューマン・イン・ザ・ループ・機械学習の進歩により、ユーザとの対話によってこのようなシステムが改善されている。
本稿では,生のコマンド信号をアクションにマッピングするインタフェースを訓練するための強化学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-09-07T16:52:27Z) - First Contact: Unsupervised Human-Machine Co-Adaptation via Mutual
Information Maximization [112.40598205054994]
我々はこのアイデアを、インターフェースを最適化するための完全に教師なしの目的として定式化する。
タイピング,シミュレートされたロボットの制御,ゲームプレイなど,様々なキーボードとアイアイのインタフェースを運用しているユーザの540K例について,観察的研究を行った。
以上の結果から,我々の相互情報スコアは,様々な領域における真真正タスク完了メトリクスの予測値であることが示唆された。
論文 参考訳(メタデータ) (2022-05-24T21:57:18Z) - UserBERT: Modeling Long- and Short-Term User Preferences via
Self-Supervision [6.8904125699168075]
本稿では,BERTモデルを電子商取引ユーザデータに拡張し,自己教師型で表現を事前学習する。
文中の単語に類似したシーケンスでユーザアクションを見ることにより、既存のBERTモデルをユーザ行動データに拡張する。
本稿では,異なる種類のユーザ行動シーケンスのトークン化,入力表現の生成,および事前学習されたモデルが自身の入力から学習できるようにするための新しいプレテキストタスクを提案する。
論文 参考訳(メタデータ) (2022-02-14T08:31:36Z) - Learning to Learn a Cold-start Sequential Recommender [70.5692886883067]
コールドスタート勧告は、現代のオンラインアプリケーションにおいて緊急の問題である。
メタ学習に基づくコールドスタートシーケンシャルレコメンデーションフレームワークMetaCSRを提案する。
MetaCSRは、通常のユーザの行動から共通のパターンを学ぶ能力を持っている。
論文 参考訳(メタデータ) (2021-10-18T08:11:24Z) - Hyper Meta-Path Contrastive Learning for Multi-Behavior Recommendation [61.114580368455236]
マルチビヘイビア情報によるユーザ購入予測は、現在のレコメンデーションシステムでは難しい問題である。
本稿では,ハイパーメタパスやハイパーメタグラフを構築するためのハイパーメタパスの概念を提案する。
最近のグラフコントラスト学習の成功により、異なる振る舞い間の依存関係を理解するために固定されたスキームを割り当てるのではなく、ユーザ行動パターンの埋め込みを適応的に学習する。
論文 参考訳(メタデータ) (2021-09-07T04:28:09Z) - Improved Representation Learning for Session-based Recommendation [0.0]
セッションベースのレコメンデーションシステムは、短期匿名セッションを用いてユーザの行動や嗜好をモデル化することで、ユーザに対して関連項目を提案する。
既存の方法はグラフニューラルネットワーク(GNN)を利用して、近隣のノードから情報を伝達し集約する。
我々は、よりリッチな表現学習を可能にする目標注意型GNNと組み合わせてトランスフォーマーを提案する。
論文 参考訳(メタデータ) (2021-07-04T00:57:28Z) - Pre-training for low resource speech-to-intent applications [26.093156590824076]
本稿では,s2i(user-taught speech-to-intent)システムについて述べる。
ユーザ学習システムは、アクションデモによりユーザの音声入力からスクラッチから学習する。
本稿では、エンドツーエンドASRシステムのエンコーダと、以前のNMF/カプセルネットワークベースのユーザ検出デコーダを組み合わせる。
論文 参考訳(メタデータ) (2021-03-30T20:44:29Z) - Multi-Agent Task-Oriented Dialog Policy Learning with Role-Aware Reward
Decomposition [64.06167416127386]
本稿では,システムとユーザの両方をダイアログエージェントとみなすマルチエージェントダイアログポリシー学習を提案する。
2人のエージェントが互いに相互作用し、同時に一緒に学習されます。
その結果,本手法がシステムポリシとユーザポリシを同時に構築できることが示唆された。
論文 参考訳(メタデータ) (2020-04-08T04:51:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。