論文の概要: STKDRec: Spatial-Temporal Knowledge Distillation for Takeaway Recommendation
- arxiv url: http://arxiv.org/abs/2412.16502v1
- Date: Sat, 21 Dec 2024 06:21:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-24 15:59:30.963742
- Title: STKDRec: Spatial-Temporal Knowledge Distillation for Takeaway Recommendation
- Title(参考訳): STKDRec:テイクウェイクレコメンデーションのための空間的時間的知識蒸留
- Authors: Shuyuan Zhao, Wei Chen, Boyan Shi, Liyong Zhou, Shuohao Lin, Huaiyu Wan,
- Abstract要約: テイクウェイレコメンデーションシステムは、過去の購入行動に基づいて、ユーザの将来のテイクウェイ購入を推奨するように設計されている。
既存手法は,ユーザ購入シーケンスデータの空間的問題を軽減するため,補助情報の導入や知識グラフの活用に重点を置いている。
本稿では,2段階トレーニングプロセスに基づくテイクアウェイレコメンデーションモデル(STKDRec)のための新しい時空間知識蒸留法を提案する。
- 参考スコア(独自算出の注目度): 8.571622607313358
- License:
- Abstract: The takeaway recommendation system is designed to recommend users' future takeaway purchases based on their historical purchase behaviors, thereby improving user satisfaction and increasing merchant sales. Existing methods focus on incorporating auxiliary information or leveraging knowledge graphs to alleviate the sparsity issue of user purchase sequence data. However, two main challenges limit the performance of these approaches: (1) how to capture dynamic user preferences on complex geospatial information and (2) how to efficiently integrate spatial-temporal knowledge from graphs and sequence data with low calculation costs. In this paper, we propose a novel spatial-temporal knowledge distillation for takeaway recommendation model (STKDRec) based on the two-stage training process. Specifically, during the first pre-training stage, a spatial-temporal knowledge graph (STKG) encoder is pre-trained to extract the high-order spatial-temporal and collaborative associations within the STKG. During the second STKD stage, a spatial-temporal Transformer is employed to comprehensively model dynamic user preferences on various types of fine-grained geospatial information from a sequence perspective. Furthermore, the STKD strategy is introduced to adaptively fuse the rich spatial-temporal knowledge from the pre-trained STKG encoder and the spatial-temporal transformer while reducing the cost of model training. Extensive experiments on three real-world datasets show that our STKDRec significantly outperforms the state-of-the-art baselines. Our code is available at:https://github.com/Zhaoshuyuan0246/STKDRec.
- Abstract(参考訳): テイクウェイレコメンデーションシステムは、過去の購入行動に基づいて、ユーザの将来のテイクウェイ購入を推奨し、ユーザの満足度を高め、商店販売を増大させるように設計されている。
既存手法は,ユーザ購入シーケンスデータの空間的問題を軽減するため,補助情報の導入や知識グラフの活用に重点を置いている。
しかし,2つの主な課題は,(1)複雑な地理空間情報に対する動的なユーザの嗜好を捉える方法,(2)グラフから空間的時間的知識を効率的に統合する方法,および計算コストを低く抑える方法である。
本稿では,2段階学習プロセスに基づくテイクアウェイレコメンデーションモデル(STKDRec)のための新しい時空間知識蒸留法を提案する。
具体的には、第1の訓練段階において、STKG内の高次空間時間的および協調的な関連を抽出するために、時空間知識グラフ(STKG)エンコーダを事前訓練する。
第2のSTKD段階では,空間時間変換器を用いて,様々な種類の微粒な地理空間情報に基づいて,動的ユーザの嗜好を包括的にモデル化する。
さらに、STKD戦略を導入して、事前訓練されたSTKGエンコーダと空間時間変換器から、リッチな時空間知識を適応的に融合させ、モデルトレーニングのコストを低減させる。
3つの実世界のデータセットに対する大規模な実験は、我々のSTKDRecが最先端のベースラインを大幅に上回っていることを示している。
私たちのコードは、https://github.com/Zhaoshuyuan0246/STKDRec.comで公開されています。
関連論文リスト
- Graph and Skipped Transformer: Exploiting Spatial and Temporal Modeling Capacities for Efficient 3D Human Pose Estimation [36.93661496405653]
我々は、簡潔なグラフとSkipped Transformerアーキテクチャを用いて、Transformer-temporal情報を活用するためのグローバルなアプローチを採っている。
具体的には、3Dポーズの段階では、粗粒の体部が展開され、完全なデータ駆動適応モデルが構築される。
実験はHuman3.6M、MPI-INF-3DHP、Human-Evaベンチマークで行われた。
論文 参考訳(メタデータ) (2024-07-03T10:42:09Z) - OrCo: Towards Better Generalization via Orthogonality and Contrast for Few-Shot Class-Incremental Learning [57.43911113915546]
FSCIL(Few-Shot Class-Incremental Learning)は、問題空間を限られたデータで拡張するパラダイムを導入する。
FSCILの手法は、データが漸進的に到着するにつれて、破滅的な忘れ込みの課題に直面している。
表現空間における特徴の直交性と対照的な学習という2つの基本原理に基づいて構築されたOrCoフレームワークを提案する。
論文 参考訳(メタデータ) (2024-03-27T13:30:48Z) - SSTKG: Simple Spatio-Temporal Knowledge Graph for Intepretable and
Versatile Dynamic Information Embedding [11.919765478453964]
本稿では,時空間知識(STSKG)の構築と探索のための新しい枠組みを提案する。
我々のフレームワークは、動的KGの根底にあるトレンドを理解し、予測の精度とレコメンデーションの関連性を高めるための、シンプルで包括的な方法を提供する。
論文 参考訳(メタデータ) (2024-02-19T13:28:43Z) - Disentangling Spatial and Temporal Learning for Efficient Image-to-Video
Transfer Learning [59.26623999209235]
ビデオの空間的側面と時間的側面の学習を両立させるDiSTを提案する。
DiSTの非絡み合い学習は、大量の事前学習パラメータのバックプロパゲーションを避けるため、非常に効率的である。
5つのベンチマークの大規模な実験は、DiSTが既存の最先端メソッドよりも優れたパフォーマンスを提供することを示す。
論文 参考訳(メタデータ) (2023-09-14T17:58:33Z) - Enhancing Spatiotemporal Prediction Model using Modular Design and
Beyond [2.323220706791067]
時間と空間の両方でシーケンスを予測することは困難である。
主流の方法は、同時に時間構造と空間構造をモデル化することである。
配列モデルを空間エンコーダデコーダと予測器の2つのモジュールに組み込むモジュール設計を提案する。
論文 参考訳(メタデータ) (2022-10-04T10:09:35Z) - P-STMO: Pre-Trained Spatial Temporal Many-to-One Model for 3D Human Pose
Estimation [78.83305967085413]
本稿では,2次元から3次元のポーズ推定作業のためのP-STMOモデルを提案する。
提案手法は,パラメータが少なく,計算オーバーヘッドが少なく,最先端の手法より優れている。
論文 参考訳(メタデータ) (2022-03-15T04:00:59Z) - Knowledge Distillation as Efficient Pre-training: Faster Convergence,
Higher Data-efficiency, and Better Transferability [53.27240222619834]
効率的な事前学習としての知識蒸留は、学習した特徴表現を学習済みモデルから将来の下流タスクのための新しい学生モデルに効率的に転送することを目的としている。
提案手法は,3つの下流タスクにおける教師付き事前学習タスクと,10倍少ないデータと5倍少ない事前学習時間を必要とする9つの下流データセットとを比較検討する。
論文 参考訳(メタデータ) (2022-03-10T06:23:41Z) - Representation Learning for Sequence Data with Deep Autoencoding
Predictive Components [96.42805872177067]
本稿では,シーケンスデータの有用な表現が潜在空間における単純な構造を示すべきという直感に基づく,シーケンスデータの自己教師型表現学習法を提案する。
我々は,過去と将来のウィンドウ間の相互情報である潜在特徴系列の予測情報を最大化することにより,この潜時構造を奨励する。
提案手法は,ノイズの多い動的システムの潜時空間を復元し,タスク予測のための予測特徴を抽出し,エンコーダを大量の未ラベルデータで事前訓練する場合に音声認識を改善する。
論文 参考訳(メタデータ) (2020-10-07T03:34:01Z) - AdaS: Adaptive Scheduling of Stochastic Gradients [50.80697760166045]
我々は、textit "knowledge gain" と textit "mapping condition" の概念を導入し、Adaptive Scheduling (AdaS) と呼ばれる新しいアルゴリズムを提案する。
実験によると、AdaSは派生した指標を用いて、既存の適応学習手法よりも高速な収束と優れた一般化、そして(b)いつトレーニングを中止するかを決定するための検証セットへの依存の欠如を示す。
論文 参考訳(メタデータ) (2020-06-11T16:36:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。