論文の概要: Looking around you: external information enhances representations for event sequences
- arxiv url: http://arxiv.org/abs/2502.10205v2
- Date: Mon, 16 Jun 2025 13:14:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-17 15:15:29.890913
- Title: Looking around you: external information enhances representations for event sequences
- Title(参考訳): 周りを見回す:外部情報によってイベントシーケンスの表現が強化される
- Authors: Maria Kovaleva, Petr Sokerin, Pavel Tikhomirov, Alexey Zaytsev,
- Abstract要約: 表現学習は、ストア購入、クライアントトランザクション、一般の人々の振る舞いなど、さまざまなドメインでモデルを生成する。
我々は複数のユーザ表現から情報を集約し、複数のイベントシーケンスのシナリオに対して特定のユーザを増強する手法を開発した。
本研究は,単純なプール技術から,トレーニング可能な注意に基づくカーネルアテンションアグリゲーションまで,多様なアグリゲーションアプローチについて考察する。
- 参考スコア(独自算出の注目度): 2.1879059908547482
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Representation learning produces models in different domains, such as store purchases, client transactions, and general people's behaviour. However, such models for event sequences usually process each sequence in isolation, ignoring context from ones that co-occur in time. This limitation is particularly problematic in domains with fast-evolving conditions, like finance and e-commerce, or when certain sequences lack recent events. We develop a method that aggregates information from multiple user representations, augmenting a specific user for a scenario of multiple co-occurring event sequences, achieving better quality than processing each sequence independently. Our study considers diverse aggregation approaches, ranging from simple pooling techniques to trainable attention-based Kernel attention aggregation, that can highlight more complex information flow from other users. The proposed methods operate on top of an existing encoder and support its efficient fine-tuning. Across six diverse event sequence datasets (finance, e-commerce, education, etc.) and downstream tasks, Kernel attention improves ROC-AUC scores, both with and without fine-tuning, while mean pooling yields a smaller but still significant gain.
- Abstract(参考訳): 表現学習は、ストア購入、クライアントトランザクション、一般の人々の振る舞いなど、さまざまなドメインでモデルを生成する。
しかしながら、イベントシーケンスのそのようなモデルは、通常、各シーケンスを分離して処理し、時間とともに発生したコンテキストを無視する。
この制限は、金融やeコマースのような急速に発展する状態のドメインや、あるシーケンスが最近のイベントを欠いている場合に特に問題となる。
我々は,複数のユーザ表現から情報を集約し,複数のイベントシーケンスのシナリオに対して特定のユーザを増強し,各シーケンスを個別に処理するよりも優れた品質を実現する手法を開発した。
本研究は,単純なプール技術から,他のユーザからのより複雑な情報の流れを強調できる,トレーニング可能な注意に基づくカーネルアグリゲーションまで,多様なアグリゲーションアプローチについて考察する。
提案手法は既存のエンコーダ上で動作し,その効率的な微調整をサポートする。
さまざまなイベントシーケンスデータセット(ファイナンス、eコマース、教育など)と下流タスクの6つにまたがって、Kernelの注目はROC-AUCスコアを微調整と無調整の両方で改善し、プールは小さくても、それでも大きな利益をもたらす。
関連論文リスト
- Recommendation System in Advertising and Streaming Media: Unsupervised Data Enhancement Sequence Suggestions [2.9633211091806997]
我々は,グラフの対照的な学習視点を取り入れた新しいフレームワークであるGlobal Unsupervised Data-Augmentation (UDA4SR)を導入し,シーケンシャルレコメンデーションのための堅牢なアイテム埋め込みを生成する。
当社のアプローチは,データ拡張のためのGAN(Generative Adrial Networks)の統合から始まり,トレーニングデータの多様性と豊かさを高めるための第一歩となる。
ユーザの動的かつ多様な関心をより効果的にモデル化するために,新しいターゲットアテンション機構を備えたCapsNetモジュールを改良する。
論文 参考訳(メタデータ) (2025-03-23T06:30:48Z) - Multimodal Difference Learning for Sequential Recommendation [5.243083216855681]
ユーザの関心とアイテムの関係は、さまざまなモダリティによって異なる、と我々は主張する。
本稿では,MDSRec のシークエンシャルレコメンデーションのための新しいマルチモーダルラーニングフレームワークを提案する。
5つの実世界のデータセットの結果は、最先端のベースラインよりもMDSRecの方が優れていることを示している。
論文 参考訳(メタデータ) (2024-12-11T05:08:19Z) - Multi-granularity Interest Retrieval and Refinement Network for Long-Term User Behavior Modeling in CTR Prediction [68.90783662117936]
クリックスルーレート(CTR)の予測は、オンラインパーソナライズプラットフォームにとって不可欠である。
近年の進歩は、リッチなユーザの振る舞いをモデル化することで、CTR予測の性能を大幅に改善できることを示している。
マルチグラニュラリティ興味検索ネットワーク(MIRRN)を提案する。
論文 参考訳(メタデータ) (2024-11-22T15:29:05Z) - Long-Sequence Recommendation Models Need Decoupled Embeddings [49.410906935283585]
我々は、既存の長期推薦モデルにおいて無視された欠陥を識別し、特徴付ける。
埋め込みの単一のセットは、注意と表現の両方を学ぶのに苦労し、これら2つのプロセス間の干渉につながります。
本稿では,2つの異なる埋め込みテーブルを別々に学習し,注意と表現を完全に分離する,DARE(Decoupled Attention and Representation Embeddings)モデルを提案する。
論文 参考訳(メタデータ) (2024-10-03T15:45:15Z) - Uniting contrastive and generative learning for event sequences models [51.547576949425604]
本研究では,2つの自己指導型学習手法 – 例えば,コントラスト学習と,潜在空間におけるマスクイベントの復元に基づく生成的アプローチ – の統合について検討する。
いくつかの公開データセットで行った実験は、シーケンス分類と次点型予測に焦点を合わせ、統合された手法が個々の手法と比較して優れた性能を達成することを示した。
論文 参考訳(メタデータ) (2024-08-19T13:47:17Z) - Sample Enrichment via Temporary Operations on Subsequences for Sequential Recommendation [15.718287580146272]
本稿では,SETO(Subsequences on Subsequences)を用いたサンプルエンリッチメントという,シーケンシャルレコメンデーションのための新しいモデルに依存しない高汎用フレームワークを提案する。
複数の実世界のデータセットにまたがる、複数の代表的および最先端のシーケンシャルレコメンデーションモデルに対するSETOの有効性と汎用性を強調します。
論文 参考訳(メタデータ) (2024-07-25T06:22:08Z) - Enhancing Few-shot NER with Prompt Ordering based Data Augmentation [59.69108119752584]
本稿では,PODA(Prompt Ordering Based Data Augmentation)手法を提案する。
3つのパブリックNERデータセットの実験結果とさらなる分析により,本手法の有効性が示された。
論文 参考訳(メタデータ) (2023-05-19T16:25:43Z) - Towards Lightweight Cross-domain Sequential Recommendation via External
Attention-enhanced Graph Convolution Network [7.1102362215550725]
クロスドメインシークエンシャルレコメンデーション(CSR)は、複数のドメインからのインタラクションをモデル化することで、重複したユーザの振る舞いパターンの進化を描いている。
上記の課題,すなわちLEA-GCNを解決するために,軽量な外部注意強化GCNベースのフレームワークを導入する。
フレームワークの構造をさらに緩和し、ユーザ固有のシーケンシャルパターンを集約するために、新しい二重チャネル外部注意(EA)コンポーネントを考案する。
論文 参考訳(メタデータ) (2023-02-07T03:06:29Z) - Time Interval-enhanced Graph Neural Network for Shared-account
Cross-domain Sequential Recommendation [44.34610028544989]
共有アカウント クロスドメイン シークエンシャルレコメンデーション(SCSR)タスクは、複数のドメインにおける混合ユーザ動作を活用することで、次の項目を推奨することを目的としている。
既存のSCSRの研究は主に、リカレントニューラルネットワーク(RNN)ベースのモデルによるシーケンシャルパターンのマイニングに依存している。
上記の課題に対処するために,新たなグラフベースのソリューションTiDA-GCNを提案する。
論文 参考訳(メタデータ) (2022-06-16T10:06:01Z) - Neural Hierarchical Factorization Machines for User's Event Sequence
Analysis [21.13650689194003]
本稿では,ユーザのイベントシーケンス上の階層的情報を取得するための2段階構造について考察する。
我々のモデルは最先端のベースラインに比べて性能が大幅に向上する。
論文 参考訳(メタデータ) (2021-12-31T04:08:55Z) - Sparse-Interest Network for Sequential Recommendation [78.83064567614656]
本稿では,シーケンシャルレコメンデーションのためのtextbfSparse textbfInterest textbfNEtwork(SINE)を提案する。
我々のスパース関心モジュールは、大きなコンセプトプールから各ユーザに対してスパースの概念セットを適応的に推測することができる。
SINEは最先端の手法よりも大幅に改善できる。
論文 参考訳(メタデータ) (2021-02-18T11:03:48Z) - CoLES: Contrastive Learning for Event Sequences with Self-Supervision [63.3568071938238]
本研究では,実世界のユーザが生成する個別イベントシーケンスにおける自己教師型学習の課題に対処する。
従来,音声やコンピュータビジョンの領域で使われていたコントラスト学習に適応する新しい手法"CoLES"を提案する。
論文 参考訳(メタデータ) (2020-02-19T15:15:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。