論文の概要: Label Attention Network for Temporal Sets Prediction: You Were Looking at a Wrong Self-Attention
- arxiv url: http://arxiv.org/abs/2303.00280v3
- Date: Mon, 28 Oct 2024 14:13:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-29 12:13:36.309375
- Title: Label Attention Network for Temporal Sets Prediction: You Were Looking at a Wrong Self-Attention
- Title(参考訳): 時間集合予測のためのラベルアテンションネットワーク
- Authors: Elizaveta Kovtun, Galina Boeva, Andrey Shulga, Alexey Zaytsev,
- Abstract要約: 将来のイベントのラベルセットの期待には大きな価値がある。
提案したモデルは Label-Attention NETwork または LANET と呼ばれる。
- 参考スコア(独自算出の注目度): 2.487894881721314
- License:
- Abstract: Most user-related data can be represented as a sequence of events associated with a timestamp and a collection of categorical labels. For example, the purchased basket of goods and the time of buying fully characterize the event of the store visit. Anticipation of the label set for the future event called the problem of temporal sets prediction, holds significant value, especially in such high-stakes industries as finance and e-commerce. A fundamental challenge of this task is the joint consideration of the temporal nature of events and label relations within sets. The existing models fail to capture complex time and label dependencies due to ineffective representation of historical information initially. We aim to address this shortcoming by presenting the framework with a specific way to aggregate the observed information into time- and set structure-aware views prior to transferring it into main architecture blocks. Our strong emphasis on input arrangement facilitates the subsequent efficient learning of label interactions. The proposed model is called Label-Attention NETwork, or LANET. We conducted experiments on four different datasets and made a comparison with four established models, including SOTA, in this area. The experimental results suggest that LANET provides significantly better quality than any other model, achieving an improvement up to $65 \%$ in terms of weighted F1 metric compared to the closest competitor. Moreover, we contemplate causal relationships between labels in our work, as well as a thorough study of LANET components' influence on performance. We provide an implementation of LANET to encourage its wider usage.
- Abstract(参考訳): ほとんどのユーザ関連データは、タイムスタンプとカテゴリラベルのコレクションに関連するイベントのシーケンスとして表現することができる。
例えば、購入した商品のバスケットと購入時期は、店舗訪問のイベントを完全に特徴付ける。
時間的セット予測問題と呼ばれる将来のイベントのラベルセットの予測は、特に金融や電子商取引のような高額な産業において重要な価値を持っている。
この課題の根本的な課題は、集合内の事象とラベルの関係の時間的性質を共同で検討することである。
既存のモデルは、当初、歴史的情報の非効率な表現のために、複雑な時間とラベルの依存関係をキャプチャできない。
この欠点に対処するために、メインアーキテクチャブロックに転送する前に、観測された情報をタイムアウェアビューに集約する特定の方法でフレームワークを提示する。
入力アレンジメントに強く重点を置いていることは、その後のラベル相互作用の効率的な学習を促進する。
提案したモデルは Label-Attention NETwork または LANET と呼ばれる。
我々は4つの異なるデータセットの実験を行い、この領域でSOTAを含む4つの確立されたモデルと比較した。
実験結果から、LANETは他のどのモデルよりもはるかに優れた品質を提供し、最も近い競合モデルと比較して、重み付けされたF1メートル法で最大6,5 \%の改善を実現していることが示唆された。
さらに,本研究におけるラベル間の因果関係について考察するとともに,LANETコンポーネントがパフォーマンスに与える影響について詳しく検討する。
我々は、LANETの実装を提供し、その幅広い使用を奨励します。
関連論文リスト
- Self-Training with Pseudo-Label Scorer for Aspect Sentiment Quad Prediction [54.23208041792073]
Aspect Sentiment Quad Prediction (ASQP) は、与えられたレビューに対して全てのクワッド(アスペクト項、アスペクトカテゴリー、意見項、感情極性)を予測することを目的としている。
ASQPタスクにおける重要な課題はラベル付きデータの不足であり、既存のメソッドのパフォーマンスを制限している。
そこで我々は,擬似ラベルスコアラーを用いた自己学習フレームワークを提案し,レビューと擬似ラベルの一致をスコアラーが評価する。
論文 参考訳(メタデータ) (2024-06-26T05:30:21Z) - Exploring the Limits of Historical Information for Temporal Knowledge
Graph Extrapolation [59.417443739208146]
本稿では,歴史的コントラスト学習の新しい学習枠組みに基づくイベント予測モデルを提案する。
CENETは、最も潜在的なエンティティを識別するために、歴史的および非歴史的依存関係の両方を学ぶ。
提案したモデルを5つのベンチマークグラフで評価する。
論文 参考訳(メタデータ) (2023-08-29T03:26:38Z) - Knowledge Graph Completion Models are Few-shot Learners: An Empirical
Study of Relation Labeling in E-commerce with LLMs [16.700089674927348]
大規模言語モデル(LLM)は多くの自然言語処理タスクにおいて驚くべき結果を示している。
本稿では,自然言語における強力な学習能力とラベル付きデータを用いた製品タイプ間の関係予測の有効性について検討する。
以上の結果から,LLMは電子商取引KGのリレーショナルラベリングにおいて既存のKG完成モデルよりも大幅に優れており,人間のラベリングに取って代わるほど高い性能を示した。
論文 参考訳(メタデータ) (2023-05-17T00:08:36Z) - Enhancing Label Sharing Efficiency in Complementary-Label Learning with
Label Augmentation [92.4959898591397]
学習中に近隣の事例における補完ラベルの暗黙的な共有を分析した。
相補的なラベル拡張による共有効率を向上させる新しい手法を提案する。
実験結果から,従来のCLLモデルよりも相補的ラベル拡張により経験的性能が向上することが確認された。
論文 参考訳(メタデータ) (2023-05-15T04:43:14Z) - Unified Visual Relationship Detection with Vision and Language Models [89.77838890788638]
この研究は、複数のデータセットからラベル空間の結合を予測する単一の視覚的関係検出器のトレーニングに焦点を当てている。
視覚と言語モデルを活用した統合視覚関係検出のための新しいボトムアップ手法UniVRDを提案する。
人物体間相互作用検出とシーングラフ生成の双方による実験結果から,本モデルの競合性能が示された。
論文 参考訳(メタデータ) (2023-03-16T00:06:28Z) - Temporal Knowledge Graph Reasoning with Historical Contrastive Learning [24.492458924487863]
我々はContrastive Event Network(CENET)と呼ばれる新しいイベント予測モデルを提案する。
CENETは、ヒストリと非ヒストリの両方の依存関係を学び、与えられたクエリに最もよくマッチする最も潜在的なエンティティを識別する。
推論プロセスの間、CENETは最終的な結果を生成するためにマスクベースの戦略を採用している。
論文 参考訳(メタデータ) (2022-11-20T08:32:59Z) - Effective Token Graph Modeling using a Novel Labeling Strategy for
Structured Sentiment Analysis [39.770652220521384]
構造化感情分析の最先端モデルでは、タスクを依存性解析の問題として捉えている。
スパン予測とスパン関係予測のラベル比は不均衡である。
依存グラフの2つのノードは複数の弧を持つことができないため、重複した感情は認識できない。
論文 参考訳(メタデータ) (2022-03-21T08:23:03Z) - Enabling Efficiency-Precision Trade-offs for Label Trees in Extreme
Classification [43.840626501982314]
Extreme Multi-label Classification (XMC) は、非常に大きなラベルセットから関連するラベルのサブセットでデータポイントをタグ付けできるモデルを学ぶことを目的としている。
本稿では,両者の利点を交換する中間操作点を構築するための,効率的な情報理論に基づくアルゴリズムを提案する。
提案手法は,Parabelと同じ精度を維持しながら,予測レイテンシのプロキシを最大28%削減することができる。
論文 参考訳(メタデータ) (2021-06-01T19:02:09Z) - ConsNet: Learning Consistency Graph for Zero-Shot Human-Object
Interaction Detection [101.56529337489417]
画像中のHuman, Action, Object>の形のHOIインスタンスを検出・認識することを目的としたHuman-Object Interaction (HOI) Detectionの問題点を考察する。
我々は、オブジェクト、アクション、インタラクション間の多レベルコンパレンシーは、稀な、あるいは以前には見られなかったHOIのセマンティック表現を生成するための強力な手がかりであると主張している。
提案モデルでは,人-対象のペアの視覚的特徴とHOIラベルの単語埋め込みを入力とし,それらを視覚-意味的関節埋め込み空間にマッピングし,類似度を計測して検出結果を得る。
論文 参考訳(メタデータ) (2020-08-14T09:11:18Z) - Social Adaptive Module for Weakly-supervised Group Activity Recognition [143.68241396839062]
本稿では、弱教師付きグループ活動認識(GAR)と呼ばれる新しいタスクを提案する。
従来のGARタスクとは違い、ビデオレベルラベルのみが利用可能であるが、トレーニングデータにおいても、各フレーム内の重要人物は提供されない。
これにより、大規模なNBAデータセットの収集とアノテートが容易になり、GARに新たな課題が生まれます。
論文 参考訳(メタデータ) (2020-07-18T16:40:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。