論文の概要: AMCEN: An Attention Masking-based Contrastive Event Network for Two-stage Temporal Knowledge Graph Reasoning

• arxiv url: http://arxiv.org/abs/2405.10346v1
• Date: Thu, 16 May 2024 01:39:50 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-20 17:52:48.484576
• Title: AMCEN: An Attention Masking-based Contrastive Event Network for Two-stage Temporal Knowledge Graph Reasoning
• Title（参考訳）: AMCEN:2段階の時間知識グラフ推論のための注意的マスキングに基づくコントラストイベントネットワーク
• Authors: Jing Yang, Xiao Wang, Yutong Wang, Jiawei Wang, Fei-Yue Wang,
• Abstract要約: 時間的知識グラフ(TKG)は、現実世界の知識の進化する性質を効果的にモデル化することができ、その完全性と拡張は、既存の知識から新しい事象を推論することで達成できる。 しかし、推論精度はデータセットにおける新しいイベントと繰り返されるイベントの間に不均衡があるため、悪影響を及ぼす。 本研究では,今後の事象の2段階予測のために,局所的な時間的パターンを持つ注意マスキングに基づくコントラストイベントネットワーク(AMCEN)を提案する。
• 参考スコア（独自算出の注目度）: 29.68279984719722
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Temporal knowledge graphs (TKGs) can effectively model the ever-evolving nature of real-world knowledge, and their completeness and enhancement can be achieved by reasoning new events from existing ones. However, reasoning accuracy is adversely impacted due to an imbalance between new and recurring events in the datasets. To achieve more accurate TKG reasoning, we propose an attention masking-based contrastive event network (AMCEN) with local-global temporal patterns for the two-stage prediction of future events. In the network, historical and non-historical attention mask vectors are designed to control the attention bias towards historical and non-historical entities, acting as the key to alleviating the imbalance. A local-global message-passing module is proposed to comprehensively consider and capture multi-hop structural dependencies and local-global temporal evolution for the in-depth exploration of latent impact factors of different event types. A contrastive event classifier is used to classify events more accurately by incorporating local-global temporal patterns into contrastive learning. Therefore, AMCEN refines the prediction scope with the results of the contrastive event classification, followed by utilizing attention masking-based decoders to finalize the specific outcomes. The results of our experiments on four benchmark datasets highlight the superiority of AMCEN. Especially, the considerable improvements in Hits@1 prove that AMCEN can make more precise predictions about future occurrences.
• Abstract（参考訳）: 時間的知識グラフ(TKG)は、現実世界の知識の進化する性質を効果的にモデル化することができ、その完全性と拡張は、既存の知識から新しい事象を推論することで達成できる。 しかし、推論精度はデータセットにおける新しいイベントと繰り返されるイベントの間に不均衡があるため、悪影響を及ぼす。 より正確なTKG推論を実現するため,今後の事象の2段階予測のために,局所的時間的パターンを用いた注意マスキングに基づくコントラストイベントネットワーク(AMCEN)を提案する。 ネットワークでは、歴史的および非歴史的注意マスクベクターは、歴史的および非歴史的実体に対する注意バイアスを制御し、不均衡を緩和する鍵として機能するように設計されている。 各種イベントの潜伏的影響因子の詳細な探索を行うため, マルチホップ構造依存性と局所グロバル時間進化を包括的に検討し, 捉えるために, 局所グロバルメッセージパッシングモジュールを提案する。 対照的な事象分類器は、局所的な時間パターンを対照的な学習に組み込むことにより、より正確に事象を分類するために用いられる。 そのため、AMCENは、コントラストのあるイベント分類の結果によって予測範囲を洗練し、その後、アテンションマスキングに基づくデコーダを用いて特定の結果を確定する。 4つのベンチマークデータセットに対する実験の結果は、AMCENの優位性を示している。 特にHits@1の大幅な改善は、AMCENが将来の発生についてより正確に予測できることを示している。

関連論文リスト

• MAVEN-Fact: A Large-scale Event Factuality Detection Dataset [55.01875707021496]
  我々は,MAVENデータセットに基づく大規模かつ高品質なEFDデータセットであるMAVEN-Factを紹介する。 MAVEN-Factには112,276のイベントのファクトリティアノテーションが含まれており、EFDデータセットとしては最大である。 MAVEN-Factは従来の微調整モデルと大規模言語モデル(LLM)の両方において困難であることを示す実験結果が得られた。
  論文  参考訳（メタデータ） (2024-07-22T03:43:46Z)
• HIP Network: Historical Information Passing Network for Extrapolation Reasoning on Temporal Knowledge Graph [14.832067253514213]
  今後の出来事を予測するために,歴史情報伝達(HIP)ネットワークを提案する。 本手法では,関係表現の更新を考慮し,上記の次元に対応する3つのスコアリング関数を採用する。 5つのベンチマークデータセットの実験結果は、HIPネットワークの優位性を示している。
  論文  参考訳（メタデータ） (2024-02-19T11:50:30Z)
• Uncertainty-guided Boundary Learning for Imbalanced Social Event Detection [64.4350027428928]
  本研究では,不均衡なイベント検出タスクのための不確実性誘導型クラス不均衡学習フレームワークを提案する。 我々のモデルは、ほとんど全てのクラス、特に不確実なクラスにおいて、社会イベントの表現と分類タスクを大幅に改善する。
  論文  参考訳（メタデータ） (2023-10-30T03:32:04Z)
• Exploring the Limits of Historical Information for Temporal Knowledge Graph Extrapolation [59.417443739208146]
  本稿では,歴史的コントラスト学習の新しい学習枠組みに基づくイベント予測モデルを提案する。 CENETは、最も潜在的なエンティティを識別するために、歴史的および非歴史的依存関係の両方を学ぶ。 提案したモデルを5つのベンチマークグラフで評価する。
  論文  参考訳（メタデータ） (2023-08-29T03:26:38Z)
• Learning for Counterfactual Fairness from Observational Data [62.43249746968616]
  公正な機械学習は、人種、性別、年齢などの特定の保護された(感受性のある)属性によって記述されるある種のサブグループに対して、学習モデルのバイアスを取り除くことを目的としている。 カウンターファクトフェアネスを達成するための既存の手法の前提条件は、データに対する因果モデルの事前の人間の知識である。 本研究では,新しいフレームワークCLAIREを提案することにより,因果関係を付与せずに観測データから対実的に公正な予測を行う問題に対処する。
  論文  参考訳（メタデータ） (2023-07-17T04:08:29Z)
• Logic and Commonsense-Guided Temporal Knowledge Graph Completion [9.868206060374991]
  時間的知識グラフ(TKG)は、時間を含むデータから派生した事象を記憶する。 本稿では,時系列やイベントの因果性を含む時間依存表現を協調的に学習するためのLCGE(Logic and Commonsense-Guided Embedding Model)を提案する。
  論文  参考訳（メタデータ） (2022-11-30T10:06:55Z)
• Temporal Knowledge Graph Reasoning with Historical Contrastive Learning [24.492458924487863]
  我々はContrastive Event Network(CENET)と呼ばれる新しいイベント予測モデルを提案する。 CENETは、ヒストリと非ヒストリの両方の依存関係を学び、与えられたクエリに最もよくマッチする最も潜在的なエンティティを識別する。 推論プロセスの間、CENETは最終的な結果を生成するためにマスクベースの戦略を採用している。
  論文  参考訳（メタデータ） (2022-11-20T08:32:59Z)
• An Ordinal Latent Variable Model of Conflict Intensity [59.49424978353101]
  ゴールドスタインスケール(Goldstein scale)は、紛争・協力的なスケールでイベントをスコアする、広く使われている専門家ベースの尺度である。 本稿では、競合強度を測定するために、潜伏変数に基づくアプローチをとる。
  論文  参考訳（メタデータ） (2022-10-08T08:59:17Z)
• Semi-supervised New Event Type Induction and Description via Contrastive Loss-Enforced Batch Attention [56.46649994444616]
  マスク付きコントラスト損失を用いた半教師付き新しいイベント型誘導手法を提案する。 私たちは、発見したクラスタの型名を予測し、FrameNetフレームにリンクするという、2つの新しいタスクにアプローチを拡張しました。
  論文  参考訳（メタデータ） (2022-02-12T00:32:22Z)
• Multi-axis Attentive Prediction for Sparse EventData: An Application to Crime Prediction [16.654369376687296]
  本稿では,2つの観測角度による事象伝播の短期的ダイナミクスと長期的意味論の両方を抽出するための,純粋に注意的なアプローチを提案する。 提案したコントラスト学習目的は,MAPSEDのセマンティクスとイベントのダイナミックスを捉える能力を大幅に向上させる。
  論文  参考訳（メタデータ） (2021-10-05T02:38:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。