論文の概要: Local-Global History-aware Contrastive Learning for Temporal Knowledge Graph Reasoning

• arxiv url: http://arxiv.org/abs/2312.01601v1
• Date: Mon, 4 Dec 2023 03:27:01 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-05 16:37:27.963914
• Title: Local-Global History-aware Contrastive Learning for Temporal Knowledge Graph Reasoning
• Title（参考訳）: 時間的知識グラフ推論のための局所的グローバル履歴認識コントラスト学習
• Authors: Wei Chen, Huaiyu Wan, Yuting Wu, Shuyuan Zhao, Jiayaqi Cheng, Yuxin Li and Youfang Lin
• Abstract要約: 時間的知識グラフのためのブルーローカル・ブルーグロバル履歴対応ブルーコントラストブルーLモデル(ブルーLogCL)を提案する。 最初の課題として、LogCLは、ローカルおよびグローバルな歴史的事実エンコーダに適用されるエンティティ対応の注意機構を提案する。 後者の問題のために、LogCLは4つの歴史的クエリコントラストパターンを設計し、モデルの堅牢性を効果的に改善した。
• 参考スコア（独自算出の注目度）: 25.497749629866757
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Temporal knowledge graphs (TKGs) have been identified as a promising approach to represent the dynamics of facts along the timeline. The extrapolation of TKG is to predict unknowable facts happening in the future, holding significant practical value across diverse fields. Most extrapolation studies in TKGs focus on modeling global historical fact repeating and cyclic patterns, as well as local historical adjacent fact evolution patterns, showing promising performance in predicting future unknown facts. Yet, existing methods still face two major challenges: (1) They usually neglect the importance of historical information in KG snapshots related to the queries when encoding the local and global historical information; (2) They exhibit weak anti-noise capabilities, which hinders their performance when the inputs are contaminated with noise.To this end, we propose a novel \blue{Lo}cal-\blue{g}lobal history-aware \blue{C}ontrastive \blue{L}earning model (\blue{LogCL}) for TKG reasoning, which adopts contrastive learning to better guide the fusion of local and global historical information and enhance the ability to resist interference. Specifically, for the first challenge, LogCL proposes an entity-aware attention mechanism applied to the local and global historical facts encoder, which captures the key historical information related to queries. For the latter issue, LogCL designs four historical query contrast patterns, effectively improving the robustness of the model. The experimental results on four benchmark datasets demonstrate that LogCL delivers better and more robust performance than the state-of-the-art baselines.
• Abstract（参考訳）: 時間的知識グラフ(TKG)は、タイムラインに沿った事実のダイナミクスを表現するための有望なアプローチとして特定されている。 TKGの外挿は、将来起こりうる未知の事実を予測し、様々な分野において重要な実践的価値を持つことである。 TKGにおけるほとんどの外挿研究は、世界的歴史的事実反復と循環的パターンのモデリング、および局所的隣接する事実進化パターンのモデル化に焦点を当てており、将来の未知の事実を予測する上で有望なパフォーマンスを示している。 Yet, existing methods still face two major challenges: (1) They usually neglect the importance of historical information in KG snapshots related to the queries when encoding the local and global historical information; (2) They exhibit weak anti-noise capabilities, which hinders their performance when the inputs are contaminated with noise.To this end, we propose a novel \blue{Lo}cal-\blue{g}lobal history-aware \blue{C}ontrastive \blue{L}earning model (\blue{LogCL}) for TKG reasoning, which adopts contrastive learning to better guide the fusion of local and global historical information and enhance the ability to resist interference. 具体的には、最初の課題としてlogclは、クエリに関連する重要な履歴情報をキャプチャするローカルおよびグローバル履歴ファクトエンコーダに適用されるエンティティ対応注意機構を提案する。 後者の場合、logclは4つの歴史的なクエリコントラストパターンを設計し、モデルのロバスト性を効果的に改善する。 4つのベンチマークデータセットの実験結果は、LogCLが最先端のベースラインよりも優れた、より堅牢なパフォーマンスを提供することを示している。

関連論文リスト

• DPCL-Diff: The Temporal Knowledge Graph Reasoning based on Graph Node Diffusion Model with Dual-Domain Periodic Contrastive Learning [3.645855411897217]
  二重領域周期性学習(DPCL-Diff)を用いたグラフノード拡散モデルを提案する。 GNDiffはノイズを疎結合なイベントに導入し、新しいイベントをシミュレートする。 DPCL-Diffは周期事象と非周期事象をポアンカー空間とユークリッド空間にマッピングし、それらの特徴を利用して類似の周期事象を効果的に区別する。
  論文  参考訳（メタデータ） (2024-11-03T08:30:29Z)
• Historically Relevant Event Structuring for Temporal Knowledge Graph Reasoning [5.510391547468202]
  時間的知識グラフ(TKG)推論は、タイムライン上に配布されたスナップショット内の履歴情報を通じてイベントを予測することに焦点を当てる。 textbfHistorally textbfRelevant textbfEvents textbfStructuring(mathsfHisRES$)に対する革新的なTKG推論手法を提案する。
  論文  参考訳（メタデータ） (2024-05-17T08:33:43Z)
• AMCEN: An Attention Masking-based Contrastive Event Network for Two-stage Temporal Knowledge Graph Reasoning [29.68279984719722]
  時間的知識グラフ(TKG)は、現実世界の知識の進化する性質を効果的にモデル化することができ、その完全性と拡張は、既存の知識から新しい事象を推論することで達成できる。 しかし、推論精度はデータセットにおける新しいイベントと繰り返されるイベントの間に不均衡があるため、悪影響を及ぼす。 本研究では,今後の事象の2段階予測のために,局所的な時間的パターンを持つ注意マスキングに基づくコントラストイベントネットワーク(AMCEN)を提案する。
  論文  参考訳（メタデータ） (2024-05-16T01:39:50Z)
• Selective Temporal Knowledge Graph Reasoning [70.11788354442218]
  時間的知識グラフ(TKG)は、与えられた歴史的事実に基づいて将来の事実を予測することを目的としている。 既存のTKG推論モデルは、不確実な予測を控えることができない。 本稿では,既存のモデルが無差別な予測ではなく選択的に行うのに役立つ,TKG推論の棄却機構を提案する。
  論文  参考訳（メタデータ） (2024-04-02T06:56:21Z)
• Continual Learning with Pre-Trained Models: A Survey [61.97613090666247]
  継続的な学習は、新しい知識を学ぶ際に、かつての知識の破滅的な忘れを克服することを目的としている。 本稿では, PTM を用いた CL の最近の進歩を包括的に調査する。
  論文  参考訳（メタデータ） (2024-01-29T18:27:52Z)
• Memory Consistency Guided Divide-and-Conquer Learning for Generalized Category Discovery [56.172872410834664]
  一般カテゴリー発見(GCD)は、半教師付き学習のより現実的で挑戦的な設定に対処することを目的としている。 メモリ一貫性を誘導する分枝・分枝学習フレームワーク(MCDL)を提案する。 本手法は,画像認識の目に見えるクラスと見えないクラスの両方において,最先端のモデルよりも優れた性能を示す。
  論文  参考訳（メタデータ） (2024-01-24T09:39:45Z)
• Exploring the Limits of Historical Information for Temporal Knowledge Graph Extrapolation [59.417443739208146]
  本稿では,歴史的コントラスト学習の新しい学習枠組みに基づくイベント予測モデルを提案する。 CENETは、最も潜在的なエンティティを識別するために、歴史的および非歴史的依存関係の両方を学ぶ。 提案したモデルを5つのベンチマークグラフで評価する。
  論文  参考訳（メタデータ） (2023-08-29T03:26:38Z)
• Temporal Knowledge Graph Reasoning with Historical Contrastive Learning [24.492458924487863]
  我々はContrastive Event Network(CENET)と呼ばれる新しいイベント予測モデルを提案する。 CENETは、ヒストリと非ヒストリの両方の依存関係を学び、与えられたクエリに最もよくマッチする最も潜在的なエンティティを識別する。 推論プロセスの間、CENETは最終的な結果を生成するためにマスクベースの戦略を採用している。
  論文  参考訳（メタデータ） (2022-11-20T08:32:59Z)
• Large Language Models with Controllable Working Memory [64.71038763708161]
  大規模言語モデル(LLM)は、自然言語処理(NLP)の一連のブレークスルーをもたらした。 これらのモデルをさらに切り離すのは、事前訓練中に内在する膨大な量の世界的知識だ。 モデルの世界知識が、文脈で提示された事実情報とどのように相互作用するかは、まだ解明されていない。
  論文  参考訳（メタデータ） (2022-11-09T18:58:29Z)
• Temporal Knowledge Graph Reasoning Based on Evolutional Representation Learning [59.004025528223025]
  将来の事実を予測する鍵は、歴史的事実を徹底的に理解することです。 TKGは実際には異なるタイムスタンプに対応するKGのシーケンスである。 グラフ畳み込みネットワーク(GCN)に基づく新しいリカレント進化ネットワークを提案する。
  論文  参考訳（メタデータ） (2021-04-21T05:12:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。