論文の概要: Local-Global History-aware Contrastive Learning for Temporal Knowledge
Graph Reasoning
- arxiv url: http://arxiv.org/abs/2312.01601v1
- Date: Mon, 4 Dec 2023 03:27:01 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-05 16:37:27.963914
- Title: Local-Global History-aware Contrastive Learning for Temporal Knowledge
Graph Reasoning
- Title(参考訳): 時間的知識グラフ推論のための局所的グローバル履歴認識コントラスト学習
- Authors: Wei Chen, Huaiyu Wan, Yuting Wu, Shuyuan Zhao, Jiayaqi Cheng, Yuxin Li
and Youfang Lin
- Abstract要約: 時間的知識グラフのためのブルーローカル・ブルーグロバル履歴対応ブルーコントラストブルーLモデル(ブルーLogCL)を提案する。
最初の課題として、LogCLは、ローカルおよびグローバルな歴史的事実エンコーダに適用されるエンティティ対応の注意機構を提案する。
後者の問題のために、LogCLは4つの歴史的クエリコントラストパターンを設計し、モデルの堅牢性を効果的に改善した。
- 参考スコア(独自算出の注目度): 25.497749629866757
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Temporal knowledge graphs (TKGs) have been identified as a promising approach
to represent the dynamics of facts along the timeline. The extrapolation of TKG
is to predict unknowable facts happening in the future, holding significant
practical value across diverse fields. Most extrapolation studies in TKGs focus
on modeling global historical fact repeating and cyclic patterns, as well as
local historical adjacent fact evolution patterns, showing promising
performance in predicting future unknown facts. Yet, existing methods still
face two major challenges: (1) They usually neglect the importance of
historical information in KG snapshots related to the queries when encoding the
local and global historical information; (2) They exhibit weak anti-noise
capabilities, which hinders their performance when the inputs are contaminated
with noise.To this end, we propose a novel \blue{Lo}cal-\blue{g}lobal
history-aware \blue{C}ontrastive \blue{L}earning model (\blue{LogCL}) for TKG
reasoning, which adopts contrastive learning to better guide the fusion of
local and global historical information and enhance the ability to resist
interference. Specifically, for the first challenge, LogCL proposes an
entity-aware attention mechanism applied to the local and global historical
facts encoder, which captures the key historical information related to
queries. For the latter issue, LogCL designs four historical query contrast
patterns, effectively improving the robustness of the model. The experimental
results on four benchmark datasets demonstrate that LogCL delivers better and
more robust performance than the state-of-the-art baselines.
- Abstract(参考訳): 時間的知識グラフ(TKG)は、タイムラインに沿った事実のダイナミクスを表現するための有望なアプローチとして特定されている。
TKGの外挿は、将来起こりうる未知の事実を予測し、様々な分野において重要な実践的価値を持つことである。
TKGにおけるほとんどの外挿研究は、世界的歴史的事実反復と循環的パターンのモデリング、および局所的隣接する事実進化パターンのモデル化に焦点を当てており、将来の未知の事実を予測する上で有望なパフォーマンスを示している。
Yet, existing methods still face two major challenges: (1) They usually neglect the importance of historical information in KG snapshots related to the queries when encoding the local and global historical information; (2) They exhibit weak anti-noise capabilities, which hinders their performance when the inputs are contaminated with noise.To this end, we propose a novel \blue{Lo}cal-\blue{g}lobal history-aware \blue{C}ontrastive \blue{L}earning model (\blue{LogCL}) for TKG reasoning, which adopts contrastive learning to better guide the fusion of local and global historical information and enhance the ability to resist interference.
具体的には、最初の課題としてlogclは、クエリに関連する重要な履歴情報をキャプチャするローカルおよびグローバル履歴ファクトエンコーダに適用されるエンティティ対応注意機構を提案する。
後者の場合、logclは4つの歴史的なクエリコントラストパターンを設計し、モデルのロバスト性を効果的に改善する。
4つのベンチマークデータセットの実験結果は、LogCLが最先端のベースラインよりも優れた、より堅牢なパフォーマンスを提供することを示している。
関連論文リスト
- Enhancing Temporal Knowledge Graph Forecasting with Large Language
Models via Chain-of-History Reasoning [34.66154713153524]
時間的知識グラフ(TKG)予測は、与えられた履歴に基づいて将来の事実を予測することを目的としている。
最近のグラフベースのモデルでは、TKG内の構造情報の取得が優れているが、意味的理解能力は欠如している。
本稿では,高次歴史を段階的に探求する『歴史の連鎖』(CoH)推論を提案する。
論文 参考訳(メタデータ) (2024-02-22T08:51:39Z) - Continual Learning with Pre-Trained Models: A Survey [66.49084129482239]
継続的な学習は、新しい知識を学ぶ際に、かつての知識の破滅的な忘れを克服することを目的としている。
本稿では, PTM を用いた CL の最近の進歩を包括的に調査する。
論文 参考訳(メタデータ) (2024-01-29T18:27:52Z) - Memory Consistency Guided Divide-and-Conquer Learning for Generalized
Category Discovery [56.172872410834664]
一般カテゴリー発見(GCD)は、半教師付き学習のより現実的で挑戦的な設定に対処することを目的としている。
メモリ一貫性を誘導する分枝・分枝学習フレームワーク(MCDL)を提案する。
本手法は,画像認識の目に見えるクラスと見えないクラスの両方において,最先端のモデルよりも優れた性能を示す。
論文 参考訳(メタデータ) (2024-01-24T09:39:45Z) - Temporal Inductive Path Neural Network for Temporal Knowledge Graph
Reasoning [16.984588879938947]
時間的知識グラフ(TKG)の推論は、過去の出来事に基づいて将来の事実を予測することを目的としている。
既存のほとんどのアプローチでは、グラフ内のノードが知識表現において重要な役割を果たすため、エンティティモデリングに依存するTKGをモデル化する。
実体に依存しない視点で過去の情報をモデル化するTiPNN(Temporal Inductive Path Neural Network)を提案する。
論文 参考訳(メタデータ) (2023-09-06T17:37:40Z) - Exploring the Limits of Historical Information for Temporal Knowledge
Graph Extrapolation [59.417443739208146]
本稿では,歴史的コントラスト学習の新しい学習枠組みに基づくイベント予測モデルを提案する。
CENETは、最も潜在的なエンティティを識別するために、歴史的および非歴史的依存関係の両方を学ぶ。
提案したモデルを5つのベンチマークグラフで評価する。
論文 参考訳(メタデータ) (2023-08-29T03:26:38Z) - Adaptive Path-Memory Network for Temporal Knowledge Graph Reasoning [25.84105067110878]
時間的知識グラフ(TKG)推論は、過去の情報に基づいて将来の行方不明事実を予測することを目的としている。
我々は,TKGの関係性,すなわち aDAptivE path-MemOry Network (DaeMon) を用いた新しいアーキテクチャモデリングを提案する。
DaeMonは、クエリ対象と各オブジェクト候補の間の時間パス情報を履歴時間にわたって適応的にモデル化する。
論文 参考訳(メタデータ) (2023-04-25T06:33:08Z) - Temporal Knowledge Graph Reasoning with Historical Contrastive Learning [24.492458924487863]
我々はContrastive Event Network(CENET)と呼ばれる新しいイベント予測モデルを提案する。
CENETは、ヒストリと非ヒストリの両方の依存関係を学び、与えられたクエリに最もよくマッチする最も潜在的なエンティティを識別する。
推論プロセスの間、CENETは最終的な結果を生成するためにマスクベースの戦略を採用している。
論文 参考訳(メタデータ) (2022-11-20T08:32:59Z) - Large Language Models with Controllable Working Memory [64.71038763708161]
大規模言語モデル(LLM)は、自然言語処理(NLP)の一連のブレークスルーをもたらした。
これらのモデルをさらに切り離すのは、事前訓練中に内在する膨大な量の世界的知識だ。
モデルの世界知識が、文脈で提示された事実情報とどのように相互作用するかは、まだ解明されていない。
論文 参考訳(メタデータ) (2022-11-09T18:58:29Z) - Search from History and Reason for Future: Two-stage Reasoning on
Temporal Knowledge Graphs [56.33651635705633]
そこで我々は,CluSTeRを提案し,2段階の予測手法であるClue SearchとTemporal Reasoningを提案する。
CluSTeRは、強化学習(RL)を通じてビームサーチポリシーを学び、歴史的事実から複数の手がかりを導き出す。
時間的推論段階では、グラフ畳み込みネットワークに基づくシーケンス法を採用し、手がかりから回答を導出する。
論文 参考訳(メタデータ) (2021-06-01T09:01:22Z) - Temporal Knowledge Graph Reasoning Based on Evolutional Representation
Learning [59.004025528223025]
将来の事実を予測する鍵は、歴史的事実を徹底的に理解することです。
TKGは実際には異なるタイムスタンプに対応するKGのシーケンスである。
グラフ畳み込みネットワーク(GCN)に基づく新しいリカレント進化ネットワークを提案する。
論文 参考訳(メタデータ) (2021-04-21T05:12:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。