論文の概要: Transformer-based Reasoning for Learning Evolutionary Chain of Events on Temporal Knowledge Graph
- arxiv url: http://arxiv.org/abs/2405.00352v1
- Date: Wed, 1 May 2024 07:12:16 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-02 16:17:22.368157
- Title: Transformer-based Reasoning for Learning Evolutionary Chain of Events on Temporal Knowledge Graph
- Title(参考訳): 時間的知識グラフに基づく事象の進化的連鎖学習のためのトランスフォーマーに基づく推論
- Authors: Zhiyu Fang, Shuai-Long Lei, Xiaobin Zhu, Chun Yang, Shi-Xue Zhang, Xu-Cheng Yin, Jingyan Qin,
- Abstract要約: 時間的知識グラフ(TKG)の推論は、しばしばタイムラインに沿って行方不明の事実要素を補完する。
イベントの進化的連鎖(ECE)を学習するための新しいトランスフォーマーベースの推論モデル(ECEformerと呼ばれる)を提案する。
次に、多層パーセプトロン(MLP)に基づく混合コンテキスト推論モジュールを作成し、ECEのための四重項間の統一表現を学習する。
- 参考スコア(独自算出の注目度): 22.427652636877774
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Temporal Knowledge Graph (TKG) reasoning often involves completing missing factual elements along the timeline. Although existing methods can learn good embeddings for each factual element in quadruples by integrating temporal information, they often fail to infer the evolution of temporal facts. This is mainly because of (1) insufficiently exploring the internal structure and semantic relationships within individual quadruples and (2) inadequately learning a unified representation of the contextual and temporal correlations among different quadruples. To overcome these limitations, we propose a novel Transformer-based reasoning model (dubbed ECEformer) for TKG to learn the Evolutionary Chain of Events (ECE). Specifically, we unfold the neighborhood subgraph of an entity node in chronological order, forming an evolutionary chain of events as the input for our model. Subsequently, we utilize a Transformer encoder to learn the embeddings of intra-quadruples for ECE. We then craft a mixed-context reasoning module based on the multi-layer perceptron (MLP) to learn the unified representations of inter-quadruples for ECE while accomplishing temporal knowledge reasoning. In addition, to enhance the timeliness of the events, we devise an additional time prediction task to complete effective temporal information within the learned unified representation. Extensive experiments on six benchmark datasets verify the state-of-the-art performance and the effectiveness of our method.
- Abstract(参考訳): 時間的知識グラフ(TKG)の推論は、しばしばタイムラインに沿って行方不明の事実要素を補完する。
既存の手法では、時間的情報を統合することによって4重項の各要素の適切な埋め込みを学習できるが、時間的事実の進化を推測することができないことが多い。
これは主に、(1)個々の四重項の内部構造と意味的関係を不十分に探求し、(2)異なる四重項間の文脈的・時間的相関の統一表現を不十分に学習するためである。
これらの制約を克服するために、TKGがイベントの進化的連鎖(ECE)を学ぶためのトランスフォーマーベースの推論モデル(ECEformerと呼ばれる)を提案する。
具体的には、エンティティノードの近傍部分グラフを時系列順に展開し、モデルの入力としてイベントの進化的連鎖を形成する。
その後、トランスフォーマーエンコーダを用いて、ECEのための四重極内埋め込みを学習する。
次に、多層パーセプトロン(MLP)に基づく混合コンテキスト推論モジュールを作成し、時間的知識推論を行いながら、ECEのための四重項間の統一表現を学習する。
さらに,イベントのタイムラインを改善するために,学習された統合表現の中で効果的な時間情報を完成させるための追加の時間予測タスクを考案した。
6つのベンチマークデータセットの大規模な実験により、最先端の性能と手法の有効性が検証された。
関連論文リスト
- CSTA: Spatial-Temporal Causal Adaptive Learning for Exemplar-Free Video Class-Incremental Learning [62.69917996026769]
クラスインクリメンタルな学習課題は、空間的外観と時間的行動の関与の両方を学習し、保存することを必要とする。
本稿では,各クラス固有のインクリメンタル情報要件を調整し,新しいクラスパターンを学習するためのアダプタを分離するフレームワークを提案する。
異なる種類の情報間のインクリメントと記憶の衝突を減らすために,因果補償機構を提案する。
論文 参考訳(メタデータ) (2025-01-13T11:34:55Z) - Arbitrary Time Information Modeling via Polynomial Approximation for Temporal Knowledge Graph Embedding [23.39851202825318]
時間知識グラフ(TKG)は、時間的に進化する事実を適切に探索し、推論する必要がある。
既存のTKGアプローチは、任意のタイムスタンプを連続的にモデル化する限られた能力と、時間的制約の下での豊富な推論パターンの欠如という、2つの大きな課題に直面している。
本稿では,分解に基づく時間的表現と埋め込みに基づく実体表現による革新的なTKGE法を提案する。
論文 参考訳(メタデータ) (2024-05-01T07:27:04Z) - Time-Aware Knowledge Representations of Dynamic Objects with
Multidimensional Persistence [41.32931849366751]
本稿では,暗黙的な時間依存トポロジ情報に着目した時間認識型知識表現機構を提案する。
特に,TMP(textitTemporal MultiPersistence)と呼ばれる新しい手法を提案する。
TMP法は、最先端のマルチパーシスタンスサマリーの計算効率を59.5倍に向上させる。
論文 参考訳(メタデータ) (2024-01-24T00:33:53Z) - Deeply-Coupled Convolution-Transformer with Spatial-temporal
Complementary Learning for Video-based Person Re-identification [91.56939957189505]
本稿では,高性能ビデオベース Re-ID のための新しい時空間補完学習フレームワークである Deeply-Coupled Convolution-Transformer (DCCT) を提案する。
私たちのフレームワークは、ほとんどの最先端のメソッドよりも優れたパフォーマンスを実現できます。
論文 参考訳(メタデータ) (2023-04-27T12:16:44Z) - Generic Temporal Reasoning with Differential Analysis and Explanation [61.96034987217583]
時間差分解析でギャップを埋めるTODAYという新しいタスクを導入する。
TODAYは、システムがインクリメンタルな変化の効果を正しく理解できるかどうかを評価する。
共同学習においてTODAYの指導スタイルと説明アノテーションが有効であることを示す。
論文 参考訳(メタデータ) (2022-12-20T17:40:03Z) - DyTed: Disentangled Representation Learning for Discrete-time Dynamic
Graph [59.583555454424]
離散時間動的グラフ、すなわちDyTedのための新しいディペンタングル表現学習フレームワークを提案する。
本研究では,時間不変の表現と時間変動の表現を効果的に識別する構造的コントラスト学習とともに,時間的クリップのコントラスト学習タスクを特別に設計する。
論文 参考訳(メタデータ) (2022-10-19T14:34:12Z) - ECOLA: Enhanced Temporal Knowledge Embeddings with Contextualized
Language Representations [35.51427298619691]
テキストデータに埋め込まれた時間的知識の強化について検討する。
文脈型言語表現(ECOLA)を用いた時間的知識埋め込みを提案する。
実験の結果,ECOLAはリンク予測タスクにおいてHits@1に関して最大287%の相対的な改善を施し,時間的埋め込みモデルを大幅に向上することが示された。
論文 参考訳(メタデータ) (2022-03-17T20:08:25Z) - Complex Evolutional Pattern Learning for Temporal Knowledge Graph
Reasoning [60.94357727688448]
TKG推論は、歴史的KG配列を考えると、将来の潜在的な事実を予測することを目的としている。
進化のパターンは、長さの多様性と時間変化の2つの側面において複雑である。
本稿では,CEN(Complex Evolutional Network)と呼ばれる新しいモデルを提案する。CNN(Convolutional Neural Network)を用いて,長さの異なる進化パターンを扱う。
論文 参考訳(メタデータ) (2022-03-15T11:02:55Z) - An Empirical Study: Extensive Deep Temporal Point Process [61.14164208094238]
本稿では,非同期イベントシーケンスを時間的プロセスでモデル化することの課題と最近の研究を概観する。
本稿では,多種類のイベント間の関係を生かしたGranger因果発見フレームワークを提案する。
論文 参考訳(メタデータ) (2021-10-19T10:15:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。