論文の概要: TIE: A Framework for Embedding-based Incremental Temporal Knowledge Graph Completion

• arxiv url: http://arxiv.org/abs/2104.08419v1
• Date: Sat, 17 Apr 2021 01:40:46 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-24 08:14:14.021384
• Title: TIE: A Framework for Embedding-based Incremental Temporal Knowledge Graph Completion
• Title（参考訳）: TIE: 埋め込み型インクリメンタルな時間的知識グラフ補完フレームワーク
• Authors: Jiapeng Wu, Yishi Xu, Yingxue Zhang, Chen Ma, Mark Coates and Jackie Chi Kit Cheung
• Abstract要約: 時間的知識グラフ(TKG)の推論は、情報検索と意味検索にとって重要なタスクです。 近年のTKGコンプリート(TKGC)は,エンコーダデコーダフレームワークをタイムアウェアな符号化関数で拡張することによって実現されている。 本稿では,TKG表現学習,経験再現,時間正規化を組み合わせたTIE(Time-Aware Incremental Embedding)フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 37.76140466390048
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Reasoning in a temporal knowledge graph (TKG) is a critical task for information retrieval and semantic search. It is particularly challenging when the TKG is updated frequently. The model has to adapt to changes in the TKG for efficient training and inference while preserving its performance on historical knowledge. Recent work approaches TKG completion (TKGC) by augmenting the encoder-decoder framework with a time-aware encoding function. However, naively fine-tuning the model at every time step using these methods does not address the problems of 1) catastrophic forgetting, 2) the model's inability to identify the change of facts (e.g., the change of the political affiliation and end of a marriage), and 3) the lack of training efficiency. To address these challenges, we present the Time-aware Incremental Embedding (TIE) framework, which combines TKG representation learning, experience replay, and temporal regularization. We introduce a set of metrics that characterizes the intransigence of the model and propose a constraint that associates the deleted facts with negative labels. Experimental results on Wikidata12k and YAGO11k datasets demonstrate that the proposed TIE framework reduces training time by about ten times and improves on the proposed metrics compared to vanilla full-batch training. It comes without a significant loss in performance for any traditional measures. Extensive ablation studies reveal performance trade-offs among different evaluation metrics, which is essential for decision-making around real-world TKG applications.
• Abstract（参考訳）: 時間知識グラフ(TKG)における推論は情報検索と意味探索にとって重要な課題である。 TKGが頻繁に更新される場合、特に困難である。 モデルは、TKGの変化に適応して、効率的なトレーニングと推論を行い、そのパフォーマンスを歴史的な知識で保存する必要がある。 近年のTKGコンプリート(TKGC)は,エンコーダデコーダフレームワークをタイムアウェア符号化関数で拡張することによって実現されている。 しかし、これらの方法を用いて各時間段階ごとにモデルを微調整することは、1)破滅的な忘れ方、2)モデルが事実の変化を識別できないこと(例えば、結婚の政治的関係と終わり方の変化)、3)訓練効率の欠如といった問題に対処するものではない。 これらの課題に対処するために,tkg表現学習,経験リプレイ,時間正規化を組み合わせた時間対応インクリメンタル埋め込み(tie)フレームワークを提案する。 モデルの不透過性を特徴付ける指標のセットを導入し、削除した事実と否定的なラベルを関連付ける制約を提案する。 Wikidata12kとYAGO11kデータセットによる実験結果から,提案したTIEフレームワークはトレーニング時間を約10倍短縮し,バニラフルバッチトレーニングと比較して,提案した指標を改善した。 従来の測定方法では、パフォーマンスが大幅に低下することはない。 広範なアブレーション研究により、実世界のtkgアプリケーションに関する意思決定に不可欠な、異なる評価指標間のパフォーマンストレードオフが明らかになった。

関連論文リスト

• Adaptive Rentention & Correction for Continual Learning [114.5656325514408]
  連続学習における一般的な問題は、最新のタスクに対する分類層のバイアスである。 アダプティブ・リテンション・アンド・コレクション (ARC) のアプローチを例に挙げる。 ARCはCIFAR-100とImagenet-Rのデータセットで平均2.7%と2.6%のパフォーマンス向上を達成した。
  論文  参考訳（メタデータ） (2024-05-23T08:43:09Z)
• TILP: Differentiable Learning of Temporal Logical Rules on Knowledge Graphs [17.559644723196843]
  時間的論理規則学習のための差別化可能なフレームワークであるTILPを提案する。 本稿では、tKGにおける時間的特徴モデリング、例えば、再発、時間的秩序、一対の関係と期間の間隔、および学習過程に組み込んだ時間的特徴モデリングを提案する。 提案するフレームワークは,解釈可能な結果を提供しながら,ベースライン手法の性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2024-02-19T17:30:44Z)
• Generative Modeling of Regular and Irregular Time Series Data via Koopman VAEs [50.25683648762602]
  モデルの新しい設計に基づく新しい生成フレームワークであるKoopman VAEを紹介する。 クープマン理論に触発され、線形写像を用いて潜在条件事前力学を表現する。 KoVAEは、いくつかの挑戦的な合成および実世界の時系列生成ベンチマークにおいて、最先端のGANおよびVAEメソッドより優れている。
  論文  参考訳（メタデータ） (2023-10-04T07:14:43Z)
• History Repeats: Overcoming Catastrophic Forgetting For Event-Centric Temporal Knowledge Graph Completion [33.38304336898247]
  時間知識グラフ(TKG)の完成モデルは、トレーニング中にグラフ全体にアクセスすることに依存する。 TKGデータは、イベントが展開するにつれて徐々に受信され、時間とともに動的に非定常なデータ分布につながる。 本稿では,任意のTKG完了法に適用可能な一般的な連続トレーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-05-30T01:21:36Z)
• EvoKG: Jointly Modeling Event Time and Network Structure for Reasoning over Temporal Knowledge Graphs [25.408246523764085]
  時間的知識グラフ(TKG)に対する推論は、インテリジェントなサービスを提供する多くのアプリケーションにとって不可欠である。 本稿では、TKGに対する効果的な推論、すなわちイベント時間と進化するネットワーク構造をモデル化するために対処すべき2つの主要な問題を統一する問題定式化を提案する。 提案手法は,TKGの非定常的構造と時間的ダイナミクスを解析し,両タスクを効果的にモデル化する。
  論文  参考訳（メタデータ） (2022-02-15T18:49:53Z)
• Temporal Knowledge Graph Reasoning Based on Evolutional Representation Learning [59.004025528223025]
  将来の事実を予測する鍵は、歴史的事実を徹底的に理解することです。 TKGは実際には異なるタイムスタンプに対応するKGのシーケンスである。 グラフ畳み込みネットワーク(GCN)に基づく新しいリカレント進化ネットワークを提案する。
  論文  参考訳（メタデータ） (2021-04-21T05:12:21Z)
• T-GAP: Learning to Walk across Time for Temporal Knowledge Graph Completion [13.209193437124881]
  時間的知識グラフ(TKG)は、静的知識グラフとは対照的に、本質的に現実世界の知識の過渡的な性質を反映している。 エンコーダとデコーダにおける時間情報とグラフ構造の両方を最大限に活用するTKG補完の新しいモデルであるT-GAPを提案する。 本実験は、T-GAPが最先端のベースラインに対する優れた性能を達成し、目に見えないタイムスタンプによるクエリに有能に一般化することを示す。
  論文  参考訳（メタデータ） (2020-12-19T04:45:32Z)
• TeMP: Temporal Message Passing for Temporal Knowledge Graph Completion [45.588053447288566]
  時間的知識グラフ(TKGs)に欠落した事実を推測することは、基本的で困難な課題である。 本稿では、グラフニューラルネットワーク、時間力学モデル、データインプット、周波数ベースのゲーティング技術を組み合わせることで、これらの課題に対処するTemporal Message Passing(TeMP)フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-10-07T17:11:53Z)
• AdaS: Adaptive Scheduling of Stochastic Gradients [50.80697760166045]
  我々は、textit "knowledge gain" と textit "mapping condition" の概念を導入し、Adaptive Scheduling (AdaS) と呼ばれる新しいアルゴリズムを提案する。 実験によると、AdaSは派生した指標を用いて、既存の適応学習手法よりも高速な収束と優れた一般化、そして(b)いつトレーニングを中止するかを決定するための検証セットへの依存の欠如を示す。
  論文  参考訳（メタデータ） (2020-06-11T16:36:31Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。