論文の概要: A Generative Adaptive Replay Continual Learning Model for Temporal Knowledge Graph Reasoning
- arxiv url: http://arxiv.org/abs/2506.04083v1
- Date: Wed, 04 Jun 2025 15:44:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-05 21:20:14.429303
- Title: A Generative Adaptive Replay Continual Learning Model for Temporal Knowledge Graph Reasoning
- Title(参考訳): 時間的知識グラフ推論のための適応的再生連続学習モデル
- Authors: Zhiyu Zhang, Wei Chen, Youfang Lin, Huaiyu Wan,
- Abstract要約: 本稿では,歴史的実体分布表現を生成し,適応的に再生できるDeep Generative Adaptive Replay(DGAR)手法を提案する。
実験の結果, DGARは, 忘れの推論や緩和において, ベースラインを著しく上回っていることがわかった。
- 参考スコア(独自算出の注目度): 24.377657990045503
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent Continual Learning (CL)-based Temporal Knowledge Graph Reasoning (TKGR) methods focus on significantly reducing computational cost and mitigating catastrophic forgetting caused by fine-tuning models with new data. However, existing CL-based TKGR methods still face two key limitations: (1) They usually one-sidedly reorganize individual historical facts, while overlooking the historical context essential for accurately understanding the historical semantics of these facts; (2) They preserve historical knowledge by simply replaying historical facts, while ignoring the potential conflicts between historical and emerging facts. In this paper, we propose a Deep Generative Adaptive Replay (DGAR) method, which can generate and adaptively replay historical entity distribution representations from the whole historical context. To address the first challenge, historical context prompts as sampling units are built to preserve the whole historical context information. To overcome the second challenge, a pre-trained diffusion model is adopted to generate the historical distribution. During the generation process, the common features between the historical and current distributions are enhanced under the guidance of the TKGR model. In addition, a layer-by-layer adaptive replay mechanism is designed to effectively integrate historical and current distributions. Experimental results demonstrate that DGAR significantly outperforms baselines in reasoning and mitigating forgetting.
- Abstract(参考訳): 最近の連続学習(CL)に基づく時間知識グラフ推論(TKGR)手法は,計算コストの大幅な削減と,新しいデータを用いた微調整モデルによる破滅的な忘れの軽減に重点を置いている。
しかし、既存のCLベースのTKGR法は、(1)個々の歴史的事実を一方的に再編成する一方で、これらの事実の歴史的意味論を正確に理解するために必要な歴史的文脈を見落とし、(2)歴史的事実を単に再現することで歴史的知識を保存し、歴史的事実と新興事実の潜在的な矛盾を無視する、という2つの重要な制限に直面している。
本稿では、歴史的文脈全体から歴史的実体分布表現を生成し、適応的に再生できるDeep Generative Adaptive Replay(DGAR)手法を提案する。
最初の課題に対処するため、歴史的文脈情報を全て保存するためにサンプリングユニットが構築され、歴史的文脈が促される。
第2の課題を克服するために、歴史分布を生成するために事前学習した拡散モデルを採用する。
生成過程において,TKGRモデルの指導の下で,歴史的分布と現在の分布の共通性を向上する。
さらに、歴史的および現在の分布を効果的に統合するために、レイヤ・バイ・レイヤ適応再生機構が設計されている。
実験の結果, DGARは, 忘れの推論や緩和において, ベースラインを著しく上回っていることがわかった。
関連論文リスト
- History-Guided Video Diffusion [61.03681839276652]
ビデオ拡散は、可変数のコンテキストフレーム上に設定されたビデオ条件を生成し、総称してヒストリと呼ばれる。
可変長履歴を導く上で重要な課題は、固定サイズの条件付けのみをサポートするアーキテクチャと、CFGスタイルの履歴ドロップアウトが不十分な経験的観察である。
DFoTによって一意に実現されたガイダンス手法であるHistory Guidanceを紹介する。
論文 参考訳(メタデータ) (2025-02-10T18:44:25Z) - CSTA: Spatial-Temporal Causal Adaptive Learning for Exemplar-Free Video Class-Incremental Learning [62.69917996026769]
クラスインクリメンタルな学習課題は、空間的外観と時間的行動の関与の両方を学習し、保存することを必要とする。
本稿では,各クラス固有のインクリメンタル情報要件を調整し,新しいクラスパターンを学習するためのアダプタを分離するフレームワークを提案する。
異なる種類の情報間のインクリメントと記憶の衝突を減らすために,因果補償機構を提案する。
論文 参考訳(メタデータ) (2025-01-13T11:34:55Z) - Historically Relevant Event Structuring for Temporal Knowledge Graph Reasoning [4.705577684291238]
時間的知識グラフ(TKG)推論は、タイムライン上に配布されたスナップショット内の履歴情報を通じてイベントを予測することに焦点を当てる。
我々は、textbfHistorally textbfRelevant textbfEvents textbfStructuring (HisRES) に対する革新的なTKG推論手法を提案する。
論文 参考訳(メタデータ) (2024-05-17T08:33:43Z) - Local-Global History-aware Contrastive Learning for Temporal Knowledge
Graph Reasoning [25.497749629866757]
時間的知識グラフのためのブルーローカル・ブルーグロバル履歴対応ブルーコントラストブルーLモデル(ブルーLogCL)を提案する。
最初の課題として、LogCLは、ローカルおよびグローバルな歴史的事実エンコーダに適用されるエンティティ対応の注意機構を提案する。
後者の問題のために、LogCLは4つの歴史的クエリコントラストパターンを設計し、モデルの堅牢性を効果的に改善した。
論文 参考訳(メタデータ) (2023-12-04T03:27:01Z) - Exploring the Limits of Historical Information for Temporal Knowledge
Graph Extrapolation [59.417443739208146]
本稿では,歴史的コントラスト学習の新しい学習枠組みに基づくイベント予測モデルを提案する。
CENETは、最も潜在的なエンティティを識別するために、歴史的および非歴史的依存関係の両方を学ぶ。
提案したモデルを5つのベンチマークグラフで評価する。
論文 参考訳(メタデータ) (2023-08-29T03:26:38Z) - Continual Face Forgery Detection via Historical Distribution Preserving [88.66313037412846]
CFFD(Continuous Face Forgery Detection)に焦点をあてる。
CFFDは、以前の攻撃を忘れずに、新しい偽造攻撃から効率的に学習することを目指している。
評価実験の結果,提案手法は最先端の競合よりも優れていた。
論文 参考訳(メタデータ) (2023-08-11T16:37:31Z) - Temporal Knowledge Graph Reasoning with Historical Contrastive Learning [24.492458924487863]
我々はContrastive Event Network(CENET)と呼ばれる新しいイベント予測モデルを提案する。
CENETは、ヒストリと非ヒストリの両方の依存関係を学び、与えられたクエリに最もよくマッチする最も潜在的なエンティティを識別する。
推論プロセスの間、CENETは最終的な結果を生成するためにマスクベースの戦略を採用している。
論文 参考訳(メタデータ) (2022-11-20T08:32:59Z) - Large Language Models with Controllable Working Memory [64.71038763708161]
大規模言語モデル(LLM)は、自然言語処理(NLP)の一連のブレークスルーをもたらした。
これらのモデルをさらに切り離すのは、事前訓練中に内在する膨大な量の世界的知識だ。
モデルの世界知識が、文脈で提示された事実情報とどのように相互作用するかは、まだ解明されていない。
論文 参考訳(メタデータ) (2022-11-09T18:58:29Z) - Recent Developments Combining Ensemble Smoother and Deep Generative
Networks for Facies History Matching [58.720142291102135]
本研究は、ファシズムモデルのための連続パラメータ化を構築するためのオートエンコーダネットワークの利用に焦点を当てる。
本稿では,VAE,GAN,Wasserstein GAN,変分自動符号化GAN,サイクルGANの主成分分析(PCA),転送スタイルネットワークのPCA,スタイル損失のVAEの7種類の定式化をベンチマークする。
論文 参考訳(メタデータ) (2020-05-08T21:32:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。