論文の概要: Revisiting Catastrophic Forgetting in Continual Knowledge Graph Embedding
- arxiv url: http://arxiv.org/abs/2604.19401v1
- Date: Tue, 21 Apr 2026 12:26:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-22 22:41:49.763512
- Title: Revisiting Catastrophic Forgetting in Continual Knowledge Graph Embedding
- Title(参考訳): 連続的な知識グラフ埋め込みにおける破滅的予測の再検討
- Authors: Gerard Pons, Carlos Escolano, Besim Bilalli, Anna Queralt,
- Abstract要約: 知識グラフ埋め込み(KGE)は、知識グラフ(KG)よりも幅広い下流タスクをサポートする。
現在のCKGEアプローチは、主に既存の埋め込みの変更を制限することで破滅的な忘れに対処している。
新しいエンティティが導入されると、それらの埋め込みは以前に学んだエンティティに干渉し、モデルが事前に正しい答えの代わりにそれらを予測する。
- 参考スコア(独自算出の注目度): 2.422410293747519
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Knowledge Graph Embeddings (KGEs) support a wide range of downstream tasks over Knowledge Graphs (KGs). In practice, KGs evolve as new entities and facts are added, motivating Continual Knowledge Graph Embedding (CKGE) methods that update embeddings over time. Current CKGE approaches address catastrophic forgetting (i.e., the performance degradation on previously learned tasks) primarily by limiting changes to existing embeddings. However, we show that this view is incomplete. When new entities are introduced, their embeddings can interfere with previously learned ones, causing the model to predict them in place of previously correct answers. This phenomenon, which we call entity interference, has been largely overlooked and is not accounted for in current CKGE evaluation protocols. As a result, the assessment of catastrophic forgetting becomes misleading, and CKGE methods performance is systematically overestimated. To address this issue, we introduce a corrected CKGE evaluation protocol that accounts for entity interference. Through experiments on multiple benchmarks, we show that ignoring this effect can lead to performance overestimation of up to 25%, particularly in scenarios with significant entity growth. We further analyze how different CKGE methods and KGE models are affected by the different sources of forgetting, and introduce a catastrophic forgetting metric tailored to CKGE.
- Abstract(参考訳): 知識グラフ埋め込み(KGE)は、知識グラフ(KG)よりも幅広い下流タスクをサポートする。
実際には、KGは新たなエンティティとファクトが追加されるにつれて進化し、組み込みを更新する継続知識グラフ埋め込み(CKGE)メソッドを動機付けている。
現在のCKGEアプローチは、主に既存の埋め込みの変更を制限することで、破滅的な忘れ(例えば、以前に学習したタスクのパフォーマンス低下)に対処する。
しかし、この見解は不完全である。
新しいエンティティが導入されると、それらの埋め込みは以前に学んだエンティティに干渉し、モデルが事前に正しい答えの代わりにそれらを予測する。
私たちがエンティティ干渉と呼ぶこの現象は、ほとんど見過ごされ、現在のCKGE評価プロトコルでは考慮されていない。
その結果、破滅的忘れの評価は誤解を招くことになり、CKGE法の性能は体系的に過大評価される。
この問題に対処するために、エンティティの干渉を考慮に入れた修正CKGE評価プロトコルを導入する。
複数のベンチマークの実験を通して、この効果を無視すると最大25%の性能過大評価につながることが示される。
さらに, CKGE法とKGEモデルの違いが, 忘れる要因によってどのように影響するかを解析し, CKGEに適合した破滅的な忘れる基準を導入する。
関連論文リスト
- Learning to Evolve: Bayesian-Guided Continual Knowledge Graph Embedding [20.479556500981044]
連続知識グラフ埋め込み(CKGE)に直面する主な課題は、モデルが「破滅的な忘れ物」になりがちであることである。
この問題を効果的に軽減するために,新しいCKGEモデルBAKEを提案する。
論文 参考訳(メタデータ) (2025-08-04T13:46:33Z) - SINDER: Repairing the Singular Defects of DINOv2 [61.98878352956125]
大規模なデータセットでトレーニングされたビジョントランスフォーマーモデルは、抽出したパッチトークンにアーティファクトを表示することが多い。
本稿では,小さなデータセットのみを用いて構造欠陥を補正するスムーズなスムーズな正規化を提案する。
論文 参考訳(メタデータ) (2024-07-23T20:34:23Z) - Performance Evaluation of Knowledge Graph Embedding Approaches under Non-adversarial Attacks [1.6986898305640263]
我々は、5つの最先端知識グラフ埋め込み(KGE)アルゴリズムの性能に対する非敵攻撃の影響を評価する。
ラベル摂動は、KGEの性能に強い影響を与え、その後、中程度で低効果のグラフを持つパラメータ摂動が続く。
論文 参考訳(メタデータ) (2024-07-09T13:42:14Z) - Counterfactual Reasoning with Knowledge Graph Embeddings [3.6311338398148534]
知識グラフ埋め込み (KGEs) は、本来は事実を推測するために開発されたが、未完成の知識リポジトリに欠けている事実を推測するために開発された。
本稿では,知識グラフの補完と,新たなタスクCFKGRによる反実的推論をリンクする。
論文 参考訳(メタデータ) (2024-03-11T17:21:39Z) - CausE: Towards Causal Knowledge Graph Embedding [13.016173217017597]
知識グラフ埋め込み(KGE)は、知識グラフ(KG)の連続ベクトル空間への実体と関係を表現することに焦点を当てている。
我々はKGEの新しいパラダイムを因果関係と非絡み込みの文脈で構築する。
本稿では,CausE(Causality Enhanced Knowledge Graph Embedding)フレームワークを提案する。
論文 参考訳(メタデータ) (2023-07-21T14:25:39Z) - GIF: A General Graph Unlearning Strategy via Influence Function [63.52038638220563]
Graph Influence Function (GIF)は、削除されたデータにおける$epsilon$-massの摂動に応答してパラメータの変化を効率的に正確に推定できる、モデルに依存しない未学習の手法である。
我々は,4つの代表的GNNモデルと3つのベンチマークデータセットについて広範な実験を行い,未学習の有効性,モデルの有用性,未学習効率の観点からGIFの優位性を正当化する。
論文 参考訳(メタデータ) (2023-04-06T03:02:54Z) - Studying How to Efficiently and Effectively Guide Models with Explanations [52.498055901649025]
「モデルガイダンス」とは「正しい理由のために正しい」ことを保証するためにモデルの説明を規則化する考え方である。
PASCAL VOC 2007 および MS COCO 2014 データセット上で, 各種損失関数, 帰属方法, モデル, 誘導深度について詳細な評価を行う。
具体的には、一般的に使用されるセグメンテーションマスクよりもはるかに安価で入手可能なバウンディングボックスアノテーションを用いてモデルをガイドする。
論文 参考訳(メタデータ) (2023-03-21T15:34:50Z) - GraphCoCo: Graph Complementary Contrastive Learning [65.89743197355722]
グラフコントラスト学習(GCL)は、手作業によるアノテーションの監督なしに、グラフ表現学習(GRL)において有望な性能を示した。
本稿では,この課題に対処するため,グラフココというグラフ補完型コントラスト学習手法を提案する。
論文 参考訳(メタデータ) (2022-03-24T02:58:36Z) - Rethinking Graph Convolutional Networks in Knowledge Graph Completion [83.25075514036183]
グラフ畳み込みネットワーク(GCN)は知識グラフ補完(KGC)においてますます人気が高まっている。
本稿では,代表的なGCNベースのKGCモデルを構築し,GCNのどの要因がKGCに重要なのかを明らかにする。
本稿では,既存のKGEモデルに線形変換されたエンティティ埋め込みを組み込む,LTE-KGEというシンプルなフレームワークを提案する。
論文 参考訳(メタデータ) (2022-02-08T11:36:18Z) - Evaluating Prediction-Time Batch Normalization for Robustness under
Covariate Shift [81.74795324629712]
我々は予測時間バッチ正規化と呼び、共変量シフト時のモデル精度とキャリブレーションを大幅に改善する。
予測時間バッチ正規化は、既存の最先端アプローチに相補的な利点をもたらし、ロバスト性を向上させることを示します。
この手法は、事前トレーニングと併用して使用すると、さまざまな結果が得られるが、より自然なタイプのデータセットシフトでは、パフォーマンスが良くないようだ。
論文 参考訳(メタデータ) (2020-06-19T05:08:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。