論文の概要: Lifelong Embedding Learning and Transfer for Growing Knowledge Graphs
- arxiv url: http://arxiv.org/abs/2211.15845v2
- Date: Mon, 10 Apr 2023 02:32:18 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-11 21:22:01.040387
- Title: Lifelong Embedding Learning and Transfer for Growing Knowledge Graphs
- Title（参考訳）: 成長する知識グラフのための生涯埋め込み学習と伝達
- Authors: Yuanning Cui and Yuxin Wang and Zequn Sun and Wenqiang Liu and Yiqiao
Jiang and Kexin Han and Wei Hu
- Abstract要約: 既存の知識グラフ埋め込みモデルは、主に静的KGに焦点を当てている。
新たな事実やそれまで目に見えない存在や関係が絶えず現れ、成長を通じて新しい知識を素早く学び、伝達できる埋め込みモデルが必要になります。
我々は,KGのスナップショットをスクラッチから学習することなく,学習の知識伝達と保持を考察する。
提案モデルでは,学習と更新のマスク付きKGオートエンコーダと,学習知識を新たなエンティティや関係埋め込みに注入するための埋め込み転送戦略と,破滅的忘れを避けるための埋め込み正規化手法を備える。
- 参考スコア（独自算出の注目度）: 22.88552158340435
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Existing knowledge graph (KG) embedding models have primarily focused on
static KGs. However, real-world KGs do not remain static, but rather evolve and
grow in tandem with the development of KG applications. Consequently, new facts
and previously unseen entities and relations continually emerge, necessitating
an embedding model that can quickly learn and transfer new knowledge through
growth. Motivated by this, we delve into an expanding field of KG embedding in
this paper, i.e., lifelong KG embedding. We consider knowledge transfer and
retention of the learning on growing snapshots of a KG without having to learn
embeddings from scratch. The proposed model includes a masked KG autoencoder
for embedding learning and update, with an embedding transfer strategy to
inject the learned knowledge into the new entity and relation embeddings, and
an embedding regularization method to avoid catastrophic forgetting. To
investigate the impacts of different aspects of KG growth, we construct four
datasets to evaluate the performance of lifelong KG embedding. Experimental
results show that the proposed model outperforms the state-of-the-art inductive
and lifelong embedding baselines.
- Abstract（参考訳）: 既存の知識グラフ(KG)埋め込みモデルは、主に静的KGに焦点を当てている。
しかし、現実世界のKGは静的にとどまらず、KGアプリケーションの開発とともに進化し成長する。
その結果、新しい事実とそれまで見つからなかった実体と関係が継続的に出現し、成長を通じて新しい知識を素早く学び、伝達できる埋め込みモデルが必要となる。
そこで本論文では,KG 埋め込みの領域拡大,すなわち寿命の長い KG 埋め込みについて検討する。
我々は,KGのスナップショットをスクラッチから学習することなく,学習の知識伝達と保持を考察する。
提案モデルでは,学習と更新のマスク付きKGオートエンコーダと,学習知識を新たなエンティティや関係埋め込みに注入するための埋め込み転送戦略と,破滅的忘れを避けるための埋め込み正規化手法を備える。
KG成長の異なる側面が与える影響を調べるために, 寿命の長いKG埋め込みの性能を評価するために, 4つのデータセットを構築した。
実験結果から,提案モデルが最先端のインダクティブおよび寿命の埋込みベースラインより優れていることが示された。
関連論文リスト
- KG-FIT: Knowledge Graph Fine-Tuning Upon Open-World Knowledge [63.19837262782962]
知識グラフ埋め込み(KGE)技術は、知識グラフ内の実体と関係のコンパクトな表現を学習するために重要である。
本研究では、エンティティクラスタのセマンティックコヒーレントな階層構造を構築するKG-FITを紹介する。
ベンチマークデータセットFB15K-237、YAGO3-10、PrimeKGの実験は、最先端の訓練済み言語モデルに基づく手法よりもKG-FITの方が優れていることを示した。
論文 参考訳（メタデータ） (2024-05-26T03:04:26Z) - Recognizing Unseen Objects via Multimodal Intensive Knowledge Graph
Propagation [68.13453771001522]
画像の領域と対応するセマンティック埋め込みとをマッチングする多モード集中型ZSLフレームワークを提案する。
我々は、大規模な実世界のデータに基づいて、広範囲な実験を行い、そのモデルを評価する。
論文 参考訳（メタデータ） (2023-06-14T13:07:48Z) - Joint Pre-training and Local Re-training: Transferable Representation
Learning on Multi-source Knowledge Graphs [17.78174810566248]
我々は、リンクされたマルチソースKG上で大規模な教師KG埋め込みモデルを事前訓練し、課題固有のKGのための学生モデルを学ぶための知識を蒸留する。
フレームワークの有効性と効率を実証するために、広範な実験を行う。
論文 参考訳（メタデータ） (2023-06-05T08:11:59Z) - Collective Knowledge Graph Completion with Mutual Knowledge Distillation [11.922522192224145]
我々は,異なるKGからの集合的知識の最大化に焦点をあてるマルチKG完備化の問題について検討する。
CKGC-CKDと呼ばれる,個々のKGと大きな融合KGの両方で,関係対応グラフ畳み込みネットワークエンコーダモデルを用いる新しい手法を提案する。
複数言語データセットによる実験結果から,本手法はKGCタスクにおけるすべての最先端モデルより優れていることが示された。
論文 参考訳（メタデータ） (2023-05-25T09:49:40Z) - BertNet: Harvesting Knowledge Graphs with Arbitrary Relations from
Pretrained Language Models [65.51390418485207]
本稿では,事前学習したLMから任意の関係を持つ大規模KGを抽出する手法を提案する。
関係定義の最小限の入力により、アプローチは膨大な実体対空間を効率的に探索し、多様な正確な知識を抽出する。
我々は、異なるLMから400以上の新しい関係を持つKGを収穫するためのアプローチを展開している。
論文 参考訳（メタデータ） (2022-06-28T19:46:29Z) - Meta-Learning Based Knowledge Extrapolation for Knowledge Graphs in the
Federated Setting [43.85991094675398]
本稿では,新たな知識グラフ(KG)をフェデレートした環境に組み込むための知識補間問題について検討する。
この問題では、既存のKGでトレーニングされたモデルが、未知の実体と関係を持つ新しいKGを組み込む必要がある。
メタラーニング設定では、既存のKG上に一連のタスクをサンプリングし、新興KG上のリンク予測タスクを模倣する。
サンプルタスクに基づいてグラフニューラルネットワークフレームワークをメタトレーニングし,構造情報に基づく未知のコンポーネントの機能の構築と,それらに対する出力埋め込みを実現する。
論文 参考訳（メタデータ） (2022-05-10T06:27:32Z) - Standing on the Shoulders of Predecessors: Meta-Knowledge Transfer for
Knowledge Graphs [8.815143812846392]
このような知識をメタ知識と呼び、構築された(ソース)KGから新しい(ターゲット)KGへメタ知識を転送する問題を参照する。
MorsEは知識グラフ埋め込みを通じてメタ知識を表現し、メタ学習によってメタ知識を学ぶ。
MorsEはKG間のメタ知識を効果的に学習し、伝達することができ、既存の最先端モデルより優れている。
論文 参考訳（メタデータ） (2021-10-27T04:57:16Z) - Learning Intents behind Interactions with Knowledge Graph for
Recommendation [93.08709357435991]
知識グラフ(KG)は、推薦システムにおいてますます重要な役割を果たす。
既存のGNNベースのモデルは、きめ細かいインテントレベルでのユーザ項目関係の特定に失敗します。
本稿では,新しいモデルである知識グラフベースインテントネットワーク(kgin)を提案する。
論文 参考訳（メタデータ） (2021-02-14T03:21:36Z) - Multilingual Knowledge Graph Completion via Ensemble Knowledge Transfer [43.453915033312114]
知識グラフ(KG)に欠けている事実を予測することは、知識ベースの構築と推論において重要なタスクである。
KEnSは、学習と知識のアンサンブルを複数の言語固有のKGに組み込むための新しいフレームワークである。
5つの実世界の言語固有のKGの実験により、KEnSはKG完了に関する最先端の手法を一貫して改善していることが示された。
論文 参考訳（メタデータ） (2020-10-07T04:54:03Z) - All About Knowledge Graphs for Actions [82.39684757372075]
ゼロショットと少数ショットのアクション認識に使用できる知識グラフ(KG)の理解を深める。
KGsの3つの異なる構成機構について検討した。
異なる実験装置に対する異なるKGの影響を広範囲に解析する。
論文 参考訳（メタデータ） (2020-08-28T01:44:01Z) - Generative Adversarial Zero-Shot Relational Learning for Knowledge
Graphs [96.73259297063619]
我々は、この厄介なキュレーションを解放するために、新しい定式化、ゼロショット学習を考える。
新たに追加された関係について,テキスト記述から意味的特徴を学習しようと試みる。
我々は,GAN(Generative Adrial Networks)を活用し,テキストと知識グラフ領域の接続を確立する。
論文 参考訳（メタデータ） (2020-01-08T01:19:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。