論文の概要: Collective Knowledge Graph Completion with Mutual Knowledge Distillation
- arxiv url: http://arxiv.org/abs/2305.15895v1
- Date: Thu, 25 May 2023 09:49:40 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-26 16:08:16.771965
- Title: Collective Knowledge Graph Completion with Mutual Knowledge Distillation
- Title(参考訳): 相互知識蒸留による集合的知識グラフ補完
- Authors: Weihang Zhang, Ovidiu Serban, Jiahao Sun, Yi-ke Guo
- Abstract要約: 我々は,異なるKGからの集合的知識の最大化に焦点をあてるマルチKG完備化の問題について検討する。
CKGC-CKDと呼ばれる,個々のKGと大きな融合KGの両方で,関係対応グラフ畳み込みネットワークエンコーダモデルを用いる新しい手法を提案する。
複数言語データセットによる実験結果から,本手法はKGCタスクにおけるすべての最先端モデルより優れていることが示された。
- 参考スコア(独自算出の注目度): 11.922522192224145
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Knowledge graph completion (KGC), the task of predicting missing information
based on the existing relational data inside a knowledge graph (KG), has drawn
significant attention in recent years. However, the predictive power of KGC
methods is often limited by the completeness of the existing knowledge graphs
from different sources and languages. In monolingual and multilingual settings,
KGs are potentially complementary to each other. In this paper, we study the
problem of multi-KG completion, where we focus on maximizing the collective
knowledge from different KGs to alleviate the incompleteness of individual KGs.
Specifically, we propose a novel method called CKGC-CKD that uses
relation-aware graph convolutional network encoder models on both individual
KGs and a large fused KG in which seed alignments between KGs are regarded as
edges for message propagation. An additional mutual knowledge distillation
mechanism is also employed to maximize the knowledge transfer between the
models of "global" fused KG and the "local" individual KGs. Experimental
results on multilingual datasets have shown that our method outperforms all
state-of-the-art models in the KGC task.
- Abstract(参考訳): 知識グラフ補完(KGC)は,知識グラフ内の既存の関係データに基づいて行方不明情報を予測するタスクであり,近年注目されている。
しかしながら、KGC手法の予測力は、異なるソースや言語からの既存の知識グラフの完全性によって制限されることが多い。
単言語および多言語環境では、kgは互いに補完する可能性がある。
本稿では,異なるKGからの集合的知識を最大化し,個々のKGの不完全性を緩和する多KG完備化の問題について検討する。
具体的には、KG間のシードアライメントをメッセージ伝達のエッジと見なすような、個々のKGと大きな融合KG上の関係対応グラフ畳み込みネットワークエンコーダモデルを用いたCKGC-CKDという新しい手法を提案する。
また、「グローバル」融合kgモデルと「ローカル」個別kg間の知識伝達を最大化するために、追加の相互知識蒸留機構も用いられる。
複数言語データセットによる実験結果から,本手法はKGCタスクにおけるすべての最先端モデルより優れていることが示された。
関連論文リスト
- Distill-SynthKG: Distilling Knowledge Graph Synthesis Workflow for Improved Coverage and Efficiency [59.6772484292295]
大規模言語モデル(LLM)によって生成される知識グラフ(KG)は、検索・拡張生成(RAG)アプリケーションにとってますます価値が増している。
既存のKG抽出法は、大規模コーパスの処理に非効率なプロンプトベースのアプローチに依存している。
LLMに基づく多段階文書レベルのKGワークフローであるSynthKGを提案する。
我々はまた、RAGのための新しいグラフベースの検索フレームワークを設計する。
論文 参考訳(メタデータ) (2024-10-22T00:47:54Z) - KG-FIT: Knowledge Graph Fine-Tuning Upon Open-World Knowledge [63.19837262782962]
知識グラフ埋め込み(KGE)技術は、知識グラフ内の実体と関係のコンパクトな表現を学習するために重要である。
本研究では、エンティティクラスタのセマンティックコヒーレントな階層構造を構築するKG-FITを紹介する。
ベンチマークデータセットFB15K-237、YAGO3-10、PrimeKGの実験は、最先端の訓練済み言語モデルに基づく手法よりもKG-FITの方が優れていることを示した。
論文 参考訳(メタデータ) (2024-05-26T03:04:26Z) - Generate-on-Graph: Treat LLM as both Agent and KG in Incomplete Knowledge Graph Question Answering [87.67177556994525]
我々は、知識グラフ(KG)を探索しながら、新しい実写トリプルを生成する、Generate-on-Graph(GoG)と呼ばれる学習自由な手法を提案する。
GoGはIKGQAでLLMをエージェントとKGの両方として扱うThinking-Searching-Generatingフレームワークを通じて推論を行う。
論文 参考訳(メタデータ) (2024-04-23T04:47:22Z) - FedMKGC: Privacy-Preserving Federated Multilingual Knowledge Graph
Completion [21.4302940596294]
知識グラフ補完(KGC)は、知識グラフ(KG)の欠落事実を予測することを目的とする。
KG間で生データを転送することに依存する従来の方法は、プライバシー上の懸念を提起している。
我々は、生データ交換やエンティティアライメントを必要とせずに、複数のKGから暗黙的に知識を集約する新しい連合学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-12-17T08:09:27Z) - A Survey On Few-shot Knowledge Graph Completion with Structural and
Commonsense Knowledge [3.4012007729454807]
FKGC(Few-shot KG completion)は、グラフ表現学習と少数ショット学習の長所を必要とする。
本稿では、一般的に使われているKGとCKGのFKGC課題を紹介する。
そこで,本研究では,KGのタイプと手法の観点から,既存の作品を体系的に分類し,要約する。
論文 参考訳(メタデータ) (2023-01-03T16:00:09Z) - Collaborative Knowledge Graph Fusion by Exploiting the Open Corpus [59.20235923987045]
知識表現の質を維持しながら、新たに収穫した3倍の知識グラフを豊かにすることは困難である。
本稿では,付加コーパスから得られる情報を用いてKGを精製するシステムを提案する。
論文 参考訳(メタデータ) (2022-06-15T12:16:10Z) - Towards Robust Knowledge Graph Embedding via Multi-task Reinforcement
Learning [44.38215560989223]
既存の知識グラフ埋め込み法の多くは、KGの3つの事実はすべて正しいと仮定する。
これはKGの低品質かつ信頼性の低い表現につながる。
本稿では,ノイズの多いデータ問題を大幅に軽減できる汎用マルチタスク強化学習フレームワークを提案する。
論文 参考訳(メタデータ) (2021-11-11T08:51:37Z) - FedE: Embedding Knowledge Graphs in Federated Setting [21.022513922373207]
マルチソースKGは、実際の知識グラフアプリケーションでは一般的な状況である。
データプライバシと感度のため、関連する知識グラフのセットは、異なる知識グラフからデータを集めるだけで、お互いのKGCを補完することはできない。
我々は,局所的な更新を集約して知識グラフの埋め込みを学習することに焦点を当てた,知識グラフ埋め込みフレームワークであるフェデレーション(Federated Knowledge Graph Embedding)を提案する。
論文 参考訳(メタデータ) (2020-10-24T11:52:05Z) - Multilingual Knowledge Graph Completion via Ensemble Knowledge Transfer [43.453915033312114]
知識グラフ(KG)に欠けている事実を予測することは、知識ベースの構築と推論において重要なタスクである。
KEnSは、学習と知識のアンサンブルを複数の言語固有のKGに組み込むための新しいフレームワークである。
5つの実世界の言語固有のKGの実験により、KEnSはKG完了に関する最先端の手法を一貫して改善していることが示された。
論文 参考訳(メタデータ) (2020-10-07T04:54:03Z) - On the Role of Conceptualization in Commonsense Knowledge Graph
Construction [59.39512925793171]
アトミックやASERのような常識知識グラフ(CKG)は、従来のKGと大きく異なる。
本稿では, CKG の概念化手法を紹介し, テキストに記述されたエンティティを特定の概念のインスタンスとみなすか, あるいはその逆を例に紹介する。
提案手法は, 可塑性三重項を効果的に同定し, 新たなノードの3重項と, 多様性と新規性の両端項によってKGを拡張できる。
論文 参考訳(メタデータ) (2020-03-06T14:35:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。