論文の概要: Joint Language Semantic and Structure Embedding for Knowledge Graph Completion

• arxiv url: http://arxiv.org/abs/2209.08721v1
• Date: Mon, 19 Sep 2022 02:41:02 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-20 15:37:55.648448
• Title: Joint Language Semantic and Structure Embedding for Knowledge Graph Completion
• Title（参考訳）: 知識グラフ補完のための共同言語意味と構造埋め込み
• Authors: Jianhao Shen, Chenguang Wang, Linyuan Gong, Dawn Song
• Abstract要約: 本稿では,知識三重項の自然言語記述と構造情報とを共同で組み込むことを提案する。 本手法は,学習済み言語モデルを微調整することで,完了作業のための知識グラフを埋め込む。 各種知識グラフベンチマーク実験により,本手法の最先端性能を実証した。
• 参考スコア（独自算出の注目度）: 66.15933600765835
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The task of completing knowledge triplets has broad downstream applications. Both structural and semantic information plays an important role in knowledge graph completion. Unlike previous approaches that rely on either the structures or semantics of the knowledge graphs, we propose to jointly embed the semantics in the natural language description of the knowledge triplets with their structure information. Our method embeds knowledge graphs for the completion task via fine-tuning pre-trained language models with respect to a probabilistic structured loss, where the forward pass of the language models captures semantics and the loss reconstructs structures. Our extensive experiments on a variety of knowledge graph benchmarks have demonstrated the state-of-the-art performance of our method. We also show that our method can significantly improve the performance in a low-resource regime, thanks to the better use of semantics. The code and datasets are available at https://github.com/pkusjh/LASS.
• Abstract（参考訳）: 知識のトリプレットを完遂するタスクは、幅広い下流の応用がある。 構造情報と意味情報は知識グラフの完成に重要な役割を果たしている。 ナレッジグラフの構造やセマンティクスに依存する従来のアプローチとは異なり、ナレッジトリプレットの自然言語記述にそのセマンティクスを構造情報と共に組み込むように提案する。 本手法は,言語モデルの前方通過がセマンティクスを捉え,その損失が構造を再構築する確率的構造損失に対して,学習済み言語モデルを微調整することで,完了タスクの知識グラフを埋め込む。 各種知識グラフベンチマークに関する広範な実験により,本手法の最先端性能が実証された。 また,本手法はセマンティクスの有効利用により,低リソース方式の性能を著しく向上させることができることを示す。 コードとデータセットはhttps://github.com/pkusjh/lassで入手できる。

関連論文リスト

• CodeKGC: Code Language Model for Generative Knowledge Graph Construction [46.220237225553234]
  コードのような構造化データに基づいて訓練された大規模な生成言語モデルは、構造予測や推論タスクのために自然言語を理解する素晴らしい能力を示してきた。 知識グラフ内の意味構造を効果的に活用するスキーマ対応プロンプトを開発した。 実験結果から,提案手法はベースラインと比較してベンチマークデータセットの性能が向上することが示唆された。
  論文  参考訳（メタデータ） (2023-04-18T15:12:34Z)
• Schema-aware Reference as Prompt Improves Data-Efficient Knowledge Graph Construction [57.854498238624366]
  本稿では,データ効率のよい知識グラフ構築のためのRAP(Schema-Aware Reference As Prompt)の検索手法を提案する。 RAPは、人間の注釈付きおよび弱教師付きデータから受け継いだスキーマと知識を、各サンプルのプロンプトとして動的に活用することができる。
  論文  参考訳（メタデータ） (2022-10-19T16:40:28Z)
• Semantic TrueLearn: Using Semantic Knowledge Graphs in Recommendation Systems [22.387120578306277]
  本研究は,意味的関連性を取り入れた国家認識型教育レコメンデーションシステムの構築を目指している。 本稿では,ウィキペディアリンクグラフを用いた学習リソースにおける知識コンポーネント間の意味的関連性を利用した,新しい学習モデルを提案する。 大規模データセットを用いた実験により,TrueLearnアルゴリズムの新たなセマンティックバージョンが,予測性能の面で統計的に有意な改善を実現していることが示された。
  論文  参考訳（メタデータ） (2021-12-08T16:23:27Z)
• JAKET: Joint Pre-training of Knowledge Graph and Language Understanding [73.43768772121985]
  本稿では,知識グラフと言語の両方をモデル化する新しい事前学習フレームワークであるJAKETを提案する。 知識モジュールと言語モジュールは相互に支援するための重要な情報を提供する。 我々の設計により、事前学習されたモデルは、新しいドメインの見知らぬ知識グラフに容易に適応できる。
  論文  参考訳（メタデータ） (2020-10-02T05:53:36Z)
• CoLAKE: Contextualized Language and Knowledge Embedding [81.90416952762803]
  文脈型言語と知識埋め込み(CoLAKE)を提案する。 CoLAKEは、言語と知識の両方の文脈化された表現を、拡張された目的によって共同で学習する。 知識駆動タスク、知識探索タスク、言語理解タスクについて実験を行う。
  論文  参考訳（メタデータ） (2020-10-01T11:39:32Z)
• Structure-Augmented Text Representation Learning for Efficient Knowledge Graph Completion [53.31911669146451]
  人為的な知識グラフは、様々な自然言語処理タスクに重要な支援情報を提供する。 これらのグラフは通常不完全であり、自動補完を促す。 グラフ埋め込みアプローチ(例えばTransE)は、グラフ要素を密度の高い埋め込みに表現することで構造化された知識を学ぶ。 テキストエンコーディングアプローチ(KG-BERTなど)は、グラフトリプルのテキストとトリプルレベルの文脈化表現を利用する。
  論文  参考訳（メタデータ） (2020-04-30T13:50:34Z)
• Exploiting Structured Knowledge in Text via Graph-Guided Representation Learning [73.0598186896953]
  本稿では、知識グラフからのガイダンスを用いて、生テキスト上で学習する2つの自己教師型タスクを提案する。 エンティティレベルのマスキング言語モデルに基づいて、最初のコントリビューションはエンティティマスキングスキームです。 既存のパラダイムとは対照的に,本手法では事前学習時にのみ,知識グラフを暗黙的に使用する。
  論文  参考訳（メタデータ） (2020-04-29T14:22:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。