論文の概要: Repurposing Knowledge Graph Embeddings for Triple Representation via
Weak Supervision
- arxiv url: http://arxiv.org/abs/2208.10328v1
- Date: Mon, 22 Aug 2022 14:07:08 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-23 12:25:46.054778
- Title: Repurposing Knowledge Graph Embeddings for Triple Representation via
Weak Supervision
- Title(参考訳): 弱スーパービジョンによる三重表現のための知識グラフ埋め込みの再構築
- Authors: Alexander Kalinowski and Yuan An
- Abstract要約: 現在の方法では、事前訓練されたモデルからの実体と述語埋め込みを使わずに、スクラッチから三重埋め込みを学習する。
本研究では,知識グラフからトリプルを自動抽出し,事前学習した埋め込みモデルからそれらのペアの類似性を推定する手法を開発した。
これらのペアの類似度スコアは、細い三重表現のためにシームズ様のニューラルネットワークに供給される。
- 参考スコア(独自算出の注目度): 77.34726150561087
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The majority of knowledge graph embedding techniques treat entities and
predicates as separate embedding matrices, using aggregation functions to build
a representation of the input triple. However, these aggregations are lossy,
i.e. they do not capture the semantics of the original triples, such as
information contained in the predicates. To combat these shortcomings, current
methods learn triple embeddings from scratch without utilizing entity and
predicate embeddings from pre-trained models. In this paper, we design a novel
fine-tuning approach for learning triple embeddings by creating weak
supervision signals from pre-trained knowledge graph embeddings. We develop a
method for automatically sampling triples from a knowledge graph and estimating
their pairwise similarities from pre-trained embedding models. These pairwise
similarity scores are then fed to a Siamese-like neural architecture to
fine-tune triple representations. We evaluate the proposed method on two widely
studied knowledge graphs and show consistent improvement over other
state-of-the-art triple embedding methods on triple classification and triple
clustering tasks.
- Abstract(参考訳): 知識グラフ埋め込み技術の大部分は、エンティティと述語を別々の埋め込み行列として扱い、アグリゲーション関数を使って入力トリプルの表現を構築する。
しかし、これらの集約は損失であり、述語に含まれる情報のような元の三重項の意味を捉えていない。
これらの欠点に対処するため、現在の手法では、事前学習されたモデルからのエンティティや述語埋め込みを使わずに、スクラッチから三重埋め込みを学習する。
本稿では,事前学習した知識グラフの埋め込みから弱い監視信号を生成することで,三重埋め込みを学習するための新しい微調整手法を設計する。
本研究では,知識グラフからトリプルを自動的にサンプリングし,事前学習した組込みモデルからペアワイズ類似度を推定する手法を開発した。
これらのペアの類似度スコアは、細い三重表現のためにシームズ様のニューラルネットワークに供給される。
提案手法は,広く研究されている2つの知識グラフ上で評価し,3重分類と3重クラスタリングタスクにおいて,最先端の3重埋め込み法よりも一貫した改善を示す。
関連論文リスト
- Self-supervised Learning of Dense Hierarchical Representations for Medical Image Segmentation [2.2265038612930663]
本稿では,高密度下流タスクに適したボクセルワイド粗い表現を学習するための自己教師型フレームワークについて述べる。
我々は、複数のスケールから機能のコントリビューションのバランスをとるためのトレーニング戦略を考案し、学習された表現が粗い詳細ときめ細かい詳細の両方を捉えることを保証する。
論文 参考訳(メタデータ) (2024-01-12T09:47:17Z) - Walk-and-Relate: A Random-Walk-based Algorithm for Representation
Learning on Sparse Knowledge Graphs [5.444459446244819]
本稿では,データ空間の問題に対処するため,三重項数を増加させる効率的な方法を提案する。
また,メタパスの集合から情報的メタパスを高精度かつ効率的に抽出する手法も提案する。
提案したアプローチはモデルに依存しず、拡張トレーニングデータセットは、任意のKG埋め込みアプローチを最初から使用することができる。
論文 参考訳(メタデータ) (2022-09-19T05:35:23Z) - A Review of Knowledge Graph Completion [0.0]
情報抽出法は構造化データや非構造化データからの3重抽出に有効であることが証明された。
現在の知識グラフのほとんどは不完全である。
下流タスクでKGを使用するためには、KGに欠けているリンクを予測することが望ましい。
論文 参考訳(メタデータ) (2022-08-24T16:42:59Z) - Bayesian Graph Contrastive Learning [55.36652660268726]
本稿では,ランダムな拡張がエンコーダにつながることを示すグラフコントラスト学習手法の新たな視点を提案する。
提案手法は,各ノードを決定論的ベクトルに埋め込む既存の手法とは対照的に,各ノードを潜在空間の分布で表現する。
いくつかのベンチマークデータセットにおける既存の最先端手法と比較して,性能が大幅に向上したことを示す。
論文 参考訳(メタデータ) (2021-12-15T01:45:32Z) - Joint Graph Learning and Matching for Semantic Feature Correspondence [69.71998282148762]
本稿では,グラフマッチングを向上するための信頼度の高いグラフ構造を探索するために,GLAMという共用電子グラフ学習とマッチングネットワークを提案する。
提案手法は,3つの人気ビジュアルマッチングベンチマーク (Pascal VOC, Willow Object, SPair-71k) で評価される。
すべてのベンチマークにおいて、従来の最先端のグラフマッチング手法よりも大きなマージンを達成している。
論文 参考訳(メタデータ) (2021-09-01T08:24:02Z) - Integrating Semantics and Neighborhood Information with Graph-Driven
Generative Models for Document Retrieval [51.823187647843945]
本稿では,周辺情報をグラフ誘導ガウス分布でエンコードし,その2種類の情報をグラフ駆動生成モデルと統合することを提案する。
この近似の下では、トレーニング対象がシングルトンまたはペアワイズ文書のみを含む用語に分解可能であることを証明し、モデルが非関連文書と同じくらい効率的にトレーニングできることを示す。
論文 参考訳(メタデータ) (2021-05-27T11:29:03Z) - A Robust and Generalized Framework for Adversarial Graph Embedding [73.37228022428663]
本稿では,AGE という逆グラフ埋め込みのための頑健なフレームワークを提案する。
AGEは、暗黙の分布から強化された負のサンプルとして偽の隣接ノードを生成する。
本フレームワークでは,3種類のグラフデータを扱う3つのモデルを提案する。
論文 参考訳(メタデータ) (2021-05-22T07:05:48Z) - Hierarchical and Unsupervised Graph Representation Learning with
Loukas's Coarsening [9.12816196758482]
本稿では,属性グラフを用いた教師なしグラフ表現学習法を提案する。
このアルゴリズムは,教師なし表現学習手法における最先端技術と競合することを示す。
論文 参考訳(メタデータ) (2020-07-07T12:04:38Z) - Structure-Augmented Text Representation Learning for Efficient Knowledge
Graph Completion [53.31911669146451]
人為的な知識グラフは、様々な自然言語処理タスクに重要な支援情報を提供する。
これらのグラフは通常不完全であり、自動補完を促す。
グラフ埋め込みアプローチ(例えばTransE)は、グラフ要素を密度の高い埋め込みに表現することで構造化された知識を学ぶ。
テキストエンコーディングアプローチ(KG-BERTなど)は、グラフトリプルのテキストとトリプルレベルの文脈化表現を利用する。
論文 参考訳(メタデータ) (2020-04-30T13:50:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。