論文の概要: Alleviating Sparsity of Open Knowledge Graphs with Ternary Contrastive Learning

• arxiv url: http://arxiv.org/abs/2211.03950v1
• Date: Tue, 8 Nov 2022 01:52:05 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-09 16:19:24.581934
• Title: Alleviating Sparsity of Open Knowledge Graphs with Ternary Contrastive Learning
• Title（参考訳）: 3次コントラスト学習によるオープン知識グラフの空間性軽減
• Authors: Qian Li, Shafiq Joty, Daling Wang, Shi Feng and Yifei Zhang
• Abstract要約: 頭, 関係, 尾の3次伝播パターンに基づくコントラスト学習(CL)フレームワークを提案する。 ベンチマーク実験は、最先端モデルよりもTernaryCLの方が優れていることを示した。
• 参考スコア（独自算出の注目度）: 25.16477723721291
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Sparsity of formal knowledge and roughness of non-ontological construction make sparsity problem particularly prominent in Open Knowledge Graphs (OpenKGs). Due to sparse links, learning effective representation for few-shot entities becomes difficult. We hypothesize that by introducing negative samples, a contrastive learning (CL) formulation could be beneficial in such scenarios. However, existing CL methods model KG triplets as binary objects of entities ignoring the relation-guided ternary propagation patterns and they are too generic, i.e., they ignore zero-shot, few-shot and synonymity problems that appear in OpenKGs. To address this, we propose TernaryCL, a CL framework based on ternary propagation patterns among head, relation and tail. TernaryCL designs Contrastive Entity and Contrastive Relation to mine ternary discriminative features with both negative entities and relations, introduces Contrastive Self to help zero- and few-shot entities learn discriminative features, Contrastive Synonym to model synonymous entities, and Contrastive Fusion to aggregate graph features from multiple paths. Extensive experiments on benchmarks demonstrate the superiority of TernaryCL over state-of-the-art models.
• Abstract（参考訳）: 形式知識のスパース性と非オントロジー構成の粗さは、オープン知識グラフ(openkgs)において特にスパース性問題を顕著にする。 スパースリンクのため、少数のエンティティに対する効果的な表現の学習は困難になる。 否定的なサンプルを導入することで、このようなシナリオにおいてコントラスト学習(cl)の定式化が有益であると仮定する。 しかし、既存のCLメソッドは、関係誘導三元伝播パターンを無視したエンティティのバイナリオブジェクトとしてKG三重項をモデル化し、それらはあまりにも汎用的である。 そこで本研究では,頭,関係,尾の3次伝播パターンに基づくCLフレームワークであるTernaryCLを提案する。 TernaryCLは、負のエンティティとリレーションの両方で三項識別機能に反するエンティティとContrastive Relationを導入し、ゼロと少ショットのエンティティが差別的特徴を学ぶのを助けるためにContrastive Selfを導入し、同義エンティティをモデル化するためのContrastive Synonymと、複数のパスからグラフ特徴を集約するContrastive Fusionを設計している。 ベンチマークに関する大規模な実験は、最先端モデルよりもTernaryCLの方が優れていることを示した。

関連論文リスト

• Towards Multi-view Graph Anomaly Detection with Similarity-Guided Contrastive Clustering [35.1801853090859]
  グラフ上の異常検出は多くの実世界のアプリケーションにおいて重要な役割を果たす。 類似性誘導型コントラスト損失により正規化されたオートエンコーダベースのクラスタリングフレームワークを提案し,異常ノードを検出する。
  論文  参考訳（メタデータ） (2024-09-15T15:41:59Z)
• HomoGCL: Rethinking Homophily in Graph Contrastive Learning [64.85392028383164]
  HomoGCL はモデルに依存しないフレームワークで、近隣のノードに固有の意味を持つ正の集合を拡大する。 我々は、HomoGCLが6つの公開データセットにまたがって複数の最先端結果をもたらすことを示す。
  論文  参考訳（メタデータ） (2023-06-16T04:06:52Z)
• Knowledge Graph Contrastive Learning Based on Relation-Symmetrical Structure [36.507635518425744]
  関係対称構造に基づく知識グラフコントラスト学習フレームワークKGE-SymCLを提案する。 我々のフレームワークは、KGEモデルの識別能力を高めるために、KGの対称構造情報をマイニングする。
  論文  参考訳（メタデータ） (2022-11-19T16:30:29Z)
• Unifying Graph Contrastive Learning with Flexible Contextual Scopes [57.86762576319638]
  フレキシブルコンテキストスコープを用いたグラフコントラスト学習(略してUGCL)という自己教師型学習手法を提案する。 本アルゴリズムは,隣接行列のパワーを制御し,コンテキストスコープによるフレキシブルな文脈表現を構築する。 局所的スコープと文脈的スコープの両方の表現に基づいて、distLはグラフ表現学習のための非常に単純な対照的な損失関数を最適化する。
  論文  参考訳（メタデータ） (2022-10-17T07:16:17Z)
• Geometry Contrastive Learning on Heterogeneous Graphs [50.58523799455101]
  本稿では,幾何学コントラスト学習(Geometry Contrastive Learning, GCL)と呼ばれる,新しい自己指導型学習手法を提案する。 GCLはユークリッドと双曲的な視点からヘテロジニアスグラフを同時に見ることができ、リッチな意味論と複雑な構造をモデル化する能力の強い融合を目指している。 4つのベンチマークデータセットの大規模な実験は、提案手法が強いベースラインよりも優れていることを示している。
  論文  参考訳（メタデータ） (2022-06-25T03:54:53Z)
• Integrating Prior Knowledge in Contrastive Learning with Kernel [4.050766659420731]
  我々は、カーネル理論を用いて、(i)事前知識の統合を可能にし、(i)元のInfoNCE損失における負の正の結合を取り除くという、分離均一性(decoupled uniformity)と呼ばれる新しい損失を提案する。 教師なしの環境では、CLは自然画像と医用画像の両方で表現を改善するために生成モデルから恩恵を受けることを実証的に実証する。
  論文  参考訳（メタデータ） (2022-06-03T15:43:08Z)
• ConE: Cone Embeddings for Multi-Hop Reasoning over Knowledge Graphs [73.86041481470261]
  Cone Embeddings (ConE) は、接続、解離、否定を扱える最初の幾何学ベースのクエリ埋め込みモデルである。 ConEは、ベンチマークデータセットの既存の最先端メソッドを大幅に上回る。
  論文  参考訳（メタデータ） (2021-10-26T14:04:02Z)
• Structure-Aware Hard Negative Mining for Heterogeneous Graph Contrastive Learning [21.702342154458623]
  本稿では,グラフニューラルネットワーク(GNN)におけるコントラスト学習(CL)について検討する。 まず、メタパスとネットワークスキーマに基づいて複数のセマンティックビューを生成します。 次に、異なるセマンティックビューに対応するノードの埋め込み(陽性)を押して、他の埋め込み(負)を引き離します。 複雑なグラフ構造とGNNの滑らかな性質を考慮し,構造を考慮した強負のマイニング手法を提案する。
  論文  参考訳（メタデータ） (2021-08-31T14:44:49Z)
• Neighborhood Contrastive Learning for Novel Class Discovery [79.14767688903028]
  我々は,クラスタリング性能に重要な識別表現を学習するために,Neighborhood Contrastive Learningという新しいフレームワークを構築した。 これらの2つの成分がクラスタリング性能に大きく寄与し、我々のモデルが最先端の手法よりも大きなマージンで優れていることを実験的に実証した。
  論文  参考訳（メタデータ） (2021-06-20T17:34:55Z)
• Unsupervised Knowledge Graph Alignment by Probabilistic Reasoning and Semantic Embedding [22.123001954919893]
  本稿では,確率論的推論とセマンティック埋め込みに基づくPRASEという反復的フレームワークを提案する。 PRASEフレームワークは、異なる埋め込みベースのモデルと互換性があり、複数のデータセットの実験では、その最先端性能が実証されている。
  論文  参考訳（メタデータ） (2021-05-12T11:27:46Z)
• Deep Clustering by Semantic Contrastive Learning [67.28140787010447]
  Semantic Contrastive Learning (SCL) と呼ばれる新しい変種を紹介します。 従来のコントラスト学習とディープクラスタリングの両方の特徴を探求する。 コントラスト学習と深層クラスタリングの強みを統一的なアプローチで増幅することができる。
  論文  参考訳（メタデータ） (2021-03-03T20:20:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。