論文の概要: Commonsense Knowledge Graph Completion Via Contrastive Pretraining and Node Clustering

• arxiv url: http://arxiv.org/abs/2305.17019v1
• Date: Fri, 26 May 2023 15:24:32 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-29 13:58:38.725797
• Title: Commonsense Knowledge Graph Completion Via Contrastive Pretraining and Node Clustering
• Title（参考訳）: Commonsenseの知識グラフ補完 - 対照的な事前トレーニングとノードクラスタリング
• Authors: Siwei Wu, Xiangqing Shen, Rui Xia
• Abstract要約: 本稿では,Contrastive PretrainingとNode Clusteringに基づくCSKG補完フレームワークを提案する。 CN-100K と ATOMIC の2つの CSKG 補完ベンチマークにおけるCPNC のアプローチを評価する。
• 参考スコア（独自算出の注目度）: 14.854971279160933
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The nodes in the commonsense knowledge graph (CSKG) are normally represented by free-form short text (e.g., word or phrase). Different nodes may represent the same concept. This leads to the problems of edge sparsity and node redundancy, which challenges CSKG representation and completion. On the one hand, edge sparsity limits the performance of graph representation learning; On the other hand, node redundancy makes different nodes corresponding to the same concept have inconsistent relations with other nodes. To address the two problems, we propose a new CSKG completion framework based on Contrastive Pretraining and Node Clustering (CPNC). Contrastive Pretraining constructs positive and negative head-tail node pairs on CSKG and utilizes contrastive learning to obtain better semantic node representation. Node Clustering aggregates nodes with the same concept into a latent concept, assisting the task of CSKG completion. We evaluate our CPNC approach on two CSKG completion benchmarks (CN-100K and ATOMIC), where CPNC outperforms the state-of-the-art methods. Extensive experiments demonstrate that both Contrastive Pretraining and Node Clustering can significantly improve the performance of CSKG completion. The source code of CPNC is publicly available on \url{https://github.com/NUSTM/CPNC}.
• Abstract（参考訳）: コモンセンス知識グラフ(CSKG)のノードは通常、自由形式の短いテキスト(例えば、単語やフレーズ)で表される。 異なるノードは同じ概念を表現できる。 これは、CSKGの表現と完了に挑戦するエッジ空間とノードの冗長性の問題につながる。 一方、エッジスパーシティはグラフ表現学習の性能を制限し、一方、ノード冗長性は、同じ概念に対応する異なるノードが他のノードと一貫性のない関係を持つようにする。 この2つの問題に対処するために,コントラスト事前学習とノードクラスタリング(CPNC)に基づくCSKG補完フレームワークを提案する。 Contrastive PretrainingはCSKG上で正と負のヘッドテールノードペアを構築し、コントラスト学習を利用してより良いセマンティックノード表現を得る。 ノードクラスタリングは、同じ概念を持つノードを潜在概念に集約し、cskg補完のタスクを支援する。 CN-100K と ATOMIC の2つの CSKG 補完ベンチマークにおけるCPNC のアプローチを評価する。 大規模な実験では、Contrastive PretrainingとNode Clusteringの両方がCSKG補完の性能を大幅に向上させることができる。 CPNCのソースコードは \url{https://github.com/NUSTM/CPNC} で公開されている。

関連論文リスト

• EntailE: Introducing Textual Entailment in Commonsense Knowledge Graph Completion [54.12709176438264]
  Commonsense knowledge graph(CSKG)は、名前付きエンティティ、短いフレーズ、イベントをノードとして表現するために自由形式のテキストを使用する。 現在の手法では意味的類似性を利用してグラフ密度を増大させるが、ノードとその関係のセマンティックな妥当性は未探索である。 そこで本研究では,CSKGノード間の暗黙的な包絡関係を見つけるために,テキストエンテーメントを導入し,同じ概念クラス内のサブグラフ接続ノードを効果的に密度化することを提案する。
  論文  参考訳（メタデータ） (2024-02-15T02:27:23Z)
• A Topological Perspective on Demystifying GNN-Based Link Prediction Performance [72.06314265776683]
  トポロジカル濃度 (TC) は、各ノードの局所部分グラフと隣人の部分グラフの交点に基づいている。 また,TCLは,次数や部分グラフ密度などの他のノードレベルのトポロジ指標よりもLP性能と高い相関性を示した。 我々は, 近似トポロジカル濃度 (ATC) を提案し, 理論的・経験的にTC近似の有効性を正当化し, 複雑さを低減させる。
  論文  参考訳（メタデータ） (2023-10-06T22:07:49Z)
• Provable Training for Graph Contrastive Learning [58.8128675529977]
  Graph Contrastive Learning (GCL)は、ラベルのない拡張グラフからノード埋め込みを学習するための一般的なトレーニング手法として登場した。 GCLのトレーニングは、実際にはすべてのノードで不均衡であることを示す。 ノードがGCLの原理に従う方法の下位境界である計量「ノードコンパクト性」を提案する。
  論文  参考訳（メタデータ） (2023-09-25T08:23:53Z)
• Clarify Confused Nodes via Separated Learning [4.282496716373314]
  グラフニューラルネットワーク(GNN)は,グラフ指向タスクにおいて顕著な進歩を遂げている。 実世界のグラフは、必ずある種の不均一なノードを含み、伝統的なGNNのホモフィリーな仮定に挑戦する。 我々は,ノードのより信頼性の高い分離を容易にするため,Nighborhood Confusion(NC)と呼ばれる新しいメトリクスを提案する。
  論文  参考訳（メタデータ） (2023-06-04T07:26:20Z)
• Cold Brew: Distilling Graph Node Representations with Incomplete or Missing Neighborhoods [69.13371028670153]
  本稿では,SCS(Strict Cold Start)問題に対する誘導型GNNの有効性を検討するために,FCR(Feature-Contribution ratio)を導入する。 実験により,FCRはグラフデータセットの様々な成分の寄与を阻害し,コールドブリューの優れた性能を示す。
  論文  参考訳（メタデータ） (2021-11-08T21:29:25Z)
• Self-supervised Graph Learning for Recommendation [69.98671289138694]
  ユーザ・イテムグラフを用いた自己教師型学習を推奨する。 補助的自己監督タスクは、自己識別によるノード表現学習を強化する。 3つのベンチマークデータセットに関する実証的研究は、SGLの有効性を示す。
  論文  参考訳（メタデータ） (2020-10-21T06:35:26Z)
• Unifying Graph Convolutional Neural Networks and Label Propagation [73.82013612939507]
  LPAとGCNの関係を特徴・ラベルの平滑化と特徴・ラベルの影響の2点の観点から検討した。 理論解析に基づいて,ノード分類のためのGCNとLCAを統一するエンドツーエンドモデルを提案する。 我々のモデルは、既存の特徴に基づく注目モデルよりもタスク指向のノードラベルに基づく学習注意重みと見なすこともできる。
  論文  参考訳（メタデータ） (2020-02-17T03:23:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。