論文の概要: Deep Graph Contrastive Representation Learning
- arxiv url: http://arxiv.org/abs/2006.04131v2
- Date: Mon, 13 Jul 2020 16:32:20 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-24 07:38:09.803084
- Title: Deep Graph Contrastive Representation Learning
- Title(参考訳): ディープグラフの対比表現学習
- Authors: Yanqiao Zhu, Yichen Xu, Feng Yu, Qiang Liu, Shu Wu, Liang Wang
- Abstract要約: ノードレベルでの対照的な目的を生かして,教師なしグラフ表現学習のための新しいフレームワークを提案する。
具体的には,この2つのビューにおけるノード表現の一致を最大化することにより,ノード表現の破損と学習によって2つのグラフビューを生成する。
我々は,様々な実世界のデータセットを用いて,帰納的および帰納的学習タスクの実証実験を行った。
- 参考スコア(独自算出の注目度): 23.37786673825192
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph representation learning nowadays becomes fundamental in analyzing
graph-structured data. Inspired by recent success of contrastive methods, in
this paper, we propose a novel framework for unsupervised graph representation
learning by leveraging a contrastive objective at the node level. Specifically,
we generate two graph views by corruption and learn node representations by
maximizing the agreement of node representations in these two views. To provide
diverse node contexts for the contrastive objective, we propose a hybrid scheme
for generating graph views on both structure and attribute levels. Besides, we
provide theoretical justification behind our motivation from two perspectives,
mutual information and the classical triplet loss. We perform empirical
experiments on both transductive and inductive learning tasks using a variety
of real-world datasets. Experimental experiments demonstrate that despite its
simplicity, our proposed method consistently outperforms existing
state-of-the-art methods by large margins. Moreover, our unsupervised method
even surpasses its supervised counterparts on transductive tasks, demonstrating
its great potential in real-world applications.
- Abstract(参考訳): 現在、グラフ表現学習は、グラフ構造化データの解析において基本となる。
本稿では,最近のコントラスト的手法の成功に触発されて,ノードレベルでのコントラスト的目的を活用した教師なしグラフ表現学習のための新しいフレームワークを提案する。
具体的には,この2つのビューにおけるノード表現の一致を最大化することにより,ノード表現の破損と学習によって2つのグラフビューを生成する。
対照的な目的のための多様なノードコンテキストを提供するために,構造レベルと属性レベルのグラフビューを生成するハイブリッド方式を提案する。
さらに、相互情報と古典的三重項損失という2つの観点から、モチベーションの背後にある理論的正当性を提供する。
我々は,様々な実世界のデータセットを用いて,帰納的および帰納的学習タスクの実証実験を行った。
実験により,提案手法は単純であるにもかかわらず,既存の最先端手法を高いマージンで一貫して上回ることを示した。
さらに, 提案手法は, トランスダクティブタスクにおいて, 教師なしの手法よりも優れており, 実世界のアプリケーションにおいてその大きな可能性を示している。
関連論文リスト
- GPS: Graph Contrastive Learning via Multi-scale Augmented Views from
Adversarial Pooling [23.450755275125577]
自己教師付きグラフ表現学習は、バイオインフォマティクスやソーシャルネットワークなど、様々な分野において、最近かなりの可能性を秘めている。
本稿では,これらの問題に対処するための新しいアプローチとして Graph Pooling ContraSt (GPS) を提案する。
グラフプーリングは、冗長性の除去によってグラフを適応的に粗いものにすることができることから、グラフプーリングを再考し、それを活用して、マルチスケールのポジティブビューを自動的に生成する。
論文 参考訳(メタデータ) (2024-01-29T10:00:53Z) - Contrastive Disentangled Learning on Graph for Node Classification [11.678287036601564]
本稿では,グラフ上の非絡み合い学習のための新しいフレームワークを提案し,非絡み合いグラフエンコーダと2つの慎重に構築された自己超越信号を用いた。
具体的には、下層のセマンティック情報に対応する様々な潜伏要因を識別するために、フレームワークを強制する非絡み合いグラフエンコーダを導入する。
ラベルに大きく依存する2つの自己超越信号,すなわちノード特異性とチャネル独立性を克服し,ラベル付きデータを必要としない情報的知識を抽出する。
論文 参考訳(メタデータ) (2023-06-20T07:25:14Z) - DyTed: Disentangled Representation Learning for Discrete-time Dynamic
Graph [59.583555454424]
離散時間動的グラフ、すなわちDyTedのための新しいディペンタングル表現学習フレームワークを提案する。
本研究では,時間不変の表現と時間変動の表現を効果的に識別する構造的コントラスト学習とともに,時間的クリップのコントラスト学習タスクを特別に設計する。
論文 参考訳(メタデータ) (2022-10-19T14:34:12Z) - Geometry Contrastive Learning on Heterogeneous Graphs [50.58523799455101]
本稿では,幾何学コントラスト学習(Geometry Contrastive Learning, GCL)と呼ばれる,新しい自己指導型学習手法を提案する。
GCLはユークリッドと双曲的な視点からヘテロジニアスグラフを同時に見ることができ、リッチな意味論と複雑な構造をモデル化する能力の強い融合を目指している。
4つのベンチマークデータセットの大規模な実験は、提案手法が強いベースラインよりも優れていることを示している。
論文 参考訳(メタデータ) (2022-06-25T03:54:53Z) - Group Contrastive Self-Supervised Learning on Graphs [101.45974132613293]
グラフ上での自己教師型学習をコントラッシブ手法を用いて研究する。
複数の部分空間におけるグラフの対比により、グラフエンコーダはより豊富な特徴を捉えることができる。
論文 参考訳(メタデータ) (2021-07-20T22:09:21Z) - Multi-Scale Contrastive Siamese Networks for Self-Supervised Graph
Representation Learning [48.09362183184101]
マルチスケールのコントラスト学習によるシームズ自己蒸留の強化により,ノード表現を学習するための新しい自己教師型アプローチを提案する。
提案手法は,新しい最先端の成果を達成し,半教師ありの成果を大きなマージンで上回っている。
論文 参考訳(メタデータ) (2021-05-12T14:20:13Z) - Graph Representation Learning by Ensemble Aggregating Subgraphs via
Mutual Information Maximization [5.419711903307341]
グラフニューラルネットワークが学習するグラフレベルの表現を高めるための自己監視型学習法を提案する。
グラフ構造を網羅的に理解するために,サブグラフ法のようなアンサンブル学習を提案する。
また, 効率的かつ効果的な対位学習を実現するために, ヘッドテールコントラストサンプル構築法を提案する。
論文 参考訳(メタデータ) (2021-03-24T12:06:12Z) - Towards Deeper Graph Neural Networks [63.46470695525957]
グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。
いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。
本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
論文 参考訳(メタデータ) (2020-07-18T01:11:14Z) - GraphCL: Contrastive Self-Supervised Learning of Graph Representations [20.439666392958284]
本稿では,ノード表現を自己教師型で学習するための一般的なフレームワークであるGraph Contrastive Learning (GraphCL)を提案する。
グラフニューラルネットワークを用いて、同じノードの2つの表現を生成し、対照的な学習損失を利用して両者の一致を最大化する。
帰納的学習と帰納的学習の両方において,本手法がノード分類ベンチマークにおいて教師なし学習の最先端性を大幅に上回っていることを示す。
論文 参考訳(メタデータ) (2020-07-15T22:36:53Z) - Interpretable Deep Graph Generation with Node-Edge Co-Disentanglement [55.2456981313287]
本稿では,属性グラフの深部生成モデルのための新しいアンタングルメント拡張フレームワークを提案する。
ノードとエッジのデコンボリューションのための新しいアーキテクチャを用いて、上記の3種類の潜伏因子を解離する新しい変分的目的を提案する。
各タイプ内では、画像の既存のフレームワークの一般化が示され、個々の因子のゆがみがさらに強化される。
論文 参考訳(メタデータ) (2020-06-09T16:33:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。