論文の概要: InfoGCL: Information-Aware Graph Contrastive Learning
- arxiv url: http://arxiv.org/abs/2110.15438v1
- Date: Thu, 28 Oct 2021 21:10:39 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-01 14:29:45.963155
- Title: InfoGCL: Information-Aware Graph Contrastive Learning
- Title(参考訳): InfoGCL:情報対応グラフコントラスト学習
- Authors: Dongkuan Xu, Wei Cheng, Dongsheng Luo, Haifeng Chen, Xiang Zhang
- Abstract要約: コントラスト学習過程において,グラフ情報がどのように変換され,伝達されるかを検討する。
本稿では,InfoGCL と呼ばれる情報認識型グラフコントラスト学習フレームワークを提案する。
我々は,最近のグラフコントラスト学習手法をフレームワークによって統一できることを初めて示す。
- 参考スコア(独自算出の注目度): 26.683911257080304
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Various graph contrastive learning models have been proposed to improve the
performance of learning tasks on graph datasets in recent years. While
effective and prevalent, these models are usually carefully customized. In
particular, although all recent researches create two contrastive views, they
differ greatly in view augmentations, architectures, and objectives. It remains
an open question how to build your graph contrastive learning model from
scratch for particular graph learning tasks and datasets. In this work, we aim
to fill this gap by studying how graph information is transformed and
transferred during the contrastive learning process and proposing an
information-aware graph contrastive learning framework called InfoGCL. The key
point of this framework is to follow the Information Bottleneck principle to
reduce the mutual information between contrastive parts while keeping
task-relevant information intact at both the levels of the individual module
and the entire framework so that the information loss during graph
representation learning can be minimized. We show for the first time that all
recent graph contrastive learning methods can be unified by our framework. We
empirically validate our theoretical analysis on both node and graph
classification benchmark datasets, and demonstrate that our algorithm
significantly outperforms the state-of-the-arts.
- Abstract(参考訳): 近年,グラフデータセット上での学習タスクの性能向上のために,様々なグラフコントラスト学習モデルが提案されている。
効果的で普及しているが、これらのモデルは通常慎重にカスタマイズされる。
特に、最近のすべての研究は2つの対照的な見解を生み出しているが、ビュー拡張、アーキテクチャ、目的において大きく異なる。
特定のグラフ学習タスクやデータセットをスクラッチからグラフコントラスト学習モデルを構築するには、依然としてオープンな疑問である。
本研究では,コントラスト学習過程におけるグラフ情報の変換と変換の方法と,InfoGCLと呼ばれる情報対応グラフコントラスト学習フレームワークを提案することによって,このギャップを埋めることを目的とする。
グラフ表現学習における情報損失を最小限に抑えるため、各モジュールのレベルとフレームワーク全体の双方でタスク関連情報を維持しつつ、コントラスト部分間の相互情報を減少させるインフォメーション・ボトルネックの原則に従うことが鍵となる。
我々は,最近のグラフコントラスト学習手法をフレームワークによって統一できることを初めて示す。
我々は,ノード分類とグラフ分類のベンチマークデータセットの理論的解析を実証的に検証し,アルゴリズムが最先端のアルゴリズムよりも優れていることを示す。
関連論文リスト
- ENGAGE: Explanation Guided Data Augmentation for Graph Representation
Learning [34.23920789327245]
本稿では,グラフのキー部分を保存するために,コントラスト的な拡張過程を導出するENGAGEを提案する。
また、構造情報と特徴情報を摂動するグラフ上に2つのデータ拡張スキームを設計する。
論文 参考訳(メタデータ) (2023-07-03T14:33:14Z) - SEGA: Structural Entropy Guided Anchor View for Graph Contrastive
Learning [12.783251612977299]
対照的に、ビューの選択は表現が捉えた情報を制御し、モデルの性能に影響を与える。
コントラスト学習のための入力グラフの本質的情報を維持するアンカービューはほとんど研究されていない。
我々は,教師なし,半教師なし,移動学習に基づくグラフ分類に関する様々なベンチマークにおいて,提案するアンカービューを広範囲に検証した。
論文 参考訳(メタデータ) (2023-05-08T06:52:02Z) - State of the Art and Potentialities of Graph-level Learning [54.68482109186052]
グラフレベルの学習は、比較、回帰、分類など、多くのタスクに適用されている。
グラフの集合を学習する伝統的なアプローチは、サブストラクチャのような手作りの特徴に依存している。
ディープラーニングは、機能を自動的に抽出し、グラフを低次元表現に符号化することで、グラフレベルの学習をグラフの規模に適応させるのに役立っている。
論文 参考訳(メタデータ) (2023-01-14T09:15:49Z) - ARIEL: Adversarial Graph Contrastive Learning [51.14695794459399]
ARIELは、ノードレベルとグラフレベルの両方の分類タスクにおいて、現在のグラフコントラスト学習法よりも一貫して優れている。
ARIELは敵の攻撃に対してより堅牢である。
論文 参考訳(メタデータ) (2022-08-15T01:24:42Z) - Adversarial Graph Contrastive Learning with Information Regularization [51.14695794459399]
コントラスト学習はグラフ表現学習において有効な方法である。
グラフ上のデータ拡張は、はるかに直感的ではなく、高品質のコントラスト的なサンプルを提供するのがずっと難しい。
逆グラフ比較学習(Adversarial Graph Contrastive Learning, ARIEL)を提案する。
さまざまな実世界のデータセット上でのノード分類タスクにおいて、現在のグラフのコントラスト学習方法よりも一貫して優れています。
論文 参考訳(メタデータ) (2022-02-14T05:54:48Z) - Graph Self-supervised Learning with Accurate Discrepancy Learning [64.69095775258164]
離散性に基づく自己監督型LeArning(D-SLA)と呼ばれる原図と摂動グラフの正確な相違を学習することを目的としたフレームワークを提案する。
本稿では,分子特性予測,タンパク質機能予測,リンク予測タスクなど,グラフ関連下流タスクにおける本手法の有効性を検証する。
論文 参考訳(メタデータ) (2022-02-07T08:04:59Z) - Group Contrastive Self-Supervised Learning on Graphs [101.45974132613293]
グラフ上での自己教師型学習をコントラッシブ手法を用いて研究する。
複数の部分空間におけるグラフの対比により、グラフエンコーダはより豊富な特徴を捉えることができる。
論文 参考訳(メタデータ) (2021-07-20T22:09:21Z) - Graph Representation Learning by Ensemble Aggregating Subgraphs via
Mutual Information Maximization [5.419711903307341]
グラフニューラルネットワークが学習するグラフレベルの表現を高めるための自己監視型学習法を提案する。
グラフ構造を網羅的に理解するために,サブグラフ法のようなアンサンブル学習を提案する。
また, 効率的かつ効果的な対位学習を実現するために, ヘッドテールコントラストサンプル構築法を提案する。
論文 参考訳(メタデータ) (2021-03-24T12:06:12Z) - Model-Agnostic Graph Regularization for Few-Shot Learning [60.64531995451357]
グラフ組み込み数ショット学習に関する包括的な研究を紹介します。
本稿では,ラベル間のグラフ情報の組み込みによる影響をより深く理解できるグラフ正規化手法を提案する。
提案手法は,Mini-ImageNetで最大2%,ImageNet-FSで6.7%の性能向上を実現する。
論文 参考訳(メタデータ) (2021-02-14T05:28:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。