論文の概要: SEGA: Structural Entropy Guided Anchor View for Graph Contrastive
Learning
- arxiv url: http://arxiv.org/abs/2305.04501v1
- Date: Mon, 8 May 2023 06:52:02 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-09 15:27:36.386342
- Title: SEGA: Structural Entropy Guided Anchor View for Graph Contrastive
Learning
- Title(参考訳): sega: グラフコントラスト学習のための構造エントロピー誘導アンカービュー
- Authors: Junran Wu, Xueyuan Chen, Bowen Shi, Shangzhe Li, Ke Xu
- Abstract要約: 対照的に、ビューの選択は表現が捉えた情報を制御し、モデルの性能に影響を与える。
コントラスト学習のための入力グラフの本質的情報を維持するアンカービューはほとんど研究されていない。
我々は,教師なし,半教師なし,移動学習に基づくグラフ分類に関する様々なベンチマークにおいて,提案するアンカービューを広範囲に検証した。
- 参考スコア(独自算出の注目度): 12.783251612977299
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: In contrastive learning, the choice of ``view'' controls the information that
the representation captures and influences the performance of the model.
However, leading graph contrastive learning methods generally produce views via
random corruption or learning, which could lead to the loss of essential
information and alteration of semantic information. An anchor view that
maintains the essential information of input graphs for contrastive learning
has been hardly investigated. In this paper, based on the theory of graph
information bottleneck, we deduce the definition of this anchor view; put
differently, \textit{the anchor view with essential information of input graph
is supposed to have the minimal structural uncertainty}. Furthermore, guided by
structural entropy, we implement the anchor view, termed \textbf{SEGA}, for
graph contrastive learning. We extensively validate the proposed anchor view on
various benchmarks regarding graph classification under unsupervised,
semi-supervised, and transfer learning and achieve significant performance
boosts compared to the state-of-the-art methods.
- Abstract(参考訳): 対照的な学習において、 ``view'' の選択は、その表現がモデルのパフォーマンスを捉え、影響する情報を制御する。
しかし、主要なグラフの対比学習手法は、一般にランダムな腐敗や学習によってビューを生成し、本質的な情報を失うことや意味情報の改変につながる可能性がある。
コントラスト学習のための入力グラフの必須情報を維持するアンカービューはほとんど研究されていない。
本稿では,グラフ情報ボトルネックの理論に基づいて,このアンカービューの定義を導出する。
さらに,構造エントロピーに導かれ,グラフコントラスト学習のためのアンカービューである \textbf{sega} を実装した。
我々は,教師なし,半教師なし,転送学習の下でのグラフ分類に関する様々なベンチマークにおいて,提案手法のアンカービューを広範囲に検証し,最先端手法と比較して有意な性能向上を達成した。
関連論文リスト
- Control-based Graph Embeddings with Data Augmentation for Contrastive Learning [3.250579305400297]
グラフ上に定義された動的ネットワークの制御特性を利用した教師なしグラフ表現学習の課題について検討する。
対照的な学習における重要なステップは、入力グラフから'拡張'グラフを作成することである。
本稿では,ネットワークの制御特性を活用して,これらの拡張グラフを生成するユニークな手法を提案する。
論文 参考訳(メタデータ) (2024-03-07T22:14:04Z) - ENGAGE: Explanation Guided Data Augmentation for Graph Representation
Learning [34.23920789327245]
本稿では,グラフのキー部分を保存するために,コントラスト的な拡張過程を導出するENGAGEを提案する。
また、構造情報と特徴情報を摂動するグラフ上に2つのデータ拡張スキームを設計する。
論文 参考訳(メタデータ) (2023-07-03T14:33:14Z) - Spectral Augmentations for Graph Contrastive Learning [50.149996923976836]
コントラスト学習は、監督の有無にかかわらず、表現を学習するための第一の方法として現れてきた。
近年の研究では、グラフ表現学習における事前学習の有用性が示されている。
本稿では,グラフの対照的な目的に対する拡張を構築する際に,候補のバンクを提供するためのグラフ変換操作を提案する。
論文 参考訳(メタデータ) (2023-02-06T16:26:29Z) - Towards Explanation for Unsupervised Graph-Level Representation Learning [108.31036962735911]
既存の説明手法は,教師付き設定,例えばノード分類,グラフ分類に重点を置いているが,教師なしグラフレベルの表現学習に関する説明はまだ探索されていない。
本稿では,非教師付きグラフ表現における説明問題に対処するために,インフォメーション・ボトルネックの原則(IB)を推進し,新しい原理であるtextitUnsupervised Subgraph Information Bottleneck(USIB)を導出する。
また,グラフ表現とラベル空間上の説明部分グラフの関連性も理論的に解析し,表現の堅牢性が説明部分グラフの忠実性に寄与することを明らかにする。
論文 参考訳(メタデータ) (2022-05-20T02:50:15Z) - Learning Robust Representation through Graph Adversarial Contrastive
Learning [6.332560610460623]
既存の研究では、グラフニューラルネットワーク(GNN)によって生成されたノード表現が、敵の攻撃に対して脆弱であることが示されている。
本稿では,グラフ自己教師型学習に対数拡張を導入することにより,新しいグラフ適応型コントラスト学習フレームワーク(GraphACL)を提案する。
論文 参考訳(メタデータ) (2022-01-31T07:07:51Z) - Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。
具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
論文 参考訳(メタデータ) (2022-01-17T11:57:29Z) - Graph Structure Learning with Variational Information Bottleneck [70.62851953251253]
本稿では,新しい変分情報ボトルネックガイド付きグラフ構造学習フレームワーク,すなわちVIB-GSLを提案する。
VIB-GSLは情報的かつ圧縮的なグラフ構造を学習し、特定の下流タスクに対して実行可能な情報を蒸留する。
論文 参考訳(メタデータ) (2021-12-16T14:22:13Z) - InfoGCL: Information-Aware Graph Contrastive Learning [26.683911257080304]
コントラスト学習過程において,グラフ情報がどのように変換され,伝達されるかを検討する。
本稿では,InfoGCL と呼ばれる情報認識型グラフコントラスト学習フレームワークを提案する。
我々は,最近のグラフコントラスト学習手法をフレームワークによって統一できることを初めて示す。
論文 参考訳(メタデータ) (2021-10-28T21:10:39Z) - Graph Information Bottleneck [77.21967740646784]
グラフニューラルネットワーク(GNN)は、ネットワーク構造とノード機能から情報を融合する表現的な方法を提供する。
GIBは、一般的なInformation Bottleneck (IB) を継承し、与えられたタスクに対する最小限の表現を学習することを目的としている。
提案したモデルが最先端のグラフ防御モデルよりも堅牢であることを示す。
論文 参考訳(メタデータ) (2020-10-24T07:13:00Z) - Graph Representation Learning via Graphical Mutual Information
Maximization [86.32278001019854]
本稿では,入力グラフとハイレベルな隠蔽表現との相関を測る新しい概念であるGMIを提案する。
我々は,グラフニューラルエンコーダの入力と出力の間でGMIを最大化することで訓練された教師なし学習モデルを開発する。
論文 参考訳(メタデータ) (2020-02-04T08:33:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。