論文の概要: ENGAGE: Explanation Guided Data Augmentation for Graph Representation
Learning
- arxiv url: http://arxiv.org/abs/2307.01053v1
- Date: Mon, 3 Jul 2023 14:33:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2023-07-05 12:50:34.885077
- Title: ENGAGE: Explanation Guided Data Augmentation for Graph Representation
Learning
- Title(参考訳): ENGAGE:グラフ表現学習のための説明指導型データ拡張
- Authors: Yucheng Shi, Kaixiong Zhou, Ninghao Liu
- Abstract要約: 本稿では,グラフのキー部分を保存するために,コントラスト的な拡張過程を導出するENGAGEを提案する。
また、構造情報と特徴情報を摂動するグラフ上に2つのデータ拡張スキームを設計する。
- 参考スコア(独自算出の注目度): 34.23920789327245
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: The recent contrastive learning methods, due to their effectiveness in
representation learning, have been widely applied to modeling graph data.
Random perturbation is widely used to build contrastive views for graph data,
which however, could accidentally break graph structures and lead to suboptimal
performance. In addition, graph data is usually highly abstract, so it is hard
to extract intuitive meanings and design more informed augmentation schemes.
Effective representations should preserve key characteristics in data and
abandon superfluous information. In this paper, we propose ENGAGE (ExplaNation
Guided data AuGmEntation), where explanation guides the contrastive
augmentation process to preserve the key parts in graphs and explore removing
superfluous information. Specifically, we design an efficient unsupervised
explanation method called smoothed activation map as the indicator of node
importance in representation learning. Then, we design two data augmentation
schemes on graphs for perturbing structural and feature information,
respectively. We also provide justification for the proposed method in the
framework of information theories. Experiments of both graph-level and
node-level tasks, on various model architectures and on different real-world
graphs, are conducted to demonstrate the effectiveness and flexibility of
ENGAGE. The code of ENGAGE can be found: https://github.com/sycny/ENGAGE.
- Abstract(参考訳): 近年の対比学習法は,表現学習の有効性から,グラフデータのモデリングに広く応用されている。
ランダム摂動はグラフデータに対するコントラストビューを構築するために広く用いられているが、グラフ構造を誤って破壊し、準最適性能をもたらす可能性がある。
加えて、グラフデータは通常非常に抽象的であるため、直感的な意味を抽出し、より情報的な拡張スキームを設計することは困難である。
効果的な表現は、データのキー特性を保持し、過剰な情報を捨てるべきである。
本稿では,グラフのキー部分を保存し,過剰な情報を削除するためのコントラスト拡張プロセスについて解説するENGAGE(ExplaNation Guided data AuGmEntation)を提案する。
具体的には, 表現学習におけるノード重要度を示す指標として, smoothed activation map と呼ばれる効率的な教師なし説明法を設計する。
そして、構造情報と特徴情報を摂動するグラフ上に2つのデータ拡張スキームを設計する。
また,情報理論の枠組みにおける提案手法の正当性について述べる。
様々なモデルアーキテクチャと異なる実世界のグラフを用いたグラフレベルおよびノードレベルのタスクの実験を行い、ENGAGEの有効性と柔軟性を実証した。
ENGAGE のコードは https://github.com/sycny/ENGAGE.com にある。
関連論文リスト
- Spectral Augmentations for Graph Contrastive Learning [50.149996923976836]
コントラスト学習は、監督の有無にかかわらず、表現を学習するための第一の方法として現れてきた。
近年の研究では、グラフ表現学習における事前学習の有用性が示されている。
本稿では,グラフの対照的な目的に対する拡張を構築する際に,候補のバンクを提供するためのグラフ変換操作を提案する。
論文 参考訳(メタデータ) (2023-02-06T16:26:29Z) - ARIEL: Adversarial Graph Contrastive Learning [51.14695794459399]
ARIELは、ノードレベルとグラフレベルの両方の分類タスクにおいて、現在のグラフコントラスト学習法よりも一貫して優れている。
ARIELは敵の攻撃に対してより堅牢である。
論文 参考訳(メタデータ) (2022-08-15T01:24:42Z) - Data Augmentation for Deep Graph Learning: A Survey [66.04015540536027]
まず,グラフデータ拡張のための分類法を提案し,その拡張情報モダリティに基づいて関連研究を分類し,構造化されたレビューを提供する。
DGLにおける2つの課題(すなわち、最適グラフ学習と低リソースグラフ学習)に焦点を当て、グラフデータ拡張に基づく既存の学習パラダイムについて議論し、レビューする。
論文 参考訳(メタデータ) (2022-02-16T18:30:33Z) - Adversarial Graph Contrastive Learning with Information Regularization [51.14695794459399]
コントラスト学習はグラフ表現学習において有効な方法である。
グラフ上のデータ拡張は、はるかに直感的ではなく、高品質のコントラスト的なサンプルを提供するのがずっと難しい。
逆グラフ比較学習(Adversarial Graph Contrastive Learning, ARIEL)を提案する。
さまざまな実世界のデータセット上でのノード分類タスクにおいて、現在のグラフのコントラスト学習方法よりも一貫して優れています。
論文 参考訳(メタデータ) (2022-02-14T05:54:48Z) - Dynamic Graph Representation Learning via Graph Transformer Networks [41.570839291138114]
動的グラフ変換器 (DGT) を用いた動的グラフ学習手法を提案する。
DGTは、グラフトポロジを効果的に学習し、暗黙のリンクをキャプチャするための時空間符号化を持つ。
DGTはいくつかの最先端のベースラインと比較して優れた性能を示す。
論文 参考訳(メタデータ) (2021-11-19T21:44:23Z) - InfoGCL: Information-Aware Graph Contrastive Learning [26.683911257080304]
コントラスト学習過程において,グラフ情報がどのように変換され,伝達されるかを検討する。
本稿では,InfoGCL と呼ばれる情報認識型グラフコントラスト学習フレームワークを提案する。
我々は,最近のグラフコントラスト学習手法をフレームワークによって統一できることを初めて示す。
論文 参考訳(メタデータ) (2021-10-28T21:10:39Z) - Graph Contrastive Learning with Adaptive Augmentation [23.37786673825192]
本稿では,適応的拡張を用いた新しいグラフコントラスト表現学習法を提案する。
具体的には,ノードの集中度に基づく拡張スキームを設計し,重要な結合構造を明らかにする。
提案手法は,既存の最先端のベースラインを一貫して上回り,教師付きベースラインを超えている。
論文 参考訳(メタデータ) (2020-10-27T15:12:21Z) - Graph Information Bottleneck [77.21967740646784]
グラフニューラルネットワーク(GNN)は、ネットワーク構造とノード機能から情報を融合する表現的な方法を提供する。
GIBは、一般的なInformation Bottleneck (IB) を継承し、与えられたタスクに対する最小限の表現を学習することを目的としている。
提案したモデルが最先端のグラフ防御モデルよりも堅牢であることを示す。
論文 参考訳(メタデータ) (2020-10-24T07:13:00Z) - Robust Optimization as Data Augmentation for Large-scale Graphs [117.2376815614148]
学習中に勾配に基づく逆方向摂動を伴うノード特徴を反復的に拡張するFLAG(Free Large-scale Adversarial Augmentation on Graphs)を提案する。
FLAGはグラフデータに対する汎用的なアプローチであり、ノード分類、リンク予測、グラフ分類タスクで普遍的に機能する。
論文 参考訳(メタデータ) (2020-10-19T21:51:47Z) - Sub-graph Contrast for Scalable Self-Supervised Graph Representation
Learning [21.0019144298605]
既存のグラフニューラルネットワークは、計算量やメモリコストが限られているため、完全なグラフデータで供給される。
textscSubg-Conは、中央ノードとそのサンプルサブグラフ間の強い相関を利用して、地域構造情報をキャプチャすることで提案される。
既存のグラフ表現学習アプローチと比較して、textscSubg-Conは、より弱い監視要件、モデル学習のスケーラビリティ、並列化において、顕著なパフォーマンス上のアドバンテージを持っています。
論文 参考訳(メタデータ) (2020-09-22T01:58:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。