論文の概要: ARIEL: Adversarial Graph Contrastive Learning
- arxiv url: http://arxiv.org/abs/2208.06956v1
- Date: Mon, 15 Aug 2022 01:24:42 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-16 14:20:18.624752
- Title: ARIEL: Adversarial Graph Contrastive Learning
- Title(参考訳): ARIEL: 逆グラフコントラスト学習
- Authors: Shengyu Feng, Baoyu Jing, Yada Zhu, Hanghang Tong
- Abstract要約: ARIELは、ノードレベルとグラフレベルの両方の分類タスクにおいて、現在のグラフコントラスト学習法よりも一貫して優れている。
我々は,安定トレーニングのための情報正規化と呼ばれる新しい手法を開発し,拡張性のためのサブグラフサンプリングを利用する。
- 参考スコア(独自算出の注目度): 42.5717144415892
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Contrastive learning is an effective unsupervised method in graph
representation learning, and the key component of contrastive learning lies in
the construction of positive and negative samples. Previous methods usually
utilize the proximity of nodes in the graph as the principle. Recently, the
data augmentation based contrastive learning method has advanced to show great
power in the visual domain, and some works extended this method from images to
graphs. However, unlike the data augmentation on images, the data augmentation
on graphs is far less intuitive and much harder to provide high-quality
contrastive samples, which leaves much space for improvement. In this work, by
introducing an adversarial graph view for data augmentation, we propose a
simple but effective method, Adversarial Graph Contrastive Learning (ARIEL), to
extract informative contrastive samples within reasonable constraints. We
develop a new technique called information regularization for stable training
and use subgraph sampling for scalability. We generalize our method from
node-level contrastive learning to the graph-level by treating each graph
instance as a supernode. ARIEL consistently outperforms the current graph
contrastive learning methods for both node-level and graph-level classification
tasks on real-world datasets. We further demonstrate that ARIEL is more robust
in face of adversarial attacks.
- Abstract(参考訳): コントラスト学習はグラフ表現学習において効果的な教師なしの手法であり、対照的学習の重要な要素は正と負のサンプルの構築にある。
従来の方法は通常、グラフ内のノードの近接を原則として利用する。
近年,データ拡張型コントラスト学習法が進歩し,視覚領域で大きな力を発揮するようになり,画像からグラフへと拡張した研究もある。
しかし、画像上のデータ拡張とは異なり、グラフ上のデータ拡張は直感的ではなく、高品質のコントラストサンプルを提供することがはるかに難しく、改善の余地がたくさんある。
本研究では、データ拡張のための逆グラフビューを導入することにより、合理的な制約の中で情報的コントラストサンプルを抽出する簡易かつ効果的な手法である逆グラフコントラスト学習(ARIEL)を提案する。
我々は,安定トレーニングのための情報正規化と呼ばれる新しい手法を開発し,拡張性にサブグラフサンプリングを用いる。
我々は,各グラフインスタンスをスーパーノードとして扱うことにより,ノードレベルのコントラスト学習からグラフレベルの一般化を行う。
ARIELは、実世界のデータセット上のノードレベルとグラフレベルの両方の分類タスクにおいて、現在のグラフコントラスト学習手法よりも一貫して優れている。
さらに、ARIELは敵攻撃に対してより堅牢であることを示す。
関連論文リスト
- Uncovering Capabilities of Model Pruning in Graph Contrastive Learning [0.0]
我々は、拡張ビューではなく、異なるモデルバージョンを対比することで、グラフのコントラスト学習の問題を再構築する。
教師なしおよび転送学習によるグラフ分類に関する様々なベンチマークにおいて,本手法を広範囲に検証する。
論文 参考訳(メタデータ) (2024-10-27T07:09:31Z) - Spectral Augmentations for Graph Contrastive Learning [50.149996923976836]
コントラスト学習は、監督の有無にかかわらず、表現を学習するための第一の方法として現れてきた。
近年の研究では、グラフ表現学習における事前学習の有用性が示されている。
本稿では,グラフの対照的な目的に対する拡張を構築する際に,候補のバンクを提供するためのグラフ変換操作を提案する。
論文 参考訳(メタデータ) (2023-02-06T16:26:29Z) - Localized Contrastive Learning on Graphs [110.54606263711385]
局所グラフコントラスト学習(Local-GCL)という,シンプルだが効果的なコントラストモデルを導入する。
その単純さにもかかわらず、Local-GCLは、様々なスケールと特性を持つグラフ上の自己教師付きノード表現学習タスクにおいて、非常に競争力のある性能を達成する。
論文 参考訳(メタデータ) (2022-12-08T23:36:00Z) - Adversarial Graph Contrastive Learning with Information Regularization [51.14695794459399]
コントラスト学習はグラフ表現学習において有効な方法である。
グラフ上のデータ拡張は、はるかに直感的ではなく、高品質のコントラスト的なサンプルを提供するのがずっと難しい。
逆グラフ比較学習(Adversarial Graph Contrastive Learning, ARIEL)を提案する。
さまざまな実世界のデータセット上でのノード分類タスクにおいて、現在のグラフのコントラスト学習方法よりも一貫して優れています。
論文 参考訳(メタデータ) (2022-02-14T05:54:48Z) - Dual Space Graph Contrastive Learning [82.81372024482202]
本研究では,新しいグラフコントラスト学習手法,すなわち textbfDual textbfSpace textbfGraph textbfContrastive (DSGC) Learningを提案する。
両空間にはグラフデータを埋め込み空間に表現する独自の利点があるので、グラフコントラスト学習を用いて空間をブリッジし、双方の利点を活用することを期待する。
論文 参考訳(メタデータ) (2022-01-19T04:10:29Z) - Bootstrapping Informative Graph Augmentation via A Meta Learning
Approach [21.814940639910358]
グラフコントラスト学習では、ベンチマーク手法は様々なグラフ拡張アプローチを適用する。
拡張法のほとんどは学習不可能であり、不便な拡張グラフを生成する問題を引き起こす。
私たちはMEGA(Meta Graph Augmentation)と呼ばれる学習可能なグラフオーグメンタによるグラフ生成を動機付けている。
論文 参考訳(メタデータ) (2022-01-11T07:15:13Z) - Multi-view Contrastive Graph Clustering [12.463334005083379]
マルチビュー属性グラフデータをクラスタリングするための汎用フレームワークを提案する。
コントラスト学習の成功に触発されて,マルチビューコントラストグラフクラスタリング(MCGC)法を提案する。
私たちの単純なアプローチは、既存のディープラーニングベースの手法よりも優れています。
論文 参考訳(メタデータ) (2021-10-22T15:22:42Z) - Edge but not Least: Cross-View Graph Pooling [76.71497833616024]
本稿では,重要なグラフ構造情報を活用するために,クロスビューグラフプーリング(Co-Pooling)手法を提案する。
クロスビュー相互作用、エッジビュープーリング、ノードビュープーリングにより、相互にシームレスに強化され、より情報的なグラフレベルの表現が学習される。
論文 参考訳(メタデータ) (2021-09-24T08:01:23Z) - Sub-graph Contrast for Scalable Self-Supervised Graph Representation
Learning [21.0019144298605]
既存のグラフニューラルネットワークは、計算量やメモリコストが限られているため、完全なグラフデータで供給される。
textscSubg-Conは、中央ノードとそのサンプルサブグラフ間の強い相関を利用して、地域構造情報をキャプチャすることで提案される。
既存のグラフ表現学習アプローチと比較して、textscSubg-Conは、より弱い監視要件、モデル学習のスケーラビリティ、並列化において、顕著なパフォーマンス上のアドバンテージを持っています。
論文 参考訳(メタデータ) (2020-09-22T01:58:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。