論文の概要: Augment with Care: Enhancing Graph Contrastive Learning with Selective
Spectrum Perturbation
- arxiv url: http://arxiv.org/abs/2310.13845v1
- Date: Fri, 20 Oct 2023 22:39:07 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-25 05:00:05.922664
- Title: Augment with Care: Enhancing Graph Contrastive Learning with Selective
Spectrum Perturbation
- Title(参考訳): Augment with Care:選択スペクトル摂動によるグラフコントラスト学習の強化
- Authors: Kaiqi Yang, Haoyu Han, Wei Jin, Hui Liu
- Abstract要約: グラフコントラスト学習(GCL)はグラフ上での学習表現において顕著な効果を示した。
摂動グラフ構造を持つ既存の拡張ビューは、通常、空間領域におけるランダムなトポロジーの破損に基づいている。
スペクトル領域におけるグラフ構造の特定の周波数に対して、調整された摂動を呈するGASSERを提案する。
- 参考スコア(独自算出の注目度): 11.322569167679633
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In recent years, Graph Contrastive Learning (GCL) has shown remarkable
effectiveness in learning representations on graphs. As a component of GCL,
good augmentation views are supposed to be invariant to the important
information while discarding the unimportant part. Existing augmentation views
with perturbed graph structures are usually based on random topology corruption
in the spatial domain; however, from perspectives of the spectral domain, this
approach may be ineffective as it fails to pose tailored impacts on the
information of different frequencies, thus weakening the agreement between the
augmentation views. By a preliminary experiment, we show that the impacts
caused by spatial random perturbation are approximately evenly distributed
among frequency bands, which may harm the invariance of augmentations required
by contrastive learning frameworks. To address this issue, we argue that the
perturbation should be selectively posed on the information concerning
different frequencies. In this paper, we propose GASSER which poses tailored
perturbation on the specific frequencies of graph structures in spectral
domain, and the edge perturbation is selectively guided by the spectral hints.
As shown by extensive experiments and theoretical analysis, the augmentation
views are adaptive and controllable, as well as heuristically fitting the
homophily ratios and spectrum of graph structures.
- Abstract(参考訳): 近年,グラフコントラスト学習(gcl)がグラフ表現の学習において顕著な効果を示している。
GCLのコンポーネントとして、重要でない部分を破棄しながら、優れた拡張ビューは重要な情報に不変であるはずである。
摂動グラフ構造を持つ既存の拡張ビューは、通常、空間領域におけるランダムなトポロジー崩壊に基づいているが、スペクトル領域の観点からすると、このアプローチは、異なる周波数の情報に調整された影響を及ぼさないため、拡張ビュー間の合意を弱める可能性がある。
予備実験により、空間的ランダム摂動による影響は、ほぼ均等に周波数帯に分散しており、対照的な学習フレームワークが必要とする増大の分散を損なう可能性があることを示す。
この問題に対処するために、摂動は異なる周波数に関する情報に対して選択的に設定されるべきである。
本稿では,スペクトル領域内のグラフ構造の特定の周波数で調整された摂動を行い,スペクトルヒントによりエッジ摂動を選択的に導出するガスサーを提案する。
広範な実験と理論的解析によって示されるように、拡張ビューは適応的で制御可能であり、グラフ構造のホモフィリ比とスペクトルにヒューリスティックに適合する。
関連論文リスト
- Through the Dual-Prism: A Spectral Perspective on Graph Data
Augmentation for Graph Classification [71.36575018271405]
本稿では,DP-NoiseとDP-Maskを組み合わせたDual-Prism(DP)拡張手法を提案する。
低周波固有値の変動を保ちながら、拡張グラフを生成する際に、臨界特性を大規模に保存できることが判明した。
論文 参考訳(メタデータ) (2024-01-18T12:58:53Z) - HoloNets: Spectral Convolutions do extend to Directed Graphs [59.851175771106625]
従来の知恵は、スペクトル畳み込みネットワークは無向グラフ上にしか展開できないと規定している。
ここでは、このグラフフーリエ変換への伝統的な依存が超フルであることを示す。
本稿では,新たに開発されたフィルタの周波数応答解釈を行い,フィルタ表現に使用するベースの影響を調査し,ネットワークを基盤とする特性演算子との相互作用について議論する。
論文 参考訳(メタデータ) (2023-10-03T17:42:09Z) - Spectral Augmentations for Graph Contrastive Learning [50.149996923976836]
コントラスト学習は、監督の有無にかかわらず、表現を学習するための第一の方法として現れてきた。
近年の研究では、グラフ表現学習における事前学習の有用性が示されている。
本稿では,グラフの対照的な目的に対する拡張を構築する際に,候補のバンクを提供するためのグラフ変換操作を提案する。
論文 参考訳(メタデータ) (2023-02-06T16:26:29Z) - Spectral Feature Augmentation for Graph Contrastive Learning and Beyond [64.78221638149276]
グラフ(および画像)におけるコントラスト学習のための新しいスペクトル特徴論法を提案する。
各データビューに対して,特徴写像毎の低ランク近似を推定し,その近似を地図から抽出して補数を求める。
これは、2つの価値ある副産物(単に1つまたは2つのイテレーション)を楽しむ非標準パワーレジームである、ここで提案された不完全パワーイテレーションによって達成される。
グラフ/画像データセットの実験では、スペクトルフィーチャの増大がベースラインを上回ります。
論文 参考訳(メタデータ) (2022-12-02T08:48:11Z) - Revisiting Graph Contrastive Learning from the Perspective of Graph
Spectrum [91.06367395889514]
グラフ拡張によるノード表現の学習には,GCL(Graph Contrastive Learning)が注目されている。
GCLとグラフスペクトルの関連性を確立することで,これらの疑問に答える。
汎用かつGCLフレンドリなプラグインであるスペクトルグラフコントラスト学習モジュール(SpCo)を提案する。
論文 参考訳(メタデータ) (2022-10-05T15:32:00Z) - Spectral Augmentation for Self-Supervised Learning on Graphs [43.19199994575821]
グラフコントラスト学習(GCL)は、インスタンス識別を通じて表現を学習することを目的としている。
これは、小さな摂動に対して堅牢な不変パターンを反映するためにグラフ拡張に依存する。
最近の研究は、空間領域における一様ランダムなトポロジー拡張を主に実施している。
スペクトル変化を最大化することによりトポロジ拡張を導出するスペクトル拡張を開発する。
論文 参考訳(メタデータ) (2022-10-02T22:20:07Z) - Effect Identification in Cluster Causal Diagrams [51.42809552422494]
クラスタ因果図(略してC-DAG)と呼ばれる新しいタイプのグラフィカルモデルを導入する。
C-DAGは、限定された事前知識に基づいて変数間の関係を部分的に定義することができる。
我々はC-DAGに対する因果推論のための基礎と機械を開発する。
論文 参考訳(メタデータ) (2022-02-22T21:27:31Z) - Quasi-Framelets: Another Improvement to GraphNeural Networks [29.689868950666117]
スペクトルグラフニューラルネットワーク(GNN)は、スペクトル領域に様々なスペクトルフィルタを提案し、グローバルグラフ構造情報とローカルグラフ構造情報の両方をキャプチャすることで、グラフ学習タスクのパフォーマンスを向上させる。
我々の新しいフレームレット畳み込みは、これらの制限を克服するためにスペクトル領域で直接設計されたフィルタファンクオプションを組み込んでいる。
提案した畳み込みはスペクトル情報の遮断に優れた柔軟性を示し,ノイズグラフ信号の負の効果を効果的に緩和する。
論文 参考訳(メタデータ) (2022-01-11T00:10:28Z) - Graph Structural Attack by Spectral Distance [35.998704625736394]
グラフ畳み込みネットワーク(GCN)は、グラフ学習タスクにおける優れたパフォーマンスのために、関心の高まりを助長している。
本稿では,フーリエ領域におけるグラフスペクトルフィルタの破壊に有効なグラフ構造攻撃について検討する。
論文 参考訳(メタデータ) (2021-11-01T04:02:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。