論文の概要: Augment with Care: Enhancing Graph Contrastive Learning with Selective
Spectrum Perturbation
- arxiv url: http://arxiv.org/abs/2310.13845v1
- Date: Fri, 20 Oct 2023 22:39:07 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-25 05:00:05.922664
- Title: Augment with Care: Enhancing Graph Contrastive Learning with Selective
Spectrum Perturbation
- Title(参考訳): Augment with Care:選択スペクトル摂動によるグラフコントラスト学習の強化
- Authors: Kaiqi Yang, Haoyu Han, Wei Jin, Hui Liu
- Abstract要約: グラフコントラスト学習(GCL)はグラフ上での学習表現において顕著な効果を示した。
摂動グラフ構造を持つ既存の拡張ビューは、通常、空間領域におけるランダムなトポロジーの破損に基づいている。
スペクトル領域におけるグラフ構造の特定の周波数に対して、調整された摂動を呈するGASSERを提案する。
- 参考スコア(独自算出の注目度): 11.322569167679633
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In recent years, Graph Contrastive Learning (GCL) has shown remarkable
effectiveness in learning representations on graphs. As a component of GCL,
good augmentation views are supposed to be invariant to the important
information while discarding the unimportant part. Existing augmentation views
with perturbed graph structures are usually based on random topology corruption
in the spatial domain; however, from perspectives of the spectral domain, this
approach may be ineffective as it fails to pose tailored impacts on the
information of different frequencies, thus weakening the agreement between the
augmentation views. By a preliminary experiment, we show that the impacts
caused by spatial random perturbation are approximately evenly distributed
among frequency bands, which may harm the invariance of augmentations required
by contrastive learning frameworks. To address this issue, we argue that the
perturbation should be selectively posed on the information concerning
different frequencies. In this paper, we propose GASSER which poses tailored
perturbation on the specific frequencies of graph structures in spectral
domain, and the edge perturbation is selectively guided by the spectral hints.
As shown by extensive experiments and theoretical analysis, the augmentation
views are adaptive and controllable, as well as heuristically fitting the
homophily ratios and spectrum of graph structures.
- Abstract(参考訳): 近年,グラフコントラスト学習(gcl)がグラフ表現の学習において顕著な効果を示している。
GCLのコンポーネントとして、重要でない部分を破棄しながら、優れた拡張ビューは重要な情報に不変であるはずである。
摂動グラフ構造を持つ既存の拡張ビューは、通常、空間領域におけるランダムなトポロジー崩壊に基づいているが、スペクトル領域の観点からすると、このアプローチは、異なる周波数の情報に調整された影響を及ぼさないため、拡張ビュー間の合意を弱める可能性がある。
予備実験により、空間的ランダム摂動による影響は、ほぼ均等に周波数帯に分散しており、対照的な学習フレームワークが必要とする増大の分散を損なう可能性があることを示す。
この問題に対処するために、摂動は異なる周波数に関する情報に対して選択的に設定されるべきである。
本稿では,スペクトル領域内のグラフ構造の特定の周波数で調整された摂動を行い,スペクトルヒントによりエッジ摂動を選択的に導出するガスサーを提案する。
広範な実験と理論的解析によって示されるように、拡張ビューは適応的で制御可能であり、グラフ構造のホモフィリ比とスペクトルにヒューリスティックに適合する。
関連論文リスト
- GrassNet: State Space Model Meets Graph Neural Network [57.62885438406724]
Graph State Space Network (GrassNet)は、任意のグラフスペクトルフィルタを設計するためのシンプルで効果的なスキームを提供する理論的なサポートを持つ、新しいグラフニューラルネットワークである。
我々の知る限り、我々の研究はグラフGNNスペクトルフィルタの設計にSSMを使った最初のものである。
9つの公開ベンチマークでの大規模な実験により、GrassNetは現実世界のグラフモデリングタスクにおいて優れたパフォーマンスを達成することが明らかになった。
論文 参考訳(メタデータ) (2024-08-16T07:33:58Z) - Spectral Graph Reasoning Network for Hyperspectral Image Classification [0.43512163406551996]
畳み込みニューラルネットワーク(CNN)は、ハイパースペクトル画像(HSI)分類において顕著な性能を達成した。
本稿では、2つの重要なモジュールからなるスペクトルグラフ推論ネットワーク(SGR)学習フレームワークを提案する。
2つのHSIデータセットの実験により、提案したアーキテクチャが分類精度を大幅に改善できることが示されている。
論文 参考訳(メタデータ) (2024-07-02T20:29:23Z) - Heterogeneous Graph Contrastive Learning with Spectral Augmentation [15.231689595121553]
本稿では、異種グラフニューラルネットワークにおいて、スペクトル強調グラフコントラスト学習モデル(SHCL)を初めて導入する。
提案モデルは不均一グラフ自体を通じて適応的トポロジ拡張スキームを学習する。
複数の実世界のデータセットに対する実験結果から,提案モデルの有効性が示された。
論文 参考訳(メタデータ) (2024-06-30T14:20:12Z) - Through the Dual-Prism: A Spectral Perspective on Graph Data
Augmentation for Graph Classification [71.36575018271405]
本稿では,DP-NoiseとDP-Maskを組み合わせたDual-Prism(DP)拡張手法を提案する。
低周波固有値の変動を保ちながら、拡張グラフを生成する際に、臨界特性を大規模に保存できることが判明した。
論文 参考訳(メタデータ) (2024-01-18T12:58:53Z) - HoloNets: Spectral Convolutions do extend to Directed Graphs [59.851175771106625]
従来の知恵は、スペクトル畳み込みネットワークは無向グラフ上にしか展開できないと規定している。
ここでは、このグラフフーリエ変換への伝統的な依存が超フルであることを示す。
本稿では,新たに開発されたフィルタの周波数応答解釈を行い,フィルタ表現に使用するベースの影響を調査し,ネットワークを基盤とする特性演算子との相互作用について議論する。
論文 参考訳(メタデータ) (2023-10-03T17:42:09Z) - Spectral Augmentation for Self-Supervised Learning on Graphs [43.19199994575821]
グラフコントラスト学習(GCL)は、インスタンス識別を通じて表現を学習することを目的としている。
これは、小さな摂動に対して堅牢な不変パターンを反映するためにグラフ拡張に依存する。
最近の研究は、空間領域における一様ランダムなトポロジー拡張を主に実施している。
スペクトル変化を最大化することによりトポロジ拡張を導出するスペクトル拡張を開発する。
論文 参考訳(メタデータ) (2022-10-02T22:20:07Z) - Quasi-Framelets: Robust Graph Neural Networks via Adaptive Framelet Convolution [28.474359021962346]
スペクトルグラフニューラルネットワーク(GNN)のためのマルチスケールフレームレット畳み込みを提案する。
提案設計は、不要なスペクトル情報をフィルタリングし、ノイズグラフ信号の悪影響を著しく低減する。
ノイズの多いデータや敵攻撃に対する優れたレジリエンスを示しており、現実世界のグラフアプリケーションに対する堅牢なソリューションとしての可能性を強調している。
論文 参考訳(メタデータ) (2022-01-11T00:10:28Z) - On the Frequency Bias of Generative Models [61.60834513380388]
我々は、最先端のGANトレーニングにおいて、高周波アーティファクトに対する提案手法を解析した。
既存のアプローチでは、スペクトルアーティファクトを完全に解決できないことが分かっています。
以上の結果から,識別能力の向上に大きな可能性があることが示唆された。
論文 参考訳(メタデータ) (2021-11-03T18:12:11Z) - Graph Structural Attack by Spectral Distance [35.998704625736394]
グラフ畳み込みネットワーク(GCN)は、グラフ学習タスクにおける優れたパフォーマンスのために、関心の高まりを助長している。
本稿では,フーリエ領域におけるグラフスペクトルフィルタの破壊に有効なグラフ構造攻撃について検討する。
論文 参考訳(メタデータ) (2021-11-01T04:02:34Z) - Spectral-Spatial Global Graph Reasoning for Hyperspectral Image
Classification [50.899576891296235]
畳み込みニューラルネットワークは、ハイパースペクトル画像分類に広く応用されている。
近年の手法は空間トポロジのグラフ畳み込みによってこの問題に対処しようとしている。
論文 参考訳(メタデータ) (2021-06-26T06:24:51Z) - Spectral Graph Attention Network with Fast Eigen-approximation [103.93113062682633]
スペクトルグラフ注意ネットワーク(SpGAT)は、重み付きフィルタとグラフウェーブレットベースに関する異なる周波数成分の表現を学習する。
固有分解による計算コストを削減するために,高速近似変種SpGAT-Chebyを提案する。
半教師付きノード分類タスクにおけるSpGATとSpGAT-Chebyの性能を徹底的に評価する。
論文 参考訳(メタデータ) (2020-03-16T21:49:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。