論文の概要: Spectral-Aware Augmentation for Enhanced Graph Representation Learning
- arxiv url: http://arxiv.org/abs/2310.13845v2
- Date: Wed, 4 Sep 2024 23:17:41 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-07 04:41:34.204067
- Title: Spectral-Aware Augmentation for Enhanced Graph Representation Learning
- Title(参考訳): 拡張グラフ表現学習のためのスペクトル認識強化
- Authors: Kaiqi Yang, Haoyu Han, Wei Jin, Hui Liu,
- Abstract要約: 本稿では、スペクトル領域におけるグラフ構造の特定の周波数に調整された摂動を適用するモデルであるGASSERを提案する。
本研究では,GASSERが生成する拡張ビューが適応的かつ制御可能であり,グラフ構造のホモフィリ比やスペクトルと直感的に一致していることを示す。
- 参考スコア(独自算出の注目度): 10.36458924914831
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph Contrastive Learning (GCL) has demonstrated remarkable effectiveness in learning representations on graphs in recent years. To generate ideal augmentation views, the augmentation generation methods should preserve essential information while discarding less relevant details for downstream tasks. However, current augmentation methods usually involve random topology corruption in the spatial domain, which fails to adequately address information spread across different frequencies in the spectral domain. Our preliminary study highlights this issue, demonstrating that spatial random perturbations impact all frequency bands almost uniformly. Given that task-relevant information typically resides in specific spectral regions that vary across graphs, this one-size-fits-all approach can pose challenges. We argue that indiscriminate spatial random perturbation might unintentionally weaken task-relevant information, reducing its effectiveness. To tackle this challenge, we propose applying perturbations selectively, focusing on information specific to different frequencies across diverse graphs. In this paper, we present GASSER, a model that applies tailored perturbations to specific frequencies of graph structures in the spectral domain, guided by spectral hints. Through extensive experimentation and theoretical analysis, we demonstrate that the augmentation views generated by GASSER are adaptive, controllable, and intuitively aligned with the homophily ratios and spectrum of graph structures.
- Abstract(参考訳): グラフコントラスト学習(GCL)は近年,グラフ上での学習表現において顕著な効果を示した。
理想的な拡張ビューを生成するためには、下流タスクの関連性が低い詳細を破棄しつつ、重要な情報を保存する必要がある。
しかし、現在の拡張法は、通常、空間領域におけるランダムなトポロジーの破損を伴い、スペクトル領域内の異なる周波数にまたがる情報の適切な解決に失敗する。
予備的な研究では、空間的ランダムな摂動が全ての周波数帯にほぼ均一に影響を及ぼすことを示した。
タスク関連情報が通常、グラフによって異なる特定のスペクトル領域に存在することを考えると、このワンサイズフィットのアプローチは課題を引き起こす可能性がある。
我々は、無差別な空間的乱れは、意図せずタスク関連情報を弱め、その効果を低下させるかもしれないと論じる。
この課題に対処するために、様々なグラフにまたがる異なる周波数に特異的な情報に着目し、摂動を選択的に適用することを提案する。
本稿では,スペクトル領域におけるグラフ構造の特定の周波数に調整された摂動を適用するGASSERについて,スペクトルヒントで導かれるモデルを提案する。
本研究では,GASSER が生成する拡張ビューが適応的かつ制御可能で,グラフ構造のホモフィリ比やスペクトルに直感的に適合していることを示す。
関連論文リスト
- Spectral Graph Reasoning Network for Hyperspectral Image Classification [0.43512163406551996]
畳み込みニューラルネットワーク(CNN)は、ハイパースペクトル画像(HSI)分類において顕著な性能を達成した。
本稿では、2つの重要なモジュールからなるスペクトルグラフ推論ネットワーク(SGR)学習フレームワークを提案する。
2つのHSIデータセットの実験により、提案したアーキテクチャが分類精度を大幅に改善できることが示されている。
論文 参考訳(メタデータ) (2024-07-02T20:29:23Z) - Through the Dual-Prism: A Spectral Perspective on Graph Data
Augmentation for Graph Classification [71.36575018271405]
本稿では,DP-NoiseとDP-Maskを組み合わせたDual-Prism(DP)拡張手法を提案する。
低周波固有値の変動を保ちながら、拡張グラフを生成する際に、臨界特性を大規模に保存できることが判明した。
論文 参考訳(メタデータ) (2024-01-18T12:58:53Z) - Shape-aware Graph Spectral Learning [36.63516222161871]
スペクトルグラフニューラルネットワーク(GNN)は、メッセージパッシングGNNの限界を超える能力に注目されている。
いくつかの研究は、好ましいグラフ周波数がグラフホモフィリーレベルと関連していることを実証的に示している。
このグラフ周波数とホモフィリー・ヘテロフィリーグラフの関係は、既存のスペクトルGNNにおいて体系的に解析され検討されていない。
我々は、任意のスペクトルフィルタを学習し、対応するホモフィリーレベルの所望の形状に関する事前知識を組み込むことができるニュートン補間に基づくスペクトルフィルタの形状認識正則化を提案する。
論文 参考訳(メタデータ) (2023-10-16T04:57:30Z) - HoloNets: Spectral Convolutions do extend to Directed Graphs [59.851175771106625]
従来の知恵は、スペクトル畳み込みネットワークは無向グラフ上にしか展開できないと規定している。
ここでは、このグラフフーリエ変換への伝統的な依存が超フルであることを示す。
本稿では,新たに開発されたフィルタの周波数応答解釈を行い,フィルタ表現に使用するベースの影響を調査し,ネットワークを基盤とする特性演算子との相互作用について議論する。
論文 参考訳(メタデータ) (2023-10-03T17:42:09Z) - Spectral Augmentations for Graph Contrastive Learning [50.149996923976836]
コントラスト学習は、監督の有無にかかわらず、表現を学習するための第一の方法として現れてきた。
近年の研究では、グラフ表現学習における事前学習の有用性が示されている。
本稿では,グラフの対照的な目的に対する拡張を構築する際に,候補のバンクを提供するためのグラフ変換操作を提案する。
論文 参考訳(メタデータ) (2023-02-06T16:26:29Z) - Spectral Feature Augmentation for Graph Contrastive Learning and Beyond [64.78221638149276]
グラフ(および画像)におけるコントラスト学習のための新しいスペクトル特徴論法を提案する。
各データビューに対して,特徴写像毎の低ランク近似を推定し,その近似を地図から抽出して補数を求める。
これは、2つの価値ある副産物(単に1つまたは2つのイテレーション)を楽しむ非標準パワーレジームである、ここで提案された不完全パワーイテレーションによって達成される。
グラフ/画像データセットの実験では、スペクトルフィーチャの増大がベースラインを上回ります。
論文 参考訳(メタデータ) (2022-12-02T08:48:11Z) - Revisiting Graph Contrastive Learning from the Perspective of Graph
Spectrum [91.06367395889514]
グラフ拡張によるノード表現の学習には,GCL(Graph Contrastive Learning)が注目されている。
GCLとグラフスペクトルの関連性を確立することで,これらの疑問に答える。
汎用かつGCLフレンドリなプラグインであるスペクトルグラフコントラスト学習モジュール(SpCo)を提案する。
論文 参考訳(メタデータ) (2022-10-05T15:32:00Z) - Spectral Augmentation for Self-Supervised Learning on Graphs [43.19199994575821]
グラフコントラスト学習(GCL)は、インスタンス識別を通じて表現を学習することを目的としている。
これは、小さな摂動に対して堅牢な不変パターンを反映するためにグラフ拡張に依存する。
最近の研究は、空間領域における一様ランダムなトポロジー拡張を主に実施している。
スペクトル変化を最大化することによりトポロジ拡張を導出するスペクトル拡張を開発する。
論文 参考訳(メタデータ) (2022-10-02T22:20:07Z) - Effect Identification in Cluster Causal Diagrams [51.42809552422494]
クラスタ因果図(略してC-DAG)と呼ばれる新しいタイプのグラフィカルモデルを導入する。
C-DAGは、限定された事前知識に基づいて変数間の関係を部分的に定義することができる。
我々はC-DAGに対する因果推論のための基礎と機械を開発する。
論文 参考訳(メタデータ) (2022-02-22T21:27:31Z) - Graph Structural Attack by Spectral Distance [35.998704625736394]
グラフ畳み込みネットワーク(GCN)は、グラフ学習タスクにおける優れたパフォーマンスのために、関心の高まりを助長している。
本稿では,フーリエ領域におけるグラフスペクトルフィルタの破壊に有効なグラフ構造攻撃について検討する。
論文 参考訳(メタデータ) (2021-11-01T04:02:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。