論文の概要: Efficient Low-Rank GNN Defense Against Structural Attacks
- arxiv url: http://arxiv.org/abs/2309.10136v1
- Date: Mon, 18 Sep 2023 20:22:27 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-20 17:37:16.952797
- Title: Efficient Low-Rank GNN Defense Against Structural Attacks
- Title（参考訳）: 構造攻撃に対する高効率低域GNN防御
- Authors: Abdullah Alchihabi, Qing En, Yuhong Guo
- Abstract要約: グラフニューラルネットワーク(GNN)は、グラフデータよりも強力な表現能力を持っていることが示されている。
ELR-GNNは、敵攻撃に対する防御のために、低ランクでスパースなグラフ構造を学習することを目的としている。
- 参考スコア（独自算出の注目度）: 26.77973539016117
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph Neural Networks (GNNs) have been shown to possess strong representation
abilities over graph data. However, GNNs are vulnerable to adversarial attacks,
and even minor perturbations to the graph structure can significantly degrade
their performance. Existing methods either are ineffective against
sophisticated attacks or require the optimization of dense adjacency matrices,
which is time-consuming and prone to local minima. To remedy this problem, we
propose an Efficient Low-Rank Graph Neural Network (ELR-GNN) defense method,
which aims to learn low-rank and sparse graph structures for defending against
adversarial attacks, ensuring effective defense with greater efficiency.
Specifically, ELR-GNN consists of two modules: a Coarse Low-Rank Estimation
Module and a Fine-Grained Estimation Module. The first module adopts the
truncated Singular Value Decomposition (SVD) to initialize the low-rank
adjacency matrix estimation, which serves as a starting point for optimizing
the low-rank matrix. In the second module, the initial estimate is refined by
jointly learning a low-rank sparse graph structure with the GNN model. Sparsity
is incorporated into the learned low-rank adjacency matrix by pruning weak
connections, which can reduce redundant data while maintaining valuable
information. As a result, instead of using the dense adjacency matrix directly,
ELR-GNN can learn a low-rank and sparse estimate of it in a simple, efficient
and easy to optimize manner. The experimental results demonstrate that ELR-GNN
outperforms the state-of-the-art GNN defense methods in the literature, in
addition to being very efficient and easy to train.
- Abstract（参考訳）: グラフニューラルネットワーク(gnns)は、グラフデータよりも強力な表現能力を有することが示されている。
しかし、GNNは敵攻撃に対して脆弱であり、グラフ構造に対する小さな摂動でさえ、その性能を著しく低下させる可能性がある。
既存の手法は高度な攻撃に対して効果がないか、あるいは局所的な最小限の時間を要する高密度隣接行列の最適化を必要とする。
この問題を解決するために,敵攻撃に対する防御のために,低ランクでスパースなグラフ構造を学習し,効率よく効果的に防御することを目的としたELR-GNN(Efficient Low-Rank Graph Neural Network)防衛法を提案する。
具体的には、ELR-GNNは粗い低ランク推定モジュールと細粒度推定モジュールの2つのモジュールから構成される。
第1のモジュールは、truncated Singular Value Decomposition (SVD) を採用し、低ランク行列を最適化する出発点となる低ランク隣接行列推定を初期化する。
第2モジュールでは、GNNモデルとともに低ランクスパースグラフ構造を共同学習することにより、初期推定を洗練する。
sparsityは、弱い接続を刈り取ることで学習された低ランクの隣接行列に組み込まれ、貴重な情報を維持しながら冗長なデータを削減できる。
その結果、密接な隣接行列を直接使用する代わりに、ELR-GNNは、単純で効率的で最適化が容易な方法で、低ランクでスパースな推定値を学ぶことができる。
実験の結果、ELR-GNNは、非常に効率的で訓練が容易であるだけでなく、文学における最先端のGNN防御手法よりも優れていることが示された。
関連論文リスト
- SFR-GNN: Simple and Fast Robust GNNs against Structural Attacks [13.30477801940754]
グラフニューラルネットワーク(GNN)は,グラフ構造化データに対する可換性を示す。
GNNはグラフトポロジーに依存するため、しばしば敵対的な構造攻撃に対して脆弱である。
本稿では,SFR-GNN (Simple and Fast Robust Graph Neural Network) と呼ばれる,相互情報理論をサポートする効率的な防御手法を提案する。
論文 参考訳（メタデータ） (2024-08-29T13:52:28Z) - Learning to Reweight for Graph Neural Network [63.978102332612906]
グラフニューラルネットワーク(GNN)は、グラフタスクに対して有望な結果を示す。
既存のGNNの一般化能力は、テストとトレーニンググラフデータの間に分散シフトが存在する場合に低下する。
本稿では,分布外一般化能力を大幅に向上させる非線形グラフデコリレーション法を提案する。
論文 参考訳（メタデータ） (2023-12-19T12:25:10Z) - Efficient Heterogeneous Graph Learning via Random Projection [58.4138636866903]
不均一グラフニューラルネットワーク(HGNN)は、異種グラフを深層学習するための強力なツールである。
最近のプリ計算ベースのHGNNは、一時間メッセージパッシングを使用して不均一グラフを正規形テンソルに変換する。
我々はRandom Projection Heterogeneous Graph Neural Network (RpHGNN) というハイブリッド計算前HGNNを提案する。
論文 参考訳（メタデータ） (2023-10-23T01:25:44Z) - Label Deconvolution for Node Representation Learning on Large-scale
Attributed Graphs against Learning Bias [75.44877675117749]
本稿では,GNNの逆写像に対する新しい,スケーラブルな近似による学習バイアスを軽減するために,ラベルの効率的な正規化手法,すなわちラベルのデコンボリューション(LD)を提案する。
実験では、LDはOpen Graphデータセットのベンチマークで最先端のメソッドを大幅に上回っている。
論文 参考訳（メタデータ） (2023-09-26T13:09:43Z) - Robust Graph Neural Networks using Weighted Graph Laplacian [1.8292714902548342]
グラフニューラルネットワーク(GNN)は、入力データにおけるノイズや敵攻撃に対して脆弱である。
重み付きラプラシアンGNN(RWL-GNN)として知られるGNNの強化のための汎用フレームワークを提案する。
論文 参考訳（メタデータ） (2022-08-03T05:36:35Z) - Reliable Representations Make A Stronger Defender: Unsupervised
Structure Refinement for Robust GNN [36.045702771828736]
グラフニューラルネットワーク(GNN)は、グラフデータ上でのタスクの繁栄に成功している。
近年の研究では、グラフ構造を悪質に修正することで、攻撃者がGNNの性能を壊滅的に低下させることができることが示されている。
グラフ構造を最適化するための教師なしパイプラインSTABLEを提案する。
論文 参考訳（メタデータ） (2022-06-30T10:02:32Z) - Optimal Propagation for Graph Neural Networks [51.08426265813481]
最適グラフ構造を学習するための二段階最適化手法を提案する。
また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
論文 参考訳（メタデータ） (2022-05-06T03:37:00Z) - GARNET: Reduced-Rank Topology Learning for Robust and Scalable Graph
Neural Networks [15.448462928073635]
グラフニューラルネットワーク(GNN)は、非ユークリッドデータでの学習を含むさまざまなアプリケーションにますます導入されている。
近年の研究では、GNNはグラフ敵攻撃に弱いことが示されている。
本稿では,GNNモデルの対角的ロバスト性を高めるため,スケーラブルなスペクトル法であるGARNETを提案する。
論文 参考訳（メタデータ） (2022-01-30T06:32:44Z) - Combining Label Propagation and Simple Models Out-performs Graph Neural
Networks [52.121819834353865]
多くの標準的なトランスダクティブノード分類ベンチマークでは、最先端のGNNの性能を超えたり、一致させることができる。
これをC&S(Correct and Smooth)と呼ぶ。
我々のアプローチは、様々なベンチマークで最先端のGNNの性能を上回るか、ほぼ一致している。
論文 参考訳（メタデータ） (2020-10-27T02:10:52Z) - Fast Learning of Graph Neural Networks with Guaranteed Generalizability:
One-hidden-layer Case [93.37576644429578]
グラフニューラルネットワーク(GNN)は、グラフ構造化データから実際に学習する上で、近年大きな進歩を遂げている。
回帰問題と二項分類問題の両方に隠れ層を持つGNNの理論的に基底的な一般化可能性解析を行う。
論文 参考訳（メタデータ） (2020-06-25T00:45:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。