論文の概要: A Signed Graph Approach to Understanding and Mitigating Oversmoothing in GNNs
- arxiv url: http://arxiv.org/abs/2502.11394v2
- Date: Thu, 29 May 2025 08:12:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-30 18:14:07.365409
- Title: A Signed Graph Approach to Understanding and Mitigating Oversmoothing in GNNs
- Title（参考訳）: GNNにおけるオーバースムーシングの理解と緩和のためのグラフアプローチ
- Authors: Jiaqi Wang, Xinyi Wu, James Cheng, Yifei Wang,
- Abstract要約: 署名されたグラフの枠組みに基づく統一的な理論的視点を示す。
既存の戦略の多くは、メッセージパッシングを変えて過度な操作に抵抗する負のエッジを暗黙的に導入している。
本稿では,ラベルや特徴の類似性に基づいて署名されたエッジを割り当てるプラグイン・アンド・プレイ方式であるStructure Balanced Propagation (SBP)を提案する。
- 参考スコア（独自算出の注目度）: 54.62268052283014
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep graph neural networks (GNNs) often suffer from oversmoothing, where node representations become overly homogeneous with increasing depth. While techniques like normalization, residual connections, and edge dropout have been proposed to mitigate oversmoothing, they are typically developed independently, with limited theoretical understanding of their underlying mechanisms. In this work, we present a unified theoretical perspective based on the framework of signed graphs, showing that many existing strategies implicitly introduce negative edges that alter message-passing to resist oversmoothing. However, we show that merely adding negative edges in an unstructured manner is insufficient-the asymptotic behavior of signed propagation depends critically on the strength and organization of positive and negative edges. To address this limitation, we leverage the theory of structural balance, which promotes stable, cluster-preserving dynamics by connecting similar nodes with positive edges and dissimilar ones with negative edges. We propose Structural Balanced Propagation (SBP), a plug-and-play method that assigns signed edges based on either labels or feature similarity to explicitly enhance structural balance in the constructed signed graphs. Experiments on nine benchmarks across both homophilic and heterophilic settings demonstrate that SBP consistently improves classification accuracy and mitigates oversmoothing, even at depths of up to 300 layers. Our results provide a principled explanation for prior oversmoothing remedies and introduce a new direction for signed message-passing design in deep GNNs.
- Abstract（参考訳）: ディープグラフニューラルネットワーク(GNN)は、ノード表現が過度に均一になり、深度が増加するという過度な平滑化に悩まされることが多い。
正規化、残留接続、エッジドロップアウトといった手法は、過度な平滑化を緩和するために提案されているが、それらは典型的には独立して開発され、基礎となるメカニズムの理論的理解は限られている。
本研究では,署名されたグラフの枠組みに基づく統一的な理論的視点を示し,多くの既存戦略が,メッセージパッシングを変化させて過度な表現に抵抗する負のエッジを暗黙的に導入していることを示す。
しかし, 負のエッジを非構造的に加えるだけでは不十分であり, 符号付き伝播の漸近挙動は正のエッジと負のエッジの強さと構造に大きく依存している。
この制限に対処するために、我々は、同じノードを正のエッジで接続し、異なるノードを負のエッジで結合することにより、安定でクラスタ保存のダイナミクスを促進する構造バランスの理論を利用する。
本稿では,ラベルや特徴類似性に基づいて符号付きエッジを割り当て,構成された符号付きグラフの構造バランスを明示的に向上するプラグイン・アンド・プレイ方式であるStructure Balanced Propagation (SBP)を提案する。
ホモ親和性およびヘテロ親和性の両方で9つのベンチマーク実験により、SBPは最大300層までの深さでも、分類精度を一貫して改善し、過剰なスムース化を緩和することを示した。
以上の結果から,より深いGNNにおいて,事前の平滑化対策の原則的説明と,署名されたメッセージパッシング設計のための新たな方向性が導入された。
関連論文リスト
- Effective and Lightweight Representation Learning for Link Sign Prediction in Signed Bipartite Graphs [3.996726993941017]
署名付き二部グラフを学習するための効率よく軽量なGNNベースのアプローチであるERISEを提案する。
まず、メッセージパッシング中に署名されたエッジを組み込んで、署名された二部グラフにパーソナライズされた伝搬を拡張します。
次に、符号付き二部グラフの低ランク近似にノード埋め込みを共同で学習し、潜在的なノイズを低減する。
論文 参考訳（メタデータ） (2024-12-25T00:39:38Z) - Improving Signed Propagation for Graph Neural Networks in Multi-Class Environments [3.4498722449655066]
マルチクラスグラフにおける署名伝達を改善するための2つの新しい戦略を導入する。
提案手法はキャリブレーションとロバスト性の確保を両立させ,不確実性を低減させる。
6つのベンチマークグラフデータセットに対する広範な実験により,本定理の有効性を示す。
論文 参考訳（メタデータ） (2023-01-21T08:47:22Z) - Localized Contrastive Learning on Graphs [110.54606263711385]
局所グラフコントラスト学習(Local-GCL)という,シンプルだが効果的なコントラストモデルを導入する。
その単純さにもかかわらず、Local-GCLは、様々なスケールと特性を持つグラフ上の自己教師付きノード表現学習タスクにおいて、非常に競争力のある性能を達成する。
論文 参考訳（メタデータ） (2022-12-08T23:36:00Z) - Resisting Graph Adversarial Attack via Cooperative Homophilous
Augmentation [60.50994154879244]
最近の研究では、グラフニューラルネットワークは弱く、小さな摂動によって簡単に騙されることが示されている。
本研究では,グラフインジェクションアタック(Graph Injection Attack)という,新興だが重要な攻撃に焦点を当てる。
本稿では,グラフデータとモデルの協調的同好性増強によるGIAに対する汎用防衛フレームワークCHAGNNを提案する。
論文 参考訳（メタデータ） (2022-11-15T11:44:31Z) - Implicit vs Unfolded Graph Neural Networks [18.084842625063082]
グラフニューラルネットワーク(GNN)は、長期依存のモデリングと意図しない結果の回避の間の健全なバランスを維持するのに苦労することがある。
最近、2つの戦略、すなわち暗黙と展開されたGNNが提案されている。
我々は、様々な合成および公的な実世界のベンチマークに対して、実験的な頭と頭の比較を行う。
論文 参考訳（メタデータ） (2021-11-12T07:49:16Z) - Unbiased Graph Embedding with Biased Graph Observations [52.82841737832561]
基礎となるバイアスのないグラフから学習することで、バイアスのない表現を得るための、原則化された新しい方法を提案する。
この新たな視点に基づいて、そのような基礎となるグラフを明らかにするための2つの補完的手法を提案する。
論文 参考訳（メタデータ） (2021-10-26T18:44:37Z) - Structure-Aware Hard Negative Mining for Heterogeneous Graph Contrastive
Learning [21.702342154458623]
本稿では,グラフニューラルネットワーク(GNN)におけるコントラスト学習(CL)について検討する。
まず、メタパスとネットワークスキーマに基づいて複数のセマンティックビューを生成します。
次に、異なるセマンティックビューに対応するノードの埋め込み(陽性)を押して、他の埋め込み(負)を引き離します。
複雑なグラフ構造とGNNの滑らかな性質を考慮し,構造を考慮した強負のマイニング手法を提案する。
論文 参考訳（メタデータ） (2021-08-31T14:44:49Z) - Adversarial Graph Disentanglement [47.27978741175575]
実世界のグラフは複雑な位相構造を持ち、しばしば異なる潜在因子の相互作用によって形成される。
グラフ表現学習のためのアンダーラインtextbfAdversarial underlinetextbfDisentangled underlinetextbfGraph underlinetextbfConvolutional underlinetextbfNetwork (ADGCN)を提案する。
論文 参考訳（メタデータ） (2021-03-12T14:11:36Z) - Anisotropic Graph Convolutional Network for Semi-supervised Learning [7.843067454030999]
グラフ畳み込みネットワークは、高精度な予測結果を達成するのに有用であることが証明された効率的なノード埋め込みを学習する。
これらのネットワークはグラフの過度な平滑化と縮小効果の問題に悩まされており、それはグラフの端に線形ラプラシア流を用いて拡散するからである。
本稿では,ノードからの情報的特徴を捉える非線形関数を導入し,過度なスムーシングを防止し,半教師付きノード分類のための異方性グラフ畳み込みネットワークを提案する。
論文 参考訳（メタデータ） (2020-10-20T13:56:03Z) - Towards Deeper Graph Neural Networks [63.46470695525957]
グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。
いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。
本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
論文 参考訳（メタデータ） (2020-07-18T01:11:14Z) - Interpretable Deep Graph Generation with Node-Edge Co-Disentanglement [55.2456981313287]
本稿では,属性グラフの深部生成モデルのための新しいアンタングルメント拡張フレームワークを提案する。
ノードとエッジのデコンボリューションのための新しいアーキテクチャを用いて、上記の3種類の潜伏因子を解離する新しい変分的目的を提案する。
各タイプ内では、画像の既存のフレームワークの一般化が示され、個々の因子のゆがみがさらに強化される。
論文 参考訳（メタデータ） (2020-06-09T16:33:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。