論文の概要: A Signed Graph Approach to Understanding and Mitigating Oversmoothing in GNNs
- arxiv url: http://arxiv.org/abs/2502.11394v2
- Date: Thu, 29 May 2025 08:12:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-30 18:14:07.365409
- Title: A Signed Graph Approach to Understanding and Mitigating Oversmoothing in GNNs
- Title(参考訳): GNNにおけるオーバースムーシングの理解と緩和のためのグラフアプローチ
- Authors: Jiaqi Wang, Xinyi Wu, James Cheng, Yifei Wang,
- Abstract要約: 署名されたグラフの枠組みに基づく統一的な理論的視点を示す。
既存の戦略の多くは、メッセージパッシングを変えて過度な操作に抵抗する負のエッジを暗黙的に導入している。
本稿では,ラベルや特徴の類似性に基づいて署名されたエッジを割り当てるプラグイン・アンド・プレイ方式であるStructure Balanced Propagation (SBP)を提案する。
- 参考スコア(独自算出の注目度): 54.62268052283014
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep graph neural networks (GNNs) often suffer from oversmoothing, where node representations become overly homogeneous with increasing depth. While techniques like normalization, residual connections, and edge dropout have been proposed to mitigate oversmoothing, they are typically developed independently, with limited theoretical understanding of their underlying mechanisms. In this work, we present a unified theoretical perspective based on the framework of signed graphs, showing that many existing strategies implicitly introduce negative edges that alter message-passing to resist oversmoothing. However, we show that merely adding negative edges in an unstructured manner is insufficient-the asymptotic behavior of signed propagation depends critically on the strength and organization of positive and negative edges. To address this limitation, we leverage the theory of structural balance, which promotes stable, cluster-preserving dynamics by connecting similar nodes with positive edges and dissimilar ones with negative edges. We propose Structural Balanced Propagation (SBP), a plug-and-play method that assigns signed edges based on either labels or feature similarity to explicitly enhance structural balance in the constructed signed graphs. Experiments on nine benchmarks across both homophilic and heterophilic settings demonstrate that SBP consistently improves classification accuracy and mitigates oversmoothing, even at depths of up to 300 layers. Our results provide a principled explanation for prior oversmoothing remedies and introduce a new direction for signed message-passing design in deep GNNs.
- Abstract(参考訳): ディープグラフニューラルネットワーク(GNN)は、ノード表現が過度に均一になり、深度が増加するという過度な平滑化に悩まされることが多い。
正規化、残留接続、エッジドロップアウトといった手法は、過度な平滑化を緩和するために提案されているが、それらは典型的には独立して開発され、基礎となるメカニズムの理論的理解は限られている。
本研究では,署名されたグラフの枠組みに基づく統一的な理論的視点を示し,多くの既存戦略が,メッセージパッシングを変化させて過度な表現に抵抗する負のエッジを暗黙的に導入していることを示す。
しかし, 負のエッジを非構造的に加えるだけでは不十分であり, 符号付き伝播の漸近挙動は正のエッジと負のエッジの強さと構造に大きく依存している。
この制限に対処するために、我々は、同じノードを正のエッジで接続し、異なるノードを負のエッジで結合することにより、安定でクラスタ保存のダイナミクスを促進する構造バランスの理論を利用する。
本稿では,ラベルや特徴類似性に基づいて符号付きエッジを割り当て,構成された符号付きグラフの構造バランスを明示的に向上するプラグイン・アンド・プレイ方式であるStructure Balanced Propagation (SBP)を提案する。
ホモ親和性およびヘテロ親和性の両方で9つのベンチマーク実験により、SBPは最大300層までの深さでも、分類精度を一貫して改善し、過剰なスムース化を緩和することを示した。
以上の結果から,より深いGNNにおいて,事前の平滑化対策の原則的説明と,署名されたメッセージパッシング設計のための新たな方向性が導入された。
関連論文リスト
- ReDiSC: A Reparameterized Masked Diffusion Model for Scalable Node Classification with Structured Predictions [64.17845687013434]
本稿では,構造化ノード分類のための構造拡散モデルであるReDiSCを提案する。
本稿では,ReDiSCが最先端のGNN,ラベル伝搬,拡散ベースラインと比較して,優れた,あるいは高い競争力を発揮することを示す。
特にReDiSCは、従来の構造化拡散法が計算制約によって失敗する大規模データセットに効果的にスケールする。
論文 参考訳(メタデータ) (2025-07-19T04:46:53Z) - Mitigating the Structural Bias in Graph Adversarial Defenses [25.511121574854872]
近年の研究では、グラフニューラルネットワーク(GNN)は悪意のある敵対的攻撃を受けやすいことが報告されている。
本稿では,ヘテロホモグラフ構築,$k$NN拡張グラフ構築,マルチビューノードワイドアテンションモジュールなどの防衛戦略を提案する。
提案手法がベンチマークデータセットに与える影響を実証するために,広範な実験を行った。
論文 参考訳(メタデータ) (2025-04-29T15:19:05Z) - Effective and Lightweight Representation Learning for Link Sign Prediction in Signed Bipartite Graphs [3.996726993941017]
署名付き二部グラフを学習するための効率よく軽量なGNNベースのアプローチであるERISEを提案する。
まず、メッセージパッシング中に署名されたエッジを組み込んで、署名された二部グラフにパーソナライズされた伝搬を拡張します。
次に、符号付き二部グラフの低ランク近似にノード埋め込みを共同で学習し、潜在的なノイズを低減する。
論文 参考訳(メタデータ) (2024-12-25T00:39:38Z) - Better Not to Propagate: Understanding Edge Uncertainty and Over-smoothing in Signed Graph Neural Networks [3.4498722449655066]
本稿では,学習中のブロックと署名された伝搬の動的選択と一体化して,ホモフィリーとエッジの誤差比を推定する新しい手法を提案する。
我々の理論解析は, 広範囲な実験によって支持され, 高エッジ誤差比下では, 符号付き伝搬よりもブロックMPの方が有効であることを示す。
論文 参考訳(メタデータ) (2024-08-09T06:46:06Z) - Towards Inductive Robustness: Distilling and Fostering Wave-induced
Resonance in Transductive GCNs Against Graph Adversarial Attacks [56.56052273318443]
グラフニューラルネットワーク(GNN)は、グラフ構造のわずかな摂動が誤った予測に繋がる敵の攻撃に弱いことが示されている。
ここでは, トランスダクティブGCNは本質的に, 波動誘起共鳴プロセスによって達成される, 蒸留可能なロバスト性を有することがわかった。
本稿では,この共振を学習ノード表現を通じて促進するグラフ共振源ネットワーク(GRN)を提案する。
論文 参考訳(メタデータ) (2023-12-14T04:25:50Z) - Balancing Augmentation with Edge-Utility Filter for Signed GNNs [0.20482269513546458]
署名付きグラフニューラルネットワーク(SGNN)は、多くの現実世界のネットワークが2種類のエッジを含む署名付きネットワークであるため、近年注目を集めている。
負のエッジの存在は2つの側面においてSGNNのロバスト性に影響を与える。
本稿では,SGNNにおける上記の2つの側面に対処するバランス強化手法を提案する。まず,不均衡構造における各負のエッジの発生を計算して,各負のエッジの有用性を計測し,第2に,(1)エッジレギュレータを用いて原符号グラフを選択的に拡張する。
論文 参考訳(メタデータ) (2023-10-25T07:15:01Z) - Efficient Link Prediction via GNN Layers Induced by Negative Sampling [86.87385758192566]
リンク予測のためのグラフニューラルネットワーク(GNN)は、緩やかに2つの広いカテゴリに分けられる。
本稿では,新しいGNNアーキテクチャを提案する。このアーキテクチャでは,Emphforwardパスは,Emphboth陽性(典型的)と負陰性(アプローチに共通)のエッジに明示的に依存する。
これは、埋め込み自体を、正と負のサンプルの分離を好むフォワードパス特異的エネルギー関数の最小化子として再キャストすることで達成される。
論文 参考訳(メタデータ) (2023-10-14T07:02:54Z) - Improving Signed Propagation for Graph Neural Networks in Multi-Class Environments [3.4498722449655066]
マルチクラスグラフにおける署名伝達を改善するための2つの新しい戦略を導入する。
提案手法はキャリブレーションとロバスト性の確保を両立させ,不確実性を低減させる。
6つのベンチマークグラフデータセットに対する広範な実験により,本定理の有効性を示す。
論文 参考訳(メタデータ) (2023-01-21T08:47:22Z) - Localized Contrastive Learning on Graphs [110.54606263711385]
局所グラフコントラスト学習(Local-GCL)という,シンプルだが効果的なコントラストモデルを導入する。
その単純さにもかかわらず、Local-GCLは、様々なスケールと特性を持つグラフ上の自己教師付きノード表現学習タスクにおいて、非常に競争力のある性能を達成する。
論文 参考訳(メタデータ) (2022-12-08T23:36:00Z) - Resisting Graph Adversarial Attack via Cooperative Homophilous
Augmentation [60.50994154879244]
最近の研究では、グラフニューラルネットワークは弱く、小さな摂動によって簡単に騙されることが示されている。
本研究では,グラフインジェクションアタック(Graph Injection Attack)という,新興だが重要な攻撃に焦点を当てる。
本稿では,グラフデータとモデルの協調的同好性増強によるGIAに対する汎用防衛フレームワークCHAGNNを提案する。
論文 参考訳(メタデータ) (2022-11-15T11:44:31Z) - Implicit vs Unfolded Graph Neural Networks [18.084842625063082]
グラフニューラルネットワーク(GNN)は、長期依存のモデリングと意図しない結果の回避の間の健全なバランスを維持するのに苦労することがある。
最近、2つの戦略、すなわち暗黙と展開されたGNNが提案されている。
我々は、様々な合成および公的な実世界のベンチマークに対して、実験的な頭と頭の比較を行う。
論文 参考訳(メタデータ) (2021-11-12T07:49:16Z) - Unbiased Graph Embedding with Biased Graph Observations [52.82841737832561]
基礎となるバイアスのないグラフから学習することで、バイアスのない表現を得るための、原則化された新しい方法を提案する。
この新たな視点に基づいて、そのような基礎となるグラフを明らかにするための2つの補完的手法を提案する。
論文 参考訳(メタデータ) (2021-10-26T18:44:37Z) - Structure-Aware Hard Negative Mining for Heterogeneous Graph Contrastive
Learning [21.702342154458623]
本稿では,グラフニューラルネットワーク(GNN)におけるコントラスト学習(CL)について検討する。
まず、メタパスとネットワークスキーマに基づいて複数のセマンティックビューを生成します。
次に、異なるセマンティックビューに対応するノードの埋め込み(陽性)を押して、他の埋め込み(負)を引き離します。
複雑なグラフ構造とGNNの滑らかな性質を考慮し,構造を考慮した強負のマイニング手法を提案する。
論文 参考訳(メタデータ) (2021-08-31T14:44:49Z) - Adversarial Graph Disentanglement [47.27978741175575]
実世界のグラフは複雑な位相構造を持ち、しばしば異なる潜在因子の相互作用によって形成される。
グラフ表現学習のためのアンダーラインtextbfAdversarial underlinetextbfDisentangled underlinetextbfGraph underlinetextbfConvolutional underlinetextbfNetwork (ADGCN)を提案する。
論文 参考訳(メタデータ) (2021-03-12T14:11:36Z) - Graph Neural Networks Inspired by Classical Iterative Algorithms [28.528150667063876]
我々は、2つの古典的反復アルゴリズムの更新ルールを模倣し、統合するために設計された新しいGNNレイヤーのファミリーを考える。
新しい注意機構は、基礎となるエンドツーエンドエネルギー関数に明示的に固定され、エッジの不確かさに関する安定性に寄与する。
論文 参考訳(メタデータ) (2021-03-10T14:08:12Z) - Interpretable Signed Link Prediction with Signed Infomax Hyperbolic
Graph [54.03786611989613]
ソーシャルネットワークにおけるサイン付きリンク予測は、ユーザ(すなわちノード)間の基盤となる関係(リンク)を明らかにすることを目的としている
我々は Signed Infomax Hyperbolic Graph (textbfSIHG) と呼ばれる統一されたフレームワークを開発する。
高次ユーザ関係と複雑な階層をモデル化するために、ノードの埋め込みを投影し、より低歪みの双曲空間で測定する。
論文 参考訳(メタデータ) (2020-11-25T05:09:03Z) - Anisotropic Graph Convolutional Network for Semi-supervised Learning [7.843067454030999]
グラフ畳み込みネットワークは、高精度な予測結果を達成するのに有用であることが証明された効率的なノード埋め込みを学習する。
これらのネットワークはグラフの過度な平滑化と縮小効果の問題に悩まされており、それはグラフの端に線形ラプラシア流を用いて拡散するからである。
本稿では,ノードからの情報的特徴を捉える非線形関数を導入し,過度なスムーシングを防止し,半教師付きノード分類のための異方性グラフ畳み込みネットワークを提案する。
論文 参考訳(メタデータ) (2020-10-20T13:56:03Z) - Towards Deeper Graph Neural Networks [63.46470695525957]
グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。
いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。
本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
論文 参考訳(メタデータ) (2020-07-18T01:11:14Z) - Interpretable Deep Graph Generation with Node-Edge Co-Disentanglement [55.2456981313287]
本稿では,属性グラフの深部生成モデルのための新しいアンタングルメント拡張フレームワークを提案する。
ノードとエッジのデコンボリューションのための新しいアーキテクチャを用いて、上記の3種類の潜伏因子を解離する新しい変分的目的を提案する。
各タイプ内では、画像の既存のフレームワークの一般化が示され、個々の因子のゆがみがさらに強化される。
論文 参考訳(メタデータ) (2020-06-09T16:33:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。