論文の概要: Oversmoothing as Loss of Sign: Towards Structural Balance in Graph Neural Networks
- arxiv url: http://arxiv.org/abs/2502.11394v1
- Date: Mon, 17 Feb 2025 03:25:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-18 20:34:45.048486
- Title: Oversmoothing as Loss of Sign: Towards Structural Balance in Graph Neural Networks
- Title（参考訳）: 符号の喪失としての過平化--グラフニューラルネットワークの構造バランスを目指して
- Authors: Jiaqi Wang, Xinyi Wu, James Cheng, Yifei Wang,
- Abstract要約: オーバースムーシングはグラフニューラルネットワーク(GNN)において一般的な問題である
反過剰化手法の3つの主要なクラスは、数学的に符号付きグラフ上のメッセージパッシングと解釈できる。
負のエッジはノードをある程度撃退することができ、これらのメソッドが過剰なスムースを緩和する方法に関する深い洞察を提供する。
- 参考スコア（独自算出の注目度）: 54.62268052283014
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Oversmoothing is a common issue in graph neural networks (GNNs), where node representations become excessively homogeneous as the number of layers increases, resulting in degraded performance. Various strategies have been proposed to combat oversmoothing in practice, yet they are based on different heuristics and lack a unified understanding of their inherent mechanisms. In this paper, we show that three major classes of anti-oversmoothing techniques can be mathematically interpreted as message passing over signed graphs comprising both positive and negative edges. By analyzing the asymptotic behavior of signed graph propagation, we demonstrate that negative edges can repel nodes to a certain extent, providing deeper insights into how these methods mitigate oversmoothing. Furthermore, our results suggest that the structural balance of a signed graph-where positive edges exist only within clusters and negative edges appear only between clusters-is crucial for clustering node representations in the long term through signed graph propagation. Motivated by these observations, we propose a solution to mitigate oversmoothing with theoretical guarantees-Structural Balance Propagation (SBP), by incorporating label and feature information to create a structurally balanced graph for message-passing. Experiments on nine datasets against twelve baselines demonstrate the effectiveness of our method, highlighting the value of our signed graph perspective.
- Abstract（参考訳）: グラフニューラルネットワーク(GNN)では、層数が増加するにつれてノード表現が過度に均一になるため、性能が低下する。
実際には過密と戦うための様々な戦略が提案されているが、それらは異なるヒューリスティックに基づいており、それら固有のメカニズムの統一的な理解が欠如している。
本稿では,正負のエッジと負のエッジからなる符号付きグラフ上でのメッセージパッシングとして数学的に解釈できることを述べる。
符号付きグラフ伝播の漸近的挙動を解析することにより、負のエッジがノードをある程度撃退できることを示す。
さらに, この結果から, ノード表現のクラスタ化には, クラスタ内でのみ正のエッジが存在し, 負のエッジはクラスタ間にのみ出現することが示唆された。
これらの観測により,ラベルと特徴情報を組み込んで,メッセージパッシングのための構造的バランスの取れたグラフを作成することにより,理論的保証・構造バランス伝搬(SBP)による過度な平滑化を緩和する手法を提案する。
12のベースラインに対する9つのデータセットの実験は、我々の手法の有効性を示し、署名されたグラフパースペクティブの価値を強調した。
関連論文リスト
- Effective and Lightweight Representation Learning for Link Sign Prediction in Signed Bipartite Graphs [3.996726993941017]
署名付き二部グラフを学習するための効率よく軽量なGNNベースのアプローチであるERISEを提案する。
まず、メッセージパッシング中に署名されたエッジを組み込んで、署名された二部グラフにパーソナライズされた伝搬を拡張します。
次に、符号付き二部グラフの低ランク近似にノード埋め込みを共同で学習し、潜在的なノイズを低減する。
論文 参考訳（メタデータ） (2024-12-25T00:39:38Z) - Improving Signed Propagation for Graph Neural Networks in Multi-Class Environments [3.4498722449655066]
マルチクラスグラフにおける署名伝達を改善するための2つの新しい戦略を導入する。
提案手法はキャリブレーションとロバスト性の確保を両立させ,不確実性を低減させる。
6つのベンチマークグラフデータセットに対する広範な実験により,本定理の有効性を示す。
論文 参考訳（メタデータ） (2023-01-21T08:47:22Z) - Localized Contrastive Learning on Graphs [110.54606263711385]
局所グラフコントラスト学習(Local-GCL)という,シンプルだが効果的なコントラストモデルを導入する。
その単純さにもかかわらず、Local-GCLは、様々なスケールと特性を持つグラフ上の自己教師付きノード表現学習タスクにおいて、非常に競争力のある性能を達成する。
論文 参考訳（メタデータ） (2022-12-08T23:36:00Z) - Resisting Graph Adversarial Attack via Cooperative Homophilous
Augmentation [60.50994154879244]
最近の研究では、グラフニューラルネットワークは弱く、小さな摂動によって簡単に騙されることが示されている。
本研究では,グラフインジェクションアタック(Graph Injection Attack)という,新興だが重要な攻撃に焦点を当てる。
本稿では,グラフデータとモデルの協調的同好性増強によるGIAに対する汎用防衛フレームワークCHAGNNを提案する。
論文 参考訳（メタデータ） (2022-11-15T11:44:31Z) - Implicit vs Unfolded Graph Neural Networks [18.084842625063082]
グラフニューラルネットワーク(GNN)は、長期依存のモデリングと意図しない結果の回避の間の健全なバランスを維持するのに苦労することがある。
最近、2つの戦略、すなわち暗黙と展開されたGNNが提案されている。
我々は、様々な合成および公的な実世界のベンチマークに対して、実験的な頭と頭の比較を行う。
論文 参考訳（メタデータ） (2021-11-12T07:49:16Z) - Unbiased Graph Embedding with Biased Graph Observations [52.82841737832561]
基礎となるバイアスのないグラフから学習することで、バイアスのない表現を得るための、原則化された新しい方法を提案する。
この新たな視点に基づいて、そのような基礎となるグラフを明らかにするための2つの補完的手法を提案する。
論文 参考訳（メタデータ） (2021-10-26T18:44:37Z) - Structure-Aware Hard Negative Mining for Heterogeneous Graph Contrastive
Learning [21.702342154458623]
本稿では,グラフニューラルネットワーク(GNN)におけるコントラスト学習(CL)について検討する。
まず、メタパスとネットワークスキーマに基づいて複数のセマンティックビューを生成します。
次に、異なるセマンティックビューに対応するノードの埋め込み(陽性)を押して、他の埋め込み(負)を引き離します。
複雑なグラフ構造とGNNの滑らかな性質を考慮し,構造を考慮した強負のマイニング手法を提案する。
論文 参考訳（メタデータ） (2021-08-31T14:44:49Z) - Adversarial Graph Disentanglement [47.27978741175575]
実世界のグラフは複雑な位相構造を持ち、しばしば異なる潜在因子の相互作用によって形成される。
グラフ表現学習のためのアンダーラインtextbfAdversarial underlinetextbfDisentangled underlinetextbfGraph underlinetextbfConvolutional underlinetextbfNetwork (ADGCN)を提案する。
論文 参考訳（メタデータ） (2021-03-12T14:11:36Z) - Anisotropic Graph Convolutional Network for Semi-supervised Learning [7.843067454030999]
グラフ畳み込みネットワークは、高精度な予測結果を達成するのに有用であることが証明された効率的なノード埋め込みを学習する。
これらのネットワークはグラフの過度な平滑化と縮小効果の問題に悩まされており、それはグラフの端に線形ラプラシア流を用いて拡散するからである。
本稿では,ノードからの情報的特徴を捉える非線形関数を導入し,過度なスムーシングを防止し,半教師付きノード分類のための異方性グラフ畳み込みネットワークを提案する。
論文 参考訳（メタデータ） (2020-10-20T13:56:03Z) - Towards Deeper Graph Neural Networks [63.46470695525957]
グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。
いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。
本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
論文 参考訳（メタデータ） (2020-07-18T01:11:14Z) - Interpretable Deep Graph Generation with Node-Edge Co-Disentanglement [55.2456981313287]
本稿では,属性グラフの深部生成モデルのための新しいアンタングルメント拡張フレームワークを提案する。
ノードとエッジのデコンボリューションのための新しいアーキテクチャを用いて、上記の3種類の潜伏因子を解離する新しい変分的目的を提案する。
各タイプ内では、画像の既存のフレームワークの一般化が示され、個々の因子のゆがみがさらに強化される。
論文 参考訳（メタデータ） (2020-06-09T16:33:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。