論文の概要: Oversmoothing as Loss of Sign: Towards Structural Balance in Graph Neural Networks

• arxiv url: http://arxiv.org/abs/2502.11394v1
• Date: Mon, 17 Feb 2025 03:25:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-18 20:34:45.048486
• Title: Oversmoothing as Loss of Sign: Towards Structural Balance in Graph Neural Networks
• Title（参考訳）: 符号の喪失としての過平化--グラフニューラルネットワークの構造バランスを目指して
• Authors: Jiaqi Wang, Xinyi Wu, James Cheng, Yifei Wang,
• Abstract要約: オーバースムーシングはグラフニューラルネットワーク(GNN)において一般的な問題である 反過剰化手法の3つの主要なクラスは、数学的に符号付きグラフ上のメッセージパッシングと解釈できる。 負のエッジはノードをある程度撃退することができ、これらのメソッドが過剰なスムースを緩和する方法に関する深い洞察を提供する。
• 参考スコア（独自算出の注目度）: 54.62268052283014
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Oversmoothing is a common issue in graph neural networks (GNNs), where node representations become excessively homogeneous as the number of layers increases, resulting in degraded performance. Various strategies have been proposed to combat oversmoothing in practice, yet they are based on different heuristics and lack a unified understanding of their inherent mechanisms. In this paper, we show that three major classes of anti-oversmoothing techniques can be mathematically interpreted as message passing over signed graphs comprising both positive and negative edges. By analyzing the asymptotic behavior of signed graph propagation, we demonstrate that negative edges can repel nodes to a certain extent, providing deeper insights into how these methods mitigate oversmoothing. Furthermore, our results suggest that the structural balance of a signed graph-where positive edges exist only within clusters and negative edges appear only between clusters-is crucial for clustering node representations in the long term through signed graph propagation. Motivated by these observations, we propose a solution to mitigate oversmoothing with theoretical guarantees-Structural Balance Propagation (SBP), by incorporating label and feature information to create a structurally balanced graph for message-passing. Experiments on nine datasets against twelve baselines demonstrate the effectiveness of our method, highlighting the value of our signed graph perspective.
• Abstract（参考訳）: グラフニューラルネットワーク(GNN)では、層数が増加するにつれてノード表現が過度に均一になるため、性能が低下する。 実際には過密と戦うための様々な戦略が提案されているが、それらは異なるヒューリスティックに基づいており、それら固有のメカニズムの統一的な理解が欠如している。 本稿では,正負のエッジと負のエッジからなる符号付きグラフ上でのメッセージパッシングとして数学的に解釈できることを述べる。 符号付きグラフ伝播の漸近的挙動を解析することにより、負のエッジがノードをある程度撃退できることを示す。 さらに, この結果から, ノード表現のクラスタ化には, クラスタ内でのみ正のエッジが存在し, 負のエッジはクラスタ間にのみ出現することが示唆された。 これらの観測により,ラベルと特徴情報を組み込んで,メッセージパッシングのための構造的バランスの取れたグラフを作成することにより,理論的保証・構造バランス伝搬(SBP)による過度な平滑化を緩和する手法を提案する。 12のベースラインに対する9つのデータセットの実験は、我々の手法の有効性を示し、署名されたグラフパースペクティブの価値を強調した。

関連論文リスト

• ReDiSC: A Reparameterized Masked Diffusion Model for Scalable Node Classification with Structured Predictions [64.17845687013434]
  本稿では,構造化ノード分類のための構造拡散モデルであるReDiSCを提案する。 本稿では,ReDiSCが最先端のGNN,ラベル伝搬,拡散ベースラインと比較して,優れた,あるいは高い競争力を発揮することを示す。 特にReDiSCは、従来の構造化拡散法が計算制約によって失敗する大規模データセットに効果的にスケールする。
  論文  参考訳（メタデータ） (2025-07-19T04:46:53Z)
• Mitigating the Structural Bias in Graph Adversarial Defenses [25.511121574854872]
  近年の研究では、グラフニューラルネットワーク(GNN)は悪意のある敵対的攻撃を受けやすいことが報告されている。 本稿では,ヘテロホモグラフ構築,$k$NN拡張グラフ構築,マルチビューノードワイドアテンションモジュールなどの防衛戦略を提案する。 提案手法がベンチマークデータセットに与える影響を実証するために,広範な実験を行った。
  論文  参考訳（メタデータ） (2025-04-29T15:19:05Z)
• Effective and Lightweight Representation Learning for Link Sign Prediction in Signed Bipartite Graphs [3.996726993941017]
  署名付き二部グラフを学習するための効率よく軽量なGNNベースのアプローチであるERISEを提案する。 まず、メッセージパッシング中に署名されたエッジを組み込んで、署名された二部グラフにパーソナライズされた伝搬を拡張します。 次に、符号付き二部グラフの低ランク近似にノード埋め込みを共同で学習し、潜在的なノイズを低減する。
  論文  参考訳（メタデータ） (2024-12-25T00:39:38Z)
• Better Not to Propagate: Understanding Edge Uncertainty and Over-smoothing in Signed Graph Neural Networks [3.4498722449655066]
  本稿では,学習中のブロックと署名された伝搬の動的選択と一体化して,ホモフィリーとエッジの誤差比を推定する新しい手法を提案する。 我々の理論解析は, 広範囲な実験によって支持され, 高エッジ誤差比下では, 符号付き伝搬よりもブロックMPの方が有効であることを示す。
  論文  参考訳（メタデータ） (2024-08-09T06:46:06Z)
• Towards Inductive Robustness: Distilling and Fostering Wave-induced Resonance in Transductive GCNs Against Graph Adversarial Attacks [56.56052273318443]
  グラフニューラルネットワーク(GNN)は、グラフ構造のわずかな摂動が誤った予測に繋がる敵の攻撃に弱いことが示されている。 ここでは, トランスダクティブGCNは本質的に, 波動誘起共鳴プロセスによって達成される, 蒸留可能なロバスト性を有することがわかった。 本稿では,この共振を学習ノード表現を通じて促進するグラフ共振源ネットワーク(GRN)を提案する。
  論文  参考訳（メタデータ） (2023-12-14T04:25:50Z)
• Balancing Augmentation with Edge-Utility Filter for Signed GNNs [0.20482269513546458]
  署名付きグラフニューラルネットワーク(SGNN)は、多くの現実世界のネットワークが2種類のエッジを含む署名付きネットワークであるため、近年注目を集めている。 負のエッジの存在は2つの側面においてSGNNのロバスト性に影響を与える。 本稿では,SGNNにおける上記の2つの側面に対処するバランス強化手法を提案する。まず,不均衡構造における各負のエッジの発生を計算して,各負のエッジの有用性を計測し,第2に,(1)エッジレギュレータを用いて原符号グラフを選択的に拡張する。
  論文  参考訳（メタデータ） (2023-10-25T07:15:01Z)
• Efficient Link Prediction via GNN Layers Induced by Negative Sampling [86.87385758192566]
  リンク予測のためのグラフニューラルネットワーク(GNN)は、緩やかに2つの広いカテゴリに分けられる。 本稿では,新しいGNNアーキテクチャを提案する。このアーキテクチャでは,Emphforwardパスは,Emphboth陽性(典型的)と負陰性(アプローチに共通)のエッジに明示的に依存する。 これは、埋め込み自体を、正と負のサンプルの分離を好むフォワードパス特異的エネルギー関数の最小化子として再キャストすることで達成される。
  論文  参考訳（メタデータ） (2023-10-14T07:02:54Z)
• Improving Signed Propagation for Graph Neural Networks in Multi-Class Environments [3.4498722449655066]
  マルチクラスグラフにおける署名伝達を改善するための2つの新しい戦略を導入する。 提案手法はキャリブレーションとロバスト性の確保を両立させ,不確実性を低減させる。 6つのベンチマークグラフデータセットに対する広範な実験により,本定理の有効性を示す。
  論文  参考訳（メタデータ） (2023-01-21T08:47:22Z)
• Localized Contrastive Learning on Graphs [110.54606263711385]
  局所グラフコントラスト学習(Local-GCL)という,シンプルだが効果的なコントラストモデルを導入する。 その単純さにもかかわらず、Local-GCLは、様々なスケールと特性を持つグラフ上の自己教師付きノード表現学習タスクにおいて、非常に競争力のある性能を達成する。
  論文  参考訳（メタデータ） (2022-12-08T23:36:00Z)
• Resisting Graph Adversarial Attack via Cooperative Homophilous Augmentation [60.50994154879244]
  最近の研究では、グラフニューラルネットワークは弱く、小さな摂動によって簡単に騙されることが示されている。 本研究では,グラフインジェクションアタック(Graph Injection Attack)という,新興だが重要な攻撃に焦点を当てる。 本稿では,グラフデータとモデルの協調的同好性増強によるGIAに対する汎用防衛フレームワークCHAGNNを提案する。
  論文  参考訳（メタデータ） (2022-11-15T11:44:31Z)
• Implicit vs Unfolded Graph Neural Networks [18.084842625063082]
  グラフニューラルネットワーク(GNN)は、長期依存のモデリングと意図しない結果の回避の間の健全なバランスを維持するのに苦労することがある。 最近、2つの戦略、すなわち暗黙と展開されたGNNが提案されている。 我々は、様々な合成および公的な実世界のベンチマークに対して、実験的な頭と頭の比較を行う。
  論文  参考訳（メタデータ） (2021-11-12T07:49:16Z)
• Unbiased Graph Embedding with Biased Graph Observations [52.82841737832561]
  基礎となるバイアスのないグラフから学習することで、バイアスのない表現を得るための、原則化された新しい方法を提案する。 この新たな視点に基づいて、そのような基礎となるグラフを明らかにするための2つの補完的手法を提案する。
  論文  参考訳（メタデータ） (2021-10-26T18:44:37Z)
• Structure-Aware Hard Negative Mining for Heterogeneous Graph Contrastive Learning [21.702342154458623]
  本稿では,グラフニューラルネットワーク(GNN)におけるコントラスト学習(CL)について検討する。 まず、メタパスとネットワークスキーマに基づいて複数のセマンティックビューを生成します。 次に、異なるセマンティックビューに対応するノードの埋め込み(陽性)を押して、他の埋め込み(負)を引き離します。 複雑なグラフ構造とGNNの滑らかな性質を考慮し,構造を考慮した強負のマイニング手法を提案する。
  論文  参考訳（メタデータ） (2021-08-31T14:44:49Z)
• Adversarial Graph Disentanglement [47.27978741175575]
  実世界のグラフは複雑な位相構造を持ち、しばしば異なる潜在因子の相互作用によって形成される。 グラフ表現学習のためのアンダーラインtextbfAdversarial underlinetextbfDisentangled underlinetextbfGraph underlinetextbfConvolutional underlinetextbfNetwork (ADGCN)を提案する。
  論文  参考訳（メタデータ） (2021-03-12T14:11:36Z)
• Graph Neural Networks Inspired by Classical Iterative Algorithms [28.528150667063876]
  我々は、2つの古典的反復アルゴリズムの更新ルールを模倣し、統合するために設計された新しいGNNレイヤーのファミリーを考える。 新しい注意機構は、基礎となるエンドツーエンドエネルギー関数に明示的に固定され、エッジの不確かさに関する安定性に寄与する。
  論文  参考訳（メタデータ） (2021-03-10T14:08:12Z)
• Interpretable Signed Link Prediction with Signed Infomax Hyperbolic Graph [54.03786611989613]
  ソーシャルネットワークにおけるサイン付きリンク予測は、ユーザ(すなわちノード)間の基盤となる関係(リンク)を明らかにすることを目的としている 我々は Signed Infomax Hyperbolic Graph (textbfSIHG) と呼ばれる統一されたフレームワークを開発する。 高次ユーザ関係と複雑な階層をモデル化するために、ノードの埋め込みを投影し、より低歪みの双曲空間で測定する。
  論文  参考訳（メタデータ） (2020-11-25T05:09:03Z)
• Anisotropic Graph Convolutional Network for Semi-supervised Learning [7.843067454030999]
  グラフ畳み込みネットワークは、高精度な予測結果を達成するのに有用であることが証明された効率的なノード埋め込みを学習する。 これらのネットワークはグラフの過度な平滑化と縮小効果の問題に悩まされており、それはグラフの端に線形ラプラシア流を用いて拡散するからである。 本稿では,ノードからの情報的特徴を捉える非線形関数を導入し,過度なスムーシングを防止し,半教師付きノード分類のための異方性グラフ畳み込みネットワークを提案する。
  論文  参考訳（メタデータ） (2020-10-20T13:56:03Z)
• Towards Deeper Graph Neural Networks [63.46470695525957]
  グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。 いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。 本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
  論文  参考訳（メタデータ） (2020-07-18T01:11:14Z)
• Interpretable Deep Graph Generation with Node-Edge Co-Disentanglement [55.2456981313287]
  本稿では,属性グラフの深部生成モデルのための新しいアンタングルメント拡張フレームワークを提案する。 ノードとエッジのデコンボリューションのための新しいアーキテクチャを用いて、上記の3種類の潜伏因子を解離する新しい変分的目的を提案する。 各タイプ内では、画像の既存のフレームワークの一般化が示され、個々の因子のゆがみがさらに強化される。
  論文  参考訳（メタデータ） (2020-06-09T16:33:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。