論文の概要: Spectral Graph Pruning Against Over-Squashing and Over-Smoothing

• arxiv url: http://arxiv.org/abs/2404.04612v2
• Date: Wed, 30 Oct 2024 14:17:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-31 14:24:15.916400
• Title: Spectral Graph Pruning Against Over-Squashing and Over-Smoothing
• Title（参考訳）: オーバースキャッシングとオーバースムーシングに対するスペクトルグラフプルーニング
• Authors: Adarsh Jamadandi, Celia Rubio-Madrigal, Rebekka Burkholz,
• Abstract要約: エッジの削除はオーバースカッシングとオーバースムーシングを同時に扱うことができると我々は主張する。 このことは、エッジ削除がいかに改善され、スペクトルギャップの最適化が計算資源を減らすという一見非連結な目的に結びつくかを説明する。
• 参考スコア（独自算出の注目度）: 14.947660746690614
• License:
• Abstract: Message Passing Graph Neural Networks are known to suffer from two problems that are sometimes believed to be diametrically opposed: over-squashing and over-smoothing. The former results from topological bottlenecks that hamper the information flow from distant nodes and are mitigated by spectral gap maximization, primarily, by means of edge additions. However, such additions often promote over-smoothing that renders nodes of different classes less distinguishable. Inspired by the Braess phenomenon, we argue that deleting edges can address over-squashing and over-smoothing simultaneously. This insight explains how edge deletions can improve generalization, thus connecting spectral gap optimization to a seemingly disconnected objective of reducing computational resources by pruning graphs for lottery tickets. To this end, we propose a more effective spectral gap optimization framework to add or delete edges and demonstrate its effectiveness on large heterophilic datasets.
• Abstract（参考訳）: メッセージパッシンググラフニューラルネットワークは、2つの問題に悩まされていることが知られている。 前者は、遠方のノードからの情報フローを妨げ、主にエッジ付加によってスペクトルギャップの最大化によって緩和されるトポロジ的ボトルネックの結果である。 しかしながら、このような追加は、異なるクラスのノードを区別しにくくするオーバースムーシングを促進することが多い。 ブレス現象にインスパイアされた我々は、エッジの削除はオーバー・スクアッシングとオーバー・スムーシングを同時に扱うことができると論じる。 この洞察は、エッジ削除が一般化をどのように改善するかを説明し、スペクトルギャップの最適化を、宝くじのグラフを刈り取ることによって計算資源を減らすという、一見非連結な目的に結びつける。 そこで本稿では,エッジの追加や削除を効果的に行うためのスペクトルギャップ最適化フレームワークを提案する。

関連論文リスト

• Countering adversarial perturbations in graphs using error correcting codes [7.553245365626645]
  逆の摂動は、送信機と受信機の間のグラフの送信中に起こる。 本研究は,送信側が指定した雑音と受信側の多数決による繰り返し符号化方式を探索し,グラフの構造を整理する。
  論文  参考訳（メタデータ） (2024-06-20T12:14:01Z)
• ADEdgeDrop: Adversarial Edge Dropping for Robust Graph Neural Networks [53.41164429486268]
  グラフニューラルネットワーク(GNN)は、近隣ノードからグラフ構造化情報を収集する強力な能力を示した。 GNNの性能は、ノイズや冗長なグラフデータによって引き起こされる一般化の貧弱さと脆弱な堅牢性によって制限される。 本稿では,エッジの除去を誘導する対向エッジ予測器を利用する新しい対向エッジドロップ法 (ADEdgeDrop) を提案する。
  論文  参考訳（メタデータ） (2024-03-14T08:31:39Z)
• Revisiting Edge Perturbation for Graph Neural Network in Graph Data Augmentation and Attack [58.440711902319855]
  エッジ摂動はグラフ構造を変更する方法である。 グラフニューラルネットワーク(GNN)の性能への影響に基づき、2つの静脈に分類できる。 統一的な定式化を提案し、エッジ摂動法の2つのカテゴリ間の明確な境界を確立する。
  論文  参考訳（メタデータ） (2024-03-10T15:50:04Z)
• Mitigating Over-Smoothing and Over-Squashing using Augmentations of Forman-Ricci Curvature [1.1126342180866644]
  スケーラブルな曲率表記法であるAFRC(Augmented Forman-Ricci curvature)に基づく書き換え手法を提案する。 AFRCはメッセージパッシングGNNにおける過剰なスムースと過剰なスキャッシング効果を効果的に特徴付ける。
  論文  参考訳（メタデータ） (2023-09-17T21:43:18Z)
• BOURNE: Bootstrapped Self-supervised Learning Framework for Unified Graph Anomaly Detection [50.26074811655596]
  自己指導型自己学習(BOURNE)に基づく新しい統合グラフ異常検出フレームワークを提案する。 ノードとエッジ間のコンテキスト埋め込みを交換することで、ノードとエッジの異常を相互に検出できる。 BOURNEは、負のサンプリングを必要としないため、大きなグラフを扱う際の効率を高めることができる。
  論文  参考訳（メタデータ） (2023-07-28T00:44:57Z)
• NodeFormer: A Scalable Graph Structure Learning Transformer for Node Classification [70.51126383984555]
  本稿では,任意のノード間のノード信号を効率的に伝搬する全ペアメッセージパッシング方式を提案する。 効率的な計算は、カーナライズされたGumbel-Softmax演算子によって実現される。 グラフ上のノード分類を含む様々なタスクにおいて,本手法の有望な有効性を示す実験を行った。
  論文  参考訳（メタデータ） (2023-06-14T09:21:15Z)
• Rethinking Explaining Graph Neural Networks via Non-parametric Subgraph Matching [68.35685422301613]
  そこで我々はMatchExplainerと呼ばれる新しい非パラメトリックな部分グラフマッチングフレームワークを提案し、説明的部分グラフを探索する。 ターゲットグラフと他のインスタンスを結合し、ノードに対応する距離を最小化することで最も重要な結合部分構造を識別する。 合成および実世界のデータセットの実験は、最先端のパラメトリックベースラインをかなりのマージンで上回り、MatchExplainerの有効性を示す。
  論文  参考訳（メタデータ） (2023-01-07T05:14:45Z)
• FoSR: First-order spectral rewiring for addressing oversquashing in GNNs [0.0]
  グラフニューラルネットワーク(GNN)は、グラフのエッジに沿ってメッセージを渡すことによって、グラフデータの構造を活用することができる。 本稿では,グラフにエッジを体系的に付加することで過疎化を防止する計算効率のよいアルゴリズムを提案する。 提案アルゴリズムは,いくつかのグラフ分類タスクにおいて,既存のグラフリウィリング手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-10-21T07:58:03Z)
• SoftEdge: Regularizing Graph Classification with Random Soft Edges [18.165965620873745]
  グラフデータ拡張はグラフニューラルネットワーク(GNN)の正規化において重要な役割を果たす 単純なエッジとノード操作は、同じ構造を持つグラフや、GNNをメッセージパッシングするための区別できない構造を生成することができる。 我々は,任意のグラフのエッジの一部にランダムな重みを割り当てて,そのグラフ上の動的近傍を構築するSoftEdgeを提案する。
  論文  参考訳（メタデータ） (2022-04-21T20:12:36Z)
• Multilayer Graph Clustering with Optimized Node Embedding [70.1053472751897]
  多層グラフクラスタリングは、グラフノードをカテゴリまたはコミュニティに分割することを目指しています。 与えられた多層グラフの層をクラスタリングに親しみやすい埋め込みを提案する。 実験の結果,本手法は著しい改善をもたらすことがわかった。
  論文  参考訳（メタデータ） (2021-03-30T17:36:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。