論文の概要: Curvature-based Pooling within Graph Neural Networks
- arxiv url: http://arxiv.org/abs/2308.16516v1
- Date: Thu, 31 Aug 2023 08:00:08 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-01 15:37:13.379250
- Title: Curvature-based Pooling within Graph Neural Networks
- Title(参考訳): グラフニューラルネットワーク内の曲率に基づくプール
- Authors: Cedric Sanders, Andreas Roth, Thomas Liebig
- Abstract要約: オーバー・スクワッシングとオーバー・スムースティングはグラフニューラルネットワーク(GNN)の機能を制限する
CurvPoolはグラフの曲率の概念を利用して、オーバー・スムーシングとオーバー・スカッシングの両方の原因となる構造を適応的に識別する。
我々は、他の最先端のプーリング手法と比較し、分類精度、計算複雑性、柔軟性の観点からその競争力を確立する。
- 参考スコア(独自算出の注目度): 3.1733862899654643
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Over-squashing and over-smoothing are two critical issues, that limit the
capabilities of graph neural networks (GNNs). While over-smoothing eliminates
the differences between nodes making them indistinguishable, over-squashing
refers to the inability of GNNs to propagate information over long distances,
as exponentially many node states are squashed into fixed-size representations.
Both phenomena share similar causes, as both are largely induced by the graph
topology. To mitigate these problems in graph classification tasks, we propose
CurvPool, a novel pooling method. CurvPool exploits the notion of curvature of
a graph to adaptively identify structures responsible for both over-smoothing
and over-squashing. By clustering nodes based on the Balanced Forman curvature,
CurvPool constructs a graph with a more suitable structure, allowing deeper
models and the combination of distant information. We compare it to other
state-of-the-art pooling approaches and establish its competitiveness in terms
of classification accuracy, computational complexity, and flexibility. CurvPool
outperforms several comparable methods across all considered tasks. The most
consistent results are achieved by pooling densely connected clusters using the
sum aggregation, as this allows additional information about the size of each
pool.
- Abstract(参考訳): オーバースカッシングとオーバースムーシングは2つの重要な問題であり、グラフニューラルネットワーク(GNN)の能力を制限する。
オーバースムーシングはノード間の差異をなくすが、オーバースキャッシングはGNNが長距離で情報を伝達できないことを指し、指数関数的に多くのノード状態が固定サイズ表現に切り替わる。
どちらもグラフトポロジーによって大きく誘導されるため、同様の原因を持つ。
グラフ分類タスクにおけるこれらの問題を緩和するために,新しいプーリング法であるcurvpoolを提案する。
CurvPoolはグラフの曲率の概念を利用して、オーバー・スムーシングとオーバー・スカッシングの両方の原因となる構造を適応的に識別する。
Balanced Forman曲線に基づくノードのクラスタリングにより、CurvPoolはより適切な構造を持つグラフを構築し、より深いモデルと遠い情報の組み合わせを可能にする。
他の最先端のプーリングアプローチと比較し、分類精度、計算複雑性、柔軟性の観点からその競争力を確立する。
curvpoolは、考慮されたすべてのタスクで比較可能なメソッドを数つ上回っている。
最も一貫した結果は、各プールの大きさに関する追加情報を可能にするため、総和アグリゲーションを用いて密結合クラスタをプールすることで達成される。
関連論文リスト
- Graph Pooling via Ricci Flow [1.1126342180866644]
グラフプーリング演算子(ORC-Pool)を導入し,Ollivierの離散リッチ曲率とそれに付随する幾何流によるグラフの幾何学的特徴付けを利用する。
ORC-Poolはそのようなクラスタリングアプローチを属性付きグラフに拡張し、幾何学的粗大化をプール層としてグラフニューラルネットワークに統合する。
論文 参考訳(メタデータ) (2024-07-05T03:26:37Z) - Learning to Reweight for Graph Neural Network [63.978102332612906]
グラフニューラルネットワーク(GNN)は、グラフタスクに対して有望な結果を示す。
既存のGNNの一般化能力は、テストとトレーニンググラフデータの間に分散シフトが存在する場合に低下する。
本稿では,分布外一般化能力を大幅に向上させる非線形グラフデコリレーション法を提案する。
論文 参考訳(メタデータ) (2023-12-19T12:25:10Z) - Careful Selection and Thoughtful Discarding: Graph Explicit Pooling
Utilizing Discarded Nodes [53.08068729187698]
本稿では,ノードと最終表現ベクトルの関係を明示的に活用してノードを選択するグラフ明示プール法を提案する。
提案手法の有効性を検証するため,12種類の広く使用されているデータセットを対象とした総合的な実験を行った。
論文 参考訳(メタデータ) (2023-11-21T14:44:51Z) - NodeFormer: A Scalable Graph Structure Learning Transformer for Node
Classification [70.51126383984555]
本稿では,任意のノード間のノード信号を効率的に伝搬する全ペアメッセージパッシング方式を提案する。
効率的な計算は、カーナライズされたGumbel-Softmax演算子によって実現される。
グラフ上のノード分類を含む様々なタスクにおいて,本手法の有望な有効性を示す実験を行った。
論文 参考訳(メタデータ) (2023-06-14T09:21:15Z) - Addressing Heterophily in Node Classification with Graph Echo State
Networks [11.52174067809364]
ノード分類のためのグラフエコー状態ネットワーク(GESN)を用いた異種グラフの課題に対処する。
GESNはグラフのための貯水池計算モデルであり、ノードの埋め込みは訓練されていないメッセージパッシング関数によって計算される。
実験の結果, 貯水池モデルでは, ほぼ完全に訓練された深層モデルに対して, より優れた精度あるいは同等の精度が得られることがわかった。
論文 参考訳(メタデータ) (2023-05-14T19:42:31Z) - Higher-order Clustering and Pooling for Graph Neural Networks [77.47617360812023]
グラフニューラルネットワークは、多数のグラフ分類タスクにおいて最先端のパフォーマンスを達成する。
HoscPoolはクラスタリングベースのグラフプーリング演算子で、階層的に高階情報をキャプチャする。
グラフ分類タスクにおいてHoscPoolを評価し,そのクラスタリングコンポーネントを地層構造を持つグラフ上で評価する。
論文 参考訳(メタデータ) (2022-09-02T09:17:10Z) - Graph Pooling with Maximum-Weight $k$-Independent Sets [12.251091325930837]
最大ウェイト$k$非依存集合のグラフ理論的概念に基づくグラフ粗化機構を導入する。
我々は、経路長の歪み境界の理論的保証と、粗化グラフにおける重要な位相特性を保存できることを証明した。
論文 参考訳(メタデータ) (2022-08-06T14:12:47Z) - Explicit Pairwise Factorized Graph Neural Network for Semi-Supervised
Node Classification [59.06717774425588]
本稿では,グラフ全体を部分的に観測されたマルコフ確率場としてモデル化するEPFGNN(Explicit Pairwise Factorized Graph Neural Network)を提案する。
出力-出力関係をモデル化するための明示的なペアワイズ要素を含み、入力-出力関係をモデル化するためにGNNバックボーンを使用する。
本研究では,グラフ上での半教師付きノード分類の性能を効果的に向上できることを示す。
論文 参考訳(メタデータ) (2021-07-27T19:47:53Z) - Second-Order Pooling for Graph Neural Networks [62.13156203025818]
グラフプーリングとして2次プールを提案するが、これは上記の課題を自然に解決する。
グラフニューラルネットワークによる2次プールの直接利用は、実用的な問題を引き起こすことを示す。
本稿では,2次プールに基づく2つの新しいグローバルグラフプーリング手法,すなわちバイリニアマッピングと2次プールを提案する。
論文 参考訳(メタデータ) (2020-07-20T20:52:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。