論文の概要: On Graph Neural Networks versus Graph-Augmented MLPs

• arxiv url: http://arxiv.org/abs/2010.15116v2
• Date: Wed, 2 Dec 2020 16:46:23 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-02 05:02:27.280660
• Title: On Graph Neural Networks versus Graph-Augmented MLPs
• Title（参考訳）: グラフニューラルネットワークとグラフ拡張MLPについて
• Authors: Lei Chen, Zhengdao Chen, Joan Bruna
• Abstract要約: Graph-Augmented Multi-Layer Perceptrons (GA-MLPs)は、まずグラフ上の特定のマルチホップ演算子でノード機能を拡張する。 我々は,GA-MLPとGNNの表現力の分離を証明し,指数関数的に成長することを示す。
• 参考スコア（独自算出の注目度）: 51.23890789522705
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: From the perspective of expressive power, this work compares multi-layer Graph Neural Networks (GNNs) with a simplified alternative that we call Graph-Augmented Multi-Layer Perceptrons (GA-MLPs), which first augments node features with certain multi-hop operators on the graph and then applies an MLP in a node-wise fashion. From the perspective of graph isomorphism testing, we show both theoretically and numerically that GA-MLPs with suitable operators can distinguish almost all non-isomorphic graphs, just like the Weifeiler-Lehman (WL) test. However, by viewing them as node-level functions and examining the equivalence classes they induce on rooted graphs, we prove a separation in expressive power between GA-MLPs and GNNs that grows exponentially in depth. In particular, unlike GNNs, GA-MLPs are unable to count the number of attributed walks. We also demonstrate via community detection experiments that GA-MLPs can be limited by their choice of operator family, as compared to GNNs with higher flexibility in learning.
• Abstract（参考訳）: 表現力の観点から、この研究は多層グラフニューラルネットワーク(GNN)とグラフ拡張マルチ層パーセプトロン(GA-MLP)と呼ばれる単純化された代替手段を比較し、まずグラフ上の特定のマルチホップ演算子でノード機能を拡張し、ノードワイズでMPPを適用する。 グラフ同型テストの観点から、適切な演算子を持つ GA-MLP が、Weifeiler-Lehman (WL) テストのように、ほぼすべての非同型グラフを区別できることを示す。 しかし、これらをノードレベル関数と見なし、根付きグラフ上で誘導される同値類を調べることにより、指数関数的に増加するGA-MLPとGNNとの表現力の分離が証明される。 特にGNNとは異なり、GA-MLPは属性されたウォークの数をカウントできない。 また,GA-MLPは,学習の柔軟性が高いGNNと比較して,演算子ファミリーの選択によって制限できることを示す。

関連論文リスト

• KAGNNs: Kolmogorov-Arnold Networks meet Graph Learning [27.638009679134523]
  グラフニューラルネットワーク(GNN)は,ノードとグラフ表現を学習するためのデファクトツールとなっている。 本研究では,KAN(Kolmogorov-Arnold Networks)とグラフ学習タスクの定理の性能を比較した。
  論文  参考訳（メタデータ） (2024-06-26T14:21:21Z)
• Uplifting the Expressive Power of Graph Neural Networks through Graph Partitioning [3.236774847052122]
  グラフ分割のレンズによるグラフニューラルネットワークの表現力について検討する。 我々は新しいGNNアーキテクチャ、すなわちグラフ分割ニューラルネットワーク(GPNN)を導入する。
  論文  参考訳（メタデータ） (2023-12-14T06:08:35Z)
• VQGraph: Rethinking Graph Representation Space for Bridging GNNs and MLPs [97.63412451659826]
  VQGraphは、各ノードのローカルサブストラクチャを離散コードとしてエンコードできるグラフデータ上の構造認識トークン化器を学習する。 VQGraphは、GNN-to-MLP蒸留におけるトランスダクティブおよびインダクティブの両方で、新しい最先端性能を実現する。
  論文  参考訳（メタデータ） (2023-08-04T02:58:08Z)
• Graph Neural Networks are Inherently Good Generalizers: Insights by Bridging GNNs and MLPs [71.93227401463199]
  本稿では、P(ropagational)MLPと呼ばれる中間モデルクラスを導入することにより、GNNの性能向上を本質的な能力に向ける。 PMLPは、トレーニングにおいてはるかに効率的でありながら、GNNと同等(あるいはそれ以上)に動作することを観察する。
  論文  参考訳（メタデータ） (2022-12-18T08:17:32Z)
• Representation Power of Graph Neural Networks: Improved Expressivity via Algebraic Analysis [124.97061497512804]
  標準グラフニューラルネットワーク (GNN) はWeisfeiler-Lehman (WL) アルゴリズムよりも差別的な表現を生成する。 また、白い入力を持つ単純な畳み込みアーキテクチャは、グラフの閉経路をカウントする同変の特徴を生じさせることを示した。
  論文  参考訳（メタデータ） (2022-05-19T18:40:25Z)
• Graph Neural Networks for Graphs with Heterophily: A Survey [98.45621222357397]
  異種グラフに対するグラフニューラルネットワーク(GNN)の総合的なレビューを提供する。 具体的には,既存の異好性GNNモデルを本質的に支配する系統分類法を提案する。 グラフヘテロフィリーと様々なグラフ研究領域の相関を議論し、より効果的なGNNの開発を促進することを目的とした。
  論文  参考訳（メタデータ） (2022-02-14T23:07:47Z)
• Graph Neural Networks with Parallel Neighborhood Aggregations for Graph Classification [14.112444998191698]
  グラフニューラルネットワーク(GNN)モデルを用いたグラフ分類に着目し、並列に配置された近傍グラフ演算子のバンクを用いてノード特徴をプリ計算する。 これらのGNNモデルには、事前計算によるトレーニングと推論時間の削減という自然な利点がある。 本研究は,様々な実世界のデータセット上で,開発モデルが最先端の性能を達成することを数値実験により実証する。
  論文  参考訳（メタデータ） (2021-11-22T19:19:40Z)
• Beyond Low-Pass Filters: Adaptive Feature Propagation on Graphs [6.018995094882323]
  グラフニューラルネットワーク(GNN)は、グラフ上の予測タスクのために広く研究されている。 ほとんどのGNNは、局所的ホモフィリー、すなわち地域住民の強い類似性を仮定している。 基本となるホモフィリーによって制限されることなく、任意のグラフを扱うことができる柔軟なGNNモデルを提案する。
  論文  参考訳（メタデータ） (2021-03-26T00:35:36Z)
• Distance Encoding: Design Provably More Powerful Neural Networks for Graph Representation Learning [63.97983530843762]
  グラフニューラルネットワーク(GNN)はグラフ表現学習において大きな成功を収めている。 GNNは、実際には非常に異なるグラフ部分構造に対して同一の表現を生成する。 より強力なGNNは、最近高階試験を模倣して提案され、基礎となるグラフ構造を疎結合にできないため、非効率である。 本稿では,グラフ表現学習の新たなクラスとして距離分解(DE)を提案する。
  論文  参考訳（メタデータ） (2020-08-31T23:15:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。