論文の概要: A Piece-wise Polynomial Filtering Approach for Graph Neural Networks
- arxiv url: http://arxiv.org/abs/2112.03499v1
- Date: Tue, 7 Dec 2021 05:16:53 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-08 14:59:54.906666
- Title: A Piece-wise Polynomial Filtering Approach for Graph Neural Networks
- Title(参考訳): グラフニューラルネットワークに対するPiece-wise Polynomial Filteringアプローチ
- Authors: Vijay Lingam, Chanakya Ekbote, Manan Sharma, Rahul Ragesh, Arun Iyer,
Sundararajan Sellamanickam
- Abstract要約: グラフニューラルネットワーク(GNN)は、ノードの特徴と入力グラフトポロジからの信号を利用して、ノード分類タスクのパフォーマンスを向上させる。
これらのモデルは、連結ノードが異なるラベルを持つヘテロ親和性グラフ上では性能が良くない傾向にある。
提案モデルでは,最先端モデルに対して最大5%の性能向上を実現し,従来のフィルタ方式よりも優れた性能を示す。
- 参考スコア(独自算出の注目度): 0.45298395481707365
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph Neural Networks (GNNs) exploit signals from node features and the input
graph topology to improve node classification task performance. However, these
models tend to perform poorly on heterophilic graphs, where connected nodes
have different labels. Recently proposed GNNs work across graphs having varying
levels of homophily. Among these, models relying on polynomial graph filters
have shown promise. We observe that solutions to these polynomial graph filter
models are also solutions to an overdetermined system of equations. It suggests
that in some instances, the model needs to learn a reasonably high order
polynomial. On investigation, we find the proposed models ineffective at
learning such polynomials due to their designs. To mitigate this issue, we
perform an eigendecomposition of the graph and propose to learn multiple
adaptive polynomial filters acting on different subsets of the spectrum. We
theoretically and empirically show that our proposed model learns a better
filter, thereby improving classification accuracy. We study various aspects of
our proposed model including, dependency on the number of eigencomponents
utilized, latent polynomial filters learned, and performance of the individual
polynomials on the node classification task. We further show that our model is
scalable by evaluating over large graphs. Our model achieves performance gains
of up to 5% over the state-of-the-art models and outperforms existing
polynomial filter-based approaches in general.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)はノードの特徴と入力グラフトポロジからの信号を利用してノード分類タスクのパフォーマンスを向上させる。
しかし、これらのモデルは、連結ノードが異なるラベルを持つヘテロ親和性グラフ上では性能が良くない傾向にある。
最近提案されたGNNは、ホモフィリーのレベルが異なるグラフにまたがって機能する。
これらのうち、多項式グラフフィルタに依存するモデルは有望である。
これらの多項式グラフフィルタモデルの解もまた、過剰決定方程式系の解である。
これは、ある例ではモデルが合理的に高階多項式を学ぶ必要があることを示唆する。
その結果,提案手法は設計上,多項式の学習に役立たないことがわかった。
この問題を軽減するため、グラフの固有分解を行い、スペクトルの異なる部分集合に作用する複数の適応多項式フィルタを探索する。
理論的および実験的に、提案モデルがより良いフィルタを学習し、分類精度が向上することを示す。
本研究では, 固有成分数依存性, 潜伏多項式フィルタ, ノード分類タスクにおける個々の多項式の性能など, 提案モデルの様々な側面について検討した。
さらに,大規模グラフを用いた評価により,モデルの拡張性を示す。
本モデルは,最先端モデルよりも最大5%の性能向上を達成し,従来の多項式フィルタに基づくアプローチよりも優れる。
関連論文リスト
- GrassNet: State Space Model Meets Graph Neural Network [57.62885438406724]
Graph State Space Network (GrassNet)は、任意のグラフスペクトルフィルタを設計するためのシンプルで効果的なスキームを提供する理論的なサポートを持つ、新しいグラフニューラルネットワークである。
我々の知る限り、我々の研究はグラフGNNスペクトルフィルタの設計にSSMを使った最初のものである。
9つの公開ベンチマークでの大規模な実験により、GrassNetは現実世界のグラフモデリングタスクにおいて優れたパフォーマンスを達成することが明らかになった。
論文 参考訳(メタデータ) (2024-08-16T07:33:58Z) - PolyFormer: Scalable Node-wise Filters via Polynomial Graph Transformer [22.287960384629585]
本稿では,スケーラブルなノードワイドフィルタであるPolyAttnを提案する。
提案手法は任意のノードワイドフィルタの学習に優れ、ホモ親和性グラフとヘテロ親和性グラフの両方において優れた性能を示す。
論文 参考訳(メタデータ) (2024-07-19T17:01:41Z) - Node-wise Filtering in Graph Neural Networks: A Mixture of Experts Approach [58.8524608686851]
グラフニューラルネットワーク(GNN)は、多様なグラフ構造パターンをまたいだノード分類タスクに非常に効果的であることが証明されている。
伝統的に、GNNは均一なグローバルフィルタ(通常、ホモフィルグラフのローパスフィルタとヘテロフィルグラフのハイパスフィルタ)を用いる。
我々は,異なるノードに対する適切なフィルタを適応的に選択するために,専門家の混在を利用した新しいGNNフレームワークNode-MoEを紹介する。
論文 参考訳(メタデータ) (2024-06-05T17:12:38Z) - An Effective Universal Polynomial Basis for Spectral Graph Neural
Networks [12.725906836609811]
スペクトルグラフニューラルネットワーク(GNN)はヘテロフィリーグラフの出現率を高めている。
グラフヘテロフィリー次数を導入して適応的なヘテロフィリー基底を開発する。
そして、このヘテロフィ基底をホモフィ基底と統合し、普遍基底UniBasisを作成する。
論文 参考訳(メタデータ) (2023-11-30T01:48:42Z) - Automated Polynomial Filter Learning for Graph Neural Networks [9.120531252536617]
グラフニューラルネットワーク(GNN)の設計の指針として多項グラフフィルタが広く用いられている。
近年, グラフフィルタの適応学習により, ホモ親和性グラフとヘテロ親和性グラフの両方において, グラフ信号のモデル化に有望な性能が示された。
本稿では,多種多様なグラフ信号に適応可能な優れたフィルタを効率的に学習する,新規で汎用的なグラフフィルタ学習フレームワークであるAuto-Polynomialを提案する。
論文 参考訳(メタデータ) (2023-07-16T06:14:12Z) - Geometric Graph Filters and Neural Networks: Limit Properties and
Discriminability Trade-offs [122.06927400759021]
本稿では,グラフニューラルネットワーク (GNN) と多様体ニューラルネットワーク (MNN) の関係について検討する。
これらのグラフ上の畳み込みフィルタとニューラルネットワークが連続多様体上の畳み込みフィルタとニューラルネットワークに収束することを示す。
論文 参考訳(メタデータ) (2023-05-29T08:27:17Z) - Towards Better Graph Representation Learning with Parameterized
Decomposition & Filtering [27.374515964364814]
我々は,既存のGNNモデルを統一した,新規で汎用的なフレームワークを開発する。
既存のモデルのスムーズさと増幅問題を緩和しつつ、GNNの柔軟性を高めるのにどのように役立つかを示す。
論文 参考訳(メタデータ) (2023-05-10T12:42:31Z) - Graph Polynomial Convolution Models for Node Classification of
Non-Homophilous Graphs [52.52570805621925]
本研究では,高階グラフ畳み込みからの効率的な学習と,ノード分類のための隣接行列から直接学習する。
得られたモデルが新しいグラフと残留スケーリングパラメータをもたらすことを示す。
提案手法は,非親和性パラメータのノード分類における精度の向上を実証する。
論文 参考訳(メタデータ) (2022-09-12T04:46:55Z) - Graph Neural Networks with Adaptive Frequency Response Filter [55.626174910206046]
適応周波数応答フィルタを用いたグラフニューラルネットワークフレームワークAdaGNNを開発した。
提案手法の有効性を,様々なベンチマークデータセット上で実証的に検証した。
論文 参考訳(メタデータ) (2021-04-26T19:31:21Z) - Stacked Graph Filter [19.343260981528186]
グラフ信号処理の観点から,グラフ畳み込みネットワーク(GCN)について検討する。
学習可能な解パラメータでグラフフィルタを積み重ねることで、高度に適応的で堅牢なグラフ分類モデルを構築することができる。
論文 参考訳(メタデータ) (2020-11-22T11:20:14Z) - Unrolling of Deep Graph Total Variation for Image Denoising [106.93258903150702]
本稿では,従来のグラフ信号フィルタリングと深い特徴学習を併用して,競合するハイブリッド設計を提案する。
解釈可能な低パスグラフフィルタを用い、最先端のDL復調方式DnCNNよりも80%少ないネットワークパラメータを用いる。
論文 参考訳(メタデータ) (2020-10-21T20:04:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。