論文の概要: How Universal Polynomial Bases Enhance Spectral Graph Neural Networks: Heterophily, Over-smoothing, and Over-squashing
- arxiv url: http://arxiv.org/abs/2405.12474v1
- Date: Tue, 21 May 2024 03:28:45 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-22 17:33:24.802327
- Title: How Universal Polynomial Bases Enhance Spectral Graph Neural Networks: Heterophily, Over-smoothing, and Over-squashing
- Title（参考訳）: 普遍多項式基底がスペクトルグラフニューラルネットをいかに引き起こすか:ヘテロフォリー、過度なスムーシング、過度なスカッシング
- Authors: Keke Huang, Yu Guang Wang, Ming Li, and Pietro Liò,
- Abstract要約: スペクトルグラフネットワーク(GNN)はヘテロフィリーグラフの出現率を高めている。
禁止計算を回避するため,多くのフィルタが提案されている。
所望ベクトルのスペクトル特性とヘテロフィリー次数の相関をデミステレーションする。
我々は、グラフのヘテロフィリー次数を反映する基底を相互に形成する、新しい適応的ヘテロフィリー基底を開発する。
- 参考スコア（独自算出の注目度）: 24.857304431611464
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Spectral Graph Neural Networks (GNNs), alternatively known as graph filters, have gained increasing prevalence for heterophily graphs. Optimal graph filters rely on Laplacian eigendecomposition for Fourier transform. In an attempt to avert prohibitive computations, numerous polynomial filters have been proposed. However, polynomials in the majority of these filters are predefined and remain fixed across different graphs, failing to accommodate the varying degrees of heterophily. Addressing this gap, we demystify the intrinsic correlation between the spectral property of desired polynomial bases and the heterophily degrees via thorough theoretical analyses. Subsequently, we develop a novel adaptive heterophily basis wherein the basis vectors mutually form angles reflecting the heterophily degree of the graph. We integrate this heterophily basis with the homophily basis to construct a universal polynomial basis UniBasis, which devises a polynomial filter based graph neural network - UniFilter. It optimizes the convolution and propagation in GNN, thus effectively limiting over-smoothing and alleviating over-squashing. Our extensive experiments, conducted on a diverse range of real-world and synthetic datasets with varying degrees of heterophily, support the superiority of UniFilter. These results not only demonstrate the universality of UniBasis but also highlight its proficiency in graph explanation.
- Abstract（参考訳）: グラフフィルタとして知られるスペクトルグラフニューラルネットワーク(GNN)は、ヘテロフィリーグラフの出現率を高めている。
最適グラフフィルタはフーリエ変換のラプラシアン固有分解に依存する。
不正な計算を避けるために、多くの多項式フィルタが提案されている。
しかし、これらのフィルタの大多数の多項式は事前に定義されており、異なるグラフにまたがって固定される。
このギャップに対処するために、我々は、所望の多項式基底のスペクトル特性とヘテロフィリー次数の内在的相関を、徹底的な理論的解析によって決定する。
その後、グラフのヘテロフィリー次数を反映する角度を基底ベクトルが相互に形成する新しい適応的ヘテロフィリー基底を開発する。
多項式フィルタに基づくグラフニューラルネットワークであるUniFilterを考案したUniBasisを構成するために,このヘテロフィリ基底をホモフィリ基底と統合する。
GNNの畳み込みと伝播を最適化することで、オーバースムーシングを効果的に制限し、オーバースキャッシングを緩和する。
ヘテロフィリーの度合いの異なる実世界および合成データセットの多種多様な実験を行い、UniFilterの優位性を支持した。
これらの結果は、UniBasisの普遍性を示すだけでなく、グラフ説明の習熟度も強調する。
関連論文リスト
- Node-wise Filtering in Graph Neural Networks: A Mixture of Experts Approach [58.8524608686851]
グラフニューラルネットワーク(GNN)は、多様なグラフ構造パターンをまたいだノード分類タスクに非常に効果的であることが証明されている。
伝統的に、GNNは均一なグローバルフィルタ(通常、ホモフィルグラフのローパスフィルタとヘテロフィルグラフのハイパスフィルタ)を用いる。
我々は,異なるノードに対する適切なフィルタを適応的に選択するために,専門家の混在を利用した新しいGNNフレームワークNode-MoEを紹介する。
論文 参考訳（メタデータ） (2024-06-05T17:12:38Z) - Optimizing Polynomial Graph Filters: A Novel Adaptive Krylov Subspace Approach [36.06398179717066]
我々は,Krylov部分空間に基づく適応グラフフィルタを開発し,複素グラフをフィルタする。
我々は、一連の実世界のデータセットにまたがって広範な実験を行う。
論文 参考訳（メタデータ） (2024-03-12T06:26:17Z) - Improving Expressive Power of Spectral Graph Neural Networks with Eigenvalue Correction [55.57072563835959]
スペクトルグラフニューラルネットワークはフィルタによって特徴づけられる。
本稿では,繰り返し入力される固有値の制約からフィルタを解放する固有値補正手法を提案する。
論文 参考訳（メタデータ） (2024-01-28T08:12:00Z) - An Effective Universal Polynomial Basis for Spectral Graph Neural
Networks [12.725906836609811]
スペクトルグラフニューラルネットワーク(GNN)はヘテロフィリーグラフの出現率を高めている。
グラフヘテロフィリー次数を導入して適応的なヘテロフィリー基底を開発する。
そして、このヘテロフィ基底をホモフィ基底と統合し、普遍基底UniBasisを作成する。
論文 参考訳（メタデータ） (2023-11-30T01:48:42Z) - HoloNets: Spectral Convolutions do extend to Directed Graphs [59.851175771106625]
従来の知恵は、スペクトル畳み込みネットワークは無向グラフ上にしか展開できないと規定している。
ここでは、このグラフフーリエ変換への伝統的な依存が超フルであることを示す。
本稿では,新たに開発されたフィルタの周波数応答解釈を行い,フィルタ表現に使用するベースの影響を調査し,ネットワークを基盤とする特性演算子との相互作用について議論する。
論文 参考訳（メタデータ） (2023-10-03T17:42:09Z) - Spectral Heterogeneous Graph Convolutions via Positive Noncommutative Polynomials [34.74726720818622]
正のスペクトル不均一グラフ畳み込みネットワーク(PSHGCN)を提案する。
PSHGCNは、有効なヘテロジニアスグラフフィルタを学習するための、単純かつ効果的な方法を提供する。
PSHGCNは目覚ましいスケーラビリティを示し、数百万のノードとエッジからなる大規模な実世界のグラフを効率的に処理する。
論文 参考訳（メタデータ） (2023-05-31T14:09:42Z) - Geometric Graph Filters and Neural Networks: Limit Properties and
Discriminability Trade-offs [122.06927400759021]
本稿では,グラフニューラルネットワーク (GNN) と多様体ニューラルネットワーク (MNN) の関係について検討する。
これらのグラフ上の畳み込みフィルタとニューラルネットワークが連続多様体上の畳み込みフィルタとニューラルネットワークに収束することを示す。
論文 参考訳（メタデータ） (2023-05-29T08:27:17Z) - Specformer: Spectral Graph Neural Networks Meet Transformers [51.644312964537356]
スペクトルグラフニューラルネットワーク(GNN)は、スペクトル領域グラフ畳み込みを通じてグラフ表現を学習する。
本稿では、全ての固有値の集合を効果的に符号化し、スペクトル領域で自己アテンションを行うSpecformerを紹介する。
複数のSpecformerレイヤを積み重ねることで、強力なスペクトルGNNを構築することができる。
論文 参考訳（メタデータ） (2023-03-02T07:36:23Z) - Stability to Deformations of Manifold Filters and Manifold Neural Networks [89.53585099149973]
本論文は、多様体(M)畳み込みフィルタとニューラルネットワーク(NN)を定義し、研究する。
この論文の主な技術的貢献は、多様体の滑らかな変形に対する多様体フィルタとMNNの安定性を分析することである。
論文 参考訳（メタデータ） (2021-06-07T15:41:03Z) - Stacked Graph Filter [19.343260981528186]
グラフ信号処理の観点から,グラフ畳み込みネットワーク(GCN)について検討する。
学習可能な解パラメータでグラフフィルタを積み重ねることで、高度に適応的で堅牢なグラフ分類モデルを構築することができる。
論文 参考訳（メタデータ） (2020-11-22T11:20:14Z) - Fourier-based and Rational Graph Filters for Spectral Processing [0.0]
我々の全体的な目標は、グラフ処理のための新しいフーリエベースのフィルタの定義です。
離散スペクトルベースおよびウェーブレット演算子の効率的な評価のために、スペクトルフリーアプローチを導入する。
任意のグラフフィルタを有理数で近似することは、スパースに対してより正確で数値的に安定な代替手段を提供する。
論文 参考訳（メタデータ） (2020-11-08T19:02:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。