論文の概要: Optimizing Polynomial Graph Filters: A Novel Adaptive Krylov Subspace Approach
- arxiv url: http://arxiv.org/abs/2403.07954v2
- Date: Tue, 21 May 2024 02:47:03 GMT
- ステータス: 処理完了
- システム内更新日: 2024-05-22 18:22:08.266474
- Title: Optimizing Polynomial Graph Filters: A Novel Adaptive Krylov Subspace Approach
- Title(参考訳): 多項式グラフフィルタの最適化:新しい適応クリロフ部分空間アプローチ
- Authors: Keke Huang, Wencai Cao, Hoang Ta, Xiaokui Xiao, Pietro Liò,
- Abstract要約: 我々は,Krylov部分空間に基づく適応グラフフィルタを開発し,複素グラフをフィルタする。
我々は、一連の実世界のデータセットにまたがって広範な実験を行う。
- 参考スコア(独自算出の注目度): 36.06398179717066
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Graph Neural Networks (GNNs), known as spectral graph filters, find a wide range of applications in web networks. To bypass eigendecomposition, polynomial graph filters are proposed to approximate graph filters by leveraging various polynomial bases for filter training. However, no existing studies have explored the diverse polynomial graph filters from a unified perspective for optimization. In this paper, we first unify polynomial graph filters, as well as the optimal filters of identical degrees into the Krylov subspace of the same order, thus providing equivalent expressive power theoretically. Next, we investigate the asymptotic convergence property of polynomials from the unified Krylov subspace perspective, revealing their limited adaptability in graphs with varying heterophily degrees. Inspired by those facts, we design a novel adaptive Krylov subspace approach to optimize polynomial bases with provable controllability over the graph spectrum so as to adapt various heterophily graphs. Subsequently, we propose AdaptKry, an optimized polynomial graph filter utilizing bases from the adaptive Krylov subspaces. Meanwhile, in light of the diverse spectral properties of complex graphs, we extend AdaptKry by leveraging multiple adaptive Krylov bases without incurring extra training costs. As a consequence, extended AdaptKry is able to capture the intricate characteristics of graphs and provide insights into their inherent complexity. We conduct extensive experiments across a series of real-world datasets. The experimental results demonstrate the superior filtering capability of AdaptKry, as well as the optimized efficacy of the adaptive Krylov basis.
- Abstract(参考訳): スペクトルグラフフィルタとして知られるグラフニューラルネットワーク(GNN)は、Webネットワークで幅広いアプリケーションを見つける。
固有分解を回避すべく, 多項式グラフフィルタを近似グラフフィルタに提案し, 様々な多項式基底をフィルタトレーニングに利用した。
しかし、最適化のための統一的な視点から様々な多項式グラフフィルタを探索する研究は存在しない。
本稿では、まず多項式グラフフィルタと、同じ次数の最適フィルタを同じ次数のクリロフ部分空間に統一し、理論的に等価な表現力を与える。
次に、統一クリロフ部分空間の観点から多項式の漸近収束性について検討し、異なるヘテロフィリー次数を持つグラフにおけるそれらの限定適応性を明らかにする。
これらの事実にインスパイアされた我々は、様々なヘテロフィリーグラフに適応するように、グラフスペクトル上で証明可能な制御性を持つ多項式基底を最適化する、新しい適応クリロフ部分空間アプローチを設計する。
次に,適応Krylov部分空間の基底を利用する最適化多項式グラフフィルタAdaptKryを提案する。
一方、複素グラフのスペクトル特性の多様性を考慮して、追加の訓練コストを伴わずに複数の適応クリロフ基底を活用することにより、AdaptKryを拡張する。
その結果、拡張AdaptKryはグラフの複雑な特性を捉え、それら固有の複雑さに関する洞察を提供することができる。
我々は、一連の実世界のデータセットにまたがって広範な実験を行う。
実験により、AdaptKryの優れたフィルタリング能力と適応Krylov基底の最適化された有効性が示された。
関連論文リスト
- Generalized Learning of Coefficients in Spectral Graph Convolutional Networks [5.5711773076846365]
スペクトルグラフ畳み込みネットワーク(GCN)は、グラフ機械学習アプリケーションで人気を集めている。
G-Arnoldi-GCNは、適切な関数が採用された場合、常に最先端の手法より優れている。
論文 参考訳(メタデータ) (2024-09-07T12:53:44Z) - GrassNet: State Space Model Meets Graph Neural Network [57.62885438406724]
Graph State Space Network (GrassNet)は、任意のグラフスペクトルフィルタを設計するためのシンプルで効果的なスキームを提供する理論的なサポートを持つ、新しいグラフニューラルネットワークである。
我々の知る限り、我々の研究はグラフGNNスペクトルフィルタの設計にSSMを使った最初のものである。
9つの公開ベンチマークでの大規模な実験により、GrassNetは現実世界のグラフモデリングタスクにおいて優れたパフォーマンスを達成することが明らかになった。
論文 参考訳(メタデータ) (2024-08-16T07:33:58Z) - Node-wise Filtering in Graph Neural Networks: A Mixture of Experts Approach [58.8524608686851]
グラフニューラルネットワーク(GNN)は、多様なグラフ構造パターンをまたいだノード分類タスクに非常に効果的であることが証明されている。
伝統的に、GNNは均一なグローバルフィルタ(通常、ホモフィルグラフのローパスフィルタとヘテロフィルグラフのハイパスフィルタ)を用いる。
我々は,異なるノードに対する適切なフィルタを適応的に選択するために,専門家の混在を利用した新しいGNNフレームワークNode-MoEを紹介する。
論文 参考訳(メタデータ) (2024-06-05T17:12:38Z) - How Universal Polynomial Bases Enhance Spectral Graph Neural Networks: Heterophily, Over-smoothing, and Over-squashing [24.857304431611464]
スペクトルグラフネットワーク(GNN)はヘテロフィリーグラフの出現率を高めている。
禁止計算を回避するため,多くのフィルタが提案されている。
所望ベクトルのスペクトル特性とヘテロフィリー次数の相関をデミステレーションする。
我々は、グラフのヘテロフィリー次数を反映する基底を相互に形成する、新しい適応的ヘテロフィリー基底を開発する。
論文 参考訳(メタデータ) (2024-05-21T03:28:45Z) - An Effective Universal Polynomial Basis for Spectral Graph Neural
Networks [12.725906836609811]
スペクトルグラフニューラルネットワーク(GNN)はヘテロフィリーグラフの出現率を高めている。
グラフヘテロフィリー次数を導入して適応的なヘテロフィリー基底を開発する。
そして、このヘテロフィ基底をホモフィ基底と統合し、普遍基底UniBasisを作成する。
論文 参考訳(メタデータ) (2023-11-30T01:48:42Z) - Automated Polynomial Filter Learning for Graph Neural Networks [9.120531252536617]
グラフニューラルネットワーク(GNN)の設計の指針として多項グラフフィルタが広く用いられている。
近年, グラフフィルタの適応学習により, ホモ親和性グラフとヘテロ親和性グラフの両方において, グラフ信号のモデル化に有望な性能が示された。
本稿では,多種多様なグラフ信号に適応可能な優れたフィルタを効率的に学習する,新規で汎用的なグラフフィルタ学習フレームワークであるAuto-Polynomialを提案する。
論文 参考訳(メタデータ) (2023-07-16T06:14:12Z) - Specformer: Spectral Graph Neural Networks Meet Transformers [51.644312964537356]
スペクトルグラフニューラルネットワーク(GNN)は、スペクトル領域グラフ畳み込みを通じてグラフ表現を学習する。
本稿では、全ての固有値の集合を効果的に符号化し、スペクトル領域で自己アテンションを行うSpecformerを紹介する。
複数のSpecformerレイヤを積み重ねることで、強力なスペクトルGNNを構築することができる。
論文 参考訳(メタデータ) (2023-03-02T07:36:23Z) - Message Passing in Graph Convolution Networks via Adaptive Filter Banks [81.12823274576274]
我々は BankGCN と呼ばれる新しいグラフ畳み込み演算子を提案する。
グラフ上のマルチチャネル信号をサブスペースに分解し、各サブスペース内の特定の情報を適応フィルタで処理する。
ベンチマークグラフデータセットの集合におけるグラフ分類における優れたパフォーマンスを実現する。
論文 参考訳(メタデータ) (2021-06-18T04:23:34Z) - Graph Neural Networks with Adaptive Frequency Response Filter [55.626174910206046]
適応周波数応答フィルタを用いたグラフニューラルネットワークフレームワークAdaGNNを開発した。
提案手法の有効性を,様々なベンチマークデータセット上で実証的に検証した。
論文 参考訳(メタデータ) (2021-04-26T19:31:21Z) - Stacked Graph Filter [19.343260981528186]
グラフ信号処理の観点から,グラフ畳み込みネットワーク(GCN)について検討する。
学習可能な解パラメータでグラフフィルタを積み重ねることで、高度に適応的で堅牢なグラフ分類モデルを構築することができる。
論文 参考訳(メタデータ) (2020-11-22T11:20:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。