論文の概要: Optimizing Polynomial Graph Filters: A Novel Adaptive Krylov Subspace
Approach
- arxiv url: http://arxiv.org/abs/2403.07954v1
- Date: Tue, 12 Mar 2024 06:26:17 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-14 17:27:55.041805
- Title: Optimizing Polynomial Graph Filters: A Novel Adaptive Krylov Subspace
Approach
- Title(参考訳): 多項式グラフフィルタの最適化:新しい適応クリロフ部分空間
アプローチ
- Authors: Keke Huang, Wencai Cao, Hoang Ta, Xiaokui Xiao, and Pietro Li\`o
- Abstract要約: 我々は,Krylov部分空間に基づく適応グラフフィルタを開発し,複素グラフをフィルタする。
我々は、一連の実世界のデータセットにまたがって広範な実験を行う。
- 参考スコア(独自算出の注目度): 25.768443030484967
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Graph Neural Networks (GNNs), known as spectral graph filters, find a wide
range of applications in web networks. To bypass eigendecomposition, polynomial
graph filters are proposed to approximate graph filters by leveraging various
polynomial bases for filter training. However, no existing studies have
explored the diverse polynomial graph filters from a unified perspective for
optimization.
In this paper, we first unify polynomial graph filters, as well as the
optimal filters of identical degrees into the Krylov subspace of the same
order, thus providing equivalent expressive power theoretically. Next, we
investigate the asymptotic convergence property of polynomials from the unified
Krylov subspace perspective, revealing their limited adaptability in graphs
with varying heterophily degrees. Inspired by those facts, we design a novel
adaptive Krylov subspace approach to optimize polynomial bases with provable
controllability over the graph spectrum so as to adapt various heterophily
graphs. Subsequently, we propose AdaptKry, an optimized polynomial graph filter
utilizing bases from the adaptive Krylov subspaces. Meanwhile, in light of the
diverse spectral properties of complex graphs, we extend AdaptKry by leveraging
multiple adaptive Krylov bases without incurring extra training costs. As a
consequence, extended AdaptKry is able to capture the intricate characteristics
of graphs and provide insights into their inherent complexity. We conduct
extensive experiments across a series of real-world datasets. The experimental
results demonstrate the superior filtering capability of AdaptKry, as well as
the optimized efficacy of the adaptive Krylov basis.
- Abstract(参考訳): スペクトルグラフフィルタとして知られるグラフニューラルネットワーク(GNN)は、Webネットワークで幅広いアプリケーションを見つける。
固有分解を回避すべく, 多項式グラフフィルタを近似グラフフィルタに提案し, 様々な多項式基底をフィルタトレーニングに利用した。
しかし、最適化のための統一的な視点から様々な多項式グラフフィルタを探索する研究は存在しない。
本稿では、まず多項式グラフフィルタと、同じ次数の最適フィルタを同じ次数のクリロフ部分空間に統一し、理論的に等価な表現力を与える。
次に、統一クリロフ部分空間の観点から多項式の漸近収束性について検討し、異なるヘテロフィリー次数を持つグラフにおけるそれらの限定適応性を明らかにする。
これらの事実にインスパイアされた我々は、様々なヘテロフィリーグラフに適応するように、グラフスペクトル上で証明可能な制御性を持つ多項式基底を最適化する、新しい適応クリロフ部分空間アプローチを設計する。
次に,適応Krylov部分空間の基底を利用する最適化多項式グラフフィルタAdaptKryを提案する。
一方、複素グラフのスペクトル特性の多様性を考慮して、追加の訓練コストを伴わずに複数の適応クリロフ基底を活用することにより、AdaptKryを拡張する。
その結果、拡張AdaptKryはグラフの複雑な特性を捉え、それら固有の複雑さに関する洞察を提供することができる。
我々は、一連の実世界のデータセットにまたがって広範な実験を行う。
実験により、AdaptKryの優れたフィルタリング能力と適応Krylov基底の最適化された有効性が示された。
関連論文リスト
- An Effective Universal Polynomial Basis for Spectral Graph Neural
Networks [12.725906836609811]
スペクトルグラフニューラルネットワーク(GNN)はヘテロフィリーグラフの出現率を高めている。
グラフヘテロフィリー次数を導入して適応的なヘテロフィリー基底を開発する。
そして、このヘテロフィ基底をホモフィ基底と統合し、普遍基底UniBasisを作成する。
論文 参考訳(メタデータ) (2023-11-30T01:48:42Z) - HoloNets: Spectral Convolutions do extend to Directed Graphs [59.851175771106625]
従来の知恵は、スペクトル畳み込みネットワークは無向グラフ上にしか展開できないと規定している。
ここでは、このグラフフーリエ変換への伝統的な依存が超フルであることを示す。
本稿では,新たに開発されたフィルタの周波数応答解釈を行い,フィルタ表現に使用するベースの影響を調査し,ネットワークを基盤とする特性演算子との相互作用について議論する。
論文 参考訳(メタデータ) (2023-10-03T17:42:09Z) - Automated Polynomial Filter Learning for Graph Neural Networks [9.120531252536617]
グラフニューラルネットワーク(GNN)の設計の指針として多項グラフフィルタが広く用いられている。
近年, グラフフィルタの適応学習により, ホモ親和性グラフとヘテロ親和性グラフの両方において, グラフ信号のモデル化に有望な性能が示された。
本稿では,多種多様なグラフ信号に適応可能な優れたフィルタを効率的に学習する,新規で汎用的なグラフフィルタ学習フレームワークであるAuto-Polynomialを提案する。
論文 参考訳(メタデータ) (2023-07-16T06:14:12Z) - Geometric Graph Filters and Neural Networks: Limit Properties and
Discriminability Trade-offs [122.06927400759021]
本稿では,グラフニューラルネットワーク (GNN) と多様体ニューラルネットワーク (MNN) の関係について検討する。
これらのグラフ上の畳み込みフィルタとニューラルネットワークが連続多様体上の畳み込みフィルタとニューラルネットワークに収束することを示す。
論文 参考訳(メタデータ) (2023-05-29T08:27:17Z) - Specformer: Spectral Graph Neural Networks Meet Transformers [51.644312964537356]
スペクトルグラフニューラルネットワーク(GNN)は、スペクトル領域グラフ畳み込みを通じてグラフ表現を学習する。
本稿では、全ての固有値の集合を効果的に符号化し、スペクトル領域で自己アテンションを行うSpecformerを紹介する。
複数のSpecformerレイヤを積み重ねることで、強力なスペクトルGNNを構築することができる。
論文 参考訳(メタデータ) (2023-03-02T07:36:23Z) - A Piece-wise Polynomial Filtering Approach for Graph Neural Networks [0.45298395481707365]
グラフニューラルネットワーク(GNN)は、ノードの特徴と入力グラフトポロジからの信号を利用して、ノード分類タスクのパフォーマンスを向上させる。
これらのモデルは、連結ノードが異なるラベルを持つヘテロ親和性グラフ上では性能が良くない傾向にある。
提案モデルでは,最先端モデルに対して最大5%の性能向上を実現し,従来のフィルタ方式よりも優れた性能を示す。
論文 参考訳(メタデータ) (2021-12-07T05:16:53Z) - Message Passing in Graph Convolution Networks via Adaptive Filter Banks [81.12823274576274]
我々は BankGCN と呼ばれる新しいグラフ畳み込み演算子を提案する。
グラフ上のマルチチャネル信号をサブスペースに分解し、各サブスペース内の特定の情報を適応フィルタで処理する。
ベンチマークグラフデータセットの集合におけるグラフ分類における優れたパフォーマンスを実現する。
論文 参考訳(メタデータ) (2021-06-18T04:23:34Z) - Graph Neural Networks with Adaptive Frequency Response Filter [55.626174910206046]
適応周波数応答フィルタを用いたグラフニューラルネットワークフレームワークAdaGNNを開発した。
提案手法の有効性を,様々なベンチマークデータセット上で実証的に検証した。
論文 参考訳(メタデータ) (2021-04-26T19:31:21Z) - Stacked Graph Filter [19.343260981528186]
グラフ信号処理の観点から,グラフ畳み込みネットワーク(GCN)について検討する。
学習可能な解パラメータでグラフフィルタを積み重ねることで、高度に適応的で堅牢なグラフ分類モデルを構築することができる。
論文 参考訳(メタデータ) (2020-11-22T11:20:14Z) - Unrolling of Deep Graph Total Variation for Image Denoising [106.93258903150702]
本稿では,従来のグラフ信号フィルタリングと深い特徴学習を併用して,競合するハイブリッド設計を提案する。
解釈可能な低パスグラフフィルタを用い、最先端のDL復調方式DnCNNよりも80%少ないネットワークパラメータを用いる。
論文 参考訳(メタデータ) (2020-10-21T20:04:22Z) - Gaussian Processes on Graphs via Spectral Kernel Learning [9.260186030255081]
グラフのノード上で定義された信号の予測のためのグラフスペクトルに基づくガウス過程を提案する。
合成実験におけるモデルの解釈可能性を示し、様々な基底真理スペクトルフィルタを精度良く回収できることを示す。
論文 参考訳(メタデータ) (2020-06-12T17:51:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。