論文の概要: Gate the Filter, Not the Message: Node-Channel Mixtures for Pre-Propagation GNNs
- arxiv url: http://arxiv.org/abs/2606.01660v1
- Date: Mon, 01 Jun 2026 04:14:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:29.970657
- Title: Gate the Filter, Not the Message: Node-Channel Mixtures for Pre-Propagation GNNs
- Title(参考訳): メッセージではなくフィルタをゲートする: プレプロパゲーションGNNのためのノード-チャネル混合
- Authors: Zichao Yue, Zhiru Zhang,
- Abstract要約: FilterMoEは、学習可能なChebyshevフィルタ専門家の小さなバンクを3Dゲーティングテンソルでノードとチャネルに共同でルーティングする、エキスパートの混合PPGNNである。
11のホモフィリックデータセットとヘテロフィリックデータセットの合計で、FilterMoEは9つのデータセットで強力なPGGNNベースラインを上回り、3つの大規模ベンチマークで第1位にランクインしている。
これらの結果は、データセット固有のホップアグリゲータ選択の頑健な代替として、ジョイントノードチャネルフィルタを確立する。
- 参考スコア(独自算出の注目度): 10.327331833615125
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Pre-propagation graph neural networks (PPGNNs) push all graph-dependent computation into a preprocessing step and train only on the resulting dense hop features, which makes them highly scalable. A puzzle in this regime is that more complex hop aggregators do not reliably outperform simpler ones: on many benchmarks, a plain MLP-based aggregator matches or beats hop-attention variants. We revisit this behavior from a graph-filter perspective. Over a precomputed diffusion basis, existing PPGNNs differ mainly in how filter coefficients are shared across nodes and feature channels, rather than simply in raw aggregator capacity. MLP-based architectures learn channel-dependent filters that are largely shared across nodes, while hop-attention-based architectures learn node-dependent mixtures that are largely shared across channels. This reveals a missing regime in standard PPGNN designs: joint node- and channel-adaptive filtering under the pre-propagation computational contract. We propose FilterMoE, a mixture-of-experts PPGNN in which a small bank of learnable Chebyshev filter experts is routed jointly over nodes and channels by a 3D gating tensor. Across eleven homophilic and heterophilic benchmarks, FilterMoE outperforms strong PPGNN baselines on nine datasets and ranks first on all three large-scale benchmarks, improving the average test score by 1.53 points. These results establish joint node-channel filter routing as a robust alternative to dataset-specific hop-aggregator selection.
- Abstract(参考訳): プレプロパゲーショングラフニューラルネットワーク(PPGNN)は、すべてのグラフ依存の計算を前処理ステップにプッシュし、結果として生じる密度の高いホップ機能のみをトレーニングする。
より複雑なホップアグリゲータは、多くのベンチマークにおいて、平易なMLPベースのアグリゲータがホップアグリゲータにマッチするか、または打ち負かされる。
グラフフィルタの観点から、この振る舞いを再考する。
事前計算された拡散ベースにおいて、既存のPDGNNは、単純なアグリゲータ容量ではなく、フィルタ係数がノードや特徴チャネル間でどのように共有されるかという点で大きく異なる。
MLPベースのアーキテクチャは、主にノード間で共有されるチャネル依存のフィルタを学習し、ホップアテンションベースのアーキテクチャは、主にチャネル間で共有されるノード依存の混合を学習する。
このことは、PPGNNの標準設計の欠如を浮き彫りにしている。
学習可能なChebyshevフィルタの専門家の小さなバンクを3次元ゲーティングテンソルでノードやチャネル上に共同でルーティングする、エキスパートの混合PPGNNであるFilterMoEを提案する。
11の同好性および異好性ベンチマークで、FilterMoEは9つのデータセットで強力なPGGNNベースラインを上回り、3つの大規模ベンチマークで第1位となり、平均テストスコアが1.53ポイント向上した。
これらの結果は、データセット固有のホップアグリゲータ選択の頑健な代替として、ジョイントノードチャネルフィルタのルーティングを確立する。
関連論文リスト
- Partition-wise Graph Filtering: A Unified Perspective Through the Lens of Graph Coarsening [15.198274855557132]
本稿ではCPF(Coarsening-guided Partition-wise Filtering)を紹介する。
CPFはノード分割でフィルタリングを実行することで革新する。
CPFの各相について詳細な解析を行い、他のパラダイムよりも優れていることを示す。
論文 参考訳(メタデータ) (2025-05-20T07:30:45Z) - Node-wise Filtering in Graph Neural Networks: A Mixture of Experts Approach [58.8524608686851]
グラフニューラルネットワーク(GNN)は、多様なグラフ構造パターンをまたいだノード分類タスクに非常に効果的であることが証明されている。
伝統的に、GNNは均一なグローバルフィルタ(通常、ホモフィルグラフのローパスフィルタとヘテロフィルグラフのハイパスフィルタ)を用いる。
我々は,異なるノードに対する適切なフィルタを適応的に選択するために,専門家の混在を利用した新しいGNNフレームワークNode-MoEを紹介する。
論文 参考訳(メタデータ) (2024-06-05T17:12:38Z) - Spatio-Spectral Graph Neural Networks [50.277959544420455]
比スペクトルグラフネットワーク(S$2$GNN)を提案する。
S$2$GNNは空間的およびスペクトル的にパラメータ化されたグラフフィルタを組み合わせる。
S$2$GNNsは、MPGNNsよりも厳密な近似理論誤差境界を生じる。
論文 参考訳(メタデータ) (2024-05-29T14:28:08Z) - Graph Neural Networks with Diverse Spectral Filtering [32.69196871253339]
スペクトルグラフニューラルネットワーク(GNN)は、グラフ機械学習において大きな成功を収めている。
本稿では,ノード固有のフィルタ重みを自動的に学習する新しいスペクトルフィルタリング(DSF)フレームワークを提案する。
我々のフレームワークは、ノード分類タスクにおいて、モデル性能を最大4.92%向上させることができる。
論文 参考訳(メタデータ) (2023-12-14T15:38:12Z) - Message Passing in Graph Convolution Networks via Adaptive Filter Banks [81.12823274576274]
我々は BankGCN と呼ばれる新しいグラフ畳み込み演算子を提案する。
グラフ上のマルチチャネル信号をサブスペースに分解し、各サブスペース内の特定の情報を適応フィルタで処理する。
ベンチマークグラフデータセットの集合におけるグラフ分類における優れたパフォーマンスを実現する。
論文 参考訳(メタデータ) (2021-06-18T04:23:34Z) - Graph Neural Networks with Adaptive Frequency Response Filter [55.626174910206046]
適応周波数応答フィルタを用いたグラフニューラルネットワークフレームワークAdaGNNを開発した。
提案手法の有効性を,様々なベンチマークデータセット上で実証的に検証した。
論文 参考訳(メタデータ) (2021-04-26T19:31:21Z) - Self-grouping Convolutional Neural Networks [30.732298624941738]
本稿では,SG-CNNと呼ばれる自己グループ型畳み込みニューラルネットワークの設計手法を提案する。
各フィルタについて、まず入力チャネルの重要度を評価し、重要度ベクトルを同定する。
得られたデータに依存したセントロイドを用いて、重要でない接続を創り出し、プルーニングの精度損失を暗黙的に最小化する。
論文 参考訳(メタデータ) (2020-09-29T06:24:32Z) - Dependency Aware Filter Pruning [74.69495455411987]
重要でないフィルタを割ることは、推論コストを軽減するための効率的な方法である。
以前の作業は、その重み基準やそれに対応するバッチノームスケーリング要因に従ってフィルタをプルークする。
所望の空間性を達成するために,空間性誘導正規化を動的に制御する機構を提案する。
論文 参考訳(メタデータ) (2020-05-06T07:41:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。