論文の概要: Sequential Signal Mixing Aggregation for Message Passing Graph Neural Networks

• arxiv url: http://arxiv.org/abs/2409.19414v1
• Date: Sat, 28 Sep 2024 17:13:59 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-05 23:29:10.264343
• Title: Sequential Signal Mixing Aggregation for Message Passing Graph Neural Networks
• Title（参考訳）: メッセージパッシンググラフニューラルネットワークにおける逐次信号混合アグリゲーション
• Authors: Mitchell Keren Taraday, Almog David, Chaim Baskin,
• Abstract要約: 本稿では,MPGNNのための新しいプラグ・アンド・プレイアグリゲーションであるSSMA(Sequential Signal Mixing Aggregation)を紹介する。 SSMAは隣接する特徴を2次元の離散的な信号として扱い、それらを連続的に結合させ、本質的に隣り合った特徴を混合する能力を増強する。 SSMAとよく確立されたMPGNNアーキテクチャを組み合わせると、様々なベンチマークでかなりの性能向上が達成できることを示す。
• 参考スコア（独自算出の注目度）: 2.7719338074999547
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Message Passing Graph Neural Networks (MPGNNs) have emerged as the preferred method for modeling complex interactions across diverse graph entities. While the theory of such models is well understood, their aggregation module has not received sufficient attention. Sum-based aggregators have solid theoretical foundations regarding their separation capabilities. However, practitioners often prefer using more complex aggregations and mixtures of diverse aggregations. In this work, we unveil a possible explanation for this gap. We claim that sum-based aggregators fail to "mix" features belonging to distinct neighbors, preventing them from succeeding at downstream tasks. To this end, we introduce Sequential Signal Mixing Aggregation (SSMA), a novel plug-and-play aggregation for MPGNNs. SSMA treats the neighbor features as 2D discrete signals and sequentially convolves them, inherently enhancing the ability to mix features attributed to distinct neighbors. By performing extensive experiments, we show that when combining SSMA with well-established MPGNN architectures, we achieve substantial performance gains across various benchmarks, achieving new state-of-the-art results in many settings. We published our code at \url{https://almogdavid.github.io/SSMA/}
• Abstract（参考訳）: メッセージパッシンググラフニューラルネットワーク(MPGNN)は、様々なグラフエンティティ間での複雑な相互作用をモデル化する手段として好まれている。 そのようなモデルの理論はよく理解されているが、それらの集約モジュールは十分な注意を払っていない。 サムベースのアグリゲータは、その分離能力に関するしっかりとした理論的基礎を持っている。 しかし、実践者は、より複雑な凝集と多様な凝集の混合物を使うことを好むことが多い。 本稿では,このギャップについて解説する。 我々は、サムベースのアグリゲータが、異なる隣人に属する機能を「ミックス」することに失敗し、下流のタスクで成功しないと主張している。 そこで我々は,MPGNNのための新しいプラグ・アンド・プレイアグリゲーションであるSequential Signal Mixing Aggregation (SSMA)を紹介する。 SSMAは隣接する特徴を2次元の離散的な信号として扱い、それらを連続的に結合させ、本質的に隣り合った特徴を混合する能力を増強する。 広範な実験により,SSMAと確立されたMPGNNアーキテクチャを組み合わせることで,様々なベンチマークにおいて大幅な性能向上を実現し,多くの設定で新たな最先端結果が得られることを示す。 ソースコードは \url{https://almogdavid.github.io/SSMA/} で公開しました。

関連論文リスト

• Alleviating Over-Smoothing via Aggregation over Compact Manifolds [19.559230417122826]
  グラフニューラルネットワーク(GNN)は様々なアプリケーションで大きな成功を収めている。 ほとんどのGNNは、隣人の情報収集と各レイヤの機能変換によってノードの特徴を学習する。 しかし、ノード機能は多くのレイヤの後に区別不能になり、パフォーマンスが劣化する。
  論文  参考訳（メタデータ） (2024-07-27T11:02:12Z)
• Community detection in complex networks via node similarity, graph representation learning, and hierarchical clustering [4.264842058017711]
  コミュニティ検出は、実際のグラフを分析する上で重要な課題である。 この記事では,この課題に対処する3つの新しい階層型フレームワークを提案する。 ブロックモデルグラフと実生活データセットにおける100以上のモジュールの組み合わせを比較します。
  論文  参考訳（メタデータ） (2023-03-21T22:12:53Z)
• Learning with MISELBO: The Mixture Cookbook [62.75516608080322]
  本稿では,VampPriorとPixelCNNデコーダネットワークを用いて,フローベース階層型変分オートエンコーダ(VAE)の正規化のための変分近似を初めて提案する。 我々は、この協調行動について、VIと適応的重要度サンプリングの新たな関係を描いて説明する。 我々は、MNISTおよびFashionMNISTデータセット上の負のログ類似度の観点から、VAEアーキテクチャの最先端結果を得る。
  論文  参考訳（メタデータ） (2022-09-30T15:01:35Z)
• Dynamic Graph Message Passing Networks for Visual Recognition [112.49513303433606]
  長距離依存のモデリングは、コンピュータビジョンにおけるシーン理解タスクに不可欠である。 完全連結グラフはそのようなモデリングには有益であるが、計算オーバーヘッドは禁じられている。 本稿では,計算複雑性を大幅に低減する動的グラフメッセージパッシングネットワークを提案する。
  論文  参考訳（メタデータ） (2022-09-20T14:41:37Z)
• MM-GNN: Mix-Moment Graph Neural Network towards Modeling Neighborhood Feature Distribution [43.41163711340362]
  我々は、MME(Multi-order Moment Embedding)モジュールとElement-wise Attention-based Moment Adaptorモジュールを含む新しいGNNモデル、Mix-Moment Graph Neural Network (MM-GNN)を設計する。 MM-GNNはまず、各ノードの隣人のマルチオーダーモーメントをシグネチャとして計算し、次に、要素ワイドアテンションベースのモーメントアダプタを使用して、各ノードの重要なモーメントにより大きな重みを割り当て、ノード表現を更新する。
  論文  参考訳（メタデータ） (2022-08-15T05:59:08Z)
• Multi-scale Feature Aggregation for Crowd Counting [84.45773306711747]
  マルチスケール特徴集約ネットワーク(MSFANet)を提案する。 MSFANetは、ショートアグリゲーション(ShortAgg)とスキップアグリゲーション(SkipAgg)の2つの機能アグリゲーションモジュールで構成されている。
  論文  参考訳（メタデータ） (2022-08-10T10:23:12Z)
• Graph Ordering Attention Networks [22.468776559433614]
  グラフニューラルネットワーク(GNN)は、グラフ構造化データに関わる多くの問題でうまく使われている。 近隣ノード間のインタラクションをキャプチャする新しいGNNコンポーネントであるグラフ順序付け注意層(GOAT)を導入する。 GOATレイヤは、複雑な情報をキャプチャするグラフメトリクスのモデリングにおけるパフォーマンスの向上を示す。
  論文  参考訳（メタデータ） (2022-04-11T18:13:19Z)
• Meta-Aggregator: Learning to Aggregate for 1-bit Graph Neural Networks [127.32203532517953]
  我々は,GNNパラメータとグラフ特徴をバイナライズするバニラ1ビットフレームワークを開発した。 軽量なアーキテクチャにもかかわらず、我々はこのバニラフレームワークがグラフトポロジを区別するのに十分な差別力に悩まされていることを観察した。 この発見は、バニラ二項化GNNの表現力を向上させるためにメタアグリゲータを考案する動機となる。
  論文  参考訳（メタデータ） (2021-09-27T08:50:37Z)
• Policy-GNN: Aggregation Optimization for Graph Neural Networks [60.50932472042379]
  グラフニューラルネットワーク(GNN)は、局所的なグラフ構造をモデル化し、隣人からの情報を集約することで階層的なパターンを捉えることを目的としている。 複雑なグラフとスパースな特徴を与えられた各ノードに対して効果的なアグリゲーション戦略を開発することは難しい課題である。 本稿では,GNNのサンプリング手順とメッセージパッシングを複合学習プロセスにモデル化するメタ政治フレームワークであるPolicy-GNNを提案する。
  論文  参考訳（メタデータ） (2020-06-26T17:03:06Z)
• Graph Neural Networks with Composite Kernels [60.81504431653264]
  カーネル重み付けの観点からノード集約を再解釈する。 本稿では,アグリゲーション方式における特徴類似性を考慮したフレームワークを提案する。 特徴空間における特徴類似性をエンコードするために,元の隣り合うカーネルと学習可能なカーネルの合成として特徴集約を提案する。
  論文  参考訳（メタデータ） (2020-05-16T04:44:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。