論文の概要: MAPN: Enhancing Heterogeneous Sparse Graph Representation by Mamba-based Asynchronous Aggregation

• arxiv url: http://arxiv.org/abs/2502.16454v1
• Date: Sun, 23 Feb 2025 06:02:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-25 15:53:15.565873
• Title: MAPN: Enhancing Heterogeneous Sparse Graph Representation by Mamba-based Asynchronous Aggregation
• Title（参考訳）: MAPN:mamba-based asynchronous aggregationによる不均一スパースグラフ表現の強化
• Authors: Xuqi Mao, Zhenying He, X. Sean Wang,
• Abstract要約: 本稿では,不均質なスパースグラフの表現を強化する,マンバを基盤とした非同期伝搬ネットワーク(MAPN)を提案する。 MAPNはノードシーケンス生成と意味情報集約という2つの主要コンポーネントから構成される。 多様なデータセットにわたる大規模な実験は、様々な下流タスクに対するグラフ埋め込みにおけるMAPNの有効性を示す。
• 参考スコア（独自算出の注目度）: 4.114908634432608
• License:
• Abstract: Graph neural networks (GNNs) have become the state of the art for various graph-related tasks and are particularly prominent in heterogeneous graphs (HetGs). However, several issues plague this paradigm: first, the difficulty in fully utilizing long-range information, known as over-squashing; second, the tendency for excessive message-passing layers to produce indistinguishable representations, referred to as over-smoothing; and finally, the inadequacy of conventional MPNNs to train effectively on large sparse graphs. To address these challenges in deep neural networks for large-scale heterogeneous graphs, this paper introduces the Mamba-based Asynchronous Propagation Network (MAPN), which enhances the representation of heterogeneous sparse graphs. MAPN consists of two primary components: node sequence generation and semantic information aggregation. Node sequences are initially generated based on meta-paths through random walks, which serve as the foundation for a spatial state model that extracts essential information from nodes at various distances. It then asynchronously aggregates semantic information across multiple hops and layers, effectively preserving unique node characteristics and mitigating issues related to deep network degradation. Extensive experiments across diverse datasets demonstrate the effectiveness of MAPN in graph embeddings for various downstream tasks underscoring its substantial benefits for graph representation in large sparse heterogeneous graphs.
• Abstract（参考訳）: グラフニューラルネットワーク(GNN)は、様々なグラフ関連タスクの最先端となり、ヘテロジニアスグラフ(HetG)で特に顕著である。 しかし、このパラダイムを悩ませている問題もいくつかある: まず、オーバースカッシング(over-squashing)として知られる長距離情報を完全に活用することの難しさ、次に、オーバースムーシング(over-smoothing)と呼ばれる不明瞭な表現を生成する過剰なメッセージパスレイヤーの傾向、そして最後に、大きなスパースグラフで効果的にトレーニングする従来のMPNNの不適切さである。 大規模なヘテロジニアスグラフのためのディープニューラルネットワークにおけるこれらの課題を解決するために,マンバをベースとした非同期伝搬ネットワーク(MAPN)を導入し,ヘテロジニアススパースグラフの表現を強化する。 MAPNはノードシーケンス生成と意味情報集約という2つの主要コンポーネントから構成される。 ノードシーケンスは、まずランダムウォークを通じてメタパスに基づいて生成され、様々な距離のノードから必須情報を抽出する空間状態モデルの基盤となる。 次に、複数のホップとレイヤにまたがってセマンティック情報を非同期に集約し、ユニークなノード特性を効果的に保存し、ディープネットワークの劣化に関連する問題を軽減します。 多様なデータセットにわたる大規模な実験は、グラフ埋め込みにおけるMAPNの有効性を実証し、様々な下流タスクにおいて、大きなスパース不均一グラフにおけるグラフ表現の実質的な利点を証明している。

関連論文リスト

• DuoGNN: Topology-aware Graph Neural Network with Homophily and Heterophily Interaction-Decoupling [0.0]
  グラフニューラルネットワーク(GNN)は、自動疾患診断など、様々な医療画像の応用に有効であることが証明されている。 それらは本質的に2つの基本的な制限に悩まされる: まず、不明瞭なノードの埋め込みは、ヘテロ親和性ノードの集約に起因する。 我々は、トポロジを利用してホモ親和性およびヘテロ親和性のあるエッジを分離するスケーラブルで一般化可能なアーキテクチャであるDuoGNNを提案する。
  論文  参考訳（メタデータ） (2024-09-29T09:01:22Z)
• SF-GNN: Self Filter for Message Lossless Propagation in Deep Graph Neural Network [38.669815079957566]
  グラフニューラルネットワーク(GNN)は,グラフの伝播と集約によるグラフ構造情報の符号化を主目的とする。 等質グラフ、異質グラフ、知識グラフのようなより複雑なグラフなど、複数の種類のグラフの表現学習において優れた性能を発揮した。 深部GNNの性能劣化現象に対して,新しい視点を提案する。
  論文  参考訳（メタデータ） (2024-07-03T02:40:39Z)
• Spectral Greedy Coresets for Graph Neural Networks [61.24300262316091]
  ノード分類タスクにおける大規模グラフの利用は、グラフニューラルネットワーク(GNN)の現実的な応用を妨げる 本稿では,GNNのグラフコアセットについて検討し,スペクトル埋め込みに基づくエゴグラフの選択により相互依存の問題を回避する。 我々のスペクトルグレディグラフコアセット(SGGC)は、数百万のノードを持つグラフにスケールし、モデル事前学習の必要性を排除し、低ホモフィリーグラフに適用する。
  論文  参考訳（メタデータ） (2024-05-27T17:52:12Z)
• NodeFormer: A Scalable Graph Structure Learning Transformer for Node Classification [70.51126383984555]
  本稿では,任意のノード間のノード信号を効率的に伝搬する全ペアメッセージパッシング方式を提案する。 効率的な計算は、カーナライズされたGumbel-Softmax演算子によって実現される。 グラフ上のノード分類を含む様々なタスクにおいて,本手法の有望な有効性を示す実験を行った。
  論文  参考訳（メタデータ） (2023-06-14T09:21:15Z)
• Seq-HGNN: Learning Sequential Node Representation on Heterogeneous Graph [57.2953563124339]
  本稿では,シーケンシャルノード表現,すなわちSeq-HGNNを用いた新しい異種グラフニューラルネットワークを提案する。 Heterogeneous Graph Benchmark (HGB) と Open Graph Benchmark (OGB) の4つの広く使われているデータセットについて広範な実験を行った。
  論文  参考訳（メタデータ） (2023-05-18T07:27:18Z)
• Relation Embedding based Graph Neural Networks for Handling Heterogeneous Graph [58.99478502486377]
  我々は、同種GNNが不均一グラフを扱うのに十分な能力を持つように、シンプルで効率的なフレームワークを提案する。 具体的には、エッジ型関係と自己ループ接続の重要性を埋め込むために、関係1つのパラメータのみを使用する関係埋め込みベースのグラフニューラルネットワーク(RE-GNN)を提案する。
  論文  参考訳（メタデータ） (2022-09-23T05:24:18Z)
• Simple and Efficient Heterogeneous Graph Neural Network [55.56564522532328]
  不均一グラフニューラルネットワーク(HGNN)は、不均一グラフの豊富な構造的および意味的な情報をノード表現に埋め込む強力な能力を持つ。 既存のHGNNは、同種グラフ上のグラフニューラルネットワーク(GNN)から多くのメカニズム、特に注意機構と多層構造を継承する。 本稿では,これらのメカニズムを詳細に検討し,簡便かつ効率的なヘテロジニアスグラフニューラルネットワーク(SeHGNN)を提案する。
  論文  参考訳（メタデータ） (2022-07-06T10:01:46Z)
• Graph Neural Networks with Feature and Structure Aware Random Walk [7.143879014059894]
  典型的な好適なグラフでは、エッジを指向する可能性があり、エッジをそのまま扱うか、あるいは単純に非指向にするかは、GNNモデルの性能に大きな影響を与える。 そこで我々は,グラフの方向性を適応的に学習するモデルを開発し,ノード間の長距離相関を生かした。
  論文  参考訳（メタデータ） (2021-11-19T08:54:21Z)
• Hierarchical graph neural nets can capture long-range interactions [8.067880298298185]
  与えられたグラフの多重解像度表現を利用する階層的メッセージパッシングモデルについて検討する。 これにより、ローカル情報を失うことなく、大きな受容領域にまたがる特徴の学習が容易になる。 階層グラフネット(HGNet)を導入し、任意の2つの接続ノードに対して、最大対数長のメッセージパスパスが存在することを保証します。
  論文  参考訳（メタデータ） (2021-07-15T16:24:22Z)
• Multi-hop Attention Graph Neural Network [70.21119504298078]
  マルチホップアテンショングラフニューラルネットワーク(MAGNA)は、マルチホップコンテキスト情報を注目計算のすべての層に組み込む方法である。 MAGNAは各層における大規模構造情報を捕捉し,低域効果によりグラフデータからノイズの多い高周波情報を除去することを示す。
  論文  参考訳（メタデータ） (2020-09-29T22:41:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。