論文の概要: MM-GNN: Mix-Moment Graph Neural Network towards Modeling Neighborhood
Feature Distribution
- arxiv url: http://arxiv.org/abs/2208.07012v1
- Date: Mon, 15 Aug 2022 05:59:08 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-16 14:28:39.490863
- Title: MM-GNN: Mix-Moment Graph Neural Network towards Modeling Neighborhood
Feature Distribution
- Title(参考訳): mm-gnn:ミックスモーメントグラフニューラルネットワークによる近傍特徴分布のモデル化
- Authors: Wendong Bi, Lun Du, Qiang Fu, Yanlin Wang, Shi Han, Dongmei Zhang
- Abstract要約: 我々は、MME(Multi-order Moment Embedding)モジュールとElement-wise Attention-based Moment Adaptorモジュールを含む新しいGNNモデル、Mix-Moment Graph Neural Network (MM-GNN)を設計する。
MM-GNNはまず、各ノードの隣人のマルチオーダーモーメントをシグネチャとして計算し、次に、要素ワイドアテンションベースのモーメントアダプタを使用して、各ノードの重要なモーメントにより大きな重みを割り当て、ノード表現を更新する。
- 参考スコア(独自算出の注目度): 43.41163711340362
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph Neural Networks (GNNs) have shown expressive performance on graph
representation learning by aggregating information from neighbors. Recently,
some studies have discussed the importance of modeling neighborhood
distribution on the graph. However, most existing GNNs aggregate neighbors'
features through single statistic (e.g., mean, max, sum), which loses the
information related to neighbor's feature distribution and therefore degrades
the model performance. In this paper, inspired by the method of moment in
statistical theory, we propose to model neighbor's feature distribution with
multi-order moments. We design a novel GNN model, namely Mix-Moment Graph
Neural Network (MM-GNN), which includes a Multi-order Moment Embedding (MME)
module and an Element-wise Attention-based Moment Adaptor module. MM-GNN first
calculates the multi-order moments of the neighbors for each node as
signatures, and then use an Element-wise Attention-based Moment Adaptor to
assign larger weights to important moments for each node and update node
representations. We conduct extensive experiments on 15 real-world graphs
(including social networks, citation networks and web-page networks etc.) to
evaluate our model, and the results demonstrate the superiority of MM-GNN over
existing state-of-the-art models.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)は,近隣からの情報を集約することで,グラフ表現学習における表現力を示す。
近年,グラフ上の近傍分布のモデル化の重要性が議論されている。
しかし、既存のほとんどのGNNは、隣人の特徴分布に関する情報を失い、従ってモデルの性能が低下する単一統計量(平均、最大、和)を通じて隣人の特徴を集約する。
本稿では,統計理論におけるモーメント法に着想を得て,隣接特徴分布を多階モーメントでモデル化する。
我々は、MME(Multi-order Moment Embedding)モジュールとElement-wise Attention-based Moment Adaptorモジュールを含む新しいGNNモデル、Mix-Moment Graph Neural Network (MM-GNN)を設計する。
mm-gnnは、まず、各ノードの隣接ノードのマルチオーダーモーメントをシグネチャとして計算し、次に要素ごとの注意に基づくモーメントアダプタを使用して、各ノードの重要なモーメントにより大きな重みを割り当て、ノード表現を更新する。
実世界の15のグラフ(ソーシャルネットワーク, 引用ネットワーク, ウェブページネットワークなど)について広範な実験を行い, 既存の最先端モデルよりもMM-GNNの方が優れていることを示す。
関連論文リスト
- Dynamic Graph Message Passing Networks for Visual Recognition [112.49513303433606]
長距離依存のモデリングは、コンピュータビジョンにおけるシーン理解タスクに不可欠である。
完全連結グラフはそのようなモデリングには有益であるが、計算オーバーヘッドは禁じられている。
本稿では,計算複雑性を大幅に低減する動的グラフメッセージパッシングネットワークを提案する。
論文 参考訳(メタデータ) (2022-09-20T14:41:37Z) - Discovering the Representation Bottleneck of Graph Neural Networks from
Multi-order Interactions [51.597480162777074]
グラフニューラルネットワーク(GNN)は、ノード機能を伝搬し、インタラクションを構築するためにメッセージパッシングパラダイムに依存している。
最近の研究は、異なるグラフ学習タスクはノード間の異なる範囲の相互作用を必要とすることを指摘している。
科学領域における2つの共通グラフ構築法、すなわち、emphK-nearest neighbor(KNN)グラフとemphfully-connected(FC)グラフについて検討する。
論文 参考訳(メタデータ) (2022-05-15T11:38:14Z) - IV-GNN : Interval Valued Data Handling Using Graph Neural Network [12.651341660194534]
Graph Neural Network(GNN)は、グラフ上で標準的な機械学習を実行する強力なツールである。
本稿では,新しいGNNモデルであるInterval-ValuedGraph Neural Networkを提案する。
我々のモデルは、任意の可算集合は常に可算集合 $Rn$ の部分集合であるので、既存のモデルよりもはるかに一般である。
論文 参考訳(メタデータ) (2021-11-17T15:37:09Z) - Feature Correlation Aggregation: on the Path to Better Graph Neural
Networks [37.79964911718766]
グラフニューラルネットワーク(GNN)が導入される以前、不規則なデータ、特にグラフのモデリングと解析は、ディープラーニングのアキレスのヒールであると考えられていた。
本稿では,GNNのコア操作に対して,極めて単純かつ無作為な修正を施した中央ノード置換変分関数を提案する。
モデルの具体的な性能向上は、モデルがより少ないパラメータを使用しながら、有意なマージンで過去の最先端結果を上回った場合に観察される。
論文 参考訳(メタデータ) (2021-09-20T05:04:26Z) - Explicit Pairwise Factorized Graph Neural Network for Semi-Supervised
Node Classification [59.06717774425588]
本稿では,グラフ全体を部分的に観測されたマルコフ確率場としてモデル化するEPFGNN(Explicit Pairwise Factorized Graph Neural Network)を提案する。
出力-出力関係をモデル化するための明示的なペアワイズ要素を含み、入力-出力関係をモデル化するためにGNNバックボーンを使用する。
本研究では,グラフ上での半教師付きノード分類の性能を効果的に向上できることを示す。
論文 参考訳(メタデータ) (2021-07-27T19:47:53Z) - Breaking the Limit of Graph Neural Networks by Improving the
Assortativity of Graphs with Local Mixing Patterns [19.346133577539394]
グラフニューラルネットワーク(GNN)は、複数のグラフベースの学習タスクで大きな成功を収めています。
入力グラフを近接情報と構造情報の両方を含む計算グラフに変換することに集中する。
構造と近接度を適応的に選択することで,様々な混合条件下での性能が向上することを示す。
論文 参考訳(メタデータ) (2021-06-11T19:18:34Z) - GAIN: Graph Attention & Interaction Network for Inductive
Semi-Supervised Learning over Large-scale Graphs [18.23435958000212]
グラフニューラルネットワーク(GNN)は、推薦、ノード分類、リンク予測など、さまざまな機械学習タスクにおいて最先端のパフォーマンスを実現している。
既存のGNNモデルの多くは、隣接するノード情報を集約するために単一のタイプのアグリゲータを利用している。
本稿では,グラフ上の帰納学習のための新しいグラフニューラルネットワークアーキテクチャであるグラフ注意と相互作用ネットワーク(GAIN)を提案する。
論文 参考訳(メタデータ) (2020-11-03T00:20:24Z) - A Unified View on Graph Neural Networks as Graph Signal Denoising [49.980783124401555]
グラフニューラルネットワーク(GNN)は,グラフ構造化データの学習表現において顕著に普及している。
本研究では,代表的GNNモデル群における集約過程を,グラフ記述問題の解法とみなすことができることを数学的に確立する。
UGNNから派生した新しいGNNモデルADA-UGNNをインスタンス化し、ノード間の適応的滑らかさでグラフを処理する。
論文 参考訳(メタデータ) (2020-10-05T04:57:18Z) - Bilinear Graph Neural Network with Neighbor Interactions [106.80781016591577]
グラフニューラルネットワーク(GNN)は,グラフデータ上で表現を学習し,予測を行う強力なモデルである。
本稿では,グラフ畳み込み演算子を提案し,隣接するノードの表現の対の相互作用で重み付け和を増大させる。
このフレームワークをBGNN(Bilinear Graph Neural Network)と呼び、隣ノード間の双方向相互作用によるGNN表現能力を向上させる。
論文 参考訳(メタデータ) (2020-02-10T06:43:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。