論文の概要: From Node Interaction to Hop Interaction: New Effective and Scalable Graph Learning Paradigm

• arxiv url: http://arxiv.org/abs/2211.11761v3
• Date: Thu, 13 Apr 2023 08:07:32 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-14 20:23:38.906128
• Title: From Node Interaction to Hop Interaction: New Effective and Scalable Graph Learning Paradigm
• Title（参考訳）: ノードインタラクションからホップインタラクションへ - 新しい効果的でスケーラブルなグラフ学習パラダイム
• Authors: Jie Chen, Zilong Li, Yin Zhu, Junping Zhang, Jian Pu
• Abstract要約: 本稿では,制約に同時に対処する新しいホップ相互作用パラダイムを提案する。 中心となる考え方は、ノード間のインタラクションターゲットを、各ノード内で事前処理されたマルチホップ機能に変換することである。 グラフの幅広い領域、スケール、滑らかさにおいて、12のベンチマークデータセットに対して広範な実験を行う。
• 参考スコア（独自算出の注目度）: 25.959580336262004
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Existing Graph Neural Networks (GNNs) follow the message-passing mechanism that conducts information interaction among nodes iteratively. While considerable progress has been made, such node interaction paradigms still have the following limitation. First, the scalability limitation precludes the broad application of GNNs in large-scale industrial settings since the node interaction among rapidly expanding neighbors incurs high computation and memory costs. Second, the over-smoothing problem restricts the discrimination ability of nodes, i.e., node representations of different classes will converge to indistinguishable after repeated node interactions. In this work, we propose a novel hop interaction paradigm to address these limitations simultaneously. The core idea is to convert the interaction target among nodes to pre-processed multi-hop features inside each node. We design a simple yet effective HopGNN framework that can easily utilize existing GNNs to achieve hop interaction. Furthermore, we propose a multi-task learning strategy with a self-supervised learning objective to enhance HopGNN. We conduct extensive experiments on 12 benchmark datasets in a wide range of domains, scales, and smoothness of graphs. Experimental results show that our methods achieve superior performance while maintaining high scalability and efficiency. The code is at https://github.com/JC-202/HopGNN.
• Abstract（参考訳）: 既存のグラフニューラルネットワーク(GNN)は、ノード間の情報インタラクションを反復的に行うメッセージパッシングメカニズムに従う。 かなりの進歩がなされているが、ノード間相互作用のパラダイムには以下の制限がある。 まず, 大規模産業環境でのGNNの広範な適用は, 急速に拡大する隣国間のノード間相互作用が, 高い計算とメモリコストを引き起こすため, スケーラビリティの制限によって妨げられる。 第二に、オーバースムーシング問題はノードの識別能力を制限し、つまり、異なるクラスのノード表現は、繰り返しノード間相互作用の後、識別不能に収束する。 本研究では,これらの制約に同時に対処する新しいホップ相互作用パラダイムを提案する。 中心となるアイデアは、ノード間のインタラクションターゲットを、各ノード内の事前処理されたマルチホップ機能に変換することだ。 ホップインタラクションを実現するために既存のGNNを簡単に利用できる,シンプルで効果的なHopGNNフレームワークを設計する。 さらに,hopgnnを強化するために,自己教師付き学習目標を持つマルチタスク学習戦略を提案する。 グラフの幅広い領域、スケール、滑らかさにおいて、12のベンチマークデータセットに対して広範な実験を行う。 実験結果から,本手法は高いスケーラビリティと効率を保ちながら優れた性能を発揮することが示された。 コードはhttps://github.com/JC-202/HopGNNにある。

関連論文リスト

• Graph as a feature: improving node classification with non-neural graph-aware logistic regression [2.952177779219163]
  Graph-aware Logistic Regression (GLR) はノード分類タスク用に設計された非神経モデルである。 GNNにアクセスできる情報のごく一部しか使わない従来のグラフアルゴリズムとは異なり、提案モデルではノードの特徴とエンティティ間の関係を同時に活用する。
  論文  参考訳（メタデータ） (2024-11-19T08:32:14Z)
• Towards Dynamic Message Passing on Graphs [104.06474765596687]
  グラフニューラルネットワーク(GNN)のための新しい動的メッセージパッシング機構を提案する。 グラフノードと学習可能な擬似ノードを、測定可能な空間関係を持つ共通空間に投影する。 ノードが空間内を移動すると、その進化する関係は動的メッセージパッシングプロセスのための柔軟な経路構築を促進する。
  論文  参考訳（メタデータ） (2024-10-31T07:20:40Z)
• The Snowflake Hypothesis: Training Deep GNN with One Node One Receptive field [39.679151680622375]
  一つのノード、一つの受容場の概念を支える新しいパラダイムである「雪の結晶仮説」を紹介します。 最も単純な勾配とノードレベルの余弦距離を、各ノードの集約深さを調節する指針として採用する。 観測結果は,我々の仮説がタスクの普遍演算子として機能できることを実証した。
  論文  参考訳（メタデータ） (2023-08-19T15:21:12Z)
• NodeFormer: A Scalable Graph Structure Learning Transformer for Node Classification [70.51126383984555]
  本稿では,任意のノード間のノード信号を効率的に伝搬する全ペアメッセージパッシング方式を提案する。 効率的な計算は、カーナライズされたGumbel-Softmax演算子によって実現される。 グラフ上のノード分類を含む様々なタスクにおいて,本手法の有望な有効性を示す実験を行った。
  論文  参考訳（メタデータ） (2023-06-14T09:21:15Z)
• Discovering the Representation Bottleneck of Graph Neural Networks from Multi-order Interactions [51.597480162777074]
  グラフニューラルネットワーク(GNN)は、ノード機能を伝搬し、インタラクションを構築するためにメッセージパッシングパラダイムに依存している。 最近の研究は、異なるグラフ学習タスクはノード間の異なる範囲の相互作用を必要とすることを指摘している。 科学領域における2つの共通グラフ構築法、すなわち、emphK-nearest neighbor(KNN)グラフとemphfully-connected(FC)グラフについて検討する。
  論文  参考訳（メタデータ） (2022-05-15T11:38:14Z)
• Node2Seq: Towards Trainable Convolutions in Graph Neural Networks [59.378148590027735]
  今回提案するグラフネットワーク層であるNode2Seqは,隣接ノードの重みを明示的に調整可能なノード埋め込みを学習する。 対象ノードに対して,当手法は注意メカニズムを介して隣接ノードをソートし,さらに1D畳み込みニューラルネットワーク(CNN)を用いて情報集約のための明示的な重み付けを行う。 また, 特徴学習のための非局所的情報を, 注意スコアに基づいて適応的に組み込むことを提案する。
  論文  参考訳（メタデータ） (2021-01-06T03:05:37Z)
• Adaptive Graph Diffusion Networks with Hop-wise Attention [1.2183405753834562]
  ホップワイド・アテンション(AGDNs-HA)を用いた適応グラフ拡散ネットワークを提案する。 提案手法は,半教師付きノード分類タスクによる標準データセットの大幅な改善を実現する。
  論文  参考訳（メタデータ） (2020-12-30T03:43:04Z)
• Towards Deeper Graph Neural Networks with Differentiable Group Normalization [61.20639338417576]
  グラフニューラルネットワーク(GNN)は、隣接するノードを集約することでノードの表現を学習する。 オーバースムーシングは、レイヤーの数が増えるにつれてGNNのパフォーマンスが制限される重要な問題のひとつです。 2つのオーバースムースなメトリクスと新しいテクニック、すなわち微分可能群正規化(DGN)を導入する。
  論文  参考訳（メタデータ） (2020-06-12T07:18:02Z)
• SkipGNN: Predicting Molecular Interactions with Skip-Graph Networks [70.64925872964416]
  分子間相互作用の予測のためのグラフニューラルネットワークSkipGNNを提案する。 SkipGNNは直接相互作用からの情報だけでなく、二階相互作用からも情報を収集することで分子間相互作用を予測する。 また,SkipGNNは,既存の手法を最大28.8%上回り,優れた,堅牢な性能を実現していることを示す。
  論文  参考訳（メタデータ） (2020-04-30T16:55:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。