論文の概要: DepWiGNN: A Depth-wise Graph Neural Network for Multi-hop Spatial Reasoning in Text

• arxiv url: http://arxiv.org/abs/2310.12557v2
• Date: Fri, 8 Mar 2024 14:16:55 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-11 23:16:13.031356
• Title: DepWiGNN: A Depth-wise Graph Neural Network for Multi-hop Spatial Reasoning in Text
• Title（参考訳）: DepWiGNN:テキストにおけるマルチホップ空間推論のための深部グラフニューラルネットワーク
• Authors: Shuaiyi Li, Yang Deng, Wai Lam
• Abstract要約: マルチホップ空間推論のためのDepWiGNN(Depth-Wise Graph Neural Network)を提案する。 具体的には,新しいノードメモリ方式を設計し,グラフの幅次元ではなく深さ次元の情報を集約する。 2つの挑戦的なマルチホップ空間推論データセットの実験結果から,DepWiGNNが既存の空間推論手法より優れていることが示された。
• 参考スコア（独自算出の注目度）: 52.699307699505646
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Spatial reasoning in text plays a crucial role in various real-world applications. Existing approaches for spatial reasoning typically infer spatial relations from pure text, which overlooks the gap between natural language and symbolic structures. Graph neural networks (GNNs) have showcased exceptional proficiency in inducing and aggregating symbolic structures. However, classical GNNs face challenges in handling multi-hop spatial reasoning due to the over-smoothing issue, i.e., the performance decreases substantially as the number of graph layers increases. To cope with these challenges, we propose a novel Depth-Wise Graph Neural Network (DepWiGNN). Specifically, we design a novel node memory scheme and aggregate the information over the depth dimension instead of the breadth dimension of the graph, which empowers the ability to collect long dependencies without stacking multiple layers. Experimental results on two challenging multi-hop spatial reasoning datasets show that DepWiGNN outperforms existing spatial reasoning methods. The comparisons with the other three GNNs further demonstrate its superiority in capturing long dependency in the graph.
• Abstract（参考訳）: テキストの空間的推論は、現実世界の様々なアプリケーションにおいて重要な役割を果たす。 既存の空間的推論のアプローチは、自然言語と記号構造の間のギャップを見下ろす純粋なテキストから、一般的に空間的関係を推論する。 グラフニューラルネットワーク(GNN)は、シンボル構造を誘導し集約するのに非常に優れた能力を示した。 しかし、古典的なGNNはマルチホップ空間推論を扱う際に、過度に滑らかな問題、すなわちグラフ層の増加に伴って性能が大幅に低下する問題に直面している。 これらの課題に対処するために,DepWiGNN(Depth-Wise Graph Neural Network)を提案する。 具体的には,新しいノードメモリ方式を設計し,複数のレイヤを積み重ねることなく長い依存関係を収集できるグラフの幅次元ではなく,深さ次元の情報を集約する。 2つの挑戦的なマルチホップ空間推論データセットの実験結果から,DepWiGNNが既存の空間推論手法より優れていることが示された。 他の3つのGNNとの比較は、グラフの長い依存を捉える上で、その優位性を示している。

関連論文リスト

• Layer-wise training for self-supervised learning on graphs [0.0]
  大規模グラフ上でのグラフニューラルネットワーク(GNN)のエンドツーエンドトレーニングは、いくつかのメモリと計算上の課題を示す。 本稿では,GNN層を自己教師型で学習するアルゴリズムであるレイヤワイズ正規化グラフInfomaxを提案する。
  論文  参考訳（メタデータ） (2023-09-04T10:23:39Z)
• GPINN: Physics-informed Neural Network with Graph Embedding [1.6607142366834016]
  本研究では,グラフ埋め込み(GPINN)を用いた物理インフォームドニューラルネットワークフレームワークを提案し,グラフ上でPINNを実行する。 この手法は、トポロジカルデータをニューラルネットワークの計算に統合し、物理情報ニューラルネットワーク(PINN)の性能を大幅に向上させる。
  論文  参考訳（メタデータ） (2023-06-16T12:03:39Z)
• Feature Expansion for Graph Neural Networks [26.671557021142572]
  グラフニューラルネットワークを決定された特徴空間とトレーニング可能な重みに分解する。 理論的には、特徴空間は繰り返しの集合によって線形に相関する傾向がある。 これらの知見により,1)特徴部分空間の平坦化,2)特徴空間の拡張のための構造主成分を提案する。
  論文  参考訳（メタデータ） (2023-05-10T13:45:57Z)
• Automatic Relation-aware Graph Network Proliferation [182.30735195376792]
  GNNを効率的に検索するためのARGNP(Automatic Relation-Aware Graph Network Proliferation)を提案する。 これらの操作は階層的なノード/リレーショナル情報を抽出し、グラフ上のメッセージパッシングのための異方的ガイダンスを提供する。 4つのグラフ学習タスクのための6つのデータセットの実験により、我々の手法によって生成されたGNNは、現在最先端の手作りおよび検索に基づくGNNよりも優れていることが示された。
  論文  参考訳（メタデータ） (2022-05-31T10:38:04Z)
• Discovering the Representation Bottleneck of Graph Neural Networks from Multi-order Interactions [51.597480162777074]
  グラフニューラルネットワーク(GNN)は、ノード機能を伝搬し、インタラクションを構築するためにメッセージパッシングパラダイムに依存している。 最近の研究は、異なるグラフ学習タスクはノード間の異なる範囲の相互作用を必要とすることを指摘している。 科学領域における2つの共通グラフ構築法、すなわち、emphK-nearest neighbor(KNN)グラフとemphfully-connected(FC)グラフについて検討する。
  論文  参考訳（メタデータ） (2022-05-15T11:38:14Z)
• ACE-HGNN: Adaptive Curvature Exploration Hyperbolic Graph Neural Network [72.16255675586089]
  本稿では、入力グラフと下流タスクに基づいて最適な曲率を適応的に学習する適応曲率探索ハイパーボリックグラフニューラルネットワークACE-HGNNを提案する。 複数の実世界のグラフデータセットの実験は、競争性能と優れた一般化能力を備えたモデル品質において、顕著で一貫したパフォーマンス改善を示す。
  論文  参考訳（メタデータ） (2021-10-15T07:18:57Z)
• DPGNN: Dual-Perception Graph Neural Network for Representation Learning [21.432960458513826]
  グラフニューラルネットワーク(GNN)は近年注目を集め、グラフベースのタスクの多くで顕著なパフォーマンスを実現している。 既存のGNNの多くは、メッセージパッシングパラダイムに基づいて、1つのトポロジ空間内の近隣情報を反復的に集約している。 本稿では,マルチステップメッセージソースの特性,ノード固有のメッセージ出力,マルチスペースメッセージインタラクションに基づく新しいメッセージパッシングパラダイムを提案する。
  論文  参考訳（メタデータ） (2021-10-15T05:47:26Z)
• Reasoning Graph Networks for Kinship Verification: from Star-shaped to Hierarchical [85.0376670244522]
  階層型推論グラフネットワークの学習による顔の親和性検証の問題点について検討する。 より強力で柔軟なキャパシティを利用するために,星型推論グラフネットワーク(S-RGN)を開発した。 また、より強力で柔軟なキャパシティを利用する階層型推論グラフネットワーク(H-RGN)も開発しています。
  論文  参考訳（メタデータ） (2021-09-06T03:16:56Z)
• Hierarchical graph neural nets can capture long-range interactions [8.067880298298185]
  与えられたグラフの多重解像度表現を利用する階層的メッセージパッシングモデルについて検討する。 これにより、ローカル情報を失うことなく、大きな受容領域にまたがる特徴の学習が容易になる。 階層グラフネット(HGNet)を導入し、任意の2つの接続ノードに対して、最大対数長のメッセージパスパスが存在することを保証します。
  論文  参考訳（メタデータ） (2021-07-15T16:24:22Z)
• Increase and Conquer: Training Graph Neural Networks on Growing Graphs [116.03137405192356]
  本稿では,このグラフからBernoulliをサンプリングしたグラフ上でGNNをトレーニングすることで,WNN(Graphon Neural Network)を学習する問題を考察する。 これらの結果から着想を得た大規模グラフ上でGNNを学習するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-06-07T15:05:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。