論文の概要: Rethinking Graph Neural Network Search from Message-passing
- arxiv url: http://arxiv.org/abs/2103.14282v1
- Date: Fri, 26 Mar 2021 06:10:41 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-29 12:57:02.027539
- Title: Rethinking Graph Neural Network Search from Message-passing
- Title(参考訳): メッセージパッシングによるグラフニューラルネットワーク探索の再考
- Authors: Shaofei Cai, Liang Li, Jincan Deng, Beichen Zhang, Zheng-Jun Zha, Li
Su and Qingming Huang
- Abstract要約: 本稿では,新しい検索空間を設計したグラフニューラルアーキテクチャサーチ(GNAS)を提案する。
グラフニューラルアーキテクチャパラダイム(GAP:Graph Neural Architecture Paradigm)をツリートポロジー計算手順と2種類の微粒原子操作で設計します。
実験では、GNASは複数のメッセージ通過機構と最適なメッセージ通過深さを持つより良いGNNを探索できることを示しています。
- 参考スコア(独自算出の注目度): 120.62373472087651
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Graph neural networks (GNNs) emerged recently as a standard toolkit for
learning from data on graphs. Current GNN designing works depend on immense
human expertise to explore different message-passing mechanisms, and require
manual enumeration to determine the proper message-passing depth. Inspired by
the strong searching capability of neural architecture search (NAS) in CNN,
this paper proposes Graph Neural Architecture Search (GNAS) with novel-designed
search space. The GNAS can automatically learn better architecture with the
optimal depth of message passing on the graph. Specifically, we design Graph
Neural Architecture Paradigm (GAP) with tree-topology computation procedure and
two types of fine-grained atomic operations (feature filtering and neighbor
aggregation) from message-passing mechanism to construct powerful graph network
search space. Feature filtering performs adaptive feature selection, and
neighbor aggregation captures structural information and calculates neighbors'
statistics. Experiments show that our GNAS can search for better GNNs with
multiple message-passing mechanisms and optimal message-passing depth. The
searched network achieves remarkable improvement over state-of-the-art manual
designed and search-based GNNs on five large-scale datasets at three classical
graph tasks. Codes can be found at https://github.com/phython96/GNAS-MP.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)は、グラフのデータから学習するための標準ツールキットとして最近登場した。
現在のGNNの設計作業は、異なるメッセージパッシングメカニズムを探索するための膨大な人間の専門知識に依存しており、適切なメッセージパッシング深さを決定するために手動の列挙が必要である。
CNNにおけるニューラルアーキテクチャ探索(NAS)の強力な探索能力に着想を得て,新しい検索空間を持つグラフニューラルアーキテクチャ探索(GNAS)を提案する。
GNASは、グラフ上のメッセージパッシングの最適な深さで、より優れたアーキテクチャを学習することができる。
具体的には,グラフニューラルネットワークパラダイム(gap)をツリートポロジ計算手順と,メッセージパッシング機構から2種類の細粒度原子演算(特徴フィルタリングと隣接アグリゲーション)を用いて設計し,強力なグラフネットワーク探索空間を構築する。
特徴フィルタリングは適応的な特徴選択を行い、隣接集約は構造情報をキャプチャし、隣人の統計を計算する。
実験により、GNASは複数のメッセージパッシング機構と最適なメッセージパッシング深さを持つより優れたGNNを検索できることがわかった。
検索されたネットワークは、3つの古典的なグラフタスクで5つの大規模データセットに対して、最先端の手動設計および検索に基づくGNNよりも顕著に改善されている。
コードはhttps://github.com/phython96/GNAS-MPで見ることができる。
関連論文リスト
- Towards Lightweight Graph Neural Network Search with Curriculum Graph Sparsification [48.334100429553644]
本稿では,有意義なグラフデータを通じて重要なサブアーキテクチャを識別する結合グラフデータとアーキテクチャ機構を設計することを提案する。
最適軽量グラフニューラルネット(GNN)を探索するために,グラフスペーシングとネットワーク・プルーニング(GASSIP)法を用いた軽量グラフニューラル・アーキテクチャ・サーチを提案する。
本手法は,探索したGNNとスペーサーグラフのモデルパラメータを半分以下にすることで,オンパーあるいはそれ以上高いノード分類性能を実現する。
論文 参考訳(メタデータ) (2024-06-24T06:53:37Z) - Efficient and Explainable Graph Neural Architecture Search via
Monte-Carlo Tree Search [5.076419064097733]
グラフニューラルネットワーク(GNN)は、さまざまな領域でデータサイエンスタスクを実行する強力なツールである。
人的労力と計算コストを削減するため、グラフニューラルアーキテクチャ探索(Graph NAS)が準最適GNNアーキテクチャの探索に使用されている。
本稿では, (i) 様々なグラフに適応可能な単純な探索空間と, (ii) 決定プロセスを説明可能な検索アルゴリズムからなるExGNASを提案する。
論文 参考訳(メタデータ) (2023-08-30T03:21:45Z) - Automatic Relation-aware Graph Network Proliferation [182.30735195376792]
GNNを効率的に検索するためのARGNP(Automatic Relation-Aware Graph Network Proliferation)を提案する。
これらの操作は階層的なノード/リレーショナル情報を抽出し、グラフ上のメッセージパッシングのための異方的ガイダンスを提供する。
4つのグラフ学習タスクのための6つのデータセットの実験により、我々の手法によって生成されたGNNは、現在最先端の手作りおよび検索に基づくGNNよりも優れていることが示された。
論文 参考訳(メタデータ) (2022-05-31T10:38:04Z) - ACE-HGNN: Adaptive Curvature Exploration Hyperbolic Graph Neural Network [72.16255675586089]
本稿では、入力グラフと下流タスクに基づいて最適な曲率を適応的に学習する適応曲率探索ハイパーボリックグラフニューラルネットワークACE-HGNNを提案する。
複数の実世界のグラフデータセットの実験は、競争性能と優れた一般化能力を備えたモデル品質において、顕著で一貫したパフォーマンス改善を示す。
論文 参考訳(メタデータ) (2021-10-15T07:18:57Z) - Edge-featured Graph Neural Architecture Search [131.4361207769865]
最適GNNアーキテクチャを見つけるために,エッジ機能付きグラフニューラルアーキテクチャ探索を提案する。
具体的には、高次表現を学習するためにリッチなエンティティとエッジの更新操作を設計する。
EGNASは、現在最先端の人間設計および検索されたGNNよりも高い性能で、より優れたGNNを検索できることを示す。
論文 参考訳(メタデータ) (2021-09-03T07:53:18Z) - Simplifying Architecture Search for Graph Neural Network [38.45540097927176]
本稿では,新しい探索空間と強化学習に基づく探索アルゴリズムからなるSNAGフレームワークを提案する。
実世界のデータセットを用いた実験は、人間設計のGNNやNAS手法と比較してSNAGフレームワークの有効性を示す。
論文 参考訳(メタデータ) (2020-08-26T16:24:03Z) - Graphs, Convolutions, and Neural Networks: From Graph Filters to Graph
Neural Networks [183.97265247061847]
我々はグラフ信号処理を活用してグラフニューラルネットワーク(GNN)の表現空間を特徴付ける。
GNNにおけるグラフ畳み込みフィルタの役割について議論し、そのようなフィルタで構築されたアーキテクチャは、置換同値の基本的な性質と位相変化に対する安定性を持つことを示す。
また,ロボット群に対するリコメンデータシステムや分散型コントローラの学習におけるGNNの利用について検討した。
論文 参考訳(メタデータ) (2020-03-08T13:02:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。