論文の概要: Auto-HeG: Automated Graph Neural Network on Heterophilic Graphs
- arxiv url: http://arxiv.org/abs/2302.12357v1
- Date: Thu, 23 Feb 2023 22:49:56 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-27 15:10:49.524020
- Title: Auto-HeG: Automated Graph Neural Network on Heterophilic Graphs
- Title（参考訳）: Auto-HeG: 好ましくないグラフ上のグラフニューラルネットワーク
- Authors: Xin Zheng, Miao Zhang, Chunyang Chen, Qin Zhang, Chuan Zhou, Shirui
Pan
- Abstract要約: 異種グラフ上の自動グラフニューラルネットワークであるAuto-HeGを提案し、異種グラフGNNモデルを自動的に構築する。
特にAuto-HeGは、検索空間設計、スーパーネットトレーニング、アーキテクチャ選択など、自動異種グラフ学習のあらゆる段階にヘテロフィリーを組み込んでいる。
- 参考スコア（独自算出の注目度）: 62.665761463233736
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph neural architecture search (NAS) has gained popularity in automatically
designing powerful graph neural networks (GNNs) with relieving human efforts.
However, existing graph NAS methods mainly work under the homophily assumption
and overlook another important graph property, i.e., heterophily, which exists
widely in various real-world applications. To date, automated heterophilic
graph learning with NAS is still a research blank to be filled in. Due to the
complexity and variety of heterophilic graphs, the critical challenge of
heterophilic graph NAS mainly lies in developing the heterophily-specific
search space and strategy. Therefore, in this paper, we propose a novel
automated graph neural network on heterophilic graphs, namely Auto-HeG, to
automatically build heterophilic GNN models with expressive learning abilities.
Specifically, Auto-HeG incorporates heterophily into all stages of automatic
heterophilic graph learning, including search space design, supernet training,
and architecture selection. Through the diverse message-passing scheme with
joint micro-level and macro-level designs, we first build a comprehensive
heterophilic GNN search space, enabling Auto-HeG to integrate complex and
various heterophily of graphs. With a progressive supernet training strategy,
we dynamically shrink the initial search space according to layer-wise
variation of heterophily, resulting in a compact and efficient supernet. Taking
a heterophily-aware distance criterion as the guidance, we conduct heterophilic
architecture selection in the leave-one-out pattern, so that specialized and
expressive heterophilic GNN architectures can be derived. Extensive experiments
illustrate the superiority of Auto-HeG in developing excellent heterophilic
GNNs to human-designed models and graph NAS models.
- Abstract（参考訳）: graph neural architecture search (nas) は強力なグラフニューラルネットワーク (gnns) を自動設計し、人間の努力を軽減している。
しかし、既存のグラフnas法は、主にホモフィリー仮定の下で動作し、他の重要なグラフプロパティ、すなわち様々な実世界のアプリケーションで広く存在するヘテロフィリーを見落としている。
現在まで、NASを用いた自動異種グラフ学習は研究の空白となっている。
ヘテロフィルグラフの複雑さと多様性のため、ヘテロフィルグラフNASの重要な課題は主にヘテロフィル特異的な探索空間と戦略の開発にある。
そこで本稿では,表現的学習能力を持つヘテロ親和性GNNモデルを自動的に構築するための,ヘテロ親和性グラフ上の新しいグラフニューラルネットワークであるAuto-HeGを提案する。
特にAuto-HeGは、検索空間設計、スーパーネットトレーニング、アーキテクチャ選択など、自動異種グラフ学習のあらゆる段階にヘテロフィリーを組み込んでいる。
マイクロレベルとマクロレベルの共同設計による多種多様なメッセージパッシング方式により、我々はまず総合的なヘテロ親和性GNN検索空間を構築し、Auto-HeGは複雑なグラフと様々なヘテロフィリエを統合できる。
プログレッシブ・スーパーネットのトレーニング戦略では,ヘテロフィリの層別変動に応じて初期探索空間を動的に縮小し,コンパクトかつ効率的なスーパーネットを実現する。
ヘテロフィリ認識距離の基準をガイダンスとして, ヘテロフィリティックなアーキテクチャ選択を行うことにより, 特殊かつ表現性の高いヘテロフィリティックなGNNアーキテクチャを導出する。
大規模な実験は、人間設計モデルやグラフNASモデルに優れたヘテロ親和性GNNを開発する上で、Auto-HeGの優位性を示している。
関連論文リスト
- RHCO: A Relation-aware Heterogeneous Graph Neural Network with
Contrastive Learning for Large-scale Graphs [26.191673964156585]
本稿では,大規模不均一グラフ表現学習のためのRelation-aware Heterogeneous Graph Neural Network with Contrastive Learning (RHCO)を提案する。
RHCOは最先端のモデルよりも優れたパフォーマンスを実現している。
論文 参考訳（メタデータ） (2022-11-20T04:45:04Z) - Relation Embedding based Graph Neural Networks for Handling
Heterogeneous Graph [58.99478502486377]
我々は、同種GNNが不均一グラフを扱うのに十分な能力を持つように、シンプルで効率的なフレームワークを提案する。
具体的には、エッジ型関係と自己ループ接続の重要性を埋め込むために、関係1つのパラメータのみを使用する関係埋め込みベースのグラフニューラルネットワーク(RE-GNN)を提案する。
論文 参考訳（メタデータ） (2022-09-23T05:24:18Z) - Simple and Efficient Heterogeneous Graph Neural Network [55.56564522532328]
不均一グラフニューラルネットワーク(HGNN)は、不均一グラフの豊富な構造的および意味的な情報をノード表現に埋め込む強力な能力を持つ。
既存のHGNNは、同種グラフ上のグラフニューラルネットワーク(GNN)から多くのメカニズム、特に注意機構と多層構造を継承する。
本稿では,これらのメカニズムを詳細に検討し,簡便かつ効率的なヘテロジニアスグラフニューラルネットワーク(SeHGNN)を提案する。
論文 参考訳（メタデータ） (2022-07-06T10:01:46Z) - Graph Neural Networks for Graphs with Heterophily: A Survey [98.45621222357397]
異種グラフに対するグラフニューラルネットワーク(GNN)の総合的なレビューを提供する。
具体的には,既存の異好性GNNモデルを本質的に支配する系統分類法を提案する。
グラフヘテロフィリーと様々なグラフ研究領域の相関を議論し、より効果的なGNNの開発を促進することを目的とした。
論文 参考訳（メタデータ） (2022-02-14T23:07:47Z) - ACE-HGNN: Adaptive Curvature Exploration Hyperbolic Graph Neural Network [72.16255675586089]
本稿では、入力グラフと下流タスクに基づいて最適な曲率を適応的に学習する適応曲率探索ハイパーボリックグラフニューラルネットワークACE-HGNNを提案する。
複数の実世界のグラフデータセットの実験は、競争性能と優れた一般化能力を備えたモデル品質において、顕著で一貫したパフォーマンス改善を示す。
論文 参考訳（メタデータ） (2021-10-15T07:18:57Z) - Evolutionary Architecture Search for Graph Neural Networks [23.691915813153496]
本稿では,大規模グラフニューラルネットワーク(GNN)アーキテクチャ空間における個々のモデルの進化を通じて,新しいAutoMLフレームワークを提案する。
我々の知る限りでは、GNNモデルの進化的アーキテクチャ探索を導入し、評価する最初の試みである。
論文 参考訳（メタデータ） (2020-09-21T22:11:53Z) - Beyond Homophily in Graph Neural Networks: Current Limitations and
Effective Designs [28.77753005139331]
半教師付きノード分類タスクにおけるグラフニューラルネットワークのヘテロフィリーまたは低ホモフィリー下での表現力について検討する。
多くの人気のあるGNNは、この設定を一般化することができず、グラフ構造を無視したモデルよりも優れています。
ヘテロフィリーの下でのグラフ構造からの学習を促進する重要な設計の集合を同定する。
論文 参考訳（メタデータ） (2020-06-20T02:05:01Z) - Heterogeneous Graph Transformer [49.675064816860505]
Webスケールの不均一グラフモデリングのための不均一グラフ変換器(HGT)アーキテクチャ
動的ヘテロジニアスグラフを扱うために、HGTに相対時間符号化手法を導入する。
Web スケールのグラフデータを扱うため,ヘテロジニアスなミニバッチグラフサンプリングアルゴリズム--HGSampling--を設計し,効率的かつスケーラブルなトレーニングを行う。
論文 参考訳（メタデータ） (2020-03-03T04:49:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。