論文の概要: Enhancing Intra-class Information Extraction for Heterophilous Graphs:
One Neural Architecture Search Approach
- arxiv url: http://arxiv.org/abs/2211.10990v1
- Date: Sun, 20 Nov 2022 14:37:09 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-22 21:53:07.406045
- Title: Enhancing Intra-class Information Extraction for Heterophilous Graphs:
One Neural Architecture Search Approach
- Title（参考訳）: 異種グラフに対するクラス内情報抽出の強化:1つのニューラルアーキテクチャ探索アプローチ
- Authors: Lanning Wei, Zhiqiang He, Huan Zhao, Quanming Yao
- Abstract要約: Intra-class Information Enhanced Graph Neural Networks (IIE-GNN) を提案する。
文献に基づいて統一されたフレームワークを提案し、ノード自身や近隣からのクラス内情報を抽出することができる。
また,IIE-GNNがノードワイズGNNを設計し,クラス内情報抽出を改善することにより,モデル性能を向上できることを示す実験を行った。
- 参考スコア（独自算出の注目度）: 41.84399177525008
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In recent years, Graph Neural Networks (GNNs) have been popular in graph
representation learning which assumes the homophily property, i.e., the
connected nodes have the same label or have similar features. However, they may
fail to generalize into the heterophilous graphs which in the low/medium level
of homophily. Existing methods tend to address this problem by enhancing the
intra-class information extraction, i.e., either by designing better GNNs to
improve the model effectiveness, or re-designing the graph structures to
incorporate more potential intra-class nodes from distant hops. Despite the
success, we observe two aspects that can be further improved: (a) enhancing the
ego feature information extraction from node itself which is more reliable in
extracting the intra-class information; (b) designing node-wise GNNs can better
adapt to the nodes with different homophily ratios. In this paper, we propose a
novel method IIE-GNN (Intra-class Information Enhanced Graph Neural Networks)
to achieve two improvements. A unified framework is proposed based on the
literature, in which the intra-class information from the node itself and
neighbors can be extracted based on seven carefully designed blocks. With the
help of neural architecture search (NAS), we propose a novel search space based
on the framework, and then provide an architecture predictor to design GNNs for
each node. We further conduct experiments to show that IIE-GNN can improve the
model performance by designing node-wise GNNs to enhance intra-class
information extraction.
- Abstract（参考訳）: 近年、グラフニューラルネットワーク(GNN)はグラフ表現学習において、ホモフィリーな性質、すなわち、接続ノードが同じラベルを持つか、類似した特徴を持つことを前提として人気がある。
しかし、それらはホモフィアの低/中濃度のヘテロフィアグラフに一般化できないかもしれない。
既存の手法では、クラス内情報抽出の強化、すなわちモデルの有効性を改善するためにより良いgnnを設計するか、遠くのホップからクラス内ノードを取り入れるためにグラフ構造を再設計する。
成功にもかかわらず、さらに改善できる2つの側面を観察します。
a) クラス内情報抽出において信頼性の高いノード自体からのego特徴情報抽出を強化すること。
b) ノード毎のgnnの設計は、異なる相比のノードへの適応性が向上する。
本稿では,2つの改良を実現するため,IIE-GNN(Intra-class Information Enhanced Graph Neural Networks)を提案する。
文献に基づいて統一されたフレームワークを提案し、7つの慎重に設計されたブロックに基づいて、ノード自身と隣人からのクラス内情報を抽出することができる。
ニューラルアーキテクチャサーチ(NAS)を用いて,このフレームワークに基づいた新しい検索空間を提案し,各ノードに対してGNNを設計するためのアーキテクチャ予測器を提供する。
さらに,IIE-GNNがノードワイズGNNを設計し,クラス内情報抽出を改善することにより,モデル性能を向上できることを示す実験を行った。
関連論文リスト
- Graph as a feature: improving node classification with non-neural graph-aware logistic regression [2.952177779219163]
Graph-aware Logistic Regression (GLR) はノード分類タスク用に設計された非神経モデルである。
GNNにアクセスできる情報のごく一部しか使わない従来のグラフアルゴリズムとは異なり、提案モデルではノードの特徴とエンティティ間の関係を同時に活用する。
論文 参考訳（メタデータ） (2024-11-19T08:32:14Z) - Learn from Heterophily: Heterophilous Information-enhanced Graph Neural Network [4.078409998614025]
論理的に異なるラベルを持つノードは意味論的意味に基づいて接続される傾向があるが、グラフニューラルネットワーク(GNN)は、しばしば最適以下の性能を示す。
ヘテロフィリーに固有の意味情報をグラフ学習において効果的に活用できることを示す。
ノード分布を利用して異種情報を統合する新しいグラフ構造を構築する革新的な手法であるHiGNNを提案する。
論文 参考訳（メタデータ） (2024-03-26T03:29:42Z) - Self-Attention Empowered Graph Convolutional Network for Structure
Learning and Node Embedding [5.164875580197953]
グラフ構造化データの表現学習では、多くの人気のあるグラフニューラルネットワーク(GNN)が長距離依存をキャプチャできない。
本稿では,自己注意型グラフ畳み込みネットワーク(GCN-SA)と呼ばれる新しいグラフ学習フレームワークを提案する。
提案手法はノードレベルの表現学習において例外的な一般化能力を示す。
論文 参考訳（メタデータ） (2024-03-06T05:00:31Z) - Degree-based stratification of nodes in Graph Neural Networks [66.17149106033126]
グラフニューラルネットワーク(GNN)アーキテクチャを変更して,各グループのノードに対して,重み行列を個別に学習する。
このシンプルな実装変更により、データセットとGNNメソッドのパフォーマンスが改善されているようだ。
論文 参考訳（メタデータ） (2023-12-16T14:09:23Z) - Robust Knowledge Adaptation for Dynamic Graph Neural Networks [61.8505228728726]
動的グラフニューラルネットワークのための強化学習による堅牢な知識適応フレームワークであるAda-DyGNNを提案する。
我々のアプローチは、強化学習による堅牢な知識適応を探求する最初の試みである。
3つのベンチマークデータセットの実験は、Ada-DyGNNが最先端のパフォーマンスを達成することを示した。
論文 参考訳（メタデータ） (2022-07-22T02:06:53Z) - Graph Neural Networks with Learnable Structural and Positional
Representations [83.24058411666483]
任意のグラフの大きな問題は、ノードの標準位置情報の欠如である。
ノードの位置ノード(PE)を導入し、Transformerのように入力層に注入する。
両方のGNNクラスで学習可能なPEを考えると、分子データセットのパフォーマンスは2.87%から64.14%に向上する。
論文 参考訳（メタデータ） (2021-10-15T05:59:15Z) - Higher-Order Attribute-Enhancing Heterogeneous Graph Neural Networks [67.25782890241496]
異種ネットワーク表現学習のための高次属性強化グラフニューラルネットワーク(HAEGNN)を提案する。
HAEGNNは、リッチで異質なセマンティクスのためのメタパスとメタグラフを同時に組み込む。
ノード分類、ノードクラスタリング、可視化における最先端の手法よりも優れたパフォーマンスを示す。
論文 参考訳（メタデータ） (2021-04-16T04:56:38Z) - Enhance Information Propagation for Graph Neural Network by
Heterogeneous Aggregations [7.3136594018091134]
グラフニューラルネットワークは、ディープラーニングの成功の継続として出現している。
ヘテロジニアスアグリゲーションを組み合わせることで,GNN層間の情報伝達を促進することを提案する。
我々は,多くのグラフ分類ベンチマークにおいて,HAG-Netの有効性を実証的に検証した。
論文 参考訳（メタデータ） (2021-02-08T08:57:56Z) - Node2Seq: Towards Trainable Convolutions in Graph Neural Networks [59.378148590027735]
今回提案するグラフネットワーク層であるNode2Seqは,隣接ノードの重みを明示的に調整可能なノード埋め込みを学習する。
対象ノードに対して,当手法は注意メカニズムを介して隣接ノードをソートし,さらに1D畳み込みニューラルネットワーク(CNN)を用いて情報集約のための明示的な重み付けを行う。
また, 特徴学習のための非局所的情報を, 注意スコアに基づいて適応的に組み込むことを提案する。
論文 参考訳（メタデータ） (2021-01-06T03:05:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。