論文の概要: Universal Inceptive GNNs by Eliminating the Smoothness-generalization Dilemma
- arxiv url: http://arxiv.org/abs/2412.09805v1
- Date: Fri, 13 Dec 2024 02:44:47 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-16 15:03:34.537443
- Title: Universal Inceptive GNNs by Eliminating the Smoothness-generalization Dilemma
- Title（参考訳）: Smoothness-Generalization Dilemma の除去によるユニバーサルインセプティブGNN
- Authors: Ming Gu, Zhuonan Zheng, Sheng Zhou, Meihan Liu, Jiawei Chen, Tanyu Qiao, Liangcheng Li, Jiajun Bu,
- Abstract要約: Inceptive Graph Neural Net-work (IGNN) を提案する。
我々のIGNNは23のベースライン法より優れており、ホモフィルグラフとヘット電子グラフの両方で優れた性能を誇示している。
- 参考スコア（独自算出の注目度）: 14.493433090244078
- License:
- Abstract: Graph Neural Networks (GNNs) have demonstrated remarkable success in various domains, such as transaction and social net-works. However, their application is often hindered by the varyinghomophily levels across different orders of neighboring nodes, ne-cessitating separate model designs for homophilic and heterophilicgraphs. In this paper, we aim to develop a unified framework ca-pable of handling neighborhoods of various orders and homophilylevels. Through theoretical exploration, we identify a previouslyoverlooked architectural aspect in multi-hop learning: the cascadedependency, which leads to asmoothness-generalization dilemma.This dilemma significantly affects the learning process, especiallyin the context of high-order neighborhoods and heterophilic graphs.To resolve this issue, we propose an Inceptive Graph Neural Net-work (IGNN), a universal message-passing framework that replacesthe cascade dependency with an inceptive architecture. IGNN pro-vides independent representations for each hop, allowing personal-ized generalization capabilities, and captures neighborhood-wiserelationships to select appropriate receptive fields. Extensive ex-periments show that our IGNN outperforms 23 baseline methods,demonstrating superior performance on both homophilic and het-erophilic graphs, while also scaling efficiently to large graphs.
- Abstract（参考訳）: グラフニューラルネットワーク(GNN)は、トランザクションやソーシャルネットワークなど、さまざまな領域で顕著な成功を収めている。
しかし、それらの応用はしばしば、近隣ノードの異なる順序の様々なホモフィリーレベルによって妨げられ、ホモフィリックグラフとヘテロフィリックグラフの別々のモデル設計を必要としない。
本稿では,様々な順序やホモフィリレベルの地区を扱える統一的な枠組みを開発することを目的とする。
このジレンマは、特に高次近傍やヘテロ親近性グラフの文脈において学習過程に大きく影響を与え、この問題を解決するために、カスケード依存を知覚的アーキテクチャに置き換える普遍的なメッセージパッシングフレームワークであるインセプティブグラフニューラルネットワーク(IGNN)を提案する。
IGNNは、ホップごとに独立した表現をプロビデントし、個人化された一般化機能を可能にし、適切な受容領域を選択するために近隣のワイズ関係をキャプチャする。
我々のIGNNは, 好中球グラフとヘット電子グラフの両方で優れた性能を示すとともに, 大規模グラフに効率よくスケールする。
関連論文リスト
- Mixture of Decoupled Message Passing Experts with Entropy Constraint for General Node Classification [6.963363358936621]
本研究では,Mixture-of-Experts (MoE) 機構に基づくユニバーサルノード分類フレームワークを提案する。
GNNMoEは、ノード分類性能と多様なグラフデータセットの普遍性の両方において、メインストリームのGNN、異種GNN、グラフトランスフォーマーを著しく上回っている。
論文 参考訳（メタデータ） (2025-02-12T03:10:26Z) - Mixture of Experts Meets Decoupled Message Passing: Towards General and Adaptive Node Classification [4.129489934631072]
グラフニューラルネットワークはグラフ表現学習において優れているが、異種データと長距離依存に苦慮している。
ノード分類のための汎用モデルアーキテクチャであるGNNMoEを提案する。
GNNMoEは様々なグラフデータに対して優れた性能を示し、過度にスムースな問題や大域的なノイズを効果的に軽減している。
論文 参考訳（メタデータ） (2024-12-11T08:35:13Z) - One Model for One Graph: A New Perspective for Pretraining with Cross-domain Graphs [61.9759512646523]
複雑なネットワークパターンをキャプチャする強力なツールとして、グラフニューラルネットワーク(GNN)が登場した。
既存のGNNには、慎重にドメイン固有のアーキテクチャ設計と、データセットのスクラッチからのトレーニングが必要です。
我々は、新しいクロスドメイン事前学習フレームワーク「1つのグラフのための1つのモデル」を提案する。
論文 参考訳（メタデータ） (2024-11-30T01:49:45Z) - Learn from Heterophily: Heterophilous Information-enhanced Graph Neural Network [4.078409998614025]
論理的に異なるラベルを持つノードは意味論的意味に基づいて接続される傾向があるが、グラフニューラルネットワーク(GNN)は、しばしば最適以下の性能を示す。
ヘテロフィリーに固有の意味情報をグラフ学習において効果的に活用できることを示す。
ノード分布を利用して異種情報を統合する新しいグラフ構造を構築する革新的な手法であるHiGNNを提案する。
論文 参考訳（メタデータ） (2024-03-26T03:29:42Z) - Demystifying Structural Disparity in Graph Neural Networks: Can One Size
Fit All? [61.35457647107439]
ほとんどの実世界のホモフィルグラフとヘテロフィルグラフは、ホモフィルグラフとヘテロフィルグラフの両方の構造パターンの混合ノードから構成される。
ノード分類におけるグラフニューラルネットワーク (GNN) は, 一般にホモ親和性ノード上で良好に機能することを示す。
次に、GNNに対する厳密で非I.d PAC-Bayesian一般化を提案し、性能格差の理由を明らかにした。
論文 参考訳（メタデータ） (2023-06-02T07:46:20Z) - Hierarchical Contrastive Learning Enhanced Heterogeneous Graph Neural
Network [59.860534520941485]
ヘテロジニアスグラフニューラルネットワーク(HGNN)は、異種情報ネットワーク(HIN)を扱う能力に優れていた。
近年,自己指導型学習は最もエキサイティングな学習パラダイムの1つとなり,ラベルがない場合に大きな可能性を示す。
本稿では,自己教師型HGNNの問題点を考察し,HGNNのための新しいコントラスト学習機構であるHeCoを提案する。
論文 参考訳（メタデータ） (2023-04-24T16:17:21Z) - Relation Embedding based Graph Neural Networks for Handling
Heterogeneous Graph [58.99478502486377]
我々は、同種GNNが不均一グラフを扱うのに十分な能力を持つように、シンプルで効率的なフレームワークを提案する。
具体的には、エッジ型関係と自己ループ接続の重要性を埋め込むために、関係1つのパラメータのみを使用する関係埋め込みベースのグラフニューラルネットワーク(RE-GNN)を提案する。
論文 参考訳（メタデータ） (2022-09-23T05:24:18Z) - Graph Neural Networks for Graphs with Heterophily: A Survey [98.45621222357397]
異種グラフに対するグラフニューラルネットワーク(GNN)の総合的なレビューを提供する。
具体的には,既存の異好性GNNモデルを本質的に支配する系統分類法を提案する。
グラフヘテロフィリーと様々なグラフ研究領域の相関を議論し、より効果的なGNNの開発を促進することを目的とした。
論文 参考訳（メタデータ） (2022-02-14T23:07:47Z) - Reinforced Neighborhood Selection Guided Multi-Relational Graph Neural
Networks [68.9026534589483]
RioGNNはReinforceed, recursive, flexible neighborhood selection guided multi-relational Graph Neural Network architectureである。
RioGNNは、各関係の個々の重要性の認識により、説明性を高めた差別的なノード埋め込みを学ぶことができる。
論文 参考訳（メタデータ） (2021-04-16T04:30:06Z) - Graph Neural Networks with Heterophily [40.23690407583509]
我々は、ホモフィリーなグラフとヘテロフィリーなグラフのGNNを一般化するCPGNNと呼ばれる新しいフレームワークを提案する。
フレームワークの互換性行列を(純粋なホモフィリーを表す)同一性に置き換えると、GCNに還元されることを示す。
論文 参考訳（メタデータ） (2020-09-28T18:29:36Z) - Beyond Homophily in Graph Neural Networks: Current Limitations and
Effective Designs [28.77753005139331]
半教師付きノード分類タスクにおけるグラフニューラルネットワークのヘテロフィリーまたは低ホモフィリー下での表現力について検討する。
多くの人気のあるGNNは、この設定を一般化することができず、グラフ構造を無視したモデルよりも優れています。
ヘテロフィリーの下でのグラフ構造からの学習を促進する重要な設計の集合を同定する。
論文 参考訳（メタデータ） (2020-06-20T02:05:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。