論文の概要: Automated Heterogeneous Network learning with Non-Recursive Message Passing
- arxiv url: http://arxiv.org/abs/2501.07598v1
- Date: Fri, 10 Jan 2025 14:26:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-15 13:28:47.932534
- Title: Automated Heterogeneous Network learning with Non-Recursive Message Passing
- Title(参考訳): 非再帰的メッセージパッシングによる異種ネットワーク学習の自動化
- Authors: Zhaoqing Li, Maiqi Jiang, Shengyuan Chen, Bo Li, Guorong Chen, Xiao Huang,
- Abstract要約: 異種情報ネットワーク(HIN)は、様々な現実世界のシステムをモデル化するために用いられる。
不均一なケースでグラフニューラルネットワーク(GNN)を直接適用するのは簡単ではない。
我々は,有効な異種情報を直接利用し,自動抽出する新しいフレームワーク,AutoGNRを開発した。
- 参考スコア(独自算出の注目度): 9.696905142991659
- License:
- Abstract: Heterogeneous information networks (HINs) can be used to model various real-world systems. As HINs consist of multiple types of nodes, edges, and node features, it is nontrivial to directly apply graph neural network (GNN) techniques in heterogeneous cases. There are two remaining major challenges. First, homogeneous message passing in a recursive manner neglects the distinct types of nodes and edges in different hops, leading to unnecessary information mixing. This often results in the incorporation of ``noise'' from uncorrelated intermediate neighbors, thereby degrading performance. Second, feature learning should be handled differently for different types, which is challenging especially when the type sizes are large. To bridge this gap, we develop a novel framework - AutoGNR, to directly utilize and automatically extract effective heterogeneous information. Instead of recursive homogeneous message passing, we introduce a non-recursive message passing mechanism for GNN to mitigate noise from uncorrelated node types in HINs. Furthermore, under the non-recursive framework, we manage to efficiently perform neural architecture search for an optimal GNN structure in a differentiable way, which can automatically define the heterogeneous paths for aggregation. Our tailored search space encompasses more effective candidates while maintaining a tractable size. Experiments show that AutoGNR consistently outperforms state-of-the-art methods on both normal and large scale real-world HIN datasets.
- Abstract(参考訳): 異種情報ネットワーク(HIN)は、様々な現実世界のシステムをモデル化するために用いられる。
HINは複数のタイプのノード、エッジ、ノードの特徴から構成されるため、異種ケースにグラフニューラルネットワーク(GNN)を直接適用するのは簡単ではない。
主な課題は2つある。
まず、均質なメッセージパッシングが再帰的に行われると、異なるホップ内の異なるタイプのノードやエッジが無視され、不要な情報が混ざり合わされる。
これはしばしば、非相関な中間的隣人から ``noise'' が組み込まれ、結果として性能が低下する。
第二に、機能学習は異なる型に対して異なる方法で扱われるべきである。
このギャップを埋めるため、我々はAutoGNRという新しいフレームワークを開発し、効果的な異種情報を直接利用し、自動的に抽出する。
我々は、再帰的同種メッセージパッシングの代わりに、HINにおける非相関ノードタイプからのノイズを軽減するために、GNNの非再帰的メッセージパッシング機構を導入する。
さらに、非再帰的フレームワークの下で、最適なGNN構造のニューラルネットワーク探索を微分可能な方法で効率的に行うことができ、アグリゲーションのための異種経路を自動的に定義することができる。
我々の調整された検索スペースは、より効果的な候補を包含し、縮小可能なサイズを維持している。
実験の結果、AutoGNRは通常のHINデータセットと大規模なHINデータセットの両方において、最先端の手法を一貫して上回っていることがわかった。
関連論文リスト
- Leveraging Multi-facet Paths for Heterogeneous Graph Representation Learning [2.603958690885184]
MF2Vecは、事前に定義されたメタパスの代わりに、多面的(きめ細かい)パスを使用するモデルである。
この方法はノードとその関係の多様な側面を学習し、均質なネットワークを構築し、分類、リンク予測、クラスタリングのためのノード埋め込みを生成する。
論文 参考訳(メタデータ) (2024-07-30T08:45:32Z) - HHGT: Hierarchical Heterogeneous Graph Transformer for Heterogeneous Graph Representation Learning [19.667806439200792]
K,t)-ring neighborhoodと呼ばれる革新的な構造を開発し、ノードはまずその距離によって構成され、各距離ごとに異なる非重なり合うk-ring neighborhoodを形成する。
各 k-環構造の中で、ノードはそれらのタイプによってさらに異なるグループに分類されるので、HINにおける距離と型の両方の不均一性を自然に強調する。
HHGTの14ベースラインに対する優位性を検証するために、下流タスクで実験が行われ、ノードクラスタリングタスクでは、NMIが24.75%、ARIが29.25%まで改善された。
論文 参考訳(メタデータ) (2024-07-18T04:58:27Z) - Ensemble Quadratic Assignment Network for Graph Matching [52.20001802006391]
グラフマッチングはコンピュータビジョンやパターン認識において一般的に用いられる技法である。
最近のデータ駆動型アプローチは、グラフマッチングの精度を著しく改善した。
データ駆動手法と従来の手法の利点を組み合わせたグラフニューラルネットワーク(GNN)に基づくアプローチを提案する。
論文 参考訳(メタデータ) (2024-03-11T06:34:05Z) - NodeFormer: A Scalable Graph Structure Learning Transformer for Node
Classification [70.51126383984555]
本稿では,任意のノード間のノード信号を効率的に伝搬する全ペアメッセージパッシング方式を提案する。
効率的な計算は、カーナライズされたGumbel-Softmax演算子によって実現される。
グラフ上のノード分類を含む様々なタスクにおいて,本手法の有望な有効性を示す実験を行った。
論文 参考訳(メタデータ) (2023-06-14T09:21:15Z) - Seq-HGNN: Learning Sequential Node Representation on Heterogeneous Graph [57.2953563124339]
本稿では,シーケンシャルノード表現,すなわちSeq-HGNNを用いた新しい異種グラフニューラルネットワークを提案する。
Heterogeneous Graph Benchmark (HGB) と Open Graph Benchmark (OGB) の4つの広く使われているデータセットについて広範な実験を行った。
論文 参考訳(メタデータ) (2023-05-18T07:27:18Z) - VQ-GNN: A Universal Framework to Scale up Graph Neural Networks using
Vector Quantization [70.8567058758375]
VQ-GNNは、Vector Quantization(VQ)を使用して、パフォーマンスを損なうことなく、畳み込みベースのGNNをスケールアップするための普遍的なフレームワークである。
我々のフレームワークは,グラフ畳み込み行列の低ランク版と組み合わせた量子化表現を用いて,GNNの「隣の爆発」問題を回避する。
論文 参考訳(メタデータ) (2021-10-27T11:48:50Z) - DiffMG: Differentiable Meta Graph Search for Heterogeneous Graph Neural
Networks [45.075163625895286]
我々はメタグラフを探索し、メタパスよりも複雑なセマンティック関係をキャプチャし、グラフニューラルネットワークが異なるタイプのエッジに沿ってメッセージを伝播する方法を決定する。
我々は、HINの候補メタグラフを表すために、有向非巡回グラフ(DAG)の形式で表現型検索空間を設計する。
本稿では,1回のGNNトレーニングに匹敵する検索コストを1対1に抑えるための,新しい効率的な探索アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-10-07T08:09:29Z) - Policy-GNN: Aggregation Optimization for Graph Neural Networks [60.50932472042379]
グラフニューラルネットワーク(GNN)は、局所的なグラフ構造をモデル化し、隣人からの情報を集約することで階層的なパターンを捉えることを目的としている。
複雑なグラフとスパースな特徴を与えられた各ノードに対して効果的なアグリゲーション戦略を開発することは難しい課題である。
本稿では,GNNのサンプリング手順とメッセージパッシングを複合学習プロセスにモデル化するメタ政治フレームワークであるPolicy-GNNを提案する。
論文 参考訳(メタデータ) (2020-06-26T17:03:06Z) - Adaptive Universal Generalized PageRank Graph Neural Network [36.850433364139924]
グラフニューラルネットワーク(GNN)は、両方の証拠源を利用するように設計されている。
本稿では,GPR重みを適応的に学習する汎用PageRank (GPR) GNNアーキテクチャを提案する。
GPR-GNNは、合成データとベンチマークデータの両方の既存の技術と比較して、大幅な性能改善を提供する。
論文 参考訳(メタデータ) (2020-06-14T19:27:39Z) - Towards Deeper Graph Neural Networks with Differentiable Group
Normalization [61.20639338417576]
グラフニューラルネットワーク(GNN)は、隣接するノードを集約することでノードの表現を学習する。
オーバースムーシングは、レイヤーの数が増えるにつれてGNNのパフォーマンスが制限される重要な問題のひとつです。
2つのオーバースムースなメトリクスと新しいテクニック、すなわち微分可能群正規化(DGN)を導入する。
論文 参考訳(メタデータ) (2020-06-12T07:18:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。