論文の概要: Self-attention Dual Embedding for Graphs with Heterophily

• arxiv url: http://arxiv.org/abs/2305.18385v1
• Date: Sun, 28 May 2023 09:38:28 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-31 21:52:34.447541
• Title: Self-attention Dual Embedding for Graphs with Heterophily
• Title（参考訳）: Heterophily グラフのための自己注意型デュアル埋め込み
• Authors: Yurui Lai, Taiyan Zhang, Rui Fan
• Abstract要約: 多くの実世界のグラフはヘテロ親和性があり、標準のGNNを用いた分類精度ははるかに低い。 ヘテロ親和性グラフとホモ親和性グラフの両方に有効である新しいGNNを設計する。 我々は,数千から数百万のノードを含む実世界のグラフ上でアルゴリズムを評価し,最先端の結果が得られたことを示す。
• 参考スコア（独自算出の注目度）: 6.803108335002346
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Graph Neural Networks (GNNs) have been highly successful for the node classification task. GNNs typically assume graphs are homophilic, i.e. neighboring nodes are likely to belong to the same class. However, a number of real-world graphs are heterophilic, and this leads to much lower classification accuracy using standard GNNs. In this work, we design a novel GNN which is effective for both heterophilic and homophilic graphs. Our work is based on three main observations. First, we show that node features and graph topology provide different amounts of informativeness in different graphs, and therefore they should be encoded independently and prioritized in an adaptive manner. Second, we show that allowing negative attention weights when propagating graph topology information improves accuracy. Finally, we show that asymmetric attention weights between nodes are helpful. We design a GNN which makes use of these observations through a novel self-attention mechanism. We evaluate our algorithm on real-world graphs containing thousands to millions of nodes and show that we achieve state-of-the-art results compared to existing GNNs. We also analyze the effectiveness of the main components of our design on different graphs.
• Abstract（参考訳）: グラフニューラルネットワーク(GNN)はノード分類タスクにおいて高い成功を収めている。 GNNはグラフがホモフィル性である、すなわち、隣接するノードは同じクラスに属する可能性が高いと仮定する。 しかし、多くの実世界のグラフはヘテロ親和性があり、標準のGNNを用いた分類精度ははるかに低い。 本研究ではヘテロ親和性グラフとホモ親和性グラフの両方に有効な新しいGNNを設計する。 私たちの仕事は3つの主要な観察に基づいている。 まず、ノードの特徴とグラフトポロジが異なるグラフで異なる量の情報を提供するため、それらを独立してエンコードし、適応的に優先順位付けする必要があることを示す。 第2に,グラフトポロジ情報を伝播する際の負の注意重み付けを行うことで,精度が向上することを示す。 最後に,ノード間の非対称な注意重み付けが有効であることを示す。 我々は、これらの観測を新しい自己認識機構を通じて活用するGNNを設計する。 本アルゴリズムは,数千から数百万のノードを含む実世界のグラフ上で評価し,既存のGNNと比較して最先端の結果が得られることを示す。 また,設計の主成分が異なるグラフ上で有効であることも分析した。

関連論文リスト

• Spectral Greedy Coresets for Graph Neural Networks [61.24300262316091]
  ノード分類タスクにおける大規模グラフの利用は、グラフニューラルネットワーク(GNN)の現実的な応用を妨げる 本稿では,GNNのグラフコアセットについて検討し,スペクトル埋め込みに基づくエゴグラフの選択により相互依存の問題を回避する。 我々のスペクトルグレディグラフコアセット(SGGC)は、数百万のノードを持つグラフにスケールし、モデル事前学習の必要性を排除し、低ホモフィリーグラフに適用する。
  論文  参考訳（メタデータ） (2024-05-27T17:52:12Z)
• Beyond Real-world Benchmark Datasets: An Empirical Study of Node Classification with GNNs [3.547529079746247]
  グラフニューラルネットワーク(GNN)はノード分類タスクにおいて大きな成功を収めている。 GNNの既存の評価は、グラフの様々な特性からきめ細かい分析を欠いている。 微粒化解析のための制御特性を持つグラフを生成する合成グラフ生成装置を用いて広範囲な実験を行った。
  論文  参考訳（メタデータ） (2022-06-18T08:03:12Z)
• Discovering the Representation Bottleneck of Graph Neural Networks from Multi-order Interactions [51.597480162777074]
  グラフニューラルネットワーク(GNN)は、ノード機能を伝搬し、インタラクションを構築するためにメッセージパッシングパラダイムに依存している。 最近の研究は、異なるグラフ学習タスクはノード間の異なる範囲の相互作用を必要とすることを指摘している。 科学領域における2つの共通グラフ構築法、すなわち、emphK-nearest neighbor(KNN)グラフとemphfully-connected(FC)グラフについて検討する。
  論文  参考訳（メタデータ） (2022-05-15T11:38:14Z)
• Exploiting Neighbor Effect: Conv-Agnostic GNNs Framework for Graphs with Heterophily [58.76759997223951]
  我々はフォン・ノイマンエントロピーに基づく新しい計量を提案し、GNNのヘテロフィリー問題を再検討する。 また、異種データセット上でのほとんどのGNNの性能を高めるために、Conv-Agnostic GNNフレームワーク(CAGNN)を提案する。
  論文  参考訳（メタデータ） (2022-03-19T14:26:43Z)
• Incorporating Heterophily into Graph Neural Networks for Graph Classification [6.709862924279403]
  グラフニューラルネットワーク(GNN)は、しばしばグラフ分類において強いホモフィリを仮定し、ヘテロフィリを考えることは滅多にない。 We developed a novel GNN architecture called IHGNN (short for Incorporated Heterophily into Graph Neural Networks) 我々は、様々なグラフデータセット上でIHGNNを実証的に検証し、グラフ分類のための最先端のGNNよりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-03-15T06:48:35Z)
• Graph Neural Networks for Graphs with Heterophily: A Survey [98.45621222357397]
  異種グラフに対するグラフニューラルネットワーク(GNN)の総合的なレビューを提供する。 具体的には,既存の異好性GNNモデルを本質的に支配する系統分類法を提案する。 グラフヘテロフィリーと様々なグラフ研究領域の相関を議論し、より効果的なGNNの開発を促進することを目的とした。
  論文  参考訳（メタデータ） (2022-02-14T23:07:47Z)
• Imbalanced Graph Classification via Graph-of-Graph Neural Networks [16.589373163769853]
  グラフニューラルネットワーク(GNN)は、グラフの分類ラベルを識別するグラフ表現の学習において、前例のない成功を収めている。 本稿では,グラフ不均衡問題を軽減する新しいフレームワークであるグラフ・オブ・グラフニューラルネットワーク(G$2$GNN)を提案する。 提案したG$2$GNNは,F1-macroとF1-microのスコアにおいて,多くのベースラインを約5%上回る性能を示した。
  論文  参考訳（メタデータ） (2021-12-01T02:25:47Z)
• Graph Neural Networks with Feature and Structure Aware Random Walk [7.143879014059894]
  典型的な好適なグラフでは、エッジを指向する可能性があり、エッジをそのまま扱うか、あるいは単純に非指向にするかは、GNNモデルの性能に大きな影響を与える。 そこで我々は,グラフの方向性を適応的に学習するモデルを開発し,ノード間の長距離相関を生かした。
  論文  参考訳（メタデータ） (2021-11-19T08:54:21Z)
• Is Homophily a Necessity for Graph Neural Networks? [50.959340355849896]
  グラフニューラルネットワーク(GNN)は、多数のグラフベースの機械学習タスクに適した学習表現において大きな進歩を見せている。 GNNはホモフィリーな仮定によりうまく機能し、異種ノードが接続する異種グラフへの一般化に失敗したと広く信じられている。 最近の研究は、このような不均一な制限を克服する新しいアーキテクチャを設計し、ベースライン性能の低さと、この概念の証拠として、いくつかの異種グラフベンチマークデータセットに対するアーキテクチャの改善を引用している。 我々の実験では、標準グラフ畳み込みネットワーク(GCN)が実際よりも優れた性能を実現できることを実証的に見出した。
  論文  参考訳（メタデータ） (2021-06-11T02:44:00Z)
• Distance Encoding: Design Provably More Powerful Neural Networks for Graph Representation Learning [63.97983530843762]
  グラフニューラルネットワーク(GNN)はグラフ表現学習において大きな成功を収めている。 GNNは、実際には非常に異なるグラフ部分構造に対して同一の表現を生成する。 より強力なGNNは、最近高階試験を模倣して提案され、基礎となるグラフ構造を疎結合にできないため、非効率である。 本稿では,グラフ表現学習の新たなクラスとして距離分解(DE)を提案する。
  論文  参考訳（メタデータ） (2020-08-31T23:15:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。