論文の概要: SpotTarget: Rethinking the Effect of Target Edges for Link Prediction in Graph Neural Networks

• arxiv url: http://arxiv.org/abs/2306.00899v1
• Date: Thu, 1 Jun 2023 16:56:04 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-02 14:29:15.079950
• Title: SpotTarget: Rethinking the Effect of Target Edges for Link Prediction in Graph Neural Networks
• Title（参考訳）: spottarget:グラフニューラルネットワークにおけるリンク予測における目標エッジの効果再考
• Authors: Jing Zhu, Yuhang Zhou, Vassilis N. Ioannidis, Shengyi Qian, Wei Ai, Xiang Song, Danai Koutra
• Abstract要約: グラフニューラルネットワーク(GNN)は,ノード分類やリンク予測など,さまざまなタスクにおいて有望な結果を示している。 リンク予測のためのメッセージパッシングにおいて,3つの共通の落とし穴を特定した。 本稿では,効率的なGNNトレーニングフレームワークであるSpotTargetを提案する。
• 参考スコア（独自算出の注目度）: 24.943411201645432
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Graph Neural Networks (GNNs) have demonstrated promising outcomes across various tasks, including node classification and link prediction. Despite their remarkable success in various high-impact applications, we have identified three common pitfalls in message passing for link prediction. Particularly, in prevalent GNN frameworks (e.g., DGL and PyTorch-Geometric), the target edges (i.e., the edges being predicted) consistently exist as message passing edges in the graph during training. Consequently, this results in overfitting and distribution shift, both of which adversely impact the generalizability to test the target edges. Additionally, during test time, the failure to exclude the test target edges leads to implicit test leakage caused by neighborhood aggregation. In this paper, we analyze these three pitfalls and investigate the impact of including or excluding target edges on the performance of nodes with varying degrees during training and test phases. Our theoretical and empirical analysis demonstrates that low-degree nodes are more susceptible to these pitfalls. These pitfalls can have detrimental consequences when GNNs are implemented in production systems. To systematically address these pitfalls, we propose SpotTarget, an effective and efficient GNN training framework. During training, SpotTarget leverages our insight regarding low-degree nodes and excludes train target edges connected to at least one low-degree node. During test time, it emulates real-world scenarios of GNN usage in production and excludes all test target edges. Our experiments conducted on diverse real-world datasets, demonstrate that SpotTarget significantly enhances GNNs, achieving up to a 15x increase in accuracy in sparse graphs. Furthermore, SpotTarget consistently and dramatically improves the performance for low-degree nodes in dense graphs.
• Abstract（参考訳）: グラフニューラルネットワーク(GNN)は,ノード分類やリンク予測など,さまざまなタスクにおいて有望な結果を示している。 様々なハイインパクトアプリケーションで顕著な成功を収めたにもかかわらず、リンク予測のためにメッセージパッシングに共通する落とし穴が3つ見つかった。 特に、一般的なGNNフレームワーク(DGLやPyTorch-Geometricなど)では、ターゲットエッジ(予測されるエッジ)は、トレーニング中にグラフ内のメッセージパッシングエッジとして一貫して存在する。 その結果、オーバーフィッティングと分散シフトが発生し、どちらも目標エッジのテストの一般化に悪影響を及ぼす。 さらに、テスト時間中にテスト対象エッジを除外できないと、近隣の集約によって暗黙的なテストリークが発生する。 本稿では,これら3つの落とし穴を解析し,訓練および試験段階において,目標エッジを含まないことがノードの性能に及ぼす影響について検討する。 我々の理論および実証分析は、低次ノードがこれらの落とし穴の影響を受けやすいことを証明している。 これらの落とし穴は、GNNが本番システムに実装されると有害な結果をもたらす可能性がある。 これらの落とし穴を体系的に解決するために,効果的かつ効率的なGNNトレーニングフレームワークであるSpotTargetを提案する。 トレーニング中、SpotTargetは低次ノードに関する私たちの洞察を活用し、少なくとも1つの低次ノードに接続された列車目標エッジを除外します。 テスト期間中、本番環境でのGNN使用の実際のシナリオをエミュレートし、すべてのテスト対象エッジを除外する。 実世界の多様なデータセットで行った実験では、spottargetがgnnを著しく強化し、スパースグラフの精度を最大15倍向上させることを示した。 さらにspottargetは、高密度グラフにおける低次ノードのパフォーマンスを一貫して劇的に向上させる。

関連論文リスト

• Online GNN Evaluation Under Test-time Graph Distribution Shifts [92.4376834462224]
  オンラインGNN評価という新たな研究課題は、よく訓練されたGNNが現実世界の未ラベルグラフに一般化する能力について、貴重な洞察を提供することを目的としている。 我々は、よく訓練されたGNNモデルのテスト時間一般化誤差を推定するために、LeBeDと呼ばれる効果的な学習行動不一致スコアを開発する。
  論文  参考訳（メタデータ） (2024-03-15T01:28:08Z)
• Breaking the Entanglement of Homophily and Heterophily in Semi-supervised Node Classification [25.831508778029097]
  統計的観点から,ノードプロファイルとトポロジの関係を定量化するAMUDを提案する。 また、AMUDのための新しい有向グラフ学習パラダイムとしてADPAを提案する。
  論文  参考訳（メタデータ） (2023-12-07T07:54:11Z)
• GNNEvaluator: Evaluating GNN Performance On Unseen Graphs Without Labels [81.93520935479984]
  本稿では,ラベル付きおよび観測されたグラフに基づいて学習した特定のGNNモデルの性能を評価することを目的とした,新しい問題であるGNNモデル評価について検討する。 本稿では,(1) DiscGraph セット構築と(2) GNNEvaluator トレーニングと推論を含む2段階の GNN モデル評価フレームワークを提案する。 DiscGraphセットからの効果的なトレーニング監督の下で、GNNEvaluatorは、評価対象であるGNNモデルのノード分類精度を正確に推定することを学ぶ。
  論文  参考訳（メタデータ） (2023-10-23T05:51:59Z)
• Towards Temporal Edge Regression: A Case Study on Agriculture Trade Between Nations [4.612412025217201]
  グラフニューラルネットワーク(GNN)は、動的グラフ上のタスクにおいて有望なパフォーマンスを示している。 本稿では,GNNの静的および動的設定におけるエッジ回帰タスクへの適用について検討する。
  論文  参考訳（メタデータ） (2023-08-15T17:13:16Z)
• Addressing the Impact of Localized Training Data in Graph Neural Networks [0.0]
  グラフニューラルネットワーク(GNN)は、グラフ構造化データから学習において顕著な成功を収めた。 本稿では,グラフの局所化部分集合に対するGNNのトレーニングの影響を評価することを目的とする。 本稿では,局所化学習データとグラフ推論との分散不一致を最小化する正規化手法を提案する。
  論文  参考訳（メタデータ） (2023-07-24T11:04:22Z)
• Stable Prediction on Graphs with Agnostic Distribution Shift [105.12836224149633]
  グラフニューラルネットワーク(GNN)は、ランダムにトレーニングとテストデータを分離した様々なグラフタスクに有効であることが示されている。 しかし、実際のアプリケーションでは、トレーニンググラフの分布はテストグラフとは異なるかもしれない。 本稿では,グラフ上での局所的およびグローバル的に安定な学習と予測を可能にする,GNNのための新しい安定な予測フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-10-08T02:45:47Z)
• Shift-Robust GNNs: Overcoming the Limitations of Localized Graph Training data [52.771780951404565]
  Shift-Robust GNN (SR-GNN) は、バイアス付きトレーニングデータとグラフの真の推論分布の分布差を考慮に入れた設計である。 SR-GNNが他のGNNベースラインを精度良く上回り、バイアス付きトレーニングデータから生じる負の効果の少なくとも40%を排除していることを示す。
  論文  参考訳（メタデータ） (2021-08-02T18:00:38Z)
• Combining Label Propagation and Simple Models Out-performs Graph Neural Networks [52.121819834353865]
  多くの標準的なトランスダクティブノード分類ベンチマークでは、最先端のGNNの性能を超えたり、一致させることができる。 これをC&S(Correct and Smooth)と呼ぶ。 我々のアプローチは、様々なベンチマークで最先端のGNNの性能を上回るか、ほぼ一致している。
  論文  参考訳（メタデータ） (2020-10-27T02:10:52Z)
• Distance Encoding: Design Provably More Powerful Neural Networks for Graph Representation Learning [63.97983530843762]
  グラフニューラルネットワーク(GNN)はグラフ表現学習において大きな成功を収めている。 GNNは、実際には非常に異なるグラフ部分構造に対して同一の表現を生成する。 より強力なGNNは、最近高階試験を模倣して提案され、基礎となるグラフ構造を疎結合にできないため、非効率である。 本稿では,グラフ表現学習の新たなクラスとして距離分解(DE)を提案する。
  論文  参考訳（メタデータ） (2020-08-31T23:15:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。