論文の概要: Position-aware Structure Learning for Graph Topology-imbalance by
Relieving Under-reaching and Over-squashing
- arxiv url: http://arxiv.org/abs/2208.08302v1
- Date: Wed, 17 Aug 2022 14:04:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-18 12:21:42.296715
- Title: Position-aware Structure Learning for Graph Topology-imbalance by
Relieving Under-reaching and Over-squashing
- Title(参考訳): グラフトポロジ不均衡のための位置認識型構造学習
- Authors: Qingyun Sun, Jianxin Li, Haonan Yuan, Xingcheng Fu, Hao Peng, Cheng
Ji, Qian Li, Philip S. Yu
- Abstract要約: トポロジー不均衡は、ラベル付きノードの不均一なトポロジー位置によって引き起こされるグラフ固有の不均衡問題である。
PASTEL という新しい位置認識型グラフ構造学習フレームワークを提案する。
私たちの重要な洞察は、より監督的な情報を得るために、同じクラス内のノードの接続性を高めることです。
- 参考スコア(独自算出の注目度): 67.83086131278904
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Topology-imbalance is a graph-specific imbalance problem caused by the uneven
topology positions of labeled nodes, which significantly damages the
performance of GNNs. What topology-imbalance means and how to measure its
impact on graph learning remain under-explored. In this paper, we provide a new
understanding of topology-imbalance from a global view of the supervision
information distribution in terms of under-reaching and over-squashing, which
motivates two quantitative metrics as measurements. In light of our analysis,
we propose a novel position-aware graph structure learning framework named
PASTEL, which directly optimizes the information propagation path and solves
the topology-imbalance issue in essence. Our key insight is to enhance the
connectivity of nodes within the same class for more supervision information,
thereby relieving the under-reaching and over-squashing phenomena.
Specifically, we design an anchor-based position encoding mechanism, which
better incorporates relative topology position and enhances the intra-class
inductive bias by maximizing the label influence. We further propose a
class-wise conflict measure as the edge weights, which benefits the separation
of different node classes. Extensive experiments demonstrate the superior
potential and adaptability of PASTEL in enhancing GNNs' power in different data
annotation scenarios.
- Abstract(参考訳): トポロジー不均衡はラベル付きノードの不均一なトポロジー位置に起因するグラフ固有の不均衡問題であり、gnnの性能を著しく損なう。
トポロジの不均衡とは何か,グラフ学習への影響を計測する方法は,まだ未検討のままだ。
本稿では,2つの量的指標を測定対象とするアンダーレッシングとオーバースキャッシングの観点から,監督情報分布のグローバルな視点から,トポロジ不均衡の新たな理解を提供する。
本研究では,情報伝達経路を直接最適化し,トポロジと不均衡の問題を本質的に解決する,位置認識型グラフ構造学習フレームワーク PASTEL を提案する。
私たちの重要な洞察は、同じクラス内のノードの接続性を高め、より多くの監督情報を提供することです。
具体的には,ラベルの影響を最大化し,クラス内インダクティブバイアスを増大させるアンカーベースの位置符号化機構を設計する。
さらに,異なるノードクラスの分離に有利なエッジウェイトとして,クラス毎の競合測度を提案する。
大規模な実験は、異なるデータアノテーションシナリオにおけるGNNのパワーを高める上で、PASTELの優れた可能性と適応性を示す。
関連論文リスト
- On the Topology Awareness and Generalization Performance of Graph Neural
Networks [7.795558434705472]
我々は,GNNのトポロジ的認識をいかなるトポロジ的特徴においても特徴付けるための包括的枠組みを導入する。
我々の分析は、GNNのトポロジ意識の向上が、構造群全体の不当な一般化を必然的に引き起こす可能性があるという、重要な洞察を明らかにしている。
論文 参考訳(メタデータ) (2024-03-07T13:33:30Z) - Graph Out-of-Distribution Generalization via Causal Intervention [74.77883794668324]
本稿では,ノードレベルの分散シフトの下で頑健なグラフニューラルネットワーク(GNN)をトレーニングするための,概念的に単純だが原則化されたアプローチを提案する。
本手法は,環境推定器と熟練GNN予測器を協調する因果推論に基づく新たな学習目標を提案する。
本モデルでは,様々な分散シフトによる一般化を効果的に向上し,グラフOOD一般化ベンチマーク上での最先端の精度を最大27.4%向上させることができる。
論文 参考訳(メタデータ) (2024-02-18T07:49:22Z) - Rethinking Semi-Supervised Imbalanced Node Classification from
Bias-Variance Decomposition [18.3055496602884]
本稿では,グラフ構造データ学習のためのグラフニューラルネットワーク(GNN)におけるクラス不均衡問題に対する新しいアプローチを提案する。
提案手法は,不均衡ノード分類とバイアス分散分解を統合し,モデル分散にデータ不均衡を密接に関連付ける理論的枠組みを確立する。
論文 参考訳(メタデータ) (2023-10-28T17:28:07Z) - Topological Augmentation for Class-Imbalanced Node Classification [64.20437487896343]
探索下トポロジ中心の視点から,クラス不均衡バイアスの源泉について検討した。
そこで我々は, アンビバシアン/ディスタントメッセージパッシングの影響を受けやすいノードを動的に修正する, 軽量なトポロジカル拡張手法TOBAを考案した。
ToBAはモデルに依存しない、効率的で多用途なソリューションであり、シームレスに組み合わせて、他の不均衡処理技術をさらに促進することができる。
論文 参考訳(メタデータ) (2023-08-27T19:01:29Z) - MentorGNN: Deriving Curriculum for Pre-Training GNNs [61.97574489259085]
本稿では,グラフ間のGNNの事前学習プロセスの監視を目的とした,MentorGNNというエンドツーエンドモデルを提案する。
我々は、事前学習したGNNの一般化誤差に自然かつ解釈可能な上限を導出することにより、関係データ(グラフ)に対するドメイン適応の問題に新たな光を当てた。
論文 参考訳(メタデータ) (2022-08-21T15:12:08Z) - Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。
具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
論文 参考訳(メタデータ) (2022-01-17T11:57:29Z) - Topology-Imbalance Learning for Semi-Supervised Node Classification [34.964665078512596]
グラフデータは、ラベル付きノードの非対称な位相特性から、ユニークな不均衡の源を明らかにする。
我々は、グラフトポロジの不均衡の度合いを測定するために、影響コンフリクトの検出(Totoro)を考案する。
本稿では,トポロジ不均衡問題に対処するモデルに依存しないReNodeを提案する。
論文 参考訳(メタデータ) (2021-10-08T12:57:38Z) - A Deep Graph Neural Networks Architecture Design: From Global
Pyramid-like Shrinkage Skeleton to Local Topology Link Rewiring [1.455240131708017]
本稿では,大域的モデル収縮,重み展開,リンクの重み付けを含む,臨界表現率に基づく3ピペリントレーニングフレームワークを提案する。
ネットワークトポロジにおけるモジュラリティ(クラスタリング)現象の理由を分析し、潜在的な誤った重み付きリンクを再配線するために使用します。
GNNのアーキテクチャ設計は、動的および位相空間的な側面からGNNの表現性を検証する。
論文 参考訳(メタデータ) (2020-12-16T03:14:31Z) - Information Obfuscation of Graph Neural Networks [96.8421624921384]
本稿では,グラフ構造化データを用いた学習において,情報難読化による機密属性保護の問題について検討する。
本稿では,全変動量とワッサーシュタイン距離を交互に学習することで,事前決定された機密属性を局所的にフィルタリングするフレームワークを提案する。
論文 参考訳(メタデータ) (2020-09-28T17:55:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。