論文の概要: Position-aware Structure Learning for Graph Topology-imbalance by
Relieving Under-reaching and Over-squashing
- arxiv url: http://arxiv.org/abs/2208.08302v1
- Date: Wed, 17 Aug 2022 14:04:21 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-18 12:21:42.296715
- Title: Position-aware Structure Learning for Graph Topology-imbalance by
Relieving Under-reaching and Over-squashing
- Title（参考訳）: グラフトポロジ不均衡のための位置認識型構造学習
- Authors: Qingyun Sun, Jianxin Li, Haonan Yuan, Xingcheng Fu, Hao Peng, Cheng
Ji, Qian Li, Philip S. Yu
- Abstract要約: トポロジー不均衡は、ラベル付きノードの不均一なトポロジー位置によって引き起こされるグラフ固有の不均衡問題である。
PASTEL という新しい位置認識型グラフ構造学習フレームワークを提案する。
私たちの重要な洞察は、より監督的な情報を得るために、同じクラス内のノードの接続性を高めることです。
- 参考スコア（独自算出の注目度）: 67.83086131278904
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Topology-imbalance is a graph-specific imbalance problem caused by the uneven
topology positions of labeled nodes, which significantly damages the
performance of GNNs. What topology-imbalance means and how to measure its
impact on graph learning remain under-explored. In this paper, we provide a new
understanding of topology-imbalance from a global view of the supervision
information distribution in terms of under-reaching and over-squashing, which
motivates two quantitative metrics as measurements. In light of our analysis,
we propose a novel position-aware graph structure learning framework named
PASTEL, which directly optimizes the information propagation path and solves
the topology-imbalance issue in essence. Our key insight is to enhance the
connectivity of nodes within the same class for more supervision information,
thereby relieving the under-reaching and over-squashing phenomena.
Specifically, we design an anchor-based position encoding mechanism, which
better incorporates relative topology position and enhances the intra-class
inductive bias by maximizing the label influence. We further propose a
class-wise conflict measure as the edge weights, which benefits the separation
of different node classes. Extensive experiments demonstrate the superior
potential and adaptability of PASTEL in enhancing GNNs' power in different data
annotation scenarios.
- Abstract（参考訳）: トポロジー不均衡はラベル付きノードの不均一なトポロジー位置に起因するグラフ固有の不均衡問題であり、gnnの性能を著しく損なう。
トポロジの不均衡とは何か,グラフ学習への影響を計測する方法は,まだ未検討のままだ。
本稿では,2つの量的指標を測定対象とするアンダーレッシングとオーバースキャッシングの観点から,監督情報分布のグローバルな視点から,トポロジ不均衡の新たな理解を提供する。
本研究では,情報伝達経路を直接最適化し,トポロジと不均衡の問題を本質的に解決する,位置認識型グラフ構造学習フレームワーク PASTEL を提案する。
私たちの重要な洞察は、同じクラス内のノードの接続性を高め、より多くの監督情報を提供することです。
具体的には,ラベルの影響を最大化し,クラス内インダクティブバイアスを増大させるアンカーベースの位置符号化機構を設計する。
さらに,異なるノードクラスの分離に有利なエッジウェイトとして,クラス毎の競合測度を提案する。
大規模な実験は、異なるデータアノテーションシナリオにおけるGNNのパワーを高める上で、PASTELの優れた可能性と適応性を示す。
関連論文リスト
- When Witnesses Defend: A Witness Graph Topological Layer for Adversarial Graph Learning [19.566775406771757]
逆グラフ学習を計算トポロジー、すなわちグラフの永続的ホモロジー表現から新たなツールで橋渡しする。
グラフ上の逆解析において、グラフ全体の位相情報の損失を最小限に抑えながら、グラフの健全な形状特性にのみ焦点をあてることのできる証人複体の概念を導入する。
証人機構を組み込んだWitness Graph Topological Layer (WGTL) を設計し、局所的およびグローバルなトポロジカルグラフの特徴表現を体系的に統合し、その影響を頑健な正規化されたトポロジ的損失によって自動的に制御する。
論文 参考訳（メタデータ） (2024-09-21T14:53:32Z) - What Improves the Generalization of Graph Transformers? A Theoretical Dive into the Self-attention and Positional Encoding [67.59552859593985]
自己アテンションと位置エンコーディングを組み込んだグラフトランスフォーマーは、さまざまなグラフ学習タスクのための強力なアーキテクチャとして登場した。
本稿では,半教師付き分類のための浅いグラフ変換器の理論的検討について紹介する。
論文 参考訳（メタデータ） (2024-06-04T05:30:16Z) - Characterizing the Influence of Topology on Graph Learning Tasks [47.48010635921621]
グラフニューラルネットワーク(GNN)は、トポロジと組み合わせて効率的な表現を生成することで、幅広いタスクにおいて顕著な成功を収めている。
本稿では,グラフデータのトポロジ情報と下流タスク目標との整合度を測定することで,グラフトポロジの影響を特徴づける計量TopoInfを提案する。
論文 参考訳（メタデータ） (2024-04-11T06:04:06Z) - On the Topology Awareness and Generalization Performance of Graph Neural Networks [6.598758004828656]
我々は,GNNのトポロジ的認識をいかなるトポロジ的特徴においても特徴付けるための包括的枠組みを導入する。
本研究は,各ベンチマークデータセットの経路距離を最短とする内在グラフを用いたケーススタディである。
論文 参考訳（メタデータ） (2024-03-07T13:33:30Z) - Graph Out-of-Distribution Generalization via Causal Intervention [69.70137479660113]
本稿では,ノードレベルの分散シフトの下で頑健なグラフニューラルネットワーク(GNN)をトレーニングするための,概念的に単純だが原則化されたアプローチを提案する。
本手法は,環境推定器と熟練GNN予測器を協調する因果推論に基づく新たな学習目標を提案する。
本モデルでは,様々な分散シフトによる一般化を効果的に向上し,グラフOOD一般化ベンチマーク上での最先端の精度を最大27.4%向上させることができる。
論文 参考訳（メタデータ） (2024-02-18T07:49:22Z) - MentorGNN: Deriving Curriculum for Pre-Training GNNs [61.97574489259085]
本稿では,グラフ間のGNNの事前学習プロセスの監視を目的とした,MentorGNNというエンドツーエンドモデルを提案する。
我々は、事前学習したGNNの一般化誤差に自然かつ解釈可能な上限を導出することにより、関係データ(グラフ)に対するドメイン適応の問題に新たな光を当てた。
論文 参考訳（メタデータ） (2022-08-21T15:12:08Z) - Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。
具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
論文 参考訳（メタデータ） (2022-01-17T11:57:29Z) - Topology-Imbalance Learning for Semi-Supervised Node Classification [34.964665078512596]
グラフデータは、ラベル付きノードの非対称な位相特性から、ユニークな不均衡の源を明らかにする。
我々は、グラフトポロジの不均衡の度合いを測定するために、影響コンフリクトの検出(Totoro)を考案する。
本稿では,トポロジ不均衡問題に対処するモデルに依存しないReNodeを提案する。
論文 参考訳（メタデータ） (2021-10-08T12:57:38Z) - A Deep Graph Neural Networks Architecture Design: From Global
Pyramid-like Shrinkage Skeleton to Local Topology Link Rewiring [1.455240131708017]
本稿では,大域的モデル収縮,重み展開,リンクの重み付けを含む,臨界表現率に基づく3ピペリントレーニングフレームワークを提案する。
ネットワークトポロジにおけるモジュラリティ(クラスタリング)現象の理由を分析し、潜在的な誤った重み付きリンクを再配線するために使用します。
GNNのアーキテクチャ設計は、動的および位相空間的な側面からGNNの表現性を検証する。
論文 参考訳（メタデータ） (2020-12-16T03:14:31Z) - Information Obfuscation of Graph Neural Networks [96.8421624921384]
本稿では,グラフ構造化データを用いた学習において,情報難読化による機密属性保護の問題について検討する。
本稿では,全変動量とワッサーシュタイン距離を交互に学習することで,事前決定された機密属性を局所的にフィルタリングするフレームワークを提案する。
論文 参考訳（メタデータ） (2020-09-28T17:55:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。