論文の概要: Noise-Resilient Unsupervised Graph Representation Learning via Multi-Hop Feature Quality Estimation
- arxiv url: http://arxiv.org/abs/2407.19944v1
- Date: Mon, 29 Jul 2024 12:24:28 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-30 13:56:27.237518
- Title: Noise-Resilient Unsupervised Graph Representation Learning via Multi-Hop Feature Quality Estimation
- Title（参考訳）: マルチホップ特徴量推定による耐雑音性非教師付きグラフ表現学習
- Authors: Shiyuan Li, Yixin Liu, Qingfeng Chen, Geoffrey I. Webb, Shirui Pan,
- Abstract要約: グラフニューラルネットワーク(GNN)に基づく教師なしグラフ表現学習(UGRL)
マルチホップ特徴量推定(MQE)に基づく新しいUGRL法を提案する。
- 参考スコア（独自算出の注目度）: 53.91958614666386
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Unsupervised graph representation learning (UGRL) based on graph neural networks (GNNs), has received increasing attention owing to its efficacy in handling graph-structured data. However, existing UGRL methods ideally assume that the node features are noise-free, which makes them fail to distinguish between useful information and noise when applied to real data with noisy features, thus affecting the quality of learned representations. This urges us to take node noisy features into account in real-world UGRL. With empirical analysis, we reveal that feature propagation, the essential operation in GNNs, acts as a "double-edged sword" in handling noisy features - it can both denoise and diffuse noise, leading to varying feature quality across nodes, even within the same node at different hops. Building on this insight, we propose a novel UGRL method based on Multi-hop feature Quality Estimation (MQE for short). Unlike most UGRL models that directly utilize propagation-based GNNs to generate representations, our approach aims to learn representations through estimating the quality of propagated features at different hops. Specifically, we introduce a Gaussian model that utilizes a learnable "meta-representation" as a condition to estimate the expectation and variance of multi-hop propagated features via neural networks. In this way, the "meta representation" captures the semantic and structural information underlying multiple propagated features but is naturally less susceptible to interference by noise, thereby serving as high-quality node representations beneficial for downstream tasks. Extensive experiments on multiple real-world datasets demonstrate that MQE in learning reliable node representations in scenarios with diverse types of feature noise.
- Abstract（参考訳）: グラフニューラルネットワーク(GNN)に基づく教師なしグラフ表現学習(UGRL)は,グラフ構造化データ処理の有効性から注目されている。
しかし、既存のUGRL法では、ノードの特徴がノイズフリーであると仮定し、ノイズのある特徴を持つ実データに適用した場合に有用な情報とノイズを区別できないため、学習された表現の品質に影響を及ぼす。
これにより、実世界のUGRLでノードノイズを考慮に入れます。
経験的分析により,GNNにおいて不可欠な機能である特徴伝搬が,ノイズに対処する上で「二重刃剣」として機能することを明らかにする。
この知見に基づいて,マルチホップ特徴量推定(MQE)に基づく新しいUGRL法を提案する。
伝播に基づくGNNを直接利用して表現を生成するほとんどのUGRLモデルとは異なり,提案手法は異なるホップにおける伝播特徴の質を推定することにより表現を学習することを目的としている。
具体的には,学習可能な"meta-representation"をニューラルネットワークによるマルチホップ伝搬特徴の期待と分散を推定する条件として用いたガウスモデルを提案する。
このようにして、"メタ表現"は複数の伝搬特徴の根底にある意味的および構造的情報をキャプチャするが、自然にノイズによる干渉の影響を受けにくいため、下流タスクに有用な高品質なノード表現として機能する。
複数の実世界のデータセットに対する大規模な実験では、様々なタイプの機能ノイズのあるシナリオにおいて、信頼できるノード表現を学習するMQEが示されている。
関連論文リスト
- Graph Neural Networks Provably Benefit from Structural Information: A
Feature Learning Perspective [53.999128831324576]
グラフニューラルネットワーク(GNN)は、グラフ表現学習の先駆けとなった。
本研究では,特徴学習理論の文脈におけるグラフ畳み込みの役割について検討する。
論文 参考訳（メタデータ） (2023-06-24T10:21:11Z) - Neighborhood Convolutional Network: A New Paradigm of Graph Neural
Networks for Node Classification [12.062421384484812]
グラフ畳み込みネットワーク(GCN)は、各畳み込み層における近傍の集約と特徴変換を分離する。
本稿では,周辺畳み込みネットワーク(NCN)と呼ばれるGCNの新しいパラダイムを提案する。
このようにして、モデルは、近隣情報を集約するための分離GCNの利点を継承すると同時に、より強力な特徴学習モジュールを開発することができる。
論文 参考訳（メタデータ） (2022-11-15T02:02:51Z) - Simplifying approach to Node Classification in Graph Neural Networks [7.057970273958933]
グラフニューラルネットワークのノード特徴集約ステップと深さを分離し、異なる集約特徴が予測性能にどのように寄与するかを経験的に分析する。
集約ステップによって生成された全ての機能が有用であるとは限らないことを示し、これらの少ない情報的特徴を用いることは、GNNモデルの性能に有害であることを示す。
提案モデルでは,提案モデルが最先端のGNNモデルと同等あるいはそれ以上の精度を達成可能であることを実証的に示す。
論文 参考訳（メタデータ） (2021-11-12T14:53:22Z) - Towards Open-World Feature Extrapolation: An Inductive Graph Learning
Approach [80.8446673089281]
グラフ表現と学習を伴う新しい学習パラダイムを提案する。
本フレームワークは,1) 下位モデルとしてのバックボーンネットワーク(フィードフォワードニューラルネットなど)が,予測ラベルの入力および出力として機能を取り,2) 上位モデルとしてのグラフニューラルネットワークが,観測データから構築された特徴データグラフをメッセージパッシングすることで,新機能の埋め込みを外挿することを学ぶ。
論文 参考訳（メタデータ） (2021-10-09T09:02:45Z) - Local Augmentation for Graph Neural Networks [78.48812244668017]
本稿では,局所的な部分グラフ構造によりノード特性を向上する局所拡張を提案する。
局所的な拡張に基づいて、プラグイン・アンド・プレイ方式で任意のGNNモデルに適用可能な、LA-GNNという新しいフレームワークをさらに設計する。
論文 参考訳（メタデータ） (2021-09-08T18:10:08Z) - Improving Graph Neural Networks with Simple Architecture Design [7.057970273958933]
グラフニューラルネットワークの重要な設計戦略をいくつか紹介する。
簡便で浅いモデルである特徴選択グラフニューラルネットワーク(FSGNN)を紹介します。
提案手法は,他のGNNモデルよりも優れており,ノード分類タスクの精度が最大64%向上していることを示す。
論文 参考訳（メタデータ） (2021-05-17T06:46:01Z) - Node2Seq: Towards Trainable Convolutions in Graph Neural Networks [59.378148590027735]
今回提案するグラフネットワーク層であるNode2Seqは,隣接ノードの重みを明示的に調整可能なノード埋め込みを学習する。
対象ノードに対して,当手法は注意メカニズムを介して隣接ノードをソートし,さらに1D畳み込みニューラルネットワーク(CNN)を用いて情報集約のための明示的な重み付けを行う。
また, 特徴学習のための非局所的情報を, 注意スコアに基づいて適応的に組み込むことを提案する。
論文 参考訳（メタデータ） (2021-01-06T03:05:37Z) - A Unified View on Graph Neural Networks as Graph Signal Denoising [49.980783124401555]
グラフニューラルネットワーク(GNN)は,グラフ構造化データの学習表現において顕著に普及している。
本研究では,代表的GNNモデル群における集約過程を,グラフ記述問題の解法とみなすことができることを数学的に確立する。
UGNNから派生した新しいGNNモデルADA-UGNNをインスタンス化し、ノード間の適応的滑らかさでグラフを処理する。
論文 参考訳（メタデータ） (2020-10-05T04:57:18Z) - Learning Graph-Convolutional Representations for Point Cloud Denoising [31.557988478764997]
本稿では,学習ベースのポイントクラウド処理手法で発生する置換不変問題に対処可能なディープニューラルネットワークを提案する。
ネットワークは完全に畳み込み可能で、近傍グラフを動的に構築することで、機能の複雑な階層を構築することができる。
特に高騒音レベルと実LiDARスキャンで遭遇したような構造ノイズの存在の両方において堅牢である。
論文 参考訳（メタデータ） (2020-07-06T08:11:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。