論文の概要: Interpolation-based Correlation Reduction Network for Semi-Supervised
Graph Learning
- arxiv url: http://arxiv.org/abs/2206.02796v1
- Date: Mon, 6 Jun 2022 14:26:34 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-08 14:52:57.010001
- Title: Interpolation-based Correlation Reduction Network for Semi-Supervised
Graph Learning
- Title(参考訳): 半教師付きグラフ学習のための補間に基づく相関削減ネットワーク
- Authors: Xihong Yang, Yue Liu, Sihang Zhou, Xinwang Liu, En Zhu
- Abstract要約: 補間型相関低減ネットワーク(ICRN)と呼ばれる新しいグラフコントラスト学習手法を提案する。
提案手法では,決定境界のマージンを大きくすることで,潜在特徴の識別能力を向上させる。
この2つの設定を組み合わせることで、豊富なラベル付きノードと稀に価値あるラベル付きノードから豊富な監視情報を抽出し、離散表現学習を行う。
- 参考スコア(独自算出の注目度): 49.94816548023729
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph Neural Networks (GNNs) have achieved promising performance in
semi-supervised node classification in recent years. However, the problem of
insufficient supervision, together with representation collapse, largely limits
the performance of the GNNs in this field. To alleviate the collapse of node
representations in semi-supervised scenario, we propose a novel graph
contrastive learning method, termed Interpolation-based Correlation Reduction
Network (ICRN). In our method, we improve the discriminative capability of the
latent feature by enlarging the margin of decision boundaries and improving the
cross-view consistency of the latent representation. Specifically, we first
adopt an interpolation-based strategy to conduct data augmentation in the
latent space and then force the prediction model to change linearly between
samples. Second, we enable the learned network to tell apart samples across two
interpolation-perturbed views through forcing the correlation matrix across
views to approximate an identity matrix. By combining the two settings, we
extract rich supervision information from both the abundant unlabeled nodes and
the rare yet valuable labeled nodes for discriminative representation learning.
Extensive experimental results on six datasets demonstrate the effectiveness
and the generality of ICRN compared to the existing state-of-the-art methods.
- Abstract(参考訳): グラフニューラルネットワーク(GNN)は,近年,半教師付きノード分類において有望な性能を達成している。
しかし、表現の崩壊とともに、不十分な監督の問題は、この分野におけるGNNの性能を著しく制限している。
半教師付きシナリオにおけるノード表現の崩壊を軽減するために,補間に基づく相関還元ネットワーク (ICRN) と呼ばれる新しいグラフコントラスト学習手法を提案する。
提案手法では,決定境界のマージンを拡大し,潜在表現のクロスビュー一貫性を向上させることにより,潜在特徴の識別能力を向上させる。
具体的には、まず、補間に基づく戦略を採用し、潜時空間でデータ拡張を行い、次にサンプル間の線形変化を予測モデルに強制する。
第2に, 学習ネットワークは, 相関行列を同一視行列に近似させることにより, 2つの補間摂動ビューをまたいでサンプルを分離することができる。
この2つの設定を組み合わせることで、豊富なラベル付きノードと稀に価値あるラベル付きノードから豊富な監視情報を抽出し、識別的表現学習を行う。
6つのデータセットに対する大規模な実験結果は、既存の最先端手法と比較してICRNの有効性と汎用性を示している。
関連論文リスト
- GASE: Graph Attention Sampling with Edges Fusion for Solving Vehicle Routing Problems [6.084414764415137]
車両のルーティング問題を解決するためにEdges Fusionフレームワークを用いた適応型グラフ注意サンプリングを提案する。
提案手法は,既存の手法を2.08%-6.23%上回り,より強力な一般化能力を示す。
論文 参考訳(メタデータ) (2024-05-21T03:33:07Z) - BOURNE: Bootstrapped Self-supervised Learning Framework for Unified
Graph Anomaly Detection [50.26074811655596]
自己指導型自己学習(BOURNE)に基づく新しい統合グラフ異常検出フレームワークを提案する。
ノードとエッジ間のコンテキスト埋め込みを交換することで、ノードとエッジの異常を相互に検出できる。
BOURNEは、負のサンプリングを必要としないため、大きなグラフを扱う際の効率を高めることができる。
論文 参考訳(メタデータ) (2023-07-28T00:44:57Z) - A Simplified Framework for Contrastive Learning for Node Representations [2.277447144331876]
グラフにノードを埋め込むために,グラフニューラルネットワークと組み合わせてコントラスト学習を展開できる可能性を検討する。
組込み行列の単純なカラムワイド後処理により, 組込み結果の品質とトレーニング時間を大幅に改善できることを示す。
この修正により、下流の分類タスクは最大1.5%改善され、8つの異なるベンチマークのうち6つで既存の最先端のアプローチに勝っている。
論文 参考訳(メタデータ) (2023-05-01T02:04:36Z) - Data-heterogeneity-aware Mixing for Decentralized Learning [63.83913592085953]
グラフの混合重みとノード間のデータ不均一性の関係に収束の依存性を特徴付ける。
グラフが現在の勾配を混合する能力を定量化する計量法を提案する。
そこで本研究では,パラメータを周期的かつ効率的に最適化する手法を提案する。
論文 参考訳(メタデータ) (2022-04-13T15:54:35Z) - Improved Dual Correlation Reduction Network [40.792587861237166]
改良二重相関低減ネットワーク(IDCRN)と呼ばれる新しいディープグラフクラスタリングアルゴリズムを提案する。
クロスビュー特徴相関行列をアイデンティティ行列に近似することにより、特徴の異なる次元間の冗長性を低減できる。
また,グラフ畳み込みネットワーク(GCN)における過度にスムースな問題による表現の崩壊を,伝播正規化項によって回避する。
論文 参考訳(メタデータ) (2022-02-25T07:48:32Z) - Deep Graph Clustering via Dual Correlation Reduction [37.973072977988494]
本稿では,Dual correlation Reduction Network (DCRN) と呼ばれる自己教師型ディープグラフクラスタリング手法を提案する。
提案手法では,まず,サンプルを符号化するシアムネットワークを設計する。次に,クロスビューサンプル相関行列とクロスビュー特徴相関行列をそれぞれ2つのアイデンティティ行列に近似させることで,二重レベルの情報相関を小さくする。
本稿では,GCNの過度なスムース化による表現の崩壊を軽減するために,ネットワークが長距離情報を得るための伝搬正則化項を導入する。
論文 参考訳(メタデータ) (2021-12-29T04:05:38Z) - Improving the Training of Graph Neural Networks with Consistency
Regularization [9.239633445211574]
グラフニューラルネットワークの性能向上には,一貫性の正則化が有効かを検討する。
整合正則化法を2つの最先端GNNと組み合わせ、ogbn-productsデータセット上で実験を行う。
一貫性の正則化により、ogbn-productsデータセットでは、最先端のGNNのパフォーマンスが0.3%向上する。
論文 参考訳(メタデータ) (2021-12-08T14:51:30Z) - Contrastive and Generative Graph Convolutional Networks for Graph-based
Semi-Supervised Learning [64.98816284854067]
グラフベースのSemi-Supervised Learning (SSL)は、少数のラベル付きデータのラベルをグラフ経由で残りの巨大なラベル付きデータに転送することを目的としている。
本稿では,データ類似性とグラフ構造を両立させ,監視信号の強化を図るため,新しいGCNベースのSSLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-09-15T13:59:28Z) - Binarized Graph Neural Network [65.20589262811677]
我々は二項化グラフニューラルネットワークを開発し、二項化ネットワークパラメータを用いてノードのバイナリ表現を学習する。
提案手法は既存のGNNベースの埋め込み手法にシームレスに統合できる。
実験により、提案された二項化グラフニューラルネットワーク、すなわちBGNは、時間と空間の両方の観点から、桁違いに効率的であることが示されている。
論文 参考訳(メタデータ) (2020-04-19T09:43:14Z) - Graph Representation Learning via Graphical Mutual Information
Maximization [86.32278001019854]
本稿では,入力グラフとハイレベルな隠蔽表現との相関を測る新しい概念であるGMIを提案する。
我々は,グラフニューラルエンコーダの入力と出力の間でGMIを最大化することで訓練された教師なし学習モデルを開発する。
論文 参考訳(メタデータ) (2020-02-04T08:33:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。