Fugu-MT 論文翻訳(概要): Low-Rank Graph Contrastive Learning for Node Classification

論文の概要: Low-Rank Graph Contrastive Learning for Node Classification

arxiv url: http://arxiv.org/abs/2402.09600v1
Date: Wed, 14 Feb 2024 22:15:37 GMT
ステータス: 処理完了
システム内更新日: 2024-02-16 17:41:36.384425
Title: Low-Rank Graph Contrastive Learning for Node Classification
Title（参考訳）: ノード分類のための低ランクグラフコントラスト学習
Authors: Yancheng Wang, Yingzhen Yang
Abstract要約: グラフニューラルネットワーク(GNN)はノード表現の学習に広く使われており、ノード分類などの様々なタスクにおいて優れた性能を示している。我々は,Low-Rank Graph Contrastive Learning (LR-GCL) という,新規で堅牢なGNNエンコーダを提案する。
参考スコア（独自算出の注目度）: 10.520101507424577
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Graph Neural Networks (GNNs) have been widely used to learn node representations and with outstanding performance on various tasks such as node classification. However, noise, which inevitably exists in real-world graph data, would considerably degrade the performance of GNNs revealed by recent studies. In this work, we propose a novel and robust GNN encoder, Low-Rank Graph Contrastive Learning (LR-GCL). Our method performs transductive node classification in two steps. First, a low-rank GCL encoder named LR-GCL is trained by prototypical contrastive learning with low-rank regularization. Next, using the features produced by LR-GCL, a linear transductive classification algorithm is used to classify the unlabeled nodes in the graph. Our LR-GCL is inspired by the low frequency property of the graph data and its labels, and it is also theoretically motivated by our sharp generalization bound for transductive learning. To the best of our knowledge, our theoretical result is among the first to theoretically demonstrate the advantage of low-rank learning in graph contrastive learning supported by strong empirical performance. Extensive experiments on public benchmarks demonstrate the superior performance of LR-GCL and the robustness of the learned node representations. The code of LR-GCL is available at \url{https://anonymous.4open.science/r/Low-Rank_Graph_Contrastive_Learning-64A6/}.
Abstract（参考訳）: グラフニューラルネットワーク(GNN)はノード表現の学習に広く使われており、ノード分類などの様々なタスクにおいて優れた性能を示している。しかし、実世界のグラフデータに必然的に存在するノイズは、近年の研究によって明らかにされたGNNの性能を著しく低下させる。本研究では,新しい,堅牢なGNNエンコーダであるLow-Rank Graph Contrastive Learning (LR-GCL)を提案する。本手法は2つのステップでトランスダクティブノード分類を行う。まず、LR-GCLという名前の低ランクGCLエンコーダを、低ランク正規化を用いた原型コントラスト学習により訓練する。次に、lr-gclによって生成された特徴を用いて、グラフ内のラベルなしノードを分類する線形トランスダクティブ分類アルゴリズムを用いる。我々のLR-GCLはグラフデータとそのラベルの低周波特性にインスパイアされ、また我々の急激な一般化によるトランスダクティブ学習の動機付けでもある。我々の知識を最大限に活用するために、我々の理論的結果は、強い経験的性能によって支持されるグラフ対照的学習における低ランク学習の利点を理論的に証明する最初のものである。公開ベンチマークでの大規模な実験は、LR-GCLの優れた性能と学習ノード表現の堅牢性を示している。 LR-GCLのコードは \url{https://anonymous.4open.science/r/Low-Rank_Graph_Contrastive_Learning-64A6/} で公開されている。

関連論文リスト

GRE^2-MDCL: Graph Representation Embedding Enhanced via Multidimensional Contrastive Learning [0.0]
グラフ表現学習は、ノードをベクトル表現にマッピングする際にグラフトポロジを保存する強力なツールとして登場した。現在のグラフニューラルネットワークモデルは、広範なラベル付きデータを必要とするという課題に直面している。多次元コントラスト学習によるグラフ表現埋め込みを提案する。
論文参考訳（メタデータ） (2024-09-12T03:09:05Z)
Architecture Matters: Uncovering Implicit Mechanisms in Graph Contrastive Learning [34.566003077992384]
本稿では,グラフコントラスト学習法(GCL)の体系的研究について述べる。 GNNの暗黙的帰納バイアスが対照的な学習にどのように作用するかを明らかにすることによって、理論上はGCLの興味深い性質に関する洞察を提供する。既存のNNメソッドを直接GCLに移植するのではなく、グラフ学習のユニークなアーキテクチャにもっと注意を払うことを提唱する。
論文参考訳（メタデータ） (2023-11-05T15:54:17Z)
Label Deconvolution for Node Representation Learning on Large-scale Attributed Graphs against Learning Bias [75.44877675117749]
本稿では,GNNの逆写像に対する新しい,スケーラブルな近似による学習バイアスを軽減するために,ラベルの効率的な正規化手法,すなわちラベルのデコンボリューション(LD)を提案する。実験では、LDはOpen Graphデータセットのベンチマークで最先端のメソッドを大幅に上回っている。
論文参考訳（メタデータ） (2023-09-26T13:09:43Z)
SimTeG: A Frustratingly Simple Approach Improves Textual Graph Learning [131.04781590452308]
テキストグラフ学習におけるフラストレーションに富んだアプローチであるSimTeGを提案する。まず、下流タスクで予め訓練されたLM上で、教師付きパラメータ効率の微調整(PEFT)を行う。次に、微調整されたLMの最後の隠れ状態を用いてノード埋め込みを生成する。
論文参考訳（メタデータ） (2023-08-03T07:00:04Z)
LightGCL: Simple Yet Effective Graph Contrastive Learning for Recommendation [9.181689366185038]
グラフニューラルクラスタリングネットワーク(GNN)は、グラフベースのレコメンデータシステムのための強力な学習手法である。本稿では,単純なグラフコントラスト学習パラダイムであるLightGCLを提案する。
論文参考訳（メタデータ） (2023-02-16T10:16:21Z)
Uncovering the Structural Fairness in Graph Contrastive Learning [87.65091052291544]
グラフコントラスト学習(GCL)は、ノード表現を学習するための有望な自己教師型アプローチとして登場した。 GCL法で得られた表現は,GCN法で学習した表現よりも既に公平であることを示す。我々は、低次ノードと高次ノードに異なる戦略を適用し、GRAph contrastive learning for Degree bias (GRADE)と呼ばれるグラフ拡張手法を考案した。
論文参考訳（メタデータ） (2022-10-06T15:58:25Z)
Let Invariant Rationale Discovery Inspire Graph Contrastive Learning [98.10268114789775]
ハイパフォーマンスな拡張は、インスタンス識別に関するアンカーグラフの健全な意味を保存すべきである。新たなフレームワーク Rationale-aware Graph Contrastive Learning (RGCL) を提案する。 RGCLは有理数生成器を使用して、グラフのインスタンス識別に関する健全な特徴を論理として明らかにし、対照的な学習のための有理数認識ビューを生成する。
論文参考訳（メタデータ） (2022-06-16T01:28:40Z)
Bayesian Robust Graph Contrastive Learning [4.6761071607574545]
本稿では,GNNエンコーダに頑健なノード表現を学習させる,新しいロバストな手法を提案する。公開および大規模ベンチマークの実験は、BRGCLの優れた性能と学習ノード表現の堅牢性を示している。
論文参考訳（メタデータ） (2022-05-27T17:21:17Z)
Adversarial Graph Augmentation to Improve Graph Contrastive Learning [21.54343383921459]
本稿では,GNNがトレーニング中に冗長な情報を捕捉することを避けるために,AD-GCL(adversarial-GCL)と呼ばれる新しい原理を提案する。我々は、AD-GCLを最先端のGCL法と比較し、教師なしで最大$14%、転送で$6%、半教師なしの学習環境で$3%の性能向上を達成した。
論文参考訳（メタデータ） (2021-06-10T15:34:26Z)
Combining Label Propagation and Simple Models Out-performs Graph Neural Networks [52.121819834353865]
多くの標準的なトランスダクティブノード分類ベンチマークでは、最先端のGNNの性能を超えたり、一致させることができる。これをC&S(Correct and Smooth)と呼ぶ。我々のアプローチは、様々なベンチマークで最先端のGNNの性能を上回るか、ほぼ一致している。
論文参考訳（メタデータ） (2020-10-27T02:10:52Z)
Fast Graph Attention Networks Using Effective Resistance Based Graph Sparsification [70.50751397870972]
FastGATは、スペクトルスペーシフィケーションを用いて、注目に基づくGNNを軽量にし、入力グラフの最適プルーニングを生成する手法である。我々は,ノード分類タスクのための大規模実世界のグラフデータセット上でFastGATを実験的に評価した。
論文参考訳（メタデータ） (2020-06-15T22:07:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。