論文の概要: Robust Training of Graph Neural Networks via Noise Governance
- arxiv url: http://arxiv.org/abs/2211.06614v1
- Date: Sat, 12 Nov 2022 09:25:32 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-15 16:29:38.671504
- Title: Robust Training of Graph Neural Networks via Noise Governance
- Title（参考訳）: ノイズガバナンスによるグラフニューラルネットワークのロバストトレーニング
- Authors: Siyi Qian, Haochao Ying, Renjun Hu, Jingbo Zhou, Jintai Chen, Danny Z.
Chen, Jian Wu
- Abstract要約: グラフニューラルネットワーク(GNN)は、半教師付き学習のモデルとして広く使われている。
本稿では,グラフノード上のラベルがうるさいだけでなく,難易度も低い重要なシナリオについて考察する。
本稿では,ラベルノイズを明示的に制御する学習により,ロバスト性を向上する新しいRTGNNフレームワークを提案する。
- 参考スコア（独自算出の注目度）: 27.767913371777247
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph Neural Networks (GNNs) have become widely-used models for
semi-supervised learning. However, the robustness of GNNs in the presence of
label noise remains a largely under-explored problem. In this paper, we
consider an important yet challenging scenario where labels on nodes of graphs
are not only noisy but also scarce. In this scenario, the performance of GNNs
is prone to degrade due to label noise propagation and insufficient learning.
To address these issues, we propose a novel RTGNN (Robust Training of Graph
Neural Networks via Noise Governance) framework that achieves better robustness
by learning to explicitly govern label noise. More specifically, we introduce
self-reinforcement and consistency regularization as supplemental supervision.
The self-reinforcement supervision is inspired by the memorization effects of
deep neural networks and aims to correct noisy labels. Further, the consistency
regularization prevents GNNs from overfitting to noisy labels via mimicry loss
in both the inter-view and intra-view perspectives. To leverage such
supervisions, we divide labels into clean and noisy types, rectify inaccurate
labels, and further generate pseudo-labels on unlabeled nodes. Supervision for
nodes with different types of labels is then chosen adaptively. This enables
sufficient learning from clean labels while limiting the impact of noisy ones.
We conduct extensive experiments to evaluate the effectiveness of our RTGNN
framework, and the results validate its consistent superior performance over
state-of-the-art methods with two types of label noises and various noise
rates.
- Abstract（参考訳）: グラフニューラルネットワーク(GNN)は、半教師付き学習のモデルとして広く使われている。
しかし、ラベルノイズの存在下でのGNNの堅牢性は、ほとんど探索されていない問題である。
本稿では,グラフのノードのラベルがノイズだけでなく少ないという,重要かつ困難なシナリオについて考察する。
このシナリオでは、ラベルノイズの伝搬と学習不足により、GNNの性能は劣化しがちである。
これらの問題に対処するために、ラベルノイズを明示的に制御することを学ぶことで、より堅牢性を実現する新しいRTGNN(Robust Training of Graph Neural Networks via Noise Governance)フレームワークを提案する。
具体的には、補足的監督として自己強化と整合性正規化を導入する。
自己強化監視は、ディープニューラルネットワークの記憶効果にインスパイアされ、ノイズラベルの修正を目的としている。
さらに、一貫性の規則化は、ビュー間およびビュー内の両方の観点からの模倣損失を通じて、GNNがノイズラベルに過度に適合することを防ぐ。
このような監視を活用すべく、ラベルをクリーンでノイズの多いタイプに分割し、不正確なラベルを修正し、ラベルのないノードに擬似ラベルを生成する。
異なる種類のラベルを持つノードの監督は適応的に選択される。
これにより、ノイズの多いラベルの影響を制限しながら、クリーンなラベルから十分な学習が可能になる。
RTGNNフレームワークの有効性を評価するための広範囲な実験を行い、2種類のラベルノイズと様々なノイズ率を持つ最先端手法よりも一貫した性能を検証した。
関連論文リスト
- ERASE: Error-Resilient Representation Learning on Graphs for Label Noise
Tolerance [53.73316938815873]
本稿では, ERASE (Error-Resilient representation learning on graphs for lAbel noiSe tolerancE) という手法を提案する。
ERASEは、プロトタイプの擬似ラベルとプロパゲーションされた識別ラベルを組み合わせて、表現をエラーレジリエンスで更新する。
提案手法は, 広い雑音レベルにおいて, 複数のベースラインをクリアマージンで上回り, 高いスケーラビリティを享受できる。
論文 参考訳（メタデータ） (2023-12-13T17:59:07Z) - CSGNN: Conquering Noisy Node labels via Dynamic Class-wise Selection [45.83801634434111]
CSGNNと呼ばれるグラフニューラルネットワークのための新しいクラスワイズ選択法を提案する。
クラス不均衡問題に対処するため,クリーンノードの識別にクラスタリング手法を活用する動的クラスワイズ選択機構を導入する。
暗記効果の概念に基づくノイズラベルの問題を軽減するため、CSGNNはノイズラベルよりもクリーンノードからの学習を優先する。
論文 参考訳（メタデータ） (2023-11-20T00:57:30Z) - Combating Bilateral Edge Noise for Robust Link Prediction [56.43882298843564]
本稿では,RGIB(Robust Graph Information Bottleneck)という情報理論の原則を提案し,信頼性の高い監視信号を抽出し,表現の崩壊を回避する。
RGIB-SSLとRGIB-REPの2つのインスタンス化は、異なる手法の利点を活用するために検討されている。
6つのデータセットと3つのGNNの様々なノイズシナリオによる実験は、我々のRGIBインスタンスの有効性を検証する。
論文 参考訳（メタデータ） (2023-11-02T12:47:49Z) - Learning on Graphs under Label Noise [5.909452203428086]
我々は,ラベルノイズのあるグラフ上での学習問題を解決するために,CGNN(Consistent Graph Neural Network)と呼ばれる新しいアプローチを開発した。
具体的には、グラフの対比学習を正規化用語として採用し、拡張ノードの2つのビューが一貫した表現を持つように促進する。
グラフ上の雑音ラベルを検出するために,ホモフィリー仮定に基づくサンプル選択手法を提案する。
論文 参考訳（メタデータ） (2023-06-14T01:38:01Z) - Dynamics-Aware Loss for Learning with Label Noise [73.75129479936302]
ディープニューラルネットワーク(DNN)にラベルノイズが深刻な脅威をもたらす
本稿では,この問題を解決するためにDAL(Dynamics-Aware Los)を提案する。
詳細な理論的解析と広範な実験結果の両方が,本手法の優位性を示している。
論文 参考訳（メタデータ） (2023-03-21T03:05:21Z) - Informative Pseudo-Labeling for Graph Neural Networks with Few Labels [12.83841767562179]
グラフニューラルネットワーク(GNN)は、グラフ上の半教師付きノード分類のための最先端の結果を得た。
非常に少数のレーベルでGNNを効果的に学習する方法の課題は、まだ解明されていない。
我々は、非常に少ないラベルを持つGNNの学習を容易にするために、InfoGNNと呼ばれる新しい情報的擬似ラベルフレームワークを提案する。
論文 参考訳（メタデータ） (2022-01-20T01:49:30Z) - NRGNN: Learning a Label Noise-Resistant Graph Neural Network on Sparsely
and Noisily Labeled Graphs [20.470934944907608]
グラフニューラルネットワーク(GNN)は,ノード分類などのグラフ上の半教師付き学習タスクに対して,有望な結果を得た。
多くの実世界のグラフはスパースでノイズの多いラベルが付けられており、GNNの性能を著しく低下させる可能性がある。
半教師付きノード分類のためのラベルノイズ耐性GNNを提案する。
論文 参考訳（メタデータ） (2021-06-08T22:12:44Z) - Boosting Semi-Supervised Face Recognition with Noise Robustness [54.342992887966616]
本稿では,自動ラベルによるラベル雑音に対して頑健な半教師付き顔認識に対する効果的な解法を提案する。
そこで我々は,gnが強化するロバストな学習能力に基づく,ノイズロバスト学習ラベリング(nroll)という,半教師付き顔認識ソリューションを開発した。
論文 参考訳（メタデータ） (2021-05-10T14:43:11Z) - Unified Robust Training for Graph NeuralNetworks against Label Noise [12.014301020294154]
半監督設定でノイズの多いラベルをグラフ上で学習するための新しいフレームワークである UnionNET を提案します。
提案手法は,GNNを頑健に訓練し,ラベル修正を同時に行うための統一的なソリューションを提供する。
論文 参考訳（メタデータ） (2021-03-05T01:17:04Z) - Tackling Instance-Dependent Label Noise via a Universal Probabilistic
Model [80.91927573604438]
本稿では,ノイズラベルをインスタンスに明示的に関連付ける,単純かつ普遍的な確率モデルを提案する。
合成および実世界のラベルノイズを用いたデータセット実験により,提案手法がロバスト性に大きな改善をもたらすことを確認した。
論文 参考訳（メタデータ） (2021-01-14T05:43:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。