論文の概要: Enhancing Signed Graph Neural Networks through Curriculum-Based Training
- arxiv url: http://arxiv.org/abs/2310.11083v2
- Date: Wed, 27 Nov 2024 07:15:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-28 15:23:08.773186
- Title: Enhancing Signed Graph Neural Networks through Curriculum-Based Training
- Title（参考訳）: カリキュラムベーストレーニングによるサイン付きグラフニューラルネットワークの強化
- Authors: Zeyu Zhang, Lu Li, Xingyu Ji, Kaiqi Zhao, Xiaofeng Zhu, Philip S. Yu, Jiawei Li, Maojun Wang,
- Abstract要約: サイン付きグラフニューラルネットワーク(SGNN)は、そのようなグラフを分析する強力なツールとして登場した。
我々の知る限り、SGNNに特化した訓練計画を策定するための事前の研究は行われていない。
SGNNは、人間の学習と同様、簡単から難易度まで進歩するカリキュラムの恩恵を受けることができると我々は主張する。
- 参考スコア（独自算出の注目度）: 42.904883688992136
- License:
- Abstract: Signed graphs are powerful models for representing complex relations with both positive and negative connections. Recently, Signed Graph Neural Networks (SGNNs) have emerged as potent tools for analyzing such graphs. To our knowledge, no prior research has been conducted on devising a training plan specifically for SGNNs. The prevailing training approach feeds samples (edges) to models in a random order, resulting in equal contributions from each sample during the training process, but fails to account for varying learning difficulties based on the graph's structure. We contend that SGNNs can benefit from a curriculum that progresses from easy to difficult, similar to human learning. The main challenge is evaluating the difficulty of edges in a signed graph. We address this by theoretically analyzing the difficulty of SGNNs in learning adequate representations for edges in unbalanced cycles and propose a lightweight difficulty measurer. This forms the basis for our innovative Curriculum representation learning framework for Signed Graphs, referred to as CSG. The process involves using the measurer to assign difficulty scores to training samples, adjusting their order using a scheduler and training the SGNN model accordingly. We empirically our approach on six real-world signed graph datasets. Our method demonstrates remarkable results, enhancing the accuracy of popular SGNN models by up to 23.7% and showing a reduction of 8.4% in standard deviation, enhancing model stability.
- Abstract（参考訳）: 符号付きグラフは、正および負の接続の両方で複雑な関係を表現する強力なモデルである。
近年,このようなグラフを解析するための強力なツールとして,Signed Graph Neural Networks (SGNNs) が登場している。
我々の知る限り、SGNNに特化した訓練計画を策定するための事前の研究は行われていない。
一般的なトレーニングアプローチでは、サンプル(エッジ)をランダムな順序でモデルに供給し、トレーニングプロセス中に各サンプルから同等のコントリビューションを得られるが、グラフの構造に基づいて異なる学習困難を考慮できない。
SGNNは、人間の学習と同様、簡単から難易度まで進歩するカリキュラムの恩恵を受けることができると我々は主張する。
主な課題は、署名付きグラフにおけるエッジの難しさを評価することである。
本研究では,不均衡周期におけるエッジの適切な表現を学習する際のSGNNの難易度を理論的に解析し,軽量な難易度測定器を提案する。
これは、CSGと呼ばれる手話グラフのための革新的なカリキュラム表現学習フレームワークの基礎となる。
このプロセスでは、測定器を使用してサンプルのトレーニングに難易度スコアを割り当て、スケジューラを使用して注文を調整し、それに従ってSGNNモデルをトレーニングする。
実世界の6つのグラフデータセットに対するアプローチを実証的に検証した。
提案手法は,一般的なSGNNモデルの精度を最大23.7%向上し,標準偏差8.4%低減し,モデルの安定性を向上することを示す。
関連論文リスト
- Stealing Training Graphs from Graph Neural Networks [54.52392250297907]
グラフニューラルネットワーク(GNN)は、様々なタスクにおけるグラフのモデリングにおいて有望な結果を示している。
ニューラルネットワークがトレーニングサンプルを記憶できるため、GNNのモデルパラメータはプライベートトレーニングデータをリークするリスクが高い。
訓練されたGNNからグラフを盗むという新しい問題について検討する。
論文 参考訳（メタデータ） (2024-11-17T23:15:36Z) - Graph Transductive Defense: a Two-Stage Defense for Graph Membership Inference Attacks [50.19590901147213]
グラフニューラルネットワーク(GNN)は、さまざまな現実世界のアプリケーションにおいて、強力なグラフ学習機能を提供する。
GNNは、メンバーシップ推論攻撃(MIA)を含む敵攻撃に対して脆弱である
本稿では,グラフトランスダクティブ学習特性に合わせて,グラフトランスダクティブ・ディフェンス(GTD)を提案する。
論文 参考訳（メタデータ） (2024-06-12T06:36:37Z) - Graph Unlearning with Efficient Partial Retraining [28.433619085748447]
グラフニューラルネットワーク(GNN)は、様々な現実世界のアプリケーションで顕著な成功を収めている。
GNNは、望ましくないグラフデータに基づいてトレーニングされ、パフォーマンスと信頼性を低下させることができる。
学習不能なGNNのモデルユーティリティをよりよく維持するグラフアンラーニングフレームワークであるGraphRevokerを提案する。
論文 参考訳（メタデータ） (2024-03-12T06:22:10Z) - Loss-aware Curriculum Learning for Heterogeneous Graph Neural Networks [30.333265803394998]
異種グラフニューラルネットワーク(GNN)の性能向上のためのカリキュラム学習手法の適用について検討する。
データの品質をよりよく分類するために、データの全ノードの品質を測定するLTSと呼ばれる損失認識トレーニングスケジュールを設計する。
本研究は,複雑なグラフ構造データ解析のためのHGNNの能力向上のためのカリキュラム学習の有効性を示すものである。
論文 参考訳（メタデータ） (2024-02-29T05:44:41Z) - Label Deconvolution for Node Representation Learning on Large-scale
Attributed Graphs against Learning Bias [75.44877675117749]
本稿では,GNNの逆写像に対する新しい,スケーラブルな近似による学習バイアスを軽減するために,ラベルの効率的な正規化手法,すなわちラベルのデコンボリューション(LD)を提案する。
実験では、LDはOpen Graphデータセットのベンチマークで最先端のメソッドを大幅に上回っている。
論文 参考訳（メタデータ） (2023-09-26T13:09:43Z) - Addressing the Impact of Localized Training Data in Graph Neural
Networks [0.0]
グラフニューラルネットワーク(GNN)は、グラフ構造化データから学習において顕著な成功を収めた。
本稿では,グラフの局所化部分集合に対するGNNのトレーニングの影響を評価することを目的とする。
本稿では,局所化学習データとグラフ推論との分散不一致を最小化する正規化手法を提案する。
論文 参考訳（メタデータ） (2023-07-24T11:04:22Z) - Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。
具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
論文 参考訳（メタデータ） (2022-01-17T11:57:29Z) - Distributionally Robust Semi-Supervised Learning Over Graphs [68.29280230284712]
グラフ構造化データに対する半教師付き学習(SSL)は、多くのネットワークサイエンスアプリケーションに現れる。
グラフ上の学習を効率的に管理するために,近年,グラフニューラルネットワーク(GNN)の変種が開発されている。
実際に成功したにも拘わらず、既存の手法のほとんどは、不確実な結節属性を持つグラフを扱うことができない。
ノイズ測定によって得られたデータに関連する分布の不確実性によっても問題が発生する。
分散ロバストな学習フレームワークを開発し,摂動に対する定量的ロバスト性を示すモデルを訓練する。
論文 参考訳（メタデータ） (2021-10-20T14:23:54Z) - Scalable Graph Neural Network Training: The Case for Sampling [4.9201378771958675]
グラフニューラルネットワーク(Graph Neural Networks、GNN)は、グラフ上で学習を行うディープニューラルネットワークアーキテクチャの新しい、ますます普及しているファミリです。
グラフデータの不規則性から、効率的にトレーニングすることは難しい。
文献には、全グラフとサンプルベースのトレーニングという2つの異なるアプローチが登場した。
論文 参考訳（メタデータ） (2021-05-05T20:44:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。