論文の概要: LTE4G: Long-Tail Experts for Graph Neural Networks

• arxiv url: http://arxiv.org/abs/2208.10205v1
• Date: Mon, 22 Aug 2022 11:03:36 GMT
• ステータス: 処理完了
• システム内更新日: 2022-08-23 13:52:40.311616
• Title: LTE4G: Long-Tail Experts for Graph Neural Networks
• Title（参考訳）: LTE4G:グラフニューラルネットワークの専門家
• Authors: Sukwon Yun, Kibum Kim, Kanghoon Yoon, Chanyoung Park
• Abstract要約: Long-Tail Experts for Graphs (LTE4G)はグラフニューラルネットワーク(GNN)をトレーニングするための新しいフレームワークである LTE4Gは、クラス長尾度とノード分類の次長尾度を考慮に入れている。 LTE4Gは,手動グラフと自然不均衡グラフの両方で評価されたノード分類において,多種多様な最先端手法より優れていることを示す。
• 参考スコア（独自算出の注目度）: 7.422501374782389
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Existing Graph Neural Networks (GNNs) usually assume a balanced situation where both the class distribution and the node degree distribution are balanced. However, in real-world situations, we often encounter cases where a few classes (i.e., head class) dominate other classes (i.e., tail class) as well as in the node degree perspective, and thus naively applying existing GNNs eventually fall short of generalizing to the tail cases. Although recent studies proposed methods to handle long-tail situations on graphs, they only focus on either the class long-tailedness or the degree long-tailedness. In this paper, we propose a novel framework for training GNNs, called Long-Tail Experts for Graphs (LTE4G), which jointly considers the class long-tailedness, and the degree long-tailedness for node classification. The core idea is to assign an expert GNN model to each subset of nodes that are split in a balanced manner considering both the class and degree long-tailedness. After having trained an expert for each balanced subset, we adopt knowledge distillation to obtain two class-wise students, i.e., Head class student and Tail class student, each of which is responsible for classifying nodes in the head classes and tail classes, respectively. We demonstrate that LTE4G outperforms a wide range of state-of-the-art methods in node classification evaluated on both manual and natural imbalanced graphs. The source code of LTE4G can be found at https://github.com/SukwonYun/LTE4G.
• Abstract（参考訳）: 既存のグラフニューラルネットワーク(gnn)は、通常、クラス分布とノード次数分布の両方がバランスのとれた状況になる。 しかし、現実の状況では、いくつかのクラス(例えば、ヘッドクラス)が他のクラス(例えば、テールクラス)を支配下に置く場合や、ノード次数の観点から、既存のGNNの適用は、結局、テールケースに一般化するに足りなくなる。 最近の研究では、グラフ上の長い尾の状況を扱う方法が提案されているが、それらはクラス長尾性または次長尾性にのみ焦点をあてている。 本稿では,Long-Tail Experts for Graphs(LTE4G)と呼ばれるGNNの学習フレームワークを提案する。 中心となる考え方は、クラスと次数の長期性の両方を考慮してバランスよく分割されたノードの各サブセットに専門家GNNモデルを割り当てることである。 各バランスの取れた部分集合について専門家を訓練した後、我々は知識蒸留法を採用して2つのクラス単位の学生、すなわち、ヘッドクラスとテールクラスのノードを分類する責任を負うヘッドクラスとテールクラスの学生を得る。 LTE4Gは,手動グラフと自然不均衡グラフの両方で評価されたノード分類において,幅広い最先端手法よりも優れていることを示す。 LTE4Gのソースコードはhttps://github.com/SukwonYun/LTE4Gにある。

関連論文リスト

• Two Heads Are Better Than One: Boosting Graph Sparse Training via Semantic and Topological Awareness [80.87683145376305]
  グラフニューラルネットワーク(GNN)は、様々なグラフ学習タスクに優れるが、大規模グラフに適用した場合、計算上の課題に直面している。 データレベルで空間を動的に操作するグラフスパーストレーニング(GST)を提案する。 GSTは、最大位相整合性と性能劣化のないスパースグラフを生成する。
  論文  参考訳（メタデータ） (2024-02-02T09:10:35Z)
• Contrastive Meta-Learning for Few-shot Node Classification [54.36506013228169]
  少ないショットノード分類は、限定されたラベル付きノードのみを参照としてグラフ上のノードのラベルを予測することを目的としている。 グラフ上にCOSMICという新しい対照的なメタラーニングフレームワークを2つの重要な設計で作成する。
  論文  参考訳（メタデータ） (2023-06-27T02:22:45Z)
• Task-Adaptive Few-shot Node Classification [49.79924004684395]
  数ショットの学習環境下でのタスク適応型ノード分類フレームワークを提案する。 具体的には,ラベル付きノードが豊富なクラスにメタ知識を蓄積する。 次に、提案したタスク適応モジュールを介して、ラベル付きノードが限定されたクラスにそのような知識を転送する。
  論文  参考訳（メタデータ） (2022-06-23T20:48:27Z)
• Beyond Real-world Benchmark Datasets: An Empirical Study of Node Classification with GNNs [3.547529079746247]
  グラフニューラルネットワーク(GNN)はノード分類タスクにおいて大きな成功を収めている。 GNNの既存の評価は、グラフの様々な特性からきめ細かい分析を欠いている。 微粒化解析のための制御特性を持つグラフを生成する合成グラフ生成装置を用いて広範囲な実験を行った。
  論文  参考訳（メタデータ） (2022-06-18T08:03:12Z)
• ResNorm: Tackling Long-tailed Degree Distribution Issue in Graph Neural Networks via Normalization [80.90206641975375]
  本稿では,正規化によるGNNの性能向上に焦点をあてる。 グラフ中のノード次数の長期分布を調べることにより、GNNの新しい正規化法を提案する。 ResNormの$scale$操作は、尾ノードの精度を向上させるために、ノード単位の標準偏差(NStd)分布を再設定する。
  論文  参考訳（メタデータ） (2022-06-16T13:49:09Z)
• GraFN: Semi-Supervised Node Classification on Graph with Few Labels via Non-Parametric Distribution Assignment [5.879936787990759]
  本研究では,グラフの半教師付き手法であるGraFNを提案し,同一クラスに属するノードをグループ化する。 GraFNはグラフ全体からラベル付きノードとアンカーノードからランダムにノードをサンプリングする。 実世界のグラフ上のノード分類において,GraFNが半教師付き手法と自己教師型手法のどちらよりも優れていることを示す。
  論文  参考訳（メタデータ） (2022-04-04T08:22:30Z)
• Distance-wise Prototypical Graph Neural Network in Node Imbalance Classification [9.755229198654922]
  本研究では,不均衡なグラフデータに対して,距離ワイドなプロトタイプグラフニューラルネットワーク(DPGNN)を提案する。 提案した DPGNN は, ほぼ常に他のベースラインよりも優れており, 不均衡ノード分類におけるその有効性を示している。
  論文  参考訳（メタデータ） (2021-10-22T19:43:15Z)
• Label Propagation across Graphs: Node Classification using Graph Neural Tangent Kernels [12.445026956430826]
  グラフニューラルネットワーク(GNN)はノード分類タスクにおいて優れたパフォーマンスを実現している。 我々の研究は、ラベル付きグラフのセットがトレーニング用に利用可能であり、ラベルなしのターゲットグラフは完全に分離されている、困難な帰納的設定について検討している。 テストグラフとトレーニンググラフが類似した分布から来るという暗黙の仮定の下で、我々のゴールは、観測されていない接続構造に一般化するラベリング関数を開発することである。
  論文  参考訳（メタデータ） (2021-10-07T19:42:35Z)
• Graph Classification by Mixture of Diverse Experts [67.33716357951235]
  我々は,不均衡なグラフ分類に多様な専門家の混在を利用したフレームワークであるGraphDIVEを提案する。 GraphDIVEは、分割と並列の原則により、不均衡なグラフデータセットを複数のサブセットに分割するゲーティングネットワークを採用しています。 実世界の不均衡グラフデータセットに関する実験は、GraphDIVEの有効性を示している。
  論文  参考訳（メタデータ） (2021-03-29T14:03:03Z)
• Two-stage Training of Graph Neural Networks for Graph Classification [24.11791971161264]
  グラフニューラルネットワーク(GNN)は、グラフ上の機械学習分野において大きな注目を集めている。 本研究では,三重項損失に基づく二段階学習フレームワークを提案する。 本研究は,各GNNの割り当て能力の精度と利用率を,元の学習法よりも一貫した向上を実証する。
  論文  参考訳（メタデータ） (2020-11-10T13:47:28Z)
• Unifying Graph Convolutional Neural Networks and Label Propagation [73.82013612939507]
  LPAとGCNの関係を特徴・ラベルの平滑化と特徴・ラベルの影響の2点の観点から検討した。 理論解析に基づいて,ノード分類のためのGCNとLCAを統一するエンドツーエンドモデルを提案する。 我々のモデルは、既存の特徴に基づく注目モデルよりもタスク指向のノードラベルに基づく学習注意重みと見なすこともできる。
  論文  参考訳（メタデータ） (2020-02-17T03:23:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。