論文の概要: Lifelong Learning on Evolving Graphs Under the Constraints of Imbalanced Classes and New Classes

• arxiv url: http://arxiv.org/abs/2112.10558v2
• Date: Tue, 9 May 2023 16:43:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2023-05-10 16:53:01.275228
• Title: Lifelong Learning on Evolving Graphs Under the Constraints of Imbalanced Classes and New Classes
• Title（参考訳）: 不均衡クラスと新しいクラスの制約下における進化グラフの生涯学習
• Authors: Lukas Galke, Iacopo Vagliano, Benedikt Franke, Tobias Zielke, Marcel Hoffmann, Ansgar Scherp
• Abstract要約: 我々は、生涯グラフ学習における2つの重要な課題、すなわち、新しいクラスを扱うことと、不均衡なクラス分布に取り組むことに取り組む。 ラベルなしデータの量は結果に影響を与えないことが示され、これは生涯学習にとって必須の前提条件である。 本稿では,不均衡なクラス分布を持つ制約の下で,新しいクラスを検出するgDOC法を提案する。
• 参考スコア（独自算出の注目度）: 2.870762512009438
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Lifelong graph learning deals with the problem of continually adapting graph neural network (GNN) models to changes in evolving graphs. We address two critical challenges of lifelong graph learning in this work: dealing with new classes and tackling imbalanced class distributions. The combination of these two challenges is particularly relevant since newly emerging classes typically resemble only a tiny fraction of the data, adding to the already skewed class distribution. We make several contributions: First, we show that the amount of unlabeled data does not influence the results, which is an essential prerequisite for lifelong learning on a sequence of tasks. Second, we experiment with different label rates and show that our methods can perform well with only a tiny fraction of annotated nodes. Third, we propose the gDOC method to detect new classes under the constraint of having an imbalanced class distribution. The critical ingredient is a weighted binary cross-entropy loss function to account for the class imbalance. Moreover, we demonstrate combinations of gDOC with various base GNN models such as GraphSAGE, Simplified Graph Convolution, and Graph Attention Networks. Lastly, our k-neighborhood time difference measure provably normalizes the temporal changes across different graph datasets. With extensive experimentation, we find that the proposed gDOC method is consistently better than a naive adaption of DOC to graphs. Specifically, in experiments using the smallest history size, the out-of-distribution detection score of gDOC is 0.09 compared to 0.01 for DOC. Furthermore, gDOC achieves an Open-F1 score, a combined measure of in-distribution classification and out-of-distribution detection, of 0.33 compared to 0.25 of DOC (32% increase).
• Abstract（参考訳）: 生涯グラフ学習は、進化するグラフの変化に継続的に適応するグラフニューラルネットワーク(gnn)モデルの問題を扱う。 この研究では、新しいクラスを扱うことと、不均衡なクラス分布を扱うことの2つの重要な課題に対処する。 これら2つの課題の組み合わせは特に重要であり、新しいクラスは典型的にデータのごく一部に似ており、既に歪んだクラス分布が追加されている。 まず、ラベルなしデータの量は結果に影響を与えないことを示し、これは一連のタスクにおける生涯学習にとって必須の前提条件である。 第2に,異なるラベルレートで実験を行い,アノテートされたノードのほんの一部で,提案手法がうまく機能することを示す。 第3に,不均衡なクラス分布を持つ制約の下で新しいクラスを検出するgDOC法を提案する。 重要成分は、クラス不均衡を考慮した重み付き二項クロスエントロピー損失関数である。 さらに,グラフセージ,簡易グラフ畳み込み,グラフアテンションネットワークなど,gdocと様々なベースgnnモデルの組み合わせを示す。 最後に、k-neighborhood time difference measureは、異なるグラフデータセットにまたがる時間変化を正当化する。 広範な実験により,提案手法はグラフへのDOCの自然な適応よりも一貫して優れていることがわかった。 具体的には、最小の履歴サイズを用いた実験では、gDOCの分布外検出スコアは0.09であり、DOCは0.01である。 さらに、gDOCは、DOCの0.25(32%増加)に比べて0.33の、分布内分類と分布外検出を組み合わせたOpen-F1スコアを達成している。

関連論文リスト

• Open-World Semi-Supervised Learning for Node Classification [53.07866559269709]
  ノード分類のためのオープンワールド半教師付き学習(Open World SSL)は、グラフコミュニティにおいて実用的だが未探索の課題である。 オープンワールド半教師付きノード分類のためのIM Balance-AwareメソッドOpenIMAを提案する。
  論文  参考訳（メタデータ） (2024-03-18T05:12:54Z)
• Generation is better than Modification: Combating High Class Homophily Variance in Graph Anomaly Detection [51.11833609431406]
  異なるクラス間のホモフィリー分布の差は、ホモフィリックグラフやヘテロフィリックグラフよりも著しく大きい。 我々は、この現象を定量的に記述した、クラスホモフィリーバリアンスと呼ばれる新しい計量を導入する。 その影響を軽減するために,ホモフィリーエッジ生成グラフニューラルネットワーク(HedGe)と呼ばれる新しいGNNモデルを提案する。
  論文  参考訳（メタデータ） (2024-03-15T14:26:53Z)
• Learning to Reweight for Graph Neural Network [63.978102332612906]
  グラフニューラルネットワーク(GNN)は、グラフタスクに対して有望な結果を示す。 既存のGNNの一般化能力は、テストとトレーニンググラフデータの間に分散シフトが存在する場合に低下する。 本稿では,分布外一般化能力を大幅に向上させる非線形グラフデコリレーション法を提案する。
  論文  参考訳（メタデータ） (2023-12-19T12:25:10Z)
• Heterophily-Based Graph Neural Network for Imbalanced Classification [19.51668009720269]
  グラフの不均衡な分類をグラフヘテロフィリを考慮した一意なアプローチを導入する。 我々は,不均衡な分類戦略をヘテロフィリア認識GNNと統合したFast Im-GBKを提案する。 実世界のグラフに関する我々の実験は、ノード分類タスクの分類性能と効率において、我々のモデルが優れていることを示す。
  論文  参考訳（メタデータ） (2023-10-12T21:19:47Z)
• Certified Graph Unlearning [39.29148804411811]
  グラフ構造化データは実際にユビキタスであり、しばしばグラフニューラルネットワーク(GNN)を使用して処理される 我々は,GNNのemph認定グラフアンラーニングのための最初のフレームワークを紹介する。 ノード機能、エッジ、ノードアンラーニングの3つの異なるタイプのアンラーニング要求を検討する必要がある。
  論文  参考訳（メタデータ） (2022-06-18T07:41:10Z)
• Geometer: Graph Few-Shot Class-Incremental Learning via Prototype Representation [50.772432242082914]
  既存のグラフニューラルネットワークに基づく手法は主に、豊富なラベリングを持つ固定クラス内の未ラベルノードの分類に重点を置いている。 本稿では,この難易度で実用的なグラフ数ショットクラスインクリメンタルラーニング(GFSCIL)問題に着目し,Geometerと呼ばれる新しい手法を提案する。 完全に接続されたニューラルネットワークのクラスを置き換えて再トレーニングする代わりに、Geometerは、最も近いクラスのプロトタイプを見つけることによって、ノードのラベルを予測する。
  論文  参考訳（メタデータ） (2022-05-27T13:02:07Z)
• Graph Neural Network with Curriculum Learning for Imbalanced Node Classification [21.085314408929058]
  グラフニューラルネットワーク(GNN)は,ノード分類などのグラフベースの学習タスクの新興技術である。 本研究では,ノードラベルの不均衡に対するGNNの脆弱性を明らかにする。 本稿では,2つのモジュールからなるカリキュラム学習(GNN-CL)を備えたグラフニューラルネットワークフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-02-05T10:46:11Z)
• Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
  本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。 具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
  論文  参考訳（メタデータ） (2022-01-17T11:57:29Z)
• Graph Classification by Mixture of Diverse Experts [67.33716357951235]
  我々は,不均衡なグラフ分類に多様な専門家の混在を利用したフレームワークであるGraphDIVEを提案する。 GraphDIVEは、分割と並列の原則により、不均衡なグラフデータセットを複数のサブセットに分割するゲーティングネットワークを採用しています。 実世界の不均衡グラフデータセットに関する実験は、GraphDIVEの有効性を示している。
  論文  参考訳（メタデータ） (2021-03-29T14:03:03Z)
• Few-Shot Learning on Graphs via Super-Classes based on Graph Spectral Measures [14.932318540666545]
  グラフニューラルネットワーク (GNN) におけるショットグラフ分類の問題について, 限定ラベル付きグラフの場合, 未確認のクラスを認識するために検討した。 グラフ正規化ラプラシアンのスペクトルに基づいて確率測度を各グラフに割り当てる手法を提案する。
  論文  参考訳（メタデータ） (2020-02-27T17:11:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。