論文の概要: Lifelong Learning in Evolving Graphs with Limited Labeled Data and
Unseen Class Detection
- arxiv url: http://arxiv.org/abs/2112.10558v1
- Date: Mon, 20 Dec 2021 14:29:39 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-21 17:33:26.125078
- Title: Lifelong Learning in Evolving Graphs with Limited Labeled Data and
Unseen Class Detection
- Title（参考訳）: 限定ラベル付きデータと見えないクラス検出を用いた進化グラフの生涯学習
- Authors: Lukas Galke, Iacopo Vagliano, Benedikt Franke, Tobias Zielke, Ansgar
Scherp
- Abstract要約: 本稿では、評価プロトコルとともに、グラフデータのための生涯学習フレームワークを提案する。
オープンワールドのノード分類では、驚くほど少ない過去のタスクからのデータは、過去のタスクのデータを記憶することで到達したパフォーマンスに到達するのに十分です。
目に見えないクラス検出の課題では、重み付けされたクロスエントロピー損失を用いることが安定性にとって重要であることが判明した。
- 参考スコア（独自算出の注目度）: 4.217343824099139
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large-scale graph data in the real-world are often dynamic rather than
static. The data are changing with new nodes, edges, and even classes appearing
over time, such as in citation networks and research-and-development
collaboration networks. Graph neural networks (GNNs) have emerged as the
standard method for numerous tasks on graph-structured data. In this work, we
employ a two-step procedure to explore how GNNs can be incrementally adapted to
new unseen graph data. First, we analyze the verge between transductive and
inductive learning on standard benchmark datasets. After inductive pretraining,
we add unlabeled data to the graph and show that the models are stable. Then,
we explore the case of continually adding more and more labeled data, while
considering cases, where not all past instances are annotated with class
labels. Furthermore, we introduce new classes while the graph evolves and
explore methods that automatically detect instances from previously unseen
classes. In order to deal with evolving graphs in a principled way, we propose
a lifelong learning framework for graph data along with an evaluation protocol.
In this framework, we evaluate representative GNN architectures. We observe
that implicit knowledge within model parameters becomes more important when
explicit knowledge, i.e., data from past tasks, is limited. We find that in
open-world node classification, the data from surprisingly few past tasks are
sufficient to reach the performance reached by remembering data from all past
tasks. In the challenging task of unseen class detection, we find that using a
weighted cross-entropy loss is important for stability.
- Abstract（参考訳）: 実世界の大規模グラフデータは静的ではなく動的であることが多い。
データは、新しいノード、エッジ、さらには引用ネットワークや研究開発コラボレーションネットワークなど、時間とともに現れるクラスによって変化している。
グラフニューラルネットワーク(GNN)は、グラフ構造化データにおける多数のタスクの標準手法として登場した。
本研究では,新たな未確認グラフデータにGNNを段階的に適用する方法を2段階の手順で検討する。
まず、標準ベンチマークデータセットにおけるトランスダクティブ学習とインダクティブ学習の差について分析する。
帰納的事前学習の後、グラフにラベルのないデータを加え、モデルが安定であることを示す。
次に、過去のすべてのインスタンスがクラスラベルでアノテートされていないケースを考慮しながら、ラベル付きデータを継続的に追加するケースについて検討する。
さらに、グラフが進化している間に新しいクラスを導入し、それまで見つからなかったクラスからインスタンスを自動的に検出するメソッドを探索する。
グラフの進化を原則的に扱うために,評価プロトコルとともに,グラフデータのための生涯学習フレームワークを提案する。
本稿では,代表的GNNアーキテクチャを評価する。
モデルパラメータ内の暗黙的な知識は、例えば過去のタスクのデータが制限されたときに、より重要になる。
オープンワールドノード分類では、驚くほど少ない過去のタスクからのデータが、過去のタスクのデータを記憶することで到達したパフォーマンスに到達するのに十分であることがわかった。
未知のクラス検出の課題では,重み付きクロスエントロピー損失が安定性に重要であることがわかった。
関連論文リスト
- Open-World Semi-Supervised Learning for Node Classification [53.07866559269709]
ノード分類のためのオープンワールド半教師付き学習(Open World SSL)は、グラフコミュニティにおいて実用的だが未探索の課題である。
オープンワールド半教師付きノード分類のためのIM Balance-AwareメソッドOpenIMAを提案する。
論文 参考訳（メタデータ） (2024-03-18T05:12:54Z) - Generation is better than Modification: Combating High Class Homophily Variance in Graph Anomaly Detection [51.11833609431406]
異なるクラス間のホモフィリー分布の差は、ホモフィリックグラフやヘテロフィリックグラフよりも著しく大きい。
我々は、この現象を定量的に記述した、クラスホモフィリーバリアンスと呼ばれる新しい計量を導入する。
その影響を軽減するために,ホモフィリーエッジ生成グラフニューラルネットワーク(HedGe)と呼ばれる新しいGNNモデルを提案する。
論文 参考訳（メタデータ） (2024-03-15T14:26:53Z) - Learning to Reweight for Graph Neural Network [63.978102332612906]
グラフニューラルネットワーク(GNN)は、グラフタスクに対して有望な結果を示す。
既存のGNNの一般化能力は、テストとトレーニンググラフデータの間に分散シフトが存在する場合に低下する。
本稿では,分布外一般化能力を大幅に向上させる非線形グラフデコリレーション法を提案する。
論文 参考訳（メタデータ） (2023-12-19T12:25:10Z) - Heterophily-Based Graph Neural Network for Imbalanced Classification [19.51668009720269]
グラフの不均衡な分類をグラフヘテロフィリを考慮した一意なアプローチを導入する。
我々は,不均衡な分類戦略をヘテロフィリア認識GNNと統合したFast Im-GBKを提案する。
実世界のグラフに関する我々の実験は、ノード分類タスクの分類性能と効率において、我々のモデルが優れていることを示す。
論文 参考訳（メタデータ） (2023-10-12T21:19:47Z) - Certified Graph Unlearning [39.29148804411811]
グラフ構造化データは実際にユビキタスであり、しばしばグラフニューラルネットワーク(GNN)を使用して処理される
我々は,GNNのemph認定グラフアンラーニングのための最初のフレームワークを紹介する。
ノード機能、エッジ、ノードアンラーニングの3つの異なるタイプのアンラーニング要求を検討する必要がある。
論文 参考訳（メタデータ） (2022-06-18T07:41:10Z) - Geometer: Graph Few-Shot Class-Incremental Learning via Prototype
Representation [50.772432242082914]
既存のグラフニューラルネットワークに基づく手法は主に、豊富なラベリングを持つ固定クラス内の未ラベルノードの分類に重点を置いている。
本稿では,この難易度で実用的なグラフ数ショットクラスインクリメンタルラーニング(GFSCIL)問題に着目し,Geometerと呼ばれる新しい手法を提案する。
完全に接続されたニューラルネットワークのクラスを置き換えて再トレーニングする代わりに、Geometerは、最も近いクラスのプロトタイプを見つけることによって、ノードのラベルを予測する。
論文 参考訳（メタデータ） (2022-05-27T13:02:07Z) - Graph Neural Network with Curriculum Learning for Imbalanced Node
Classification [21.085314408929058]
グラフニューラルネットワーク(GNN)は,ノード分類などのグラフベースの学習タスクの新興技術である。
本研究では,ノードラベルの不均衡に対するGNNの脆弱性を明らかにする。
本稿では,2つのモジュールからなるカリキュラム学習(GNN-CL)を備えたグラフニューラルネットワークフレームワークを提案する。
論文 参考訳（メタデータ） (2022-02-05T10:46:11Z) - Towards Unsupervised Deep Graph Structure Learning [67.58720734177325]
本稿では,学習したグラフトポロジを外部ガイダンスなしでデータ自身で最適化する,教師なしグラフ構造学習パラダイムを提案する。
具体的には、元のデータから"アンカーグラフ"として学習目標を生成し、対照的な損失を用いてアンカーグラフと学習グラフとの一致を最大化する。
論文 参考訳（メタデータ） (2022-01-17T11:57:29Z) - Graph Classification by Mixture of Diverse Experts [67.33716357951235]
我々は,不均衡なグラフ分類に多様な専門家の混在を利用したフレームワークであるGraphDIVEを提案する。
GraphDIVEは、分割と並列の原則により、不均衡なグラフデータセットを複数のサブセットに分割するゲーティングネットワークを採用しています。
実世界の不均衡グラフデータセットに関する実験は、GraphDIVEの有効性を示している。
論文 参考訳（メタデータ） (2021-03-29T14:03:03Z) - Few-Shot Learning on Graphs via Super-Classes based on Graph Spectral
Measures [14.932318540666545]
グラフニューラルネットワーク (GNN) におけるショットグラフ分類の問題について, 限定ラベル付きグラフの場合, 未確認のクラスを認識するために検討した。
グラフ正規化ラプラシアンのスペクトルに基づいて確率測度を各グラフに割り当てる手法を提案する。
論文 参考訳（メタデータ） (2020-02-27T17:11:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。