論文の概要: NC-NCD: Novel Class Discovery for Node Classification
- arxiv url: http://arxiv.org/abs/2407.17816v1
- Date: Thu, 25 Jul 2024 07:10:08 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-26 14:57:54.016874
- Title: NC-NCD: Novel Class Discovery for Node Classification
- Title(参考訳): NC-NCD: ノード分類のための新しいクラスディスカバリ
- Authors: Yue Hou, Xueyuan Chen, He Zhu, Romei Liu, Bowen Shi, Jiaheng Liu, Junran Wu, Ke Xu,
- Abstract要約: クラスディスカバリ(NCD)は、以前に確立されたカテゴリから取得した知識を活用することにより、ラベルなしデータ内の新しいカテゴリを識別する。
既存のNCD手法は、古いカテゴリと新しいカテゴリのパフォーマンスのバランスを維持するのに苦労することが多い。
ノード分類のためのより実用的なNCDシナリオ(NC-NCD)を初めて紹介する。
提案する自己学習フレームワークは, SWORDと呼ばれ, NC-NCD設定に採用されている。
- 参考スコア(独自算出の注目度): 28.308556235456766
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Novel Class Discovery (NCD) involves identifying new categories within unlabeled data by utilizing knowledge acquired from previously established categories. However, existing NCD methods often struggle to maintain a balance between the performance of old and new categories. Discovering unlabeled new categories in a class-incremental way is more practical but also more challenging, as it is frequently hindered by either catastrophic forgetting of old categories or an inability to learn new ones. Furthermore, the implementation of NCD on continuously scalable graph-structured data remains an under-explored area. In response to these challenges, we introduce for the first time a more practical NCD scenario for node classification (i.e., NC-NCD), and propose a novel self-training framework with prototype replay and distillation called SWORD, adopted to our NC-NCD setting. Our approach enables the model to cluster unlabeled new category nodes after learning labeled nodes while preserving performance on old categories without reliance on old category nodes. SWORD achieves this by employing a self-training strategy to learn new categories and preventing the forgetting of old categories through the joint use of feature prototypes and knowledge distillation. Extensive experiments on four common benchmarks demonstrate the superiority of SWORD over other state-of-the-art methods.
- Abstract(参考訳): 新たなクラスディスカバリ(NCD)は、以前に確立されたカテゴリから取得した知識を活用することで、ラベルなしデータ内の新しいカテゴリを識別する。
しかし、既存のNCD手法は、古いカテゴリと新しいカテゴリのパフォーマンスのバランスを維持するのに苦労することが多い。
クラス増進的な方法でラベルのない新しいカテゴリを発見することは、より実践的であるが、古いカテゴリの破滅的な忘れ物や、新しいカテゴリを学べないことによって、しばしば妨げられるため、より難しい。
さらに、連続的なスケーラブルなグラフ構造化データに対するNCDの実装は、まだ探索されていない領域である。
これらの課題に対応するために,我々は,ノード分類のためのより実用的なNCDシナリオ(NC-NCD)を初めて紹介し,プロトタイプの再生と蒸留を行うSWORDをNC-NCD設定に適用した,新しい自己学習フレームワークを提案する。
提案手法は,ラベル付きノードを学習した後,古いカテゴリノードに依存せずに古いカテゴリのパフォーマンスを保ちながら,ラベル付きノードをクラスタリングすることを可能にする。
SWORDは、自己学習戦略を用いて新しいカテゴリーを学習し、機能プロトタイプと知識蒸留を併用することで古いカテゴリを忘れないようにすることで、これを達成している。
4つの共通ベンチマークでの大規模な実験は、他の最先端手法よりもSWORDの方が優れていることを示した。
関連論文リスト
- Dynamic Conceptional Contrastive Learning for Generalized Category
Discovery [76.82327473338734]
Generalized category discovery (GCD) は、部分的にラベル付けされたデータを自動でクラスタリングすることを目的としている。
ラベル付きデータには、ラベル付きデータの既知のカテゴリだけでなく、新しいカテゴリのインスタンスも含まれている。
GCDの効果的な方法の1つは、ラベルなしデータの識別表現を学習するために自己教師付き学習を適用することである。
本稿では,クラスタリングの精度を効果的に向上する動的概念コントラスト学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-03-30T14:04:39Z) - Fine-grained Category Discovery under Coarse-grained supervision with
Hierarchical Weighted Self-contrastive Learning [37.6512548064269]
粗粒度監視(FCDC)下での細粒度カテゴリー発見という新たな実践シナリオについて検討する。
FCDCは、粗いラベル付きデータのみを用いて、既知のデータと異なる粒度のカテゴリにモデルを適応させ、かなりのラベル付けコストを削減できるきめ細かなカテゴリを発見することを目的としている。
本稿では,新しい重み付き自己コントラストモジュールを構築し,それを階層的に教師付き学習と組み合わせることで,階層型自己コントラストネットワークを提案する。
論文 参考訳(メタデータ) (2022-10-14T12:06:23Z) - RECALL: Rehearsal-free Continual Learning for Object Classification [24.260824374268314]
畳み込みニューラルネットワークは、分類において顕著な結果を示すが、同時に新しいことを学ぶのに苦労する。
我々は、ディープニューラルネットワークが新しい未知のオブジェクトカテゴリを継続的に学習する、新しいリハーサルのないアプローチを提案する。
我々のアプローチはRECALLと呼ばれ、ネットワークは新しいカテゴリをトレーニングする前に古いカテゴリのロジットを計算することでカテゴリをリコールする。
論文 参考訳(メタデータ) (2022-09-29T13:36:28Z) - Automatically Discovering Novel Visual Categories with Self-supervised
Prototype Learning [68.63910949916209]
本稿では,大規模な画像収集において未知のカテゴリを識別することを目的とした,新しいカテゴリ発見(NCD)の課題に取り組む。
本稿では,プロトタイプ表現学習とプロトタイプ自己学習という,2つの主要な段階からなる適応型プロトタイプ学習手法を提案する。
本研究では,4つのベンチマークデータセットについて広範な実験を行い,提案手法の有効性とロバスト性を示す。
論文 参考訳(メタデータ) (2022-08-01T16:34:33Z) - Novel Class Discovery without Forgetting [72.52222295216062]
我々は NCDwF: Novel Class Discovery without Forgetting の新たな実用的問題設定を特定し,定式化する。
ラベルのないデータから新しいカテゴリのインスタンスを段階的に発見する機械学習モデルを提案する。
CIFAR-10, CIFAR-100, ImageNet-1000に基づく実験プロトコルを導入し, 知識保持と新しいクラス発見のトレードオフを測定する。
論文 参考訳(メタデータ) (2022-07-21T17:54:36Z) - Class-incremental Novel Class Discovery [76.35226130521758]
クラス増進型新規クラス発見(class-iNCD)の課題について検討する。
基本クラスに関する過去の情報を忘れないようにする,クラスiNCDのための新しい手法を提案する。
3つの共通ベンチマークで実施した実験により,本手法が最先端の手法を著しく上回ることを示した。
論文 参考訳(メタデータ) (2022-07-18T13:49:27Z) - Novel Class Discovery in Semantic Segmentation [104.30729847367104]
セマンティックにおける新しいクラス発見(NCDSS)について紹介する。
ラベル付き非結合クラスの集合から事前の知識を与えられた新しいクラスを含むラベル付きイメージのセグメンテーションを目的としている。
NCDSSでは、オブジェクトと背景を区別し、画像内の複数のクラスの存在を処理する必要があります。
本稿では,エントロピーに基づく不確実性モデリングと自己学習(EUMS)フレームワークを提案し,ノイズの多い擬似ラベルを克服する。
論文 参考訳(メタデータ) (2021-12-03T13:31:59Z) - Hierarchical Prototype Networks for Continual Graph Representation
Learning [90.78466005753505]
本稿では,連続的に拡張されたグラフを表現するために,プロトタイプの形式で抽象的な知識のレベルを抽出する階層型プロトタイプネットワーク(HPN)を提案する。
我々はHPNが最先端のベースライン技術を上回るだけでなく、メモリ消費も比較的少ないことを示した。
論文 参考訳(メタデータ) (2021-11-30T14:15:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。