論文の概要: Composing Novel Classes: A Concept-Driven Approach to Generalized Category Discovery
- arxiv url: http://arxiv.org/abs/2410.13285v1
- Date: Thu, 17 Oct 2024 07:30:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-18 13:19:46.743347
- Title: Composing Novel Classes: A Concept-Driven Approach to Generalized Category Discovery
- Title(参考訳): 新しいクラスを構成する: 一般化カテゴリー発見への概念駆動アプローチ
- Authors: Chuyu Zhang, Peiyan Gu, Xueyang Yu, Xuming He,
- Abstract要約: 我々は、ラベルなしデータセットにおける新しいクラスを発見することを目的として、一般化されたカテゴリ発見問題に取り組む。
本稿では,GCDのための新しい概念学習フレームワークであるConceptGCDを紹介し,概念を2つのタイプに分類する。
我々のフレームワークはまず、既知のクラス事前学習モデルにより既知のクラス概念を抽出し、そこから導出可能な概念を生成する。
- 参考スコア(独自算出の注目度): 13.68907640197364
- License:
- Abstract: We tackle the generalized category discovery (GCD) problem, which aims to discover novel classes in unlabeled datasets by leveraging the knowledge of known classes. Previous works utilize the known class knowledge through shared representation spaces. Despite their progress, our analysis experiments show that novel classes can achieve impressive clustering results on the feature space of a known class pre-trained model, suggesting that existing methods may not fully utilize known class knowledge. To address it, we introduce a novel concept learning framework for GCD, named ConceptGCD, that categorizes concepts into two types: derivable and underivable from known class concepts, and adopts a stage-wise learning strategy to learn them separately. Specifically, our framework first extracts known class concepts by a known class pre-trained model and then produces derivable concepts from them by a generator layer with a covariance-augmented loss. Subsequently, we expand the generator layer to learn underivable concepts in a balanced manner ensured by a concept score normalization strategy and integrate a contrastive loss to preserve previously learned concepts. Extensive experiments on various benchmark datasets demonstrate the superiority of our approach over the previous state-of-the-art methods. Code will be available soon.
- Abstract(参考訳): 我々は、既知のクラスの知識を活用して、ラベルのないデータセットで新しいクラスを発見することを目的として、一般化されたカテゴリ発見(GCD)問題に取り組む。
先行研究は、共有表現空間を通じて既知のクラス知識を利用する。
それらの進展にもかかわらず,本研究では,既知のクラス事前学習モデルの特徴空間において,新しいクラスが優れたクラスタリングを達成できることを示し,既存の手法が既知のクラス知識を十分に活用できないことを示唆している。
そこで本研究では,GCDのための新しい概念学習フレームワークであるConceptGCDを紹介し,概念を既知のクラス概念から導出可能かつ過小評価可能な2つのタイプに分類し,段階学習戦略を用いて個別に学習する。
具体的には、まず、既知のクラス事前学習モデルにより既知のクラス概念を抽出し、共分散付加損失を持つジェネレータ層によりそれらから導出可能な概念を生成する。
次いで,概念スコア正規化戦略によって保証されたバランスの取れた方法で,生成可能概念を学習するためにジェネレータ層を拡張し,従来学習されていた概念を保存するためにコントラスト損失を統合する。
様々なベンチマークデータセットに対する大規模な実験は、従来の最先端手法よりもアプローチの優位性を実証している。
コードはまもなく利用可能になる。
関連論文リスト
- SelEx: Self-Expertise in Fine-Grained Generalized Category Discovery [55.72840638180451]
Generalized Category Discoveryは、新しいカテゴリーを同時に発見し、既知のカテゴリを正確に分類することを目的としている。
自己超越と対照的な学習に強く依存する伝統的な手法は、細かなカテゴリーを区別する場合にしばしば不足する。
モデルが微妙な違いを認識し、未知のカテゴリを明らかにする能力を高める。
論文 参考訳(メタデータ) (2024-08-26T15:53:50Z) - Discover-then-Name: Task-Agnostic Concept Bottlenecks via Automated Concept Discovery [52.498055901649025]
ディープニューラルネットワークの「ブラックボックス」問題に対処するために、概念ボトルネックモデル(CBM)が提案されている。
本稿では,典型的なパラダイムを逆転させる新しいCBMアプローチであるDiscover-then-Name-CBM(DN-CBM)を提案する。
我々の概念抽出戦略は、下流のタスクに非依存であり、既にそのモデルに知られている概念を使用するため、効率的である。
論文 参考訳(メタデータ) (2024-07-19T17:50:11Z) - Self-Cooperation Knowledge Distillation for Novel Class Discovery [8.984031974257274]
新たなクラス発見(NCD)は、既知のクラスについて既に学んだ知識を活用することで、ラベルのないセットで未知のクラスと新しいクラスを発見することを目的としている。
本研究では, 自己協調的知識蒸留法 (SCKD) を提案し, 各トレーニングサンプル(既知の, 新規, ラベル付, ラベル付, 未ラベル) を, レビューと発見の両方に活用する。
論文 参考訳(メタデータ) (2024-07-02T03:49:48Z) - Few-Shot Class-Incremental Learning via Training-Free Prototype
Calibration [67.69532794049445]
既存のメソッドでは、新しいクラスのサンプルをベースクラスに誤分類する傾向があり、新しいクラスのパフォーマンスが低下する。
我々は,新しいクラスの識別性を高めるため,簡易かつ効果的なトレーニング-フレア・カロブラシアン (TEEN) 戦略を提案する。
論文 参考訳(メタデータ) (2023-12-08T18:24:08Z) - Class-relation Knowledge Distillation for Novel Class Discovery [16.461242381109276]
主な課題は、既知のクラスデータの知識を新しいクラスの学習に転送することである。
本稿では,既知のクラスに基づいて学習したモデルの予測クラス分布に基づいて,新しいクラスに対するクラス関係表現を提案する。
本稿では,クラス関係表現を利用して新しいクラスの学習を規則化する新しい知識蒸留フレームワークを提案する。
論文 参考訳(メタデータ) (2023-07-18T11:35:57Z) - Multi-Faceted Distillation of Base-Novel Commonality for Few-shot Object
Detection [58.48995335728938]
基本クラスと新規クラスの間に3種類のクラスに依存しない共通点を明示的に学習する。
提案手法は,既存の微調整方式のほとんどに容易に統合でき,一貫した性能向上が期待できる。
論文 参考訳(メタデータ) (2022-07-22T16:46:51Z) - Class-incremental Novel Class Discovery [76.35226130521758]
クラス増進型新規クラス発見(class-iNCD)の課題について検討する。
基本クラスに関する過去の情報を忘れないようにする,クラスiNCDのための新しい手法を提案する。
3つの共通ベンチマークで実施した実験により,本手法が最先端の手法を著しく上回ることを示した。
論文 参考訳(メタデータ) (2022-07-18T13:49:27Z) - Mutual Information-guided Knowledge Transfer for Novel Class Discovery [23.772336970389834]
本稿では,目に見えるクラスと目に見えないクラス間で意味的知識を伝達する原理と一般的な手法を提案する。
提案手法は,いくつかのベンチマークにおいて,従来のSOTAよりも有意差があることが示唆された。
論文 参考訳(メタデータ) (2022-06-24T03:52:25Z) - Open-Set Representation Learning through Combinatorial Embedding [62.05670732352456]
ラベル付きクラスとラベルなしクラスの両方の例に基づく表現学習を通じて、データセットにおける新しい概念を識別することに興味がある。
異種ラベル空間上の複数の教師付きメタクラス分類器によって与えられる構成知識を用いて、自然に未知のクラス内のサンプルをクラスタリングする学習手法を提案する。
提案アルゴリズムは,未確認クラスの識別性の向上と,新しいクラスに一般化可能な既知のクラス表現の学習を併用して,新しい概念を探索する。
論文 参考訳(メタデータ) (2021-06-29T11:51:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。