論文の概要: Generalized Category Discovery with Decoupled Prototypical Network
- arxiv url: http://arxiv.org/abs/2211.15115v1
- Date: Mon, 28 Nov 2022 08:05:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-29 14:36:15.146236
- Title: Generalized Category Discovery with Decoupled Prototypical Network
- Title(参考訳): Decoupled Prototypeal Networkによる一般化カテゴリー探索
- Authors: Wenbin An, Feng Tian, Qinghua Zheng, Wei Ding, QianYing Wang, Ping
Chen
- Abstract要約: Decoupled Prototypeal Network (DPN) と呼ばれる新しいモデルを提案する。
カテゴリプロトタイプの2部マッチング問題を定式化することにより、DPNは異なるトレーニング目標を効果的に達成することができる。
DPNは、SPL(Semantic-aware Prototypeal Learning)によって、既知のカテゴリと新しいカテゴリの両方のより差別的な特徴を学習することができる。
- 参考スコア(独自算出の注目度): 27.1635162759448
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generalized Category Discovery (GCD) aims to recognize both known and novel
categories from a set of unlabeled data, based on another dataset labeled with
only known categories. Without considering differences between known and novel
categories, current methods learn about them in a coupled manner, which can
hurt model's generalization and discriminative ability. Furthermore, the
coupled training approach prevents these models transferring category-specific
knowledge explicitly from labeled data to unlabeled data, which can lose
high-level semantic information and impair model performance. To mitigate above
limitations, we present a novel model called Decoupled Prototypical Network
(DPN). By formulating a bipartite matching problem for category prototypes, DPN
can not only decouple known and novel categories to achieve different training
targets effectively, but also align known categories in labeled and unlabeled
data to transfer category-specific knowledge explicitly and capture high-level
semantics. Furthermore, DPN can learn more discriminative features for both
known and novel categories through our proposed Semantic-aware Prototypical
Learning (SPL). Besides capturing meaningful semantic information, SPL can also
alleviate the noise of hard pseudo labels through semantic-weighted soft
assignment. Extensive experiments show that DPN outperforms state-of-the-art
models by a large margin on all evaluation metrics across multiple benchmark
datasets. Code and data are available at https://github.com/Lackel/DPN.
- Abstract(参考訳): Generalized Category Discovery (GCD)は、既知のカテゴリのみをラベル付けした別のデータセットに基づいて、ラベルなしデータの集合から既知のカテゴリと新しいカテゴリの両方を認識することを目的としている。
既知のカテゴリと新しいカテゴリの違いを考慮せずに、現在の手法はそれらを結合的に学習し、モデルの一般化と識別能力を損なう。
さらに,これらのモデルがラベル付きデータからラベルなしデータへ,カテゴリ固有の知識を明示的に伝達することを防止し,高レベルのセマンティック情報やモデル性能を損なうことができる。
上記の制約を緩和するために,Decoupled Prototypeal Network (DPN) と呼ばれる新しいモデルを提案する。
カテゴリプロトタイプの両部マッチング問題を定式化することにより、DPNは、既知のカテゴリと新しいカテゴリを分離して、異なるトレーニング目標を効果的に達成するだけでなく、ラベル付きおよびラベルなしデータの既知のカテゴリを整列させて、カテゴリ固有の知識を明示的に伝達し、ハイレベルなセマンティクスを捉えることができる。
さらに、DPNは、SPL(Semantic-aware Prototypeal Learning)によって、既知のカテゴリと新しいカテゴリの両方のより差別的な特徴を学習することができる。
意味のある意味情報を取得することに加えて、SPLは意味重み付けされたソフトアロケーションによって硬い擬似ラベルのノイズを軽減することもできる。
大規模な実験により、DPNは複数のベンチマークデータセットのすべての評価指標に対して、最先端のモデルよりも大きなマージンで優れていることが示された。
コードとデータはhttps://github.com/lackel/dpnで入手できる。
関連論文リスト
- Prototypical Hash Encoding for On-the-Fly Fine-Grained Category Discovery [65.16724941038052]
カテゴリ対応プロトタイプ生成(CPG)とディスクリミカテゴリ5.3%(DCE)が提案されている。
CPGは、各カテゴリを複数のプロトタイプで表現することで、カテゴリ内の多様性を完全にキャプチャすることを可能にする。
DCEは生成されたカテゴリプロトタイプのガイダンスによってハッシュコードの識別能力を向上する。
論文 参考訳(メタデータ) (2024-10-24T23:51:40Z) - Transfer and Alignment Network for Generalized Category Discovery [11.37283148391564]
一般カテゴリー発見(Generalized Category Discovery)は、現実世界における重要な課題である。
既知のカテゴリのパフォーマンスが向上したにもかかわらず、現在の手法は新しいカテゴリでは性能が良くない。
ラベル付きデータとラベルなしデータの間のバイアス付き知識伝達と、ラベルなしデータに対するノイズの多い表現学習である。
本稿では,2つの知識伝達機構を組み込んだ伝達・アライメントネットワーク(TAN)と,2つの特徴アライメント機構による識別的特徴の学習を提案する。
論文 参考訳(メタデータ) (2023-12-27T08:35:47Z) - Transductive Learning for Textual Few-Shot Classification in API-based
Embedding Models [46.79078308022975]
わずかなラベル付きデータで新しい分類タスクを実行するために、モデルをトレーニングするショットは少ない。
本稿では,事前学習したモデルの埋め込みを,計算コストとデータプライバシ制約を備えたゲートAPIを通じて提供するシナリオを紹介する。
我々はNLPコミュニティが見落としてきた学習パラダイムであるトランスダクティブ推論を提案する。
論文 参考訳(メタデータ) (2023-10-21T12:47:10Z) - Dynamic Conceptional Contrastive Learning for Generalized Category
Discovery [76.82327473338734]
Generalized category discovery (GCD) は、部分的にラベル付けされたデータを自動でクラスタリングすることを目的としている。
ラベル付きデータには、ラベル付きデータの既知のカテゴリだけでなく、新しいカテゴリのインスタンスも含まれている。
GCDの効果的な方法の1つは、ラベルなしデータの識別表現を学習するために自己教師付き学習を適用することである。
本稿では,クラスタリングの精度を効果的に向上する動的概念コントラスト学習フレームワークを提案する。
論文 参考訳(メタデータ) (2023-03-30T14:04:39Z) - Fine-grained Category Discovery under Coarse-grained supervision with
Hierarchical Weighted Self-contrastive Learning [37.6512548064269]
粗粒度監視(FCDC)下での細粒度カテゴリー発見という新たな実践シナリオについて検討する。
FCDCは、粗いラベル付きデータのみを用いて、既知のデータと異なる粒度のカテゴリにモデルを適応させ、かなりのラベル付けコストを削減できるきめ細かなカテゴリを発見することを目的としている。
本稿では,新しい重み付き自己コントラストモジュールを構築し,それを階層的に教師付き学習と組み合わせることで,階層型自己コントラストネットワークを提案する。
論文 参考訳(メタデータ) (2022-10-14T12:06:23Z) - Novel Class Discovery without Forgetting [72.52222295216062]
我々は NCDwF: Novel Class Discovery without Forgetting の新たな実用的問題設定を特定し,定式化する。
ラベルのないデータから新しいカテゴリのインスタンスを段階的に発見する機械学習モデルを提案する。
CIFAR-10, CIFAR-100, ImageNet-1000に基づく実験プロトコルを導入し, 知識保持と新しいクラス発見のトレードオフを測定する。
論文 参考訳(メタデータ) (2022-07-21T17:54:36Z) - Class-incremental Novel Class Discovery [76.35226130521758]
クラス増進型新規クラス発見(class-iNCD)の課題について検討する。
基本クラスに関する過去の情報を忘れないようにする,クラスiNCDのための新しい手法を提案する。
3つの共通ベンチマークで実施した実験により,本手法が最先端の手法を著しく上回ることを示した。
論文 参考訳(メタデータ) (2022-07-18T13:49:27Z) - Label-enhanced Prototypical Network with Contrastive Learning for
Multi-label Few-shot Aspect Category Detection [17.228616743739412]
マルチラベルアスペクトカテゴリ検出は、与えられたレビュー文に複数のアスペクトカテゴリを含むことを可能にする。
複数ラベルの複数ショットのアスペクトカテゴリー検出のための新しいラベル強化ネットワーク(LPN)を提案する。
論文 参考訳(メタデータ) (2022-06-14T02:37:44Z) - Dual Progressive Prototype Network for Generalized Zero-Shot Learning [77.0715029826957]
Generalized Zero-Shot Learning (GZSL) は、セカンダリなセマンティック情報、例えばカテゴリ属性を持つ新しいカテゴリを認識することを目的としている。
我々のアプローチはDPPN(Dual Progressive Prototype Network)と呼ばれ、属性やカテゴリの視覚パターンを記録する2種類のプロトタイプを構築している。
4つのベンチマークの実験により、DPPNはGZSLの領域シフト問題を効果的に軽減することが示された。
論文 参考訳(メタデータ) (2021-11-03T08:43:29Z) - Learning Adaptive Embedding Considering Incremental Class [55.21855842960139]
CIL(Class-Incremental Learning)は,未知のクラスを逐次生成するストリーミングデータを用いて,信頼性の高いモデルをトレーニングすることを目的としている。
従来のクローズドセット学習とは異なり、CILには2つの大きな課題がある。
新たなクラスが検出された後、以前のデータ全体を使用して再トレーニングすることなく、モデルを更新する必要がある。
論文 参考訳(メタデータ) (2020-08-31T04:11:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。