論文の概要: Transfer and Alignment Network for Generalized Category Discovery

• arxiv url: http://arxiv.org/abs/2312.16467v1
• Date: Wed, 27 Dec 2023 08:35:47 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-29 19:29:12.406591
• Title: Transfer and Alignment Network for Generalized Category Discovery
• Title（参考訳）: 一般化カテゴリー発見のための転送とアライメントネットワーク
• Authors: Wenbin An, Feng Tian, Wenkai Shi, Yan Chen, Yaqiang Wu, Qianying Wang, Ping Chen
• Abstract要約: 一般カテゴリー発見(Generalized Category Discovery)は、現実世界における重要な課題である。 既知のカテゴリのパフォーマンスが向上したにもかかわらず、現在の手法は新しいカテゴリでは性能が良くない。 ラベル付きデータとラベルなしデータの間のバイアス付き知識伝達と、ラベルなしデータに対するノイズの多い表現学習である。 本稿では,2つの知識伝達機構を組み込んだ伝達・アライメントネットワーク(TAN)と,2つの特徴アライメント機構による識別的特徴の学習を提案する。
• 参考スコア（独自算出の注目度）: 11.37283148391564
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Generalized Category Discovery is a crucial real-world task. Despite the improved performance on known categories, current methods perform poorly on novel categories. We attribute the poor performance to two reasons: biased knowledge transfer between labeled and unlabeled data and noisy representation learning on the unlabeled data. To mitigate these two issues, we propose a Transfer and Alignment Network (TAN), which incorporates two knowledge transfer mechanisms to calibrate the biased knowledge and two feature alignment mechanisms to learn discriminative features. Specifically, we model different categories with prototypes and transfer the prototypes in labeled data to correct model bias towards known categories. On the one hand, we pull instances with known categories in unlabeled data closer to these prototypes to form more compact clusters and avoid boundary overlap between known and novel categories. On the other hand, we use these prototypes to calibrate noisy prototypes estimated from unlabeled data based on category similarities, which allows for more accurate estimation of prototypes for novel categories that can be used as reliable learning targets later. After knowledge transfer, we further propose two feature alignment mechanisms to acquire both instance- and category-level knowledge from unlabeled data by aligning instance features with both augmented features and the calibrated prototypes, which can boost model performance on both known and novel categories with less noise. Experiments on three benchmark datasets show that our model outperforms SOTA methods, especially on novel categories. Theoretical analysis is provided for an in-depth understanding of our model in general. Our code and data are available at https://github.com/Lackel/TAN.
• Abstract（参考訳）: 一般カテゴリー発見は重要な現実世界の課題である。 既知のカテゴリのパフォーマンスが向上したにもかかわらず、現在の手法は新しいカテゴリでは性能が良くない。 ラベル付きデータとラベルなしデータの間の偏りのある知識伝達とラベルなしデータに対するノイズの多い表現学習である。 そこで本研究では,バイアスド知識を校正するための2つの知識伝達機構と,識別的特徴を学習するための2つの特徴アライメント機構を組み込んだトランスファー・アライメント・ネットワーク(tan)を提案する。 具体的には、プロトタイプを用いて異なるカテゴリをモデル化し、ラベル付きデータのプロトタイプを既知のカテゴリに対するモデルバイアスを補正するために転送する。 一方、ラベルのないデータの既知のカテゴリのインスタンスをこれらのプロトタイプに近づけて、よりコンパクトなクラスタを形成し、既知のカテゴリと新しいカテゴリの境界重なりを避ける。 一方,これらのプロトタイプは,カテゴリの類似性に基づく未ラベルデータから推定される雑音のあるプロトタイプの校正に利用されており,後から信頼性の高い学習ターゲットとして使用できる新しいカテゴリのプロトタイプをより正確に評価することができる。 知識伝達の後,拡張された機能とキャリブレーションされたプロトタイプの両方にインスタンスの特徴を整合させることにより,非ラベルデータからインスタンスレベルとカテゴリレベルの知識を取得するための2つの機能アライメント機構を提案する。 3つのベンチマークデータセットの実験により、我々のモデルはSOTA法、特に新しいカテゴリよりも優れていることが示された。 理論解析は、我々のモデル全般の詳細な理解のために提供される。 コードとデータはhttps://github.com/lackel/tan.comから入手できます。

関連論文リスト

• Solving the Catastrophic Forgetting Problem in Generalized Category Discovery [46.63232918739251]
  Generalized Category Discovery (GCD)は、ラベルなしデータセット内の既知のカテゴリと新しいカテゴリの混合を識別することを目的としている。 最近の最先端手法SimGCDは、既知のクラスデータからの知識を、偏りのある学習を通して、新しいクラスの学習に転送する。 本稿では,従来の手法にシームレスに統合された新しい学習手法であるLegoGCDを提案する。
  論文  参考訳（メタデータ） (2025-01-09T14:31:54Z)
• Unleashing the Potential of Model Bias for Generalized Category Discovery [9.552403124453614]
  一般化カテゴリー発見(Generalized Category Discovery)は、既知のカテゴリーと未定義のカテゴリの両方を特定することを目的とした重要なタスクである。 主な課題は、既知のカテゴリのみに対する事前学習によって引き起こされるモデルバイアスと、新しいカテゴリに対する正確な監督の欠如である。 本稿では,これらの課題に対処するため,SDC(Self-Debiasing)という新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-12-17T03:05:27Z)
• Beyond Known Clusters: Probe New Prototypes for Efficient Generalized Class Discovery [23.359450657842686]
  Generalized Class Discovery (GCD) はラベル付きデータから学んだ知識に基づいてラベルを部分的にラベル付きデータに動的に割り当てることを目的としている。 本稿では,学習可能な潜在的なプロトタイプを導入し,クラスタプロトタイプを拡張する適応型探索機構を提案する。 我々の手法は、スタンフォード・カーズ・データセットの9.7%の差で、最も近い競合相手を上回っている。
  論文  参考訳（メタデータ） (2024-04-13T12:41:40Z)
• Dynamic Conceptional Contrastive Learning for Generalized Category Discovery [76.82327473338734]
  Generalized category discovery (GCD) は、部分的にラベル付けされたデータを自動でクラスタリングすることを目的としている。 ラベル付きデータには、ラベル付きデータの既知のカテゴリだけでなく、新しいカテゴリのインスタンスも含まれている。 GCDの効果的な方法の1つは、ラベルなしデータの識別表現を学習するために自己教師付き学習を適用することである。 本稿では,クラスタリングの精度を効果的に向上する動的概念コントラスト学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-03-30T14:04:39Z)
• Learning Classifiers of Prototypes and Reciprocal Points for Universal Domain Adaptation [79.62038105814658]
  Universal Domainは、ドメインシフトとカテゴリシフトという2つのシフトを処理して、データセット間で知識を転送することを目的としている。 主な課題は、既知のクラス知識の分布をソースからターゲットに適応させながら、未知のターゲットサンプルを正しく識別することである。 既存のほとんどの手法は、まずターゲットが適応した既知の知識を訓練し、次に未知のターゲットサンプルを識別するために単一のしきい値に依存することでこの問題に対処する。
  論文  参考訳（メタデータ） (2022-12-16T09:01:57Z)
• Generalized Category Discovery with Decoupled Prototypical Network [27.1635162759448]
  Decoupled Prototypeal Network (DPN) と呼ばれる新しいモデルを提案する。 カテゴリプロトタイプの2部マッチング問題を定式化することにより、DPNは異なるトレーニング目標を効果的に達成することができる。 DPNは、SPL(Semantic-aware Prototypeal Learning)によって、既知のカテゴリと新しいカテゴリの両方のより差別的な特徴を学習することができる。
  論文  参考訳（メタデータ） (2022-11-28T08:05:45Z)
• Automatically Discovering Novel Visual Categories with Self-supervised Prototype Learning [68.63910949916209]
  本稿では,大規模な画像収集において未知のカテゴリを識別することを目的とした,新しいカテゴリ発見(NCD)の課題に取り組む。 本稿では,プロトタイプ表現学習とプロトタイプ自己学習という,2つの主要な段階からなる適応型プロトタイプ学習手法を提案する。 本研究では,4つのベンチマークデータセットについて広範な実験を行い,提案手法の有効性とロバスト性を示す。
  論文  参考訳（メタデータ） (2022-08-01T16:34:33Z)
• Novel Class Discovery without Forgetting [72.52222295216062]
  我々は NCDwF: Novel Class Discovery without Forgetting の新たな実用的問題設定を特定し,定式化する。 ラベルのないデータから新しいカテゴリのインスタンスを段階的に発見する機械学習モデルを提案する。 CIFAR-10, CIFAR-100, ImageNet-1000に基づく実験プロトコルを導入し, 知識保持と新しいクラス発見のトレードオフを測定する。
  論文  参考訳（メタデータ） (2022-07-21T17:54:36Z)
• Automatically Discovering and Learning New Visual Categories with Ranking Statistics [145.89790963544314]
  我々は,他のクラスをラベル付けした画像コレクションにおいて,新しいクラスを発見する問題に対処する。 汎用クラスタリングモデルを学び、後者を用いて、非競合データ中の新しいクラスを識別する。 我々は,標準分類ベンチマークに対するアプローチと,新しいカテゴリー発見法の性能を,有意なマージンで評価した。
  論文  参考訳（メタデータ） (2020-02-13T18:53:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。