論文の概要: AdaptGCD: Multi-Expert Adapter Tuning for Generalized Category Discovery

• arxiv url: http://arxiv.org/abs/2410.21705v1
• Date: Tue, 29 Oct 2024 03:41:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-30 13:42:10.670170
• Title: AdaptGCD: Multi-Expert Adapter Tuning for Generalized Category Discovery
• Title（参考訳）: AdaptGCD: 一般化カテゴリー発見のためのマルチエキスパートアダプタチューニング
• Authors: Yuxun Qu, Yongqiang Tang, Chenyang Zhang, Wensheng Zhang,
• Abstract要約: Generalized Category Discoveryは、古いカテゴリを分類し、ラベルなしデータの新しいカテゴリを見つけることを目的としている。 GCDに関する既存の研究は、通常、自己教師付き事前訓練されたモデルから目標のGCDタスクに一般的な知識を移すことに費やしている。 本稿では,GCDタスクにアダプタチューニングを導入する最初の試みであるAdaptGCDという,アダプタチューニングに基づく新しい手法を提案する。
• 参考スコア（独自算出の注目度）: 15.640670797555579
• License:
• Abstract: Different from the traditional semi-supervised learning paradigm that is constrained by the close-world assumption, Generalized Category Discovery (GCD) presumes that the unlabeled dataset contains new categories not appearing in the labeled set, and aims to not only classify old categories but also discover new categories in the unlabeled data. Existing studies on GCD typically devote to transferring the general knowledge from the self-supervised pretrained model to the target GCD task via some fine-tuning strategies, such as partial tuning and prompt learning. Nevertheless, these fine-tuning methods fail to make a sound balance between the generalization capacity of pretrained backbone and the adaptability to the GCD task. To fill this gap, in this paper, we propose a novel adapter-tuning-based method named AdaptGCD, which is the first work to introduce the adapter tuning into the GCD task and provides some key insights expected to enlighten future research. Furthermore, considering the discrepancy of supervision information between the old and new classes, a multi-expert adapter structure equipped with a route assignment constraint is elaborately devised, such that the data from old and new classes are separated into different expert groups. Extensive experiments are conducted on 7 widely-used datasets. The remarkable improvements in performance highlight the effectiveness of our proposals.
• Abstract（参考訳）: 近世界の仮定に制約される従来の半教師付き学習パラダイムとは異なり、一般カテゴリー発見(GCD)は、ラベル付きデータセットがラベル付きデータセットにない新しいカテゴリを含んでいると仮定し、古いカテゴリを分類するだけでなく、ラベル付きデータの中に新しいカテゴリを発見することを目指す。 GCDに関する既存の研究は、通常、自己教師付き事前訓練されたモデルから目標のGCDタスクへの一般的な知識を、部分的チューニングや素早い学習といったいくつかの微調整戦略を通じて伝達することに費やしている。 しかしながら、これらの微調整手法は、事前訓練されたバックボーンの一般化能力とGCDタスクへの適応性との間に音のバランスを保たない。 このギャップを埋めるために,本論文では,GCDタスクにアダプタチューニングを導入する最初の試みであるAdaptGCDという,アダプタチューニングに基づく新しい手法を提案する。 さらに、旧クラスと新クラスの監督情報の相違を考慮すると、ルート割り当て制約を備えたマルチエキスパートアダプタ構造を精巧に考案し、旧クラスと新クラスのデータを異なる専門家グループに分割する。 大規模な実験は7つの広く使われているデータセットで実施される。 パフォーマンスの顕著な改善は、提案の有効性を強調します。

関連論文リスト

• HG-Adapter: Improving Pre-Trained Heterogeneous Graph Neural Networks with Dual Adapters [53.97380482341493]
  事前学習, 即時学習」は, 事前学習したヘテロジニアスグラフニューラルネットワーク(HGNN)のチューニング性能を示す。 本稿では、2つの新しいアダプタと潜在的ラベル付きデータ拡張を組み合わせた統合フレームワークを提案し、事前学習されたHGNNモデルの一般化を改善する。
  論文  参考訳（メタデータ） (2024-11-02T06:43:54Z)
• Happy: A Debiased Learning Framework for Continual Generalized Category Discovery [54.54153155039062]
  本稿では,C-GCD(Continuous Generalized Category Discovery)の未探索課題について考察する。 C-GCDは、学習済みのクラスを認識する能力を維持しながら、ラベルのないデータから新しいクラスを漸進的に発見することを目的としている。 本稿では,ハードネスを意識したプロトタイプサンプリングとソフトエントロピー正規化を特徴とする,偏りのある学習フレームワークであるHappyを紹介する。
  論文  参考訳（メタデータ） (2024-10-09T04:18:51Z)
• Active Generalized Category Discovery [60.69060965936214]
  GCD(Generalized Category Discovery)は、新しいクラスと古いクラスの未ラベルのサンプルをクラスタ化するための取り組みである。 我々は,能動的学習の精神を取り入れて,能動的一般化カテゴリー発見(AGCD)という新たな設定を提案する。 提案手法は, 汎用および微粒なデータセット上での最先端性能を実現する。
  論文  参考訳（メタデータ） (2024-03-07T07:12:24Z)
• Generalized Categories Discovery for Long-tailed Recognition [8.69033435074757]
  一般化されたクラスディスカバリは、既知のカテゴリと未知のカテゴリの両方をラベルのないデータセットから識別する上で重要な役割を果たす。 我々の研究は、長い尾の一般カテゴリー発見(Long-tailed GCD)パラダイムに焦点をあてて、この断線を橋渡ししようと試みています。 長い尾を持つGCDがもたらす特異な課題に対応するため、2つの戦略正則化に固定された頑健な方法論を提案する。
  論文  参考訳（メタデータ） (2023-12-04T09:21:30Z)
• Category Adaptation Meets Projected Distillation in Generalized Continual Category Discovery [0.9349784561232036]
  Generalized Continual Category Discovery (GCCD)は、シーケンシャルに到着し、部分的にラベル付けされたデータセットから学ぶことに取り組む。 本稿では,学習可能なプロジェクタと特徴蒸留を統合し,過去の知識を犠牲にすることなくモデル適応性を向上する手法を提案する。 それぞれのコンポーネントが個別に穏やかなメリットを提供する一方で、その組み合わせであるCAMPは、新しい情報学習と古い情報保持のバランスを大幅に改善します。
  論文  参考訳（メタデータ） (2023-08-23T13:02:52Z)
• Dynamic Conceptional Contrastive Learning for Generalized Category Discovery [76.82327473338734]
  Generalized category discovery (GCD) は、部分的にラベル付けされたデータを自動でクラスタリングすることを目的としている。 ラベル付きデータには、ラベル付きデータの既知のカテゴリだけでなく、新しいカテゴリのインスタンスも含まれている。 GCDの効果的な方法の1つは、ラベルなしデータの識別表現を学習するために自己教師付き学習を適用することである。 本稿では,クラスタリングの精度を効果的に向上する動的概念コントラスト学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-03-30T14:04:39Z)
• Guiding Generative Language Models for Data Augmentation in Few-Shot Text Classification [59.698811329287174]
  我々は、GPT-2を用いて、分類性能を向上させるために、人工訓練インスタンスを生成する。 実験の結果,少数のラベルインスタンスでGPT-2を微調整すると,一貫した分類精度が向上することがわかった。
  論文  参考訳（メタデータ） (2021-11-17T12:10:03Z)
• Binary Classification from Multiple Unlabeled Datasets via Surrogate Set Classification [94.55805516167369]
  我々は m 個の U 集合を $mge2$ で二進分類する新しい手法を提案する。 我々のキーとなる考え方は、サロゲート集合分類(SSC)と呼ばれる補助的分類タスクを考えることである。
  論文  参考訳（メタデータ） (2021-02-01T07:36:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。