論文の概要: Incremental Few-Shot Learning via Implanting and Compressing
- arxiv url: http://arxiv.org/abs/2203.10297v1
- Date: Sat, 19 Mar 2022 11:04:43 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-22 16:11:04.347749
- Title: Incremental Few-Shot Learning via Implanting and Compressing
- Title（参考訳）: 挿入・圧縮によるインクリメンタルフットショット学習
- Authors: Yiting Li, Haiyue Zhu, Xijia Feng, Zilong Cheng, Jun Ma, Cheng Xiang,
Prahlad Vadakkepat, Tong Heng Lee
- Abstract要約: 増分的なFew-Shot Learningは、いくつかの例から新しいクラスを継続的に学習するモデルを必要とする。
我々はtextbfImplanting と textbfCompressing と呼ばれる2段階の学習戦略を提案する。
具体的には、textbfImplantingのステップにおいて、新しいクラスのデータ分布をデータ・アサンダント・ベース・セットの助けを借りて模倣することを提案する。
textbfのステップでは、特徴抽出器を各新規クラスを正確に表現し、クラス内コンパクト性を高める。
- 参考スコア（独自算出の注目度）: 13.122771115838523
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This work focuses on tackling the challenging but realistic visual task of
Incremental Few-Shot Learning (IFSL), which requires a model to continually
learn novel classes from only a few examples while not forgetting the base
classes on which it was pre-trained. Our study reveals that the challenges of
IFSL lie in both inter-class separation and novel-class representation. Dur to
intra-class variation, a novel class may implicitly leverage the knowledge from
multiple base classes to construct its feature representation. Hence, simply
reusing the pre-trained embedding space could lead to a scattered feature
distribution and result in category confusion. To address such issues, we
propose a two-step learning strategy referred to as \textbf{Im}planting and
\textbf{Co}mpressing (\textbf{IMCO}), which optimizes both feature space
partition and novel class reconstruction in a systematic manner. Specifically,
in the \textbf{Implanting} step, we propose to mimic the data distribution of
novel classes with the assistance of data-abundant base set, so that a model
could learn semantically-rich features that are beneficial for discriminating
between the base and other unseen classes. In the \textbf{Compressing} step, we
adapt the feature extractor to precisely represent each novel class for
enhancing intra-class compactness, together with a regularized parameter
updating rule for preventing aggressive model updating. Finally, we demonstrate
that IMCO outperforms competing baselines with a significant margin, both in
image classification task and more challenging object detection task.
- Abstract（参考訳）: この研究は、プレトレーニングされたベースクラスを忘れずに、少数の例から新しいクラスを継続的に学習するモデルを必要とする、インクリメンタルなマイナショット学習(ifsl)の、挑戦的で現実的なビジュアルタスクに取り組むことに焦点を当てている。
本研究により,IFSLの課題は,クラス間分離と新規クラス表現の両方にあることが明らかとなった。
クラス内変異の間、新しいクラスは、複数のベースクラスからの知識を暗黙的に活用して特徴表現を構築する。
したがって、事前訓練された埋め込み空間を単純に再利用すれば、分散した特徴分布となり、カテゴリー混乱をもたらす。
このような問題に対処するために,我々は,機能空間分割と新しいクラス再構築の両方を体系的に最適化する二段階学習戦略である \textbf{im}planting と \textbf{co}mpressing (\textbf{imco})を提案する。
具体的には,<textbf{Implanting} ステップにおいて,モデルがベースと他の未知のクラスを識別するのに有用な意味豊かな特徴を学習できるように,新しいクラスのデータ分布をデータ集合の助けを借りて模倣することを提案する。
このステップでは、クラス内コンパクト性を高めるための新しいクラスを正確に表現するために、特徴抽出器を適応させ、アグレッシブモデル更新を防止するための正規化パラメータ更新ルールと併用する。
最後に、画像分類タスクとより困難なオブジェクト検出タスクの両方において、IMCOが競合するベースラインをかなり上回っていることを示す。
関連論文リスト
- Mamba-FSCIL: Dynamic Adaptation with Selective State Space Model for Few-Shot Class-Incremental Learning [113.89327264634984]
FSCIL(Few-shot class-incremental Learning)は、最小限のトレーニングサンプルを持つモデルに新しいクラスを統合するという課題に直面している。
従来の手法では、固定パラメータ空間に依存する静的適応を広く採用し、逐次到着するデータから学習する。
本稿では、動的適応のための中間特徴に基づいてプロジェクションパラメータを動的に調整する2つの選択型SSMプロジェクタを提案する。
論文 参考訳（メタデータ） (2024-07-08T17:09:39Z) - Semantic Enhanced Few-shot Object Detection [37.715912401900745]
本稿では, セマンティックな埋め込みを利用してより優れた検出を行う, 微調整に基づくFSODフレームワークを提案する。
提案手法は,各新規クラスが類似の基底クラスと混同されることなく,コンパクトな特徴空間を構築することを可能にする。
論文 参考訳（メタデータ） (2024-06-19T12:40:55Z) - Memory-guided Network with Uncertainty-based Feature Augmentation for Few-shot Semantic Segmentation [12.653336728447654]
学習可能なメモリベクトルの集合からなるクラス共有メモリ(CSM)モジュールを提案する。
これらのメモリベクトルは、トレーニング中にベースクラスから要素オブジェクトパターンを学習し、トレーニングと推論の両方でクエリ機能を再エンコードする。
我々は、CSMとUFAを代表的FSS作品に統合し、広く使われているPASCAL-5$i$とCOCO-20$i$データセットの実験結果を得た。
論文 参考訳（メタデータ） (2024-06-01T19:53:25Z) - Expandable Subspace Ensemble for Pre-Trained Model-Based Class-Incremental Learning [65.57123249246358]
PTMベースのCILのためのExpAndable Subspace Ensemble (EASE)を提案する。
タスク固有のサブスペースを作成することを目的として、新しいタスクごとに異なる軽量アダプタモジュールをトレーニングする。
我々のプロトタイプ補完戦略は、古いクラスのインスタンスを使わずに、古いクラスの新機能を合成します。
論文 参考訳（メタデータ） (2024-03-18T17:58:13Z) - Activating the Discriminability of Novel Classes for Few-shot
Segmentation [48.542627940781095]
本稿では,特徴符号化段階とセグメンテーションの予測段階の両方において,新規クラスの識別可能性を明示的に活性化することを提案する。
セグメンテーションの予測段階では、クエリ画像の高信頼画素を用いて自分自身を洗練できる自己修正オンラインフォアグラウンド分類器(SROFB)を学習する。
論文 参考訳（メタデータ） (2022-12-02T12:22:36Z) - Class-Incremental Learning with Strong Pre-trained Models [97.84755144148535]
CIL(Class-incremental Learning)は、少数のクラス(ベースクラス)から始まる設定で広く研究されている。
我々は、多数のベースクラスで事前訓練された強力なモデルから始まるCILの実証済み実世界の設定について検討する。
提案手法は、解析されたCIL設定すべてに頑健で一般化されている。
論文 参考訳（メタデータ） (2022-04-07T17:58:07Z) - Novel Class Discovery in Semantic Segmentation [104.30729847367104]
セマンティックにおける新しいクラス発見(NCDSS)について紹介する。
ラベル付き非結合クラスの集合から事前の知識を与えられた新しいクラスを含むラベル付きイメージのセグメンテーションを目的としている。
NCDSSでは、オブジェクトと背景を区別し、画像内の複数のクラスの存在を処理する必要があります。
本稿では,エントロピーに基づく不確実性モデリングと自己学習(EUMS)フレームワークを提案し,ノイズの多い擬似ラベルを克服する。
論文 参考訳（メタデータ） (2021-12-03T13:31:59Z) - Few-Shot Object Detection via Association and DIscrimination [83.8472428718097]
AssociationとDIscriminationによるオブジェクト検出は、新しいクラスごとに2つのステップで識別可能な特徴空間を構築している。
Pascal VOCとMS-COCOデータセットの実験では、FADIは新しいSOTAパフォーマンスを実現し、ショット/スプリットのベースラインを+18.7で大幅に改善した。
論文 参考訳（メタデータ） (2021-11-23T05:04:06Z) - Subspace Regularizers for Few-Shot Class Incremental Learning [26.372024890126408]
既存のクラスの重みに代表される部分空間に近づき、新しいクラスに対する重みベクトルを奨励する、新しい部分空間正規化スキームの族を示す。
この結果から,クラス表現の幾何学的正則化は連続学習に有効なツールであることが示唆された。
論文 参考訳（メタデータ） (2021-10-13T22:19:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。