論文の概要: Few-Shot Image Classification via Contrastive Self-Supervised Learning
- arxiv url: http://arxiv.org/abs/2008.09942v1
- Date: Sun, 23 Aug 2020 02:24:31 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-26 02:36:33.381073
- Title: Few-Shot Image Classification via Contrastive Self-Supervised Learning
- Title(参考訳): コントラスト型自己監督学習によるFew-Shot画像分類
- Authors: Jianyi Li and Guizhong Liu
- Abstract要約: 本稿では,欠陥を修復するための教師なし数発学習の新たなパラダイムを提案する。
我々は2つのフェーズでいくつかの課題を解決した: 対照的な自己教師付き学習を通して、伝達可能な特徴抽出器をメタトレーニングする。
本手法は,標準的な数ショットの視覚的分類データセット上で,多数の確立された数ショットタスクにおいて,最先端の性能を実現する。
- 参考スコア(独自算出の注目度): 5.878021051195956
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Most previous few-shot learning algorithms are based on meta-training with
fake few-shot tasks as training samples, where large labeled base classes are
required. The trained model is also limited by the type of tasks. In this paper
we propose a new paradigm of unsupervised few-shot learning to repair the
deficiencies. We solve the few-shot tasks in two phases: meta-training a
transferable feature extractor via contrastive self-supervised learning and
training a classifier using graph aggregation, self-distillation and manifold
augmentation. Once meta-trained, the model can be used in any type of tasks
with a task-dependent classifier training. Our method achieves state of-the-art
performance in a variety of established few-shot tasks on the standard few-shot
visual classification datasets, with an 8- 28% increase compared to the
available unsupervised few-shot learning methods.
- Abstract(参考訳): これまでの数ショット学習アルゴリズムのほとんどは、大規模なラベル付きベースクラスを必要とするトレーニングサンプルとして、偽の数ショットタスクを使ったメタトレーニングに基づいている。
トレーニングされたモデルはタスクの種類によっても制限される。
本稿では,欠陥を修復するための教師なし数発学習の新たなパラダイムを提案する。
コントラスト的自己教師付き学習による移動可能な特徴抽出器のメタトレーニングと,グラフ集約,自己蒸留,多様体拡張を用いた分類器の訓練である。
メタトレーニングが完了すると、タスク依存の分類器トレーニングで任意のタスクでモデルを使用できるようになる。
本手法は,標準的な数ショットの視覚的分類データセット上で確立された数ショットタスクにおいて,教師なし数ショット学習法と比較して8~28%向上する。
関連論文リスト
- Investigating Self-Supervised Methods for Label-Efficient Learning [27.029542823306866]
低撮影能力のためのコントラスト学習、クラスタリング、マスク付き画像モデリングなど、さまざまな自己教師付きプレテキストタスクについて検討する。
マスク画像モデリングとクラスタリングの両方をプリテキストタスクとして含むフレームワークを導入する。
実規模データセット上でモデルをテストした場合,マルチクラス分類,マルチラベル分類,セマンティックセマンティックセグメンテーションにおける性能向上を示す。
論文 参考訳(メタデータ) (2024-06-25T10:56:03Z) - MOWA: Multiple-in-One Image Warping Model [65.73060159073644]
本研究で提案するマルチ・イン・ワン・イメージ・ワープ・モデル(MOWA)について述べる。
領域レベルと画素レベルでの動作推定を両立させることにより,マルチタスク学習の難しさを軽減する。
私たちの知る限り、これは1つのモデルで複数の実用的なワープタスクを解決する最初の作業です。
論文 参考訳(メタデータ) (2024-04-16T16:50:35Z) - Calibrating Higher-Order Statistics for Few-Shot Class-Incremental Learning with Pre-trained Vision Transformers [12.590571371294729]
FSCIL(Few-shot class-incremental Learning)は、学習済みのクラスを忘れずに、非常に少ないデータ(5つのサンプル)から新しいクラスにモデルを適応することを目的としている。
マルチショットCIL(MSCIL)の最近の研究は、事前訓練されたモデルを利用して、忘れを減らし、より優れた可塑性を実現する。
私たちは、大規模なデータセットで事前トレーニングされたViTモデルを数ショット設定で使用しています。
論文 参考訳(メタデータ) (2024-04-09T21:12:31Z) - Curriculum Meta-Learning for Few-shot Classification [1.5039745292757671]
本稿では,最新のメタ学習技術に適用可能なカリキュラム学習フレームワークの適応性を提案する。
数発の画像分類タスクにおけるMAMLアルゴリズムによる実験は,カリキュラムの学習フレームワークにおいて有意な効果を示した。
論文 参考訳(メタデータ) (2021-12-06T10:29:23Z) - Partner-Assisted Learning for Few-Shot Image Classification [54.66864961784989]
人間の視覚能力を模倣し、徹底的な人間のアノテーションを必要とせずに効果的なモデルを学ぶために、わずかなショットラーニングが研究されている。
本稿では,新しいクラスのプロトタイプをラベル付きサンプルから推定できるように,要素表現を得るためのトレーニング戦略の設計に焦点をあてる。
本稿では,まずパートナーエンコーダのペアワイド類似性をモデル化し,ソフトアンカーとして機能する特徴を抽出し,その出力をソフトアンカーと整列させ,分類性能を最大化しようとする2段階トレーニング手法を提案する。
論文 参考訳(メタデータ) (2021-09-15T22:46:19Z) - Trainable Class Prototypes for Few-Shot Learning [5.481942307939029]
本稿では,メタトレーニングとタスクトレーニングの枠組みにおいて,距離測定のためのトレーニング可能なプロトタイプを提案する。
また, エピソードなメタトレーニングがもたらした欠点を避けるために, 自己教師型学習に基づく非エピソードなメタトレーニングを採用する。
本手法は,標準的な数ショットの視覚的分類データセット上で,多数の確立された数ショットタスクにおいて,最先端の性能を実現する。
論文 参考訳(メタデータ) (2021-06-21T04:19:56Z) - Few-shot Action Recognition with Prototype-centered Attentive Learning [88.10852114988829]
2つの新しい構成要素からなるプロトタイプ中心型注意学習(pal)モデル。
まず,従来のクエリ中心学習目標を補完するために,プロトタイプ中心のコントラスト学習損失を導入する。
第二に、PALは注意深いハイブリッド学習機構を統合しており、アウトレーヤの負の影響を最小限に抑えることができる。
論文 参考訳(メタデータ) (2021-01-20T11:48:12Z) - Few-Shot Learning with Intra-Class Knowledge Transfer [100.87659529592223]
アンバランスなデータセットを用いた数発の分類タスクについて検討する。
近年の研究では、生成モデルを用いて数発の授業のトレーニングデータを増やすことで、この課題を解決することが提案されている。
本稿では,近隣クラスが類似した統計情報を共有するという直感で,近隣クラスからのクラス内知識を活用することを提案する。
論文 参考訳(メタデータ) (2020-08-22T18:15:38Z) - Adaptive Task Sampling for Meta-Learning [79.61146834134459]
数ショットの分類のためのメタラーニングの鍵となるアイデアは、テスト時に直面した数ショットの状況を模倣することである。
一般化性能を向上させるための適応型タスクサンプリング手法を提案する。
論文 参考訳(メタデータ) (2020-07-17T03:15:53Z) - Expert Training: Task Hardness Aware Meta-Learning for Few-Shot
Classification [62.10696018098057]
そこで本研究では,訓練課題を適切に整理するためのメタトレーニング戦略を提案する。
タスクの難易度を推定する訓練手順にタスク難易度認識モジュールを設計して統合する。
miniImageNet と tieredImageNetSketch のデータセットによる実験結果から,メタラーナーは専門家のトレーニング戦略によりより良い結果が得られることが示された。
論文 参考訳(メタデータ) (2020-07-13T08:49:00Z) - Training few-shot classification via the perspective of minibatch and
pretraining [10.007569291231915]
少ないショット分類は、人間が限られた事前データから概念を学ぶ能力を定式化することを目的とした課題である。
近年,メタラーニングが注目されている。
分類問題におけるミニバッチと事前学習に対応する多相・横断訓練手法を提案する。
論文 参考訳(メタデータ) (2020-04-10T03:14:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。