論文の概要: Meta Navigator: Search for a Good Adaptation Policy for Few-shot
Learning
- arxiv url: http://arxiv.org/abs/2109.05749v1
- Date: Mon, 13 Sep 2021 07:20:01 GMT
- ステータス: 処理完了
- システム内更新日: 2021-09-14 15:35:38.628906
- Title: Meta Navigator: Search for a Good Adaptation Policy for Few-shot
Learning
- Title(参考訳): Meta Navigator: ショット学習のための優れた適応ポリシーの探索
- Authors: Chi Zhang, Henghui Ding, Guosheng Lin, Ruibo Li, Changhu Wang, Chunhua
Shen
- Abstract要約: 少ないショット学習は、ラベル付きデータしか持たない新しいタスクに、以前のタスクから学んだ知識を適応させることを目的としている。
少数ショット学習に関する研究文献は、大きな多様性を示し、異なるアルゴリズムは、しばしば異なる少数ショット学習シナリオで優れている。
本稿では,メタナビゲータ(Meta Navigator)について紹介する。
- 参考スコア(独自算出の注目度): 113.05118113697111
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Few-shot learning aims to adapt knowledge learned from previous tasks to
novel tasks with only a limited amount of labeled data. Research literature on
few-shot learning exhibits great diversity, while different algorithms often
excel at different few-shot learning scenarios. It is therefore tricky to
decide which learning strategies to use under different task conditions.
Inspired by the recent success in Automated Machine Learning literature
(AutoML), in this paper, we present Meta Navigator, a framework that attempts
to solve the aforementioned limitation in few-shot learning by seeking a
higher-level strategy and proffer to automate the selection from various
few-shot learning designs. The goal of our work is to search for good parameter
adaptation policies that are applied to different stages in the network for
few-shot classification. We present a search space that covers many popular
few-shot learning algorithms in the literature and develop a differentiable
searching and decoding algorithm based on meta-learning that supports
gradient-based optimization. We demonstrate the effectiveness of our
searching-based method on multiple benchmark datasets. Extensive experiments
show that our approach significantly outperforms baselines and demonstrates
performance advantages over many state-of-the-art methods. Code and models will
be made publicly available.
- Abstract(参考訳): 数少ない学習の目的は、以前のタスクから学んだ知識を、限られた量のラベル付きデータで新しいタスクに適応させることだ。
少数ショット学習に関する研究文献は、大きな多様性を示し、異なるアルゴリズムは、しばしば異なる少数ショット学習シナリオで優れている。
したがって、異なるタスク条件下で使用する学習戦略を決定するのは難しい。
本稿では,機械学習文学(Automated Machine Learning Literature, AutoML)の成功に触発されたメタナビゲータを提案する。
本研究の目的は,ネットワークの異なる段階に適用されたパラメータ適応ポリシーを,数発の分類のために探索することである。
本稿では,文学における多用な数ショット学習アルゴリズムを網羅する探索空間を提案し,勾配に基づく最適化をサポートするメタラーニングに基づく識別可能な探索・復号アルゴリズムを開発した。
複数のベンチマークデータセットに対する検索手法の有効性を示す。
広範な実験により、我々のアプローチはベースラインを著しく上回り、多くの最先端メソッドよりもパフォーマンスの利点が示されている。
コードとモデルは公開される予定だ。
関連論文リスト
- Few-shot Multi-Task Learning of Linear Invariant Features with Meta Subspace Pursuit [9.421309916099428]
メタサブスペース探索法(Meta-SPと略す)と呼ばれる新しいアルゴリズムを提案する。
そこで我々はMeta-SP(Meta Subspace Pursuit)と呼ばれる新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-09-04T13:44:22Z) - Contrastive Knowledge-Augmented Meta-Learning for Few-Shot
Classification [28.38744876121834]
本稿では,知識向上のための新しいアプローチであるCAML(Contrastive Knowledge-Augmented Meta Learning)を紹介する。
そこで我々は,CAMLの性能を,様々な場面で評価した。
論文 参考訳(メタデータ) (2022-07-25T17:01:29Z) - Budget-aware Few-shot Learning via Graph Convolutional Network [56.41899553037247]
本稿では,いくつかの例から新しい視覚概念を学習することを目的とした,数ショット学習の課題に取り組む。
数ショット分類における一般的な問題設定は、データラベルの取得においてランダムサンプリング戦略を前提としている。
そこで我々は,新しい対象カテゴリーの学習を目的とした,予算に配慮した数発の学習問題を新たに導入する。
論文 参考訳(メタデータ) (2022-01-07T02:46:35Z) - Curriculum Meta-Learning for Few-shot Classification [1.5039745292757671]
本稿では,最新のメタ学習技術に適用可能なカリキュラム学習フレームワークの適応性を提案する。
数発の画像分類タスクにおけるMAMLアルゴリズムによる実験は,カリキュラムの学習フレームワークにおいて有意な効果を示した。
論文 参考訳(メタデータ) (2021-12-06T10:29:23Z) - Curriculum Learning: A Survey [65.31516318260759]
カリキュラム学習戦略は、機械学習のあらゆる分野で成功している。
我々は,様々な分類基準を考慮して,カリキュラム学習アプローチの分類を手作業で構築する。
集約型クラスタリングアルゴリズムを用いて,カリキュラム学習手法の階層木を構築する。
論文 参考訳(メタデータ) (2021-01-25T20:08:32Z) - Few-shot Sequence Learning with Transformers [79.87875859408955]
少数のトレーニング例で提供される新しいタスクの学習を目的とした少数のショットアルゴリズム。
本研究では,データポイントがトークンのシーケンスである設定において,少数ショット学習を行う。
トランスフォーマーに基づく効率的な学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-12-17T12:30:38Z) - Adaptive Task Sampling for Meta-Learning [79.61146834134459]
数ショットの分類のためのメタラーニングの鍵となるアイデアは、テスト時に直面した数ショットの状況を模倣することである。
一般化性能を向上させるための適応型タスクサンプリング手法を提案する。
論文 参考訳(メタデータ) (2020-07-17T03:15:53Z) - Meta-Baseline: Exploring Simple Meta-Learning for Few-Shot Learning [79.25478727351604]
評価基準に基づいて,分類済みモデル全体に対するメタラーニング(メタラーニング)を提案する。
我々は,この単純な手法が標準ベンチマークにおける最先端手法との競合性能を達成するのを観察する。
論文 参考訳(メタデータ) (2020-03-09T20:06:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。