論文の概要: Meta-Baseline: Exploring Simple Meta-Learning for Few-Shot Learning
- arxiv url: http://arxiv.org/abs/2003.04390v4
- Date: Thu, 19 Aug 2021 06:15:12 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-25 08:14:52.371719
- Title: Meta-Baseline: Exploring Simple Meta-Learning for Few-Shot Learning
- Title(参考訳): Meta-Baseline: 簡単なメタ学習
- Authors: Yinbo Chen, Zhuang Liu, Huijuan Xu, Trevor Darrell, Xiaolong Wang
- Abstract要約: 評価基準に基づいて,分類済みモデル全体に対するメタラーニング(メタラーニング)を提案する。
我々は,この単純な手法が標準ベンチマークにおける最先端手法との競合性能を達成するのを観察する。
- 参考スコア(独自算出の注目度): 79.25478727351604
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Meta-learning has been the most common framework for few-shot learning in
recent years. It learns the model from collections of few-shot classification
tasks, which is believed to have a key advantage of making the training
objective consistent with the testing objective. However, some recent works
report that by training for whole-classification, i.e. classification on the
whole label-set, it can get comparable or even better embedding than many
meta-learning algorithms. The edge between these two lines of works has yet
been underexplored, and the effectiveness of meta-learning in few-shot learning
remains unclear. In this paper, we explore a simple process: meta-learning over
a whole-classification pre-trained model on its evaluation metric. We observe
this simple method achieves competitive performance to state-of-the-art methods
on standard benchmarks. Our further analysis shed some light on understanding
the trade-offs between the meta-learning objective and the whole-classification
objective in few-shot learning.
- Abstract(参考訳): メタラーニングは近年、数少ない学習のための最も一般的なフレームワークである。
モデルは、数発の分類タスクのコレクションから学習され、これは、トレーニング目標をテスト目標と整合させる上で重要な利点であると考えられている。
しかし、最近の研究によると、ラベルセット全体の分類のトレーニングによって、多くのメタ学習アルゴリズムよりも同等またはそれ以上の埋め込みが得られるという。
これらの2行間の縁はまだ未熟であり、わずかな学習におけるメタラーニングの有効性は未解明である。
本稿では,その評価基準に基づいて,全分類事前学習モデル上でのメタラーニングについて検討する。
我々は,この単純な手法が標準ベンチマークにおける最先端手法との競合性能を達成するのを観察する。
さらに分析した結果,メタラーニングの対象とクラス分け対象とのトレードオフの理解に光を当てた。
関連論文リスト
- Lessons from Chasing Few-Shot Learning Benchmarks: Rethinking the
Evaluation of Meta-Learning Methods [9.821362920940631]
メタラーニングのための簡単なベースライン、FIX-MLを紹介します。
メタラーニングの2つの可能性を探る:(i)トレーニングセット(in-distriion)を生成する同じタスク分布に一般化する手法を開発する、(ii)新しい未確認タスク分布(out-of-distriion)に一般化する手法を開発する。
本研究は,この領域の進歩を推論するためには,メタラーニングの目標を明確に説明し,より適切な評価戦略を開発する必要があることを強調した。
論文 参考訳(メタデータ) (2021-02-23T05:34:30Z) - Fast Few-Shot Classification by Few-Iteration Meta-Learning [173.32497326674775]
数ショット分類のための高速な最適化に基づくメタラーニング手法を提案する。
我々の戦略はメタ学習において学習すべき基礎学習者の目的の重要な側面を可能にする。
我々は、我々のアプローチの速度と効果を実証し、総合的な実験分析を行う。
論文 参考訳(メタデータ) (2020-10-01T15:59:31Z) - Learning to Learn to Disambiguate: Meta-Learning for Few-Shot Word Sense
Disambiguation [26.296412053816233]
単語感覚の曖昧さを解消するメタラーニングフレームワークを提案する。
ゴールは、少数のラベル付きインスタンスから目に見えない単語をあいまいにすることを学ぶことである。
このシナリオにいくつかの一般的なメタ学習アプローチを拡張し、その強みと弱点を分析します。
論文 参考訳(メタデータ) (2020-04-29T17:33:31Z) - Meta-Meta Classification for One-Shot Learning [11.27833234287093]
メタメタ分類(メタメタ分類)と呼ばれる,小さなデータ設定で学習する新しい手法を提案する。
このアプローチでは、学習者の集合を設計するために大量の学習問題を使用し、各学習者は高いバイアスと低い分散を持つ。
本研究では,一対一で一対一の分類課題に対するアプローチの評価を行い,従来のメタラーニングやアンサンブルアプローチよりも優れていることを示す。
論文 参考訳(メタデータ) (2020-04-17T07:05:03Z) - Rethinking Few-Shot Image Classification: a Good Embedding Is All You
Need? [72.00712736992618]
メタトレーニングセット上で教師付きあるいは自己教師型表現を学習する単純なベースラインが、最先端の数ショット学習方法より優れていることを示す。
追加の増量は自己蒸留によって達成できる。
我々は,この発見が,画像分類ベンチマークとメタ学習アルゴリズムの役割を再考する動機となっていると考えている。
論文 参考訳(メタデータ) (2020-03-25T17:58:42Z) - Unraveling Meta-Learning: Understanding Feature Representations for
Few-Shot Tasks [55.66438591090072]
メタラーニングの基礎となる力学と、メタラーニングを用いて訓練されたモデルと古典的に訓練されたモデルの違いをよりよく理解する。
数ショット分類のための標準訓練ルーチンの性能を高める正則化器を開発した。
論文 参考訳(メタデータ) (2020-02-17T03:18:45Z) - Incremental Meta-Learning via Indirect Discriminant Alignment [118.61152684795178]
メタ学習のメタ学習段階において,段階的な学習の概念を発達させる。
我々のアプローチは、完全なメタトレーニングセットでモデルをトレーニングするのと比べて、テスト時に好適に機能する。
論文 参考訳(メタデータ) (2020-02-11T01:39:12Z) - Revisiting Meta-Learning as Supervised Learning [69.2067288158133]
メタラーニングと従来の教師付き学習の関連性を再考し,強化することで,原則的,統一的なフレームワークの提供を目指す。
タスク固有のデータセットとターゲットモデルを(機能、ラベル)サンプルとして扱うことで、多くのメタ学習アルゴリズムを教師付き学習のインスタンスに還元することができる。
この視点は、メタラーニングを直感的で実践的なフレームワークに統一するだけでなく、教師付き学習から直接洞察を伝達してメタラーニングを改善することができる。
論文 参考訳(メタデータ) (2020-02-03T06:13:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。