論文の概要: Few-Shot Learning with a Strong Teacher

• arxiv url: http://arxiv.org/abs/2107.00197v1
• Date: Thu, 1 Jul 2021 03:20:46 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-02 14:02:44.955345
• Title: Few-Shot Learning with a Strong Teacher
• Title（参考訳）: 強い教師による小学生の学習
• Authors: Han-Jia Ye, Lu Ming, De-Chuan Zhan, Wei-Lun Chao
• Abstract要約: 限られたラベル付き例を使って強力な分類器を訓練することを目的としていない。 既存の多くの作業はメタラーニングアプローチを採用し、数発のタスクを順番にサンプリングし、クエリの例を分類する際の数発の学習者のパフォーマンスを最適化する。 そこで本研究では,少数の学習者を直接訓練して,強力な分類器のように動作させる新しい目標を提案する。
• 参考スコア（独自算出の注目度）: 36.35502703114652
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Few-shot learning (FSL) aims to train a strong classifier using limited labeled examples. Many existing works take the meta-learning approach, sampling few-shot tasks in turn and optimizing the few-shot learner's performance on classifying the query examples. In this paper, we point out two potential weaknesses of this approach. First, the sampled query examples may not provide sufficient supervision for the few-shot learner. Second, the effectiveness of meta-learning diminishes sharply with increasing shots (i.e., the number of training examples per class). To resolve these issues, we propose a novel objective to directly train the few-shot learner to perform like a strong classifier. Concretely, we associate each sampled few-shot task with a strong classifier, which is learned with ample labeled examples. The strong classifier has a better generalization ability and we use it to supervise the few-shot learner. We present an efficient way to construct the strong classifier, making our proposed objective an easily plug-and-play term to existing meta-learning based FSL methods. We validate our approach in combinations with many representative meta-learning methods. On several benchmark datasets including miniImageNet and tiredImageNet, our approach leads to a notable improvement across a variety of tasks. More importantly, with our approach, meta-learning based FSL methods can consistently outperform non-meta-learning based ones, even in a many-shot setting, greatly strengthening their applicability.
• Abstract（参考訳）: FSL(Few-shot Learning)は、限られたラベル付き例を用いて強力な分類器を訓練することを目的としている。 既存の多くの作業はメタラーニングアプローチを採用し、数発のタスクを順番にサンプリングし、クエリの例を分類する際の数発の学習者のパフォーマンスを最適化する。 本稿では,このアプローチの潜在的な弱点を2つ挙げる。 まず、サンプルクエリの例は、数発の学習者に対して十分な監視を提供していない。 第二に、メタラーニングの有効性はショットの増加とともに急激に低下する(クラスごとのトレーニング例の数)。 そこで本研究では,この課題を解決するために,マイナショット学習者を直接訓練し,強力な分類器として実行する新しい目標を提案する。 具体的には、サンプルの少ないタスクを強い分類器に関連付け、多くのラベル付き例で学習する。 強力な分類器はより優れた一般化能力を持ち、数発の学習者の監督に使用します。 提案手法は,従来のメタラーニングに基づくFSL手法に簡単にプラグイン・アンド・プレイの用語を組み込むことにより,強力な分類器を構築するための効率的な方法である。 提案手法は,多くのメタ学習手法と組み合わせて検証する。 miniImageNet や tiredImageNet など,いくつかのベンチマークデータセットでは,このアプローチはさまざまなタスクで顕著な改善を実現しています。 さらに,我々のアプローチでは,メタラーニングに基づくFSL手法は,マルチショット設定においても,一貫して非メタラーニング手法よりも優れ,適用性が大幅に向上する。

関連論文リスト

• Meta-Adapter: An Online Few-shot Learner for Vision-Language Model [64.21017759533474]
  CLIPとして知られる対照的な視覚言語事前学習は、オープンワールドの視覚概念を知覚する大きな可能性を実証している。 CLIPに基づくほとんどショットの学習方法は、通常、少数のサンプルでパラメータをオフラインで微調整する必要がある。 少数のサンプルから導かれるCLIP機能をオンライン的に洗練するための,軽量な残差型アダプタであるMeta-Adapterを提案する。
  論文  参考訳（メタデータ） (2023-11-07T07:27:16Z)
• Meta Learning to Bridge Vision and Language Models for Multimodal Few-Shot Learning [38.37682598345653]
  視覚モデルと言語モデルとのギャップを埋めるために,マルチモーダルなメタ学習手法を導入する。 我々は,凍結した大規模視覚と言語モデルを効率的にブリッジするためにメタラーナーとして機能するメタマッパーネットワークを定義する。 我々は,最近提案されたマルチモーダル・スショット・ベンチマークに対するアプローチを評価し,新しい視覚概念を単語に結合する速度を計測した。
  論文  参考訳（メタデータ） (2023-02-28T17:46:18Z)
• Multi-Modal Few-Shot Object Detection with Meta-Learning-Based Cross-Modal Prompting [77.69172089359606]
  本稿では,マルチモーダルな複数ショットオブジェクト検出(FSOD)について,少数ショット視覚例とクラスセマンティック情報の両方を用いて検討する。 我々のアプローチは、(メトリックベース)メタラーニングとプロンプトベースラーニングの高レベルな概念的類似性によって動機付けられている。 提案するマルチモーダルFSODモデルを,複数の複数ショットオブジェクト検出ベンチマークで総合的に評価し,有望な結果を得た。
  論文  参考訳（メタデータ） (2022-04-16T16:45:06Z)
• Meta Navigator: Search for a Good Adaptation Policy for Few-shot Learning [113.05118113697111]
  少ないショット学習は、ラベル付きデータしか持たない新しいタスクに、以前のタスクから学んだ知識を適応させることを目的としている。 少数ショット学習に関する研究文献は、大きな多様性を示し、異なるアルゴリズムは、しばしば異なる少数ショット学習シナリオで優れている。 本稿では,メタナビゲータ(Meta Navigator)について紹介する。
  論文  参考訳（メタデータ） (2021-09-13T07:20:01Z)
• Fast Few-Shot Classification by Few-Iteration Meta-Learning [173.32497326674775]
  数ショット分類のための高速な最適化に基づくメタラーニング手法を提案する。 我々の戦略はメタ学習において学習すべき基礎学習者の目的の重要な側面を可能にする。 我々は、我々のアプローチの速度と効果を実証し、総合的な実験分析を行う。
  論文  参考訳（メタデータ） (2020-10-01T15:59:31Z)
• Few-Shot Image Classification via Contrastive Self-Supervised Learning [5.878021051195956]
  本稿では,欠陥を修復するための教師なし数発学習の新たなパラダイムを提案する。 我々は2つのフェーズでいくつかの課題を解決した: 対照的な自己教師付き学習を通して、伝達可能な特徴抽出器をメタトレーニングする。 本手法は,標準的な数ショットの視覚的分類データセット上で,多数の確立された数ショットタスクにおいて,最先端の性能を実現する。
  論文  参考訳（メタデータ） (2020-08-23T02:24:31Z)
• Learning to Learn to Disambiguate: Meta-Learning for Few-Shot Word Sense Disambiguation [26.296412053816233]
  単語感覚の曖昧さを解消するメタラーニングフレームワークを提案する。 ゴールは、少数のラベル付きインスタンスから目に見えない単語をあいまいにすることを学ぶことである。 このシナリオにいくつかの一般的なメタ学習アプローチを拡張し、その強みと弱点を分析します。
  論文  参考訳（メタデータ） (2020-04-29T17:33:31Z)
• Rethinking Few-Shot Image Classification: a Good Embedding Is All You Need? [72.00712736992618]
  メタトレーニングセット上で教師付きあるいは自己教師型表現を学習する単純なベースラインが、最先端の数ショット学習方法より優れていることを示す。 追加の増量は自己蒸留によって達成できる。 我々は,この発見が,画像分類ベンチマークとメタ学習アルゴリズムの役割を再考する動機となっていると考えている。
  論文  参考訳（メタデータ） (2020-03-25T17:58:42Z)
• Meta-Baseline: Exploring Simple Meta-Learning for Few-Shot Learning [79.25478727351604]
  評価基準に基づいて,分類済みモデル全体に対するメタラーニング(メタラーニング)を提案する。 我々は,この単純な手法が標準ベンチマークにおける最先端手法との競合性能を達成するのを観察する。
  論文  参考訳（メタデータ） (2020-03-09T20:06:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。