論文の概要: Few-shot Classification via Adaptive Attention
- arxiv url: http://arxiv.org/abs/2008.02465v2
- Date: Sat, 21 Nov 2020 15:15:20 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-02 07:09:58.161563
- Title: Few-shot Classification via Adaptive Attention
- Title(参考訳): 適応的注意による少数ショット分類
- Authors: Zihang Jiang, Bingyi Kang, Kuangqi Zhou, Jiashi Feng
- Abstract要約: ごく少数の参照サンプルに基づいて,クエリサンプル表現を最適化し,高速に適応する新しい数ショット学習手法を提案する。
実験で実証したように,提案モデルでは,様々なベンチマーク数ショット分類と微粒化認識データセットを用いて,最先端の分類結果を達成している。
- 参考スコア(独自算出の注目度): 93.06105498633492
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Training a neural network model that can quickly adapt to a new task is
highly desirable yet challenging for few-shot learning problems. Recent
few-shot learning methods mostly concentrate on developing various
meta-learning strategies from two aspects, namely optimizing an initial model
or learning a distance metric. In this work, we propose a novel few-shot
learning method via optimizing and fast adapting the query sample
representation based on very few reference samples. To be specific, we devise a
simple and efficient meta-reweighting strategy to adapt the sample
representations and generate soft attention to refine the representation such
that the relevant features from the query and support samples can be extracted
for a better few-shot classification. Such an adaptive attention model is also
able to explain what the classification model is looking for as the evidence
for classification to some extent. As demonstrated experimentally, the proposed
model achieves state-of-the-art classification results on various benchmark
few-shot classification and fine-grained recognition datasets.
- Abstract(参考訳): 新しいタスクに迅速に適応できるニューラルネットワークモデルのトレーニングは非常に望ましいが、最小限の学習問題では困難である。
最近では,初期モデル最適化や距離メトリクスの学習という2つの側面から,さまざまなメタ学習戦略の開発に重点が置かれている。
そこで本研究では,ごく少数の参照サンプルに基づいて,クエリサンプル表現を最適化し,高速に適応する手法を提案する。
具体的には、サンプル表現に適応し、より簡単なメタリフレッシング戦略を考案し、より優れた数ショット分類のために、クエリとサポートサンプルから関連する特徴を抽出できるように、表現を洗練するためのソフトアテンションを生成する。
このような適応的注意モデルはまた、分類モデルの求めるものをある程度の分類の証拠として説明することができる。
実験で実証したように,提案モデルは,様々なベンチマーク・マイナショット分類と細粒度認識データセットにおいて,最先端の分類結果が得られる。
関連論文リスト
- Preview-based Category Contrastive Learning for Knowledge Distillation [53.551002781828146]
知識蒸留(PCKD)のための新しい予見型カテゴリーコントラスト学習法を提案する。
まず、インスタンスレベルの特徴対応と、インスタンスの特徴とカテゴリ中心の関係の両方の構造的知識を蒸留する。
カテゴリ表現を明示的に最適化し、インスタンスとカテゴリの表現を明確に関連付けることができる。
論文 参考訳(メタデータ) (2024-10-18T03:31:00Z) - Liberating Seen Classes: Boosting Few-Shot and Zero-Shot Text Classification via Anchor Generation and Classification Reframing [38.84431954053434]
短いショットとゼロショットのテキスト分類は、ラベル付きサンプルやラベル付きサンプルが全くない新しいクラスからのサンプルを認識することを目的としている。
少数ショットとゼロショットのテキスト分類のためのシンプルで効果的な戦略を提案する。
論文 参考訳(メタデータ) (2024-05-06T15:38:32Z) - Meta-tuning Loss Functions and Data Augmentation for Few-shot Object
Detection [7.262048441360132]
少ないショットのオブジェクト検出は、少数ショットの学習とオブジェクト検出という領域において、新たなトピックである。
本稿では,数発検出を促進できる帰納的バイアスの学習を可能にする訓練手法を提案する。
提案手法は,高パラメトリックかつ複雑な数ショットメタモデルとは対照的に,解釈可能な損失関数を生成する。
論文 参考訳(メタデータ) (2023-04-24T15:14:16Z) - Generalization Properties of Retrieval-based Models [50.35325326050263]
検索ベースの機械学習手法は、幅広い問題で成功をおさめた。
これらのモデルの約束を示す文献が増えているにもかかわらず、そのようなモデルの理論的基盤はいまだに解明されていない。
本稿では,その一般化能力を特徴付けるために,検索ベースモデルの形式的処理を行う。
論文 参考訳(メタデータ) (2022-10-06T00:33:01Z) - A Study on Representation Transfer for Few-Shot Learning [5.717951523323085]
ほとんどショットの分類は、いくつかのラベル付き例を使って、新しいオブジェクトカテゴリを適切に分類することを目的としていない。
本研究では, 様々な特徴表現の体系的研究を行い, 数発の分類を行う。
より複雑なタスクからの学習は、数ショットの分類においてより良い表現を与える傾向にある。
論文 参考訳(メタデータ) (2022-09-05T17:56:02Z) - Partner-Assisted Learning for Few-Shot Image Classification [54.66864961784989]
人間の視覚能力を模倣し、徹底的な人間のアノテーションを必要とせずに効果的なモデルを学ぶために、わずかなショットラーニングが研究されている。
本稿では,新しいクラスのプロトタイプをラベル付きサンプルから推定できるように,要素表現を得るためのトレーニング戦略の設計に焦点をあてる。
本稿では,まずパートナーエンコーダのペアワイド類似性をモデル化し,ソフトアンカーとして機能する特徴を抽出し,その出力をソフトアンカーと整列させ,分類性能を最大化しようとする2段階トレーニング手法を提案する。
論文 参考訳(メタデータ) (2021-09-15T22:46:19Z) - Region Comparison Network for Interpretable Few-shot Image
Classification [97.97902360117368]
新しいクラスのモデルをトレーニングするために、ラベル付きサンプルの限られた数だけを効果的に活用するための画像分類が提案されている。
本研究では,領域比較ネットワーク (RCN) と呼ばれる距離学習に基づく手法を提案する。
また,タスクのレベルからカテゴリへの解釈可能性の一般化も提案する。
論文 参考訳(メタデータ) (2020-09-08T07:29:05Z) - Training few-shot classification via the perspective of minibatch and
pretraining [10.007569291231915]
少ないショット分類は、人間が限られた事前データから概念を学ぶ能力を定式化することを目的とした課題である。
近年,メタラーニングが注目されている。
分類問題におけるミニバッチと事前学習に対応する多相・横断訓練手法を提案する。
論文 参考訳(メタデータ) (2020-04-10T03:14:48Z) - Selecting Relevant Features from a Multi-domain Representation for
Few-shot Classification [91.67977602992657]
本稿では,従来の特徴適応手法よりもシンプルかつ効果的である特徴選択に基づく新しい戦略を提案する。
このような特徴の上に構築された単純な非パラメトリック分類器は高い精度を示し、訓練中に見たことのない領域に一般化する。
論文 参考訳(メタデータ) (2020-03-20T15:44:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。