論文の概要: Self-Augmentation: Generalizing Deep Networks to Unseen Classes for
Few-Shot Learning
- arxiv url: http://arxiv.org/abs/2004.00251v3
- Date: Tue, 4 Aug 2020 08:37:35 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-17 17:42:15.899731
- Title: Self-Augmentation: Generalizing Deep Networks to Unseen Classes for
Few-Shot Learning
- Title(参考訳): 自己拡張: 深層ネットワークをFew-Shot学習の未確認クラスに一般化する
- Authors: Jin-Woo Seo, Hong-Gyu Jung, Seong-Whan Lee
- Abstract要約: ほとんどショット学習は、未確認のクラスをいくつかのトレーニング例で分類することを目的としている。
自己混合と自己蒸留を統合した自己拡張を提案する。
本稿では,未確認クラスの学習例をさらに活用するために,局所学習者表現を提案する。
- 参考スコア(独自算出の注目度): 21.3564383157159
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Few-shot learning aims to classify unseen classes with a few training
examples. While recent works have shown that standard mini-batch training with
a carefully designed training strategy can improve generalization ability for
unseen classes, well-known problems in deep networks such as memorizing
training statistics have been less explored for few-shot learning. To tackle
this issue, we propose self-augmentation that consolidates self-mix and
self-distillation. Specifically, we exploit a regional dropout technique called
self-mix, in which a patch of an image is substituted into other values in the
same image. Then, we employ a backbone network that has auxiliary branches with
its own classifier to enforce knowledge sharing. Lastly, we present a local
representation learner to further exploit a few training examples for unseen
classes. Experimental results show that the proposed method outperforms the
state-of-the-art methods for prevalent few-shot benchmarks and improves the
generalization ability.
- Abstract(参考訳): 未確認のクラスをいくつかのトレーニング例で分類することを目的としている。
近年の研究では、慎重に設計された訓練戦略による標準的なミニバッチトレーニングは、未確認クラスの一般化能力を向上させることが示されているが、訓練統計を記憶するといったディープネットワークにおけるよく知られた問題は、数発の学習では研究されていない。
この問題に対処するために,自己混合と自己蒸留を統合した自己拡張を提案する。
具体的には、イメージのパッチを同じイメージ内の他の値に置換する、セルフミックスと呼ばれる地域的ドロップアウト技術を利用する。
次に,独自の分類器を持つ補助ブランチを持つバックボーンネットワークを用いて,知識共有を行う。
最後に,ローカル表現学習者に対して,未確認クラスの学習例をさらに活用する。
実験の結果, 提案手法は, 広く普及しているマイズショットベンチマークの最先端手法よりも優れており, 一般化能力が向上した。
関連論文リスト
- Efficient Visualization of Neural Networks with Generative Models and Adversarial Perturbations [0.0]
本稿では,既存の手法を改良した生成ネットワークによるディープビジュアライゼーション手法を提案する。
我々のモデルは、使用するネットワーク数を減らし、ジェネレータと識別器のみを必要とすることにより、アーキテクチャを単純化する。
我々のモデルは、事前の訓練知識を少なくし、差別者がガイドとして機能する非敵的訓練プロセスを使用する。
論文 参考訳(メタデータ) (2024-09-20T14:59:25Z) - A Simple Approach to Adversarial Robustness in Few-shot Image
Classification [20.889464448762176]
単純な移動学習に基づくアプローチは、逆向きに頑健な数ショット分類器を訓練するのに有効であることを示す。
また,少数ショットカテゴリのセントロイドをベースクラスに校正する手法を提案する。
論文 参考訳(メタデータ) (2022-04-11T22:46:41Z) - Contrastive Learning for Fair Representations [50.95604482330149]
訓練された分類モデルは、意図せずバイアスのある表現や予測につながる可能性がある。
対戦訓練のような既存の分類モデルのデバイアス化手法は、訓練に高価であり、最適化が困難であることが多い。
比較学習を取り入れたバイアス軽減手法を提案し、同じクラスラベルを共有するインスタンスに類似した表現を推奨する。
論文 参考訳(メタデータ) (2021-09-22T10:47:51Z) - LibFewShot: A Comprehensive Library for Few-shot Learning [78.58842209282724]
近年,画像分類に注目が集まり,近年顕著な進歩が見られた。
近年の研究では、データ強化、事前学習、知識蒸留、自己超越といった多くの一般的な手法や技法が、数発の学習法の性能を大幅に向上させる可能性があることが暗黙的に示されている。
そこで本研究では,PyTorchに固有の単一言語を組み込んだ一貫したフレームワークにおいて,17の最先端の複数ショット学習手法を再実装することにより,小ショット学習のための総合ライブラリ(LibFewShot)を提案する。
論文 参考訳(メタデータ) (2021-09-10T14:12:37Z) - Few-Shot Learning with Part Discovery and Augmentation from Unlabeled
Images [79.34600869202373]
帰納的バイアスは、ラベルなし画像の平坦な集合から学習でき、目に見えるクラスと目に見えないクラスの間で伝達可能な表現としてインスタンス化されることを示す。
具体的には、トランスファー可能な表現を学習するための、新しいパートベース自己教師型表現学習手法を提案する。
我々の手法は印象的な結果をもたらし、それまでの最高の教師なし手法を7.74%、9.24%上回った。
論文 参考訳(メタデータ) (2021-05-25T12:22:11Z) - Semi-Supervised Few-Shot Classification with Deep Invertible Hybrid
Models [4.189643331553922]
半教師付き小ショット分類のための潜在空間レベルで識別学習と生成学習を統合するディープ・インバーチブルハイブリッドモデルを提案する。
我々の主な独創性は、これらのコンポーネントを潜在空間レベルで統合することであり、過度な適合を防ぐのに有効である。
論文 参考訳(メタデータ) (2021-05-22T05:55:16Z) - Region Comparison Network for Interpretable Few-shot Image
Classification [97.97902360117368]
新しいクラスのモデルをトレーニングするために、ラベル付きサンプルの限られた数だけを効果的に活用するための画像分類が提案されている。
本研究では,領域比較ネットワーク (RCN) と呼ばれる距離学習に基づく手法を提案する。
また,タスクのレベルからカテゴリへの解釈可能性の一般化も提案する。
論文 参考訳(メタデータ) (2020-09-08T07:29:05Z) - Few-Shot Image Classification via Contrastive Self-Supervised Learning [5.878021051195956]
本稿では,欠陥を修復するための教師なし数発学習の新たなパラダイムを提案する。
我々は2つのフェーズでいくつかの課題を解決した: 対照的な自己教師付き学習を通して、伝達可能な特徴抽出器をメタトレーニングする。
本手法は,標準的な数ショットの視覚的分類データセット上で,多数の確立された数ショットタスクにおいて,最先端の性能を実現する。
論文 参考訳(メタデータ) (2020-08-23T02:24:31Z) - Looking back to lower-level information in few-shot learning [4.873362301533825]
本稿では,隠れたニューラルネットワーク層の特徴埋め込みを低レベル支援情報として活用し,分類精度を向上させることを提案する。
筆者らは,MiniImageNet と tieredImageNet という2つの人気の数点学習データセットを用いた実験を行い,この手法がネットワークの低レベル情報を利用して最先端の分類性能を向上できることを示した。
論文 参考訳(メタデータ) (2020-05-27T20:32:13Z) - Rethinking Few-Shot Image Classification: a Good Embedding Is All You
Need? [72.00712736992618]
メタトレーニングセット上で教師付きあるいは自己教師型表現を学習する単純なベースラインが、最先端の数ショット学習方法より優れていることを示す。
追加の増量は自己蒸留によって達成できる。
我々は,この発見が,画像分類ベンチマークとメタ学習アルゴリズムの役割を再考する動機となっていると考えている。
論文 参考訳(メタデータ) (2020-03-25T17:58:42Z) - Learning From Multiple Experts: Self-paced Knowledge Distillation for
Long-tailed Classification [106.08067870620218]
我々は,LFME(Learning From Multiple Experts)と呼ばれる自己評価型知識蒸留フレームワークを提案する。
提案するLFMEフレームワークは,複数の'Experts'からの知識を集約して,統一された学生モデルを学ぶ。
提案手法は,最先端の手法に比べて優れた性能が得られることを示す。
論文 参考訳(メタデータ) (2020-01-06T12:57:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。