論文の概要: Ortho-Shot: Low Displacement Rank Regularization with Data Augmentation
for Few-Shot Learning
- arxiv url: http://arxiv.org/abs/2110.09374v1
- Date: Mon, 18 Oct 2021 14:58:36 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-19 18:39:18.396910
- Title: Ortho-Shot: Low Displacement Rank Regularization with Data Augmentation
for Few-Shot Learning
- Title(参考訳): Ortho-Shot:Few-Shot学習のためのデータ拡張による低変位ランク正規化
- Authors: Uche Osahor, Nasser M. Nasrabadi
- Abstract要約: 少数の分類において、第一の目的は、新しいクラスをうまく一般化する表現を学ぶことである。
オルソショット(Ortho-Shot)と呼ばれる効率的な低変位ランク(LDR)正規化戦略を提案する。
- 参考スコア(独自算出の注目度): 23.465747123791772
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In few-shot classification, the primary goal is to learn representations from
a few samples that generalize well for novel classes. In this paper, we propose
an efficient low displacement rank (LDR) regularization strategy termed
Ortho-Shot; a technique that imposes orthogonal regularization on the
convolutional layers of a few-shot classifier, which is based on the
doubly-block toeplitz (DBT) matrix structure. The regularized convolutional
layers of the few-shot classifier enhances model generalization and intra-class
feature embeddings that are crucial for few-shot learning. Overfitting is a
typical issue for few-shot models, the lack of data diversity inhibits proper
model inference which weakens the classification accuracy of few-shot learners
to novel classes. In this regard, we broke down the pipeline of the few-shot
classifier and established that the support, query and task data augmentation
collectively alleviates overfitting in networks. With compelling results, we
demonstrated that combining a DBT-based low-rank orthogonal regularizer with
data augmentation strategies, significantly boosts the performance of a
few-shot classifier. We perform our experiments on the miniImagenet, CIFAR-FS
and Stanford datasets with performance values of about 5\% when compared to
state-of-the-art
- Abstract(参考訳): 少数ショット分類では、主な目標は、新しいクラスをうまく一般化したいくつかのサンプルから表現を学ぶことである。
本稿では,2重ブロックtoeplitz (dbt) 行列構造に基づく,数発分類器の畳み込み層に直交正規化を課す手法である,オルソショットと呼ばれる効率的な低変位ランク (ldr) 正規化戦略を提案する。
数ショット分類器の正規化畳み込み層は、数ショット学習に不可欠なモデル一般化とクラス内特徴埋め込みを強化する。
データ多様性の欠如は適切なモデル推論を阻害し、少数の学習者の新しいクラスへの分類精度を弱めている。
この点に関して、数発の分類器のパイプラインを分解し、サポート、クエリ、タスクデータの増大がネットワークの過度な適合を緩和することを確立した。
その結果,DBTベースの低ランク直交正規化器とデータ拡張戦略を組み合わせることで,数ショットの分類器の性能が著しく向上することを示した。
最先端と比較して約5倍の性能を持つminiImagenet、CIFAR-FS、Stanfordデータセットで実験を行った。
関連論文リスト
- CLIP Adaptation by Intra-modal Overlap Reduction [1.2277343096128712]
画像空間におけるモーダル内重なりを埋め込み表現の観点から解析する。
Google Open Imagesデータセットからサンプルのジェネリックセットに軽量アダプタをトレーニングします。
論文 参考訳(メタデータ) (2024-09-17T16:40:58Z) - Intra-task Mutual Attention based Vision Transformer for Few-Shot Learning [12.5354658533836]
人間は、ほんのわずかの例に晒された後に、新しい、目に見えない画像を正確に分類する能力を持っている。
人工ニューラルネットワークモデルでは、限られたサンプルを持つ2つのイメージを区別する最も関連性の高い特徴を決定することが課題である。
本稿では,サポートとクエリサンプルをパッチに分割するタスク内相互注意手法を提案する。
論文 参考訳(メタデータ) (2024-05-06T02:02:57Z) - Compound Batch Normalization for Long-tailed Image Classification [77.42829178064807]
本稿では,ガウス混合に基づく複合バッチ正規化法を提案する。
機能空間をより包括的にモデル化し、ヘッドクラスの優位性を減らすことができる。
提案手法は,画像分類における既存の手法よりも優れている。
論文 参考訳(メタデータ) (2022-12-02T07:31:39Z) - Bi-directional Feature Reconstruction Network for Fine-Grained Few-Shot
Image Classification [61.411869453639845]
クラス間およびクラス内変動を同時に対応できるバイコンストラクション機構を導入する。
この設計は、モデルがより微妙で差別的な特徴を探索するのに役立つ。
広範に使用されている3つのきめ細かな画像分類データセットに対する実験結果は、一貫して大幅に改善されている。
論文 参考訳(メタデータ) (2022-11-30T16:55:14Z) - Fast Hierarchical Learning for Few-Shot Object Detection [57.024072600597464]
転送学習アプローチは、最近、数ショット検出タスクで有望な結果を得た。
これらのアプローチは、ベース検出器の微調整による破滅的な忘れ込みの問題に悩まされる。
この作業における上記の問題に対処する。
論文 参考訳(メタデータ) (2022-10-10T20:31:19Z) - GDC- Generalized Distribution Calibration for Few-Shot Learning [5.076419064097734]
大規模なラベル付きデータセットを組み立てるのにかなりの時間と労力を要するため、機械学習において重要な問題となるショットラーニングはほとんどない。
ほとんどの少数ショット学習アルゴリズムは、2つの制限の1つに悩まされている。
そこで本研究では,全大クラスの重み付きランダム変数として分類する際,少数ショット分布を推定する一般サンプリング手法を提案する。
論文 参考訳(メタデータ) (2022-04-11T16:22:53Z) - Class-Incremental Learning with Strong Pre-trained Models [97.84755144148535]
CIL(Class-incremental Learning)は、少数のクラス(ベースクラス)から始まる設定で広く研究されている。
我々は、多数のベースクラスで事前訓練された強力なモデルから始まるCILの実証済み実世界の設定について検討する。
提案手法は、解析されたCIL設定すべてに頑健で一般化されている。
論文 参考訳(メタデータ) (2022-04-07T17:58:07Z) - No Fear of Heterogeneity: Classifier Calibration for Federated Learning
with Non-IID Data [78.69828864672978]
実世界のフェデレーションシステムにおける分類モデルのトレーニングにおける中心的な課題は、非IIDデータによる学習である。
このアルゴリズムは, 近似されたssian混合モデルからサンプリングした仮想表現を用いて分類器を調整する。
実験の結果,CIFAR-10,CIFAR-100,CINIC-10など,一般的なフェデレーション学習ベンチマークにおけるCCVRの現状が示された。
論文 参考訳(メタデータ) (2021-06-09T12:02:29Z) - Contrastive Prototype Learning with Augmented Embeddings for Few-Shot
Learning [58.2091760793799]
拡張埋め込み(CPLAE)モデルを用いた新しいコントラスト型プロトタイプ学習を提案する。
クラスプロトタイプをアンカーとして、CPLは、同じクラスのクエリサンプルを、異なるクラスのサンプルを、さらに遠くに引き出すことを目的としている。
いくつかのベンチマークによる大規模な実験により,提案したCPLAEが新たな最先端を実現することが示された。
論文 参考訳(メタデータ) (2021-01-23T13:22:44Z) - Variational Feature Disentangling for Fine-Grained Few-Shot
Classification [30.350307891161865]
ファインファインショット認識はしばしば、新しいカテゴリのデータの不足を訓練する問題に悩まされる。
本稿では,未確認クラスのクラス内ばらつきを増大させ,少ショット分類性能を向上させることに焦点を当てる。
論文 参考訳(メタデータ) (2020-10-07T08:13:42Z) - Bayesian Few-Shot Classification with One-vs-Each P\'olya-Gamma
Augmented Gaussian Processes [7.6146285961466]
FSC(Few-shot Classification)は、人間のような機械学習への道のりの重要なステップである。
P'olya-Gamma augmentation と one-vs-each softmax approximation の新たな組み合わせを提案する。
標準的な数ショット分類ベンチマークと数ショットドメイン転送タスクの両方において、精度の向上と不確かさの定量化を実証した。
論文 参考訳(メタデータ) (2020-07-20T19:10:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。