論文の概要: Constrained Few-Shot Learning: Human-Like Low Sample Complexity Learning
and Non-Episodic Text Classification
- arxiv url: http://arxiv.org/abs/2208.08089v1
- Date: Wed, 17 Aug 2022 06:05:41 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-18 12:23:30.843889
- Title: Constrained Few-Shot Learning: Human-Like Low Sample Complexity Learning
and Non-Episodic Text Classification
- Title(参考訳): 制約付きFew-Shot学習:人間に似た低サンプル複雑度学習と非エポゾディックテキスト分類
- Authors: Jaron Mar and Jiamou Liu
- Abstract要約: 少ないショット学習(Few-shot learning)は、人間の学習方法を模倣するために、低いサンプルの複雑さで学習しようとする、創発的な学習パラダイムである。
本稿では,クラス毎のトレーニングインスタンス数が一定の値以下に制限される制約付き数ショット学習という新しいタスクを紹介し,トレーニングやテストにおいて同様の制約を適用した。
ファジィトレース理論やプロトタイプ理論などの認知理論に着想を得た新しいカテゴリー的コントラスト損失を用いたCFSLを提案する。
- 参考スコア(独自算出の注目度): 5.154015755506085
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Few-shot learning (FSL) is an emergent paradigm of learning that attempts to
learn with low sample complexity to mimic the way humans can learn, generalise
and extrapolate based on only a few examples. While FSL attempts to mimic these
human characteristics, fundamentally, the task of FSL as conventionally
described and modelled using meta-learning with episodic-based training does
not fully align with how humans acquire and reason with knowledge. FSL with
episodic training, while only using $K$ instances of each test class, still
requires a large number of labelled instances from disjoint training classes.
In this paper, we introduce the novel task of constrained few-shot learning
(CFSL), a special case of FSL where the number of training instances of each
class is constrained to be less than some value $M$ thus applying a similar
restriction during training and test. We propose a method for CFSL leveraging
Cat2Vec using a novel categorical contrastive loss inspired by cognitive
theories such as fuzzy trace theory and prototype theory.
- Abstract(参考訳): FSL(Few-shot Learning)は、人間の学習方法、一般化、外挿を模した、サンプルの少ない複雑さで学習しようとする、創発的な学習パラダイムである。
FSLは、これらの人間の特徴を模倣しようとするが、基本的には、FSLのタスクは、メタラーニングとエピソードベースのトレーニングを用いて記述され、モデル化されている。
エピソードトレーニングを備えたFSLは、各テストクラスの$K$インスタンスのみを使用するが、相反するトレーニングクラスの多数のラベル付きインスタンスを必要とする。
本稿では,fslの特別な場合である制約付き少数ショット学習(constricted few-shot learning, cfsl)という新しいタスクについて紹介する。
ファジィトレース理論やプロトタイプ理論などの認知理論に触発された新しいカテゴリー的コントラスト損失を用いて, cat2vecを活用するcfsl法を提案する。
関連論文リスト
- Instance-based Max-margin for Practical Few-shot Recognition [32.26577845735846]
IbM2は、数ショット学習のための新しいインスタンスベースのマックスマージン法である。
本稿では,IbM2がベースライン法に比べてほぼ常に改善されていることを示す。
論文 参考訳(メタデータ) (2023-05-27T04:55:13Z) - OpenLDN: Learning to Discover Novel Classes for Open-World
Semi-Supervised Learning [110.40285771431687]
半教師付き学習(SSL)は、教師付き学習のアノテーションボトルネックに対処する主要なアプローチの1つである。
最近のSSLメソッドは、ラベルなしデータの大規模なリポジトリを有効活用して、ラベル付きデータの小さなセットに依存しながら、パフォーマンスを向上させることができる。
この研究は、ペアワイズ類似度損失を利用して新しいクラスを発見するOpenLDNを導入している。
論文 参考訳(メタデータ) (2022-07-05T18:51:05Z) - Semantics-driven Attentive Few-shot Learning over Clean and Noisy
Samples [0.0]
メタラーナーモデルを学習し、新しいクラスに関する事前の意味知識を活用して分類器合成プロセスを導くことを目指している。
特に,表現次元とトレーニングインスタンスの重要性を推定する意味条件付き特徴注意機構とサンプル注意機構を提案する。
論文 参考訳(メタデータ) (2022-01-09T16:16:23Z) - A Strong Baseline for Semi-Supervised Incremental Few-Shot Learning [54.617688468341704]
少ないショット学習は、限られたトレーニングサンプルを持つ新しいクラスに一般化するモデルを学ぶことを目的としている。
本研究では,(1)信頼できない擬似ラベルによる基本クラスと新クラスのあいまいさを緩和する高度に設計されたメタトレーニングアルゴリズム,(2)ラベルの少ないデータとラベルなしデータを用いて基礎知識を保ちながら,新クラスの識別的特徴を学習するモデル適応機構を提案する。
論文 参考訳(メタデータ) (2021-10-21T13:25:52Z) - Towards Zero-Shot Learning with Fewer Seen Class Examples [41.751885300474925]
ゼロショット学習(ZSL)のためのメタ学習に基づく生成モデルを提案する。
この設定は従来のZSLアプローチとは対照的であり、トレーニングは通常、各クラスから十分な数のトレーニングサンプルが利用可能であると仮定する。
筆者らは,ZSLの4つのベンチマークデータセットに関する広範囲な実験およびアブレーション研究を行い,提案モデルが実例数が非常に小さい場合に,最先端のアプローチよりも優れた性能を示すことを示した。
論文 参考訳(メタデータ) (2020-11-14T11:58:35Z) - Interventional Few-Shot Learning [88.31112565383457]
本稿では,新しいFew-Shot Learningパラダイム,Interventional Few-Shot Learningを提案する。
コードはhttps://github.com/yue-zhongqi/ifsl.comで公開されている。
論文 参考訳(メタデータ) (2020-09-28T01:16:54Z) - Boosting Few-Shot Learning With Adaptive Margin Loss [109.03665126222619]
本稿では,数ショット学習問題に対するメートル法に基づくメタラーニング手法の一般化能力を改善するための適応的マージン原理を提案する。
大規模な実験により,提案手法は,現在のメートル法に基づくメタラーニング手法の性能を向上させることができることが示された。
論文 参考訳(メタデータ) (2020-05-28T07:58:41Z) - TAFSSL: Task-Adaptive Feature Sub-Space Learning for few-shot
classification [50.358839666165764]
本稿では,タスク適応機能サブスペース学習(TAFSSL)により,Few-Shot Learningシナリオの性能を大幅に向上させることができることを示す。
具体的には、挑戦的な miniImageNet と tieredImageNet ベンチマークにおいて、TAFSSL はトランスダクティブおよび半教師付き FSL 設定の両方で現在の状態を改善することができることを示しています。
論文 参考訳(メタデータ) (2020-03-14T16:59:17Z) - Few-Shot Learning as Domain Adaptation: Algorithm and Analysis [120.75020271706978]
わずかながらの学習は、目に見えないクラスを認識するために、目に見えないクラスから学んだ事前知識を使用する。
このクラス差による分布シフトは、ドメインシフトの特別なケースとみなすことができる。
メタラーニングフレームワークにおいて、そのようなドメインシフト問題に明示的に対処するために、注意を向けたプロトタイプドメイン適応ネットワーク(DAPNA)を提案する。
論文 参考訳(メタデータ) (2020-02-06T01:04:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。