論文の概要: Constrained Few-Shot Learning: Human-Like Low Sample Complexity Learning
and Non-Episodic Text Classification
- arxiv url: http://arxiv.org/abs/2208.08089v2
- Date: Thu, 7 Dec 2023 08:22:34 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-08 19:21:12.608704
- Title: Constrained Few-Shot Learning: Human-Like Low Sample Complexity Learning
and Non-Episodic Text Classification
- Title(参考訳): 制約付きFew-Shot学習:人間に似た低サンプル複雑度学習と非エポゾディックテキスト分類
- Authors: Jaron Mar and Jiamou Liu
- Abstract要約: ほとんどショット学習は、サンプルの複雑さの低い推論を学ぼうとする学習の創発的なパラダイムである。
認知理論に着想を得た新たなカテゴリー的コントラスト損失を用いたCFSL法を提案する。
- 参考スコア(独自算出の注目度): 11.35732215154172
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Few-shot learning (FSL) is an emergent paradigm of learning that attempts to
learn to reason with low sample complexity to mimic the way humans learn,
generalise and extrapolate from only a few seen examples. While FSL attempts to
mimic these human characteristics, fundamentally, the task of FSL as
conventionally formulated using meta-learning with episodic-based training does
not in actuality align with how humans acquire and reason with knowledge. FSL
with episodic training, while only requires $K$ instances of each test class,
still requires a large number of labelled training instances from disjoint
classes. In this paper, we introduce the novel task of constrained few-shot
learning (CFSL), a special case of FSL where $M$, the number of instances of
each training class is constrained such that $M \leq K$ thus applying a similar
restriction during FSL training and test. We propose a method for CFSL
leveraging Cat2Vec using a novel categorical contrastive loss inspired by
cognitive theories such as fuzzy trace theory and prototype theory.
- Abstract(参考訳): FSL(Few-shot Learning)は、人間の学習の仕方、一般化、外挿を模倣するために、サンプルの複雑さの低い推論を学習しようとする、創発的な学習パラダイムである。
FSLは、これらの人間の特徴を模倣しようとするが、基本的には、FSLのタスクは、メタラーニングとエピソードベースのトレーニングで定式化されている。
エピソードトレーニングを備えたFSLは、各テストクラスのK$インスタンスのみを必要とするが、相反するクラスから多数のラベル付きトレーニングインスタンスを必要とする。
本稿では,FSLの特別事例である制約付き小ショット学習(CFSL)の新たな課題について紹介する。例えば,$M$,各トレーニングクラスのインスタンス数が制約され,$M \leq K$ が FSL トレーニングおよびテスト中に同様の制約を適用している。
ファジィトレース理論やプロトタイプ理論などの認知理論に触発された新しいカテゴリー的コントラスト損失を用いて, cat2vecを活用するcfsl法を提案する。
関連論文リスト
- Instance-based Max-margin for Practical Few-shot Recognition [32.26577845735846]
IbM2は、数ショット学習のための新しいインスタンスベースのマックスマージン法である。
本稿では,IbM2がベースライン法に比べてほぼ常に改善されていることを示す。
論文 参考訳(メタデータ) (2023-05-27T04:55:13Z) - OpenLDN: Learning to Discover Novel Classes for Open-World
Semi-Supervised Learning [110.40285771431687]
半教師付き学習(SSL)は、教師付き学習のアノテーションボトルネックに対処する主要なアプローチの1つである。
最近のSSLメソッドは、ラベルなしデータの大規模なリポジトリを有効活用して、ラベル付きデータの小さなセットに依存しながら、パフォーマンスを向上させることができる。
この研究は、ペアワイズ類似度損失を利用して新しいクラスを発見するOpenLDNを導入している。
論文 参考訳(メタデータ) (2022-07-05T18:51:05Z) - Semantics-driven Attentive Few-shot Learning over Clean and Noisy
Samples [0.0]
メタラーナーモデルを学習し、新しいクラスに関する事前の意味知識を活用して分類器合成プロセスを導くことを目指している。
特に,表現次元とトレーニングインスタンスの重要性を推定する意味条件付き特徴注意機構とサンプル注意機構を提案する。
論文 参考訳(メタデータ) (2022-01-09T16:16:23Z) - A Strong Baseline for Semi-Supervised Incremental Few-Shot Learning [54.617688468341704]
少ないショット学習は、限られたトレーニングサンプルを持つ新しいクラスに一般化するモデルを学ぶことを目的としている。
本研究では,(1)信頼できない擬似ラベルによる基本クラスと新クラスのあいまいさを緩和する高度に設計されたメタトレーニングアルゴリズム,(2)ラベルの少ないデータとラベルなしデータを用いて基礎知識を保ちながら,新クラスの識別的特徴を学習するモデル適応機構を提案する。
論文 参考訳(メタデータ) (2021-10-21T13:25:52Z) - Towards Zero-Shot Learning with Fewer Seen Class Examples [41.751885300474925]
ゼロショット学習(ZSL)のためのメタ学習に基づく生成モデルを提案する。
この設定は従来のZSLアプローチとは対照的であり、トレーニングは通常、各クラスから十分な数のトレーニングサンプルが利用可能であると仮定する。
筆者らは,ZSLの4つのベンチマークデータセットに関する広範囲な実験およびアブレーション研究を行い,提案モデルが実例数が非常に小さい場合に,最先端のアプローチよりも優れた性能を示すことを示した。
論文 参考訳(メタデータ) (2020-11-14T11:58:35Z) - Interventional Few-Shot Learning [88.31112565383457]
本稿では,新しいFew-Shot Learningパラダイム,Interventional Few-Shot Learningを提案する。
コードはhttps://github.com/yue-zhongqi/ifsl.comで公開されている。
論文 参考訳(メタデータ) (2020-09-28T01:16:54Z) - Boosting Few-Shot Learning With Adaptive Margin Loss [109.03665126222619]
本稿では,数ショット学習問題に対するメートル法に基づくメタラーニング手法の一般化能力を改善するための適応的マージン原理を提案する。
大規模な実験により,提案手法は,現在のメートル法に基づくメタラーニング手法の性能を向上させることができることが示された。
論文 参考訳(メタデータ) (2020-05-28T07:58:41Z) - TAFSSL: Task-Adaptive Feature Sub-Space Learning for few-shot
classification [50.358839666165764]
本稿では,タスク適応機能サブスペース学習(TAFSSL)により,Few-Shot Learningシナリオの性能を大幅に向上させることができることを示す。
具体的には、挑戦的な miniImageNet と tieredImageNet ベンチマークにおいて、TAFSSL はトランスダクティブおよび半教師付き FSL 設定の両方で現在の状態を改善することができることを示しています。
論文 参考訳(メタデータ) (2020-03-14T16:59:17Z) - Few-Shot Learning as Domain Adaptation: Algorithm and Analysis [120.75020271706978]
わずかながらの学習は、目に見えないクラスを認識するために、目に見えないクラスから学んだ事前知識を使用する。
このクラス差による分布シフトは、ドメインシフトの特別なケースとみなすことができる。
メタラーニングフレームワークにおいて、そのようなドメインシフト問題に明示的に対処するために、注意を向けたプロトタイプドメイン適応ネットワーク(DAPNA)を提案する。
論文 参考訳(メタデータ) (2020-02-06T01:04:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。