論文の概要: Episodic-free Task Selection for Few-shot Learning
- arxiv url: http://arxiv.org/abs/2402.00092v1
- Date: Wed, 31 Jan 2024 10:52:15 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-02 17:51:21.965558
- Title: Episodic-free Task Selection for Few-shot Learning
- Title(参考訳): 単発学習のためのエピソディクスフリータスク選択
- Authors: Tao Zhang
- Abstract要約: エピソードトレーニング以外の新しいメタトレーニングフレームワークを提案する。
エピソード・タスクは直接訓練に使用されるのではなく、選択されたエピソード・フリー・タスクの有効性を評価するために用いられる。
実験では、トレーニングタスクセットには、例えば、コントラスト学習や分類など、いくつかの有望なタイプが含まれている。
- 参考スコア(独自算出の注目度): 2.508902852545462
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Episodic training is a mainstream training strategy for few-shot learning. In
few-shot scenarios, however, this strategy is often inferior to some
non-episodic training strategy, e. g., Neighbourhood Component Analysis (NCA),
which challenges the principle that training conditions must match testing
conditions. Thus, a question is naturally asked: How to search for
episodic-free tasks for better few-shot learning? In this work, we propose a
novel meta-training framework beyond episodic training. In this framework,
episodic tasks are not used directly for training, but for evaluating the
effectiveness of some selected episodic-free tasks from a task set that are
performed for training the meta-learners. The selection criterion is designed
with the affinity, which measures the degree to which loss decreases when
executing the target tasks after training with the selected tasks. In
experiments, the training task set contains some promising types, e. g.,
contrastive learning and classification, and the target few-shot tasks are
achieved with the nearest centroid classifiers on the miniImageNet,
tiered-ImageNet and CIFAR-FS datasets. The experimental results demonstrate the
effectiveness of our approach.
- Abstract(参考訳): エピソディクスのトレーニングは、マイナショット学習の主流のトレーニング戦略である。
しかし、少数のシナリオでは、この戦略は非エポゾディックなトレーニング戦略よりも劣ることが多い。
g.
近隣成分分析(neighborhood component analysis, nca)は、訓練条件が試験条件に合致しなければならないという原則に挑戦する。
そこで、自然に疑問が投げかけられる: より優れた数発学習のために、どのようにエピソードなしのタスクを検索するか?
本稿では,エピソジックトレーニングを超えた新しいメタトレーニングフレームワークを提案する。
このフレームワークでは、エピソディックタスクは直接トレーニングに使われず、メタリーナーのトレーニングのために実行されるタスクセットから選択されたエピソディックフリータスクの有効性を評価するために用いられる。
選択基準は、選択されたタスクでトレーニングした後の目標タスクの実行時に損失が減少する度合いを測定するアフィニティで設計される。
実験では、トレーニングタスクセットには有望な型が含まれている。
g.
対照的な学習と分類、ターゲットとなる数ショットタスクは、miniImageNet, tiered-ImageNet, CIFAR-FSデータセット上で最寄りのセントロイド分類器によって達成される。
実験の結果,本手法の有効性が示された。
関連論文リスト
- Reinforcement Learning with Success Induced Task Prioritization [68.8204255655161]
本稿では,自動カリキュラム学習のためのフレームワークであるSuccess induced Task Prioritization (SITP)を紹介する。
アルゴリズムはエージェントに最速の学習を提供するタスクの順序を選択する。
我々は,SITPが他のカリキュラム設計手法と一致するか,あるいは上回っていることを実証する。
論文 参考訳(メタデータ) (2022-12-30T12:32:43Z) - Selecting task with optimal transport self-supervised learning for
few-shot classification [15.088213168796772]
Few-Shot分類は、トレーニングプロセスで利用可能なサンプルはわずかである、という問題を解決することを目的としている。
本稿では,Few-Shot 学習のための類似タスクを選択して学習セットを構築するために,OTTS (Optimal Transport Task Selecting) という新しいタスク選択アルゴリズムを提案する。
OTTSは最適な輸送距離を計算してタスク類似度を測定し、自己監督戦略を通じてモデルトレーニングを完了させる。
論文 参考訳(メタデータ) (2022-04-01T08:45:29Z) - Curriculum Meta-Learning for Few-shot Classification [1.5039745292757671]
本稿では,最新のメタ学習技術に適用可能なカリキュラム学習フレームワークの適応性を提案する。
数発の画像分類タスクにおけるMAMLアルゴリズムによる実験は,カリキュラムの学習フレームワークにおいて有意な効果を示した。
論文 参考訳(メタデータ) (2021-12-06T10:29:23Z) - MetaICL: Learning to Learn In Context [87.23056864536613]
そこで我々は,メタICLというメタトレーニングフレームワークを紹介した。このフレームワークでは,事前学習された言語モデルが,大量のトレーニングタスクに対してコンテキスト内学習を行うように調整されている。
その結果,MetaICLは,目標タスクトレーニングデータに対して完全に微調整されたモデルの性能にアプローチ(時には打ち負かす)し,ほぼ8倍のパラメータを持つモデルよりも優れた性能を示すことがわかった。
論文 参考訳(メタデータ) (2021-10-29T17:42:08Z) - Uniform Sampling over Episode Difficulty [55.067544082168624]
本稿では,その難易度に基づいて,エピソードサンプリング分布を近似する手法を提案する。
提案手法はアルゴリズムに依存しないため,これらの知見を利用して数発の学習精度を向上させることができる。
論文 参考訳(メタデータ) (2021-08-03T17:58:54Z) - Meta-Reinforcement Learning for Heuristic Planning [12.462608802359936]
メタ強化学習(Meta-Reinforcement Learning、Meta-RL)では、エージェントは、新しい、見えない、しかし関連するタスクの準備と学習のために一連のタスクで訓練される。
トレーニングタスクのセットが与えられた場合、トレーニングタスクが適切に選択された場合、学習はより迅速かつ効果的であることを示します。
本稿では,情報理論に基づくタスク選択アルゴリズムITTSを提案する。
論文 参考訳(メタデータ) (2021-07-06T13:25:52Z) - Conditional Meta-Learning of Linear Representations [57.90025697492041]
表現学習のための標準メタラーニングは、複数のタスク間で共有される共通の表現を見つけることを目的とする。
本研究では,タスクの側情報を手作業に適した表現にマッピングし,条件付け関数を推定することで,この問題を克服する。
この利点を実用的に活用できるメタアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-03-30T12:02:14Z) - Few-Shot Image Classification via Contrastive Self-Supervised Learning [5.878021051195956]
本稿では,欠陥を修復するための教師なし数発学習の新たなパラダイムを提案する。
我々は2つのフェーズでいくつかの課題を解決した: 対照的な自己教師付き学習を通して、伝達可能な特徴抽出器をメタトレーニングする。
本手法は,標準的な数ショットの視覚的分類データセット上で,多数の確立された数ショットタスクにおいて,最先端の性能を実現する。
論文 参考訳(メタデータ) (2020-08-23T02:24:31Z) - Adaptive Task Sampling for Meta-Learning [79.61146834134459]
数ショットの分類のためのメタラーニングの鍵となるアイデアは、テスト時に直面した数ショットの状況を模倣することである。
一般化性能を向上させるための適応型タスクサンプリング手法を提案する。
論文 参考訳(メタデータ) (2020-07-17T03:15:53Z) - Expert Training: Task Hardness Aware Meta-Learning for Few-Shot
Classification [62.10696018098057]
そこで本研究では,訓練課題を適切に整理するためのメタトレーニング戦略を提案する。
タスクの難易度を推定する訓練手順にタスク難易度認識モジュールを設計して統合する。
miniImageNet と tieredImageNetSketch のデータセットによる実験結果から,メタラーナーは専門家のトレーニング戦略によりより良い結果が得られることが示された。
論文 参考訳(メタデータ) (2020-07-13T08:49:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。