論文の概要: Contextualizing Enhances Gradient Based Meta Learning
- arxiv url: http://arxiv.org/abs/2007.10143v1
- Date: Fri, 17 Jul 2020 04:01:56 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-09 12:46:47.032353
- Title: Contextualizing Enhances Gradient Based Meta Learning
- Title（参考訳）: 文脈化は勾配に基づくメタ学習を強化する
- Authors: Evan Vogelbaum and Rumen Dangovski and Li Jing and Marin
Solja\v{c}i\'c
- Abstract要約: 本稿では,メタラーニング手法を文脈解析器と組み合わせることで,いくつかのショットラーニングデータセットの性能を著しく向上させることができることを示す。
オーバーフィットすることなくパラメータを更新することが困難である低データ環境に対して,我々のアプローチは特に適しています。
- 参考スコア（独自算出の注目度）: 7.009032627535598
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Meta learning methods have found success when applied to few shot
classification problems, in which they quickly adapt to a small number of
labeled examples. Prototypical representations, each representing a particular
class, have been of particular importance in this setting, as they provide a
compact form to convey information learned from the labeled examples. However,
these prototypes are just one method of representing this information, and they
are narrow in their scope and ability to classify unseen examples. We propose
the implementation of contextualizers, which are generalizable prototypes that
adapt to given examples and play a larger role in classification for
gradient-based models. We demonstrate how to equip meta learning methods with
contextualizers and show that their use can significantly boost performance on
a range of few shot learning datasets. We also present figures of merit
demonstrating the potential benefits of contextualizers, along with analysis of
how models make use of them. Our approach is particularly apt for low-data
environments where it is difficult to update parameters without overfitting.
Our implementation and instructions to reproduce the experiments are available
at https://github.com/naveace/proto-context.
- Abstract（参考訳）: メタ学習法は、少数のショット分類問題に適用した場合に成功し、少数のラベル付き例に迅速に適応する。
特定のクラスを表す原型表現は、ラベル付き例から学習した情報を伝えるためのコンパクトな形式を提供するので、この設定において特に重要である。
しかし、これらのプロトタイプはこの情報を表現する一つの方法であり、その範囲は狭く、見当たらない例を分類する能力がある。
本稿では,与えられた例に適応し,勾配モデルに対する分類においてより大きな役割を果たす一般化可能なプロトタイプである文脈化器の実装を提案する。
本稿では,メタラーニング手法を文脈解析器と組み合わせることで,いくつかのショットラーニングデータセットの性能を著しく向上させることができることを示す。
また,モデルがそれらをどのように利用するかの分析とともに,コンテクストライザの潜在的メリットを示すメリットの数値も提示する。
提案手法は,パラメータの過剰な更新が難しい低データ環境において特に適している。
実験を再現するための実装とインストラクションは、https://github.com/naveace/proto-contextで利用可能です。
関連論文リスト
- Improve Meta-learning for Few-Shot Text Classification with All You Can Acquire from the Tasks [10.556477506959888]
既存の手法は、しばしばサポートセットのサンプルから正確なクラスプロトタイプを描くのに困難に遭遇する。
近年のアプローチでは、外部知識や事前訓練された言語モデルを組み込んでデータを拡張しようとするが、追加のリソースが必要になる。
本稿では,タスク自体の情報を適切に活用した新しいソリューションを提案する。
論文 参考訳（メタデータ） (2024-10-14T12:47:11Z) - Generalization Properties of Retrieval-based Models [50.35325326050263]
検索ベースの機械学習手法は、幅広い問題で成功をおさめた。
これらのモデルの約束を示す文献が増えているにもかかわらず、そのようなモデルの理論的基盤はいまだに解明されていない。
本稿では,その一般化能力を特徴付けるために,検索ベースモデルの形式的処理を行う。
論文 参考訳（メタデータ） (2022-10-06T00:33:01Z) - Not All Instances Contribute Equally: Instance-adaptive Class
Representation Learning for Few-Shot Visual Recognition [94.04041301504567]
少数ショットの視覚認識は、いくつかのラベル付きインスタンスから新しい視覚概念を認識することを指す。
本稿では,数ショットの視覚認識を実現するために,インスタンス適応型クラス表現学習ネットワーク(ICRL-Net)と呼ばれる新しいメトリックベースのメタラーニングフレームワークを提案する。
論文 参考訳（メタデータ） (2022-09-07T10:00:18Z) - An Additive Instance-Wise Approach to Multi-class Model Interpretation [53.87578024052922]
解釈可能な機械学習は、ブラックボックスシステムの特定の予測を駆動する要因に関する洞察を提供する。
既存の手法は主に、局所的な加法的あるいはインスタンス的なアプローチに従う説明的入力特徴の選択に重点を置いている。
本研究は,両手法の長所を生かし,複数の対象クラスに対する局所的な説明を同時に学習するためのグローバルフレームワークを提案する。
論文 参考訳（メタデータ） (2022-07-07T06:50:27Z) - Reordering Examples Helps during Priming-based Few-Shot Learning [6.579039107070663]
PERO は 10 個の例から効率よく一般化できることを示す。
提案手法が感情分類,自然言語推論,事実検索のタスクに与える影響を実証する。
論文 参考訳（メタデータ） (2021-06-03T11:02:36Z) - One Representation to Rule Them All: Identifying Out-of-Support Examples
in Few-shot Learning with Generic Representations [0.8076739603800089]
本稿では,プロトタイプネットワークフレームワーク内での'out-of- supported'(OOS)例を識別する新しい手法について述べる。
本稿では,本手法が文献における既存手法よりも優れていることを示す。
論文 参考訳（メタデータ） (2021-06-02T19:07:27Z) - Using Sentences as Semantic Representations in Large Scale Zero-Shot
Learning [6.0158981171030685]
ゼロショット学習は、トレーニング中に視覚的なインスタンスが利用できない、見えないクラスのインスタンスを認識することを目的としている。
良いトレードオフは、自然言語の短い文をクラス記述として使うことである。
単純な手法では文だけでは良い結果が得られないが、通常の単語の埋め込みと文の組み合わせは、現在の最先端よりも大幅に優れていることを示す。
論文 参考訳（メタデータ） (2020-10-06T18:22:21Z) - Region Comparison Network for Interpretable Few-shot Image
Classification [97.97902360117368]
新しいクラスのモデルをトレーニングするために、ラベル付きサンプルの限られた数だけを効果的に活用するための画像分類が提案されている。
本研究では,領域比較ネットワーク (RCN) と呼ばれる距離学習に基づく手法を提案する。
また,タスクのレベルからカテゴリへの解釈可能性の一般化も提案する。
論文 参考訳（メタデータ） (2020-09-08T07:29:05Z) - Few-shot Classification via Adaptive Attention [93.06105498633492]
ごく少数の参照サンプルに基づいて,クエリサンプル表現を最適化し,高速に適応する新しい数ショット学習手法を提案する。
実験で実証したように,提案モデルでは,様々なベンチマーク数ショット分類と微粒化認識データセットを用いて,最先端の分類結果を達成している。
論文 参考訳（メタデータ） (2020-08-06T05:52:59Z) - UniT: Unified Knowledge Transfer for Any-shot Object Detection and
Segmentation [52.487469544343305]
オブジェクト検出とセグメンテーションの方法は、トレーニングのための大規模インスタンスレベルのアノテーションに依存します。
本稿では,直感的かつ統一的な半教師付きモデルを提案する。
論文 参考訳（メタデータ） (2020-06-12T22:45:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。