論文の概要: Contrastive Knowledge-Augmented Meta-Learning for Few-Shot
Classification
- arxiv url: http://arxiv.org/abs/2207.12346v1
- Date: Mon, 25 Jul 2022 17:01:29 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-26 15:23:28.693313
- Title: Contrastive Knowledge-Augmented Meta-Learning for Few-Shot
Classification
- Title(参考訳): Few-Shot分類のためのコントラスト的知識強化メタラーニング
- Authors: Rakshith Subramanyam, Mark Heimann, Jayram Thathachar, Rushil Anirudh,
Jayaraman J. Thiagarajan
- Abstract要約: 本稿では,知識向上のための新しいアプローチであるCAML(Contrastive Knowledge-Augmented Meta Learning)を紹介する。
そこで我々は,CAMLの性能を,様々な場面で評価した。
- 参考スコア(独自算出の注目度): 28.38744876121834
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Model agnostic meta-learning algorithms aim to infer priors from several
observed tasks that can then be used to adapt to a new task with few examples.
Given the inherent diversity of tasks arising in existing benchmarks, recent
methods use separate, learnable structure, such as hierarchies or graphs, for
enabling task-specific adaptation of the prior. While these approaches have
produced significantly better meta learners, our goal is to improve their
performance when the heterogeneous task distribution contains challenging
distribution shifts and semantic disparities. To this end, we introduce CAML
(Contrastive Knowledge-Augmented Meta Learning), a novel approach for
knowledge-enhanced few-shot learning that evolves a knowledge graph to
effectively encode historical experience, and employs a contrastive
distillation strategy to leverage the encoded knowledge for task-aware
modulation of the base learner. Using standard benchmarks, we evaluate the
performance of CAML in different few-shot learning scenarios. In addition to
the standard few-shot task adaptation, we also consider the more challenging
multi-domain task adaptation and few-shot dataset generalization settings in
our empirical studies. Our results shows that CAML consistently outperforms
best known approaches and achieves improved generalization.
- Abstract(参考訳): モデル非依存なメタ学習アルゴリズムは、いくつかの観察されたタスクから事前を推測することを目的としており、わずかな例で新しいタスクに適応するために使用できる。
既存のベンチマークで生じるタスクの固有の多様性を考えると、最近の手法では、階層やグラフのような独立した学習可能な構造を用いて、タスク固有の事前適応を可能にする。
これらのアプローチはメタ学習者を大幅に改善する一方で、異種タスクの分散が分散シフトと意味的差異に挑戦している場合に、そのパフォーマンスを向上させることを目標としています。
この目的のために我々は,知識グラフを進化させ,歴史的経験を効果的にエンコードする知識強調学習のための新しいアプローチであるCAML(Contrastive Knowledge-Augmented Meta Learning)を導入する。
標準ベンチマークを用いて,各学習シナリオにおけるcamlの性能評価を行った。
標準的なマイナショットタスク適応に加えて、より困難なマルチドメインタスク適応とマイナショットデータセットの一般化設定を経験的研究で検討する。
以上の結果から,CAMLはよく知られた手法を一貫して上回り,一般化の向上を実現している。
関連論文リスト
- MetaModulation: Learning Variational Feature Hierarchies for Few-Shot
Learning with Fewer Tasks [63.016244188951696]
本稿では,タスクを減らした少数ショット学習手法を提案する。
メタトレーニングタスクを増やすために、さまざまなバッチレベルでパラメータを変更します。
また,変分法を取り入れた学習的変分特徴階層も導入する。
論文 参考訳(メタデータ) (2023-05-17T15:47:47Z) - On the Effectiveness of Fine-tuning Versus Meta-reinforcement Learning [71.55412580325743]
本稿では,新しいタスクを微調整したマルチタスク事前学習がメタテスト時間適応によるメタ事前学習と同等かそれ以上に機能することを示す。
マルチタスク事前学習はメタRLよりもシンプルで計算的に安価である傾向があるため、これは将来の研究を奨励している。
論文 参考訳(メタデータ) (2022-06-07T13:24:00Z) - Meta Navigator: Search for a Good Adaptation Policy for Few-shot
Learning [113.05118113697111]
少ないショット学習は、ラベル付きデータしか持たない新しいタスクに、以前のタスクから学んだ知識を適応させることを目的としている。
少数ショット学習に関する研究文献は、大きな多様性を示し、異なるアルゴリズムは、しばしば異なる少数ショット学習シナリオで優れている。
本稿では,メタナビゲータ(Meta Navigator)について紹介する。
論文 参考訳(メタデータ) (2021-09-13T07:20:01Z) - Knowledge-Aware Meta-learning for Low-Resource Text Classification [87.89624590579903]
本稿では,低リソーステキスト分類問題について検討し,メタトレーニングとメタテストのギャップを埋める。
抽出した文固有知識グラフから学習した各文に対する追加表現を提案する。
論文 参考訳(メタデータ) (2021-09-10T07:20:43Z) - A Channel Coding Benchmark for Meta-Learning [21.2424398453955]
メタラーニングにおけるいくつかの重要な問題は、これまでのところ研究が困難であることが証明されている。
メタ学習のベンチマークとしてチャネル符号化問題を提案する。
このベンチマークは、コミュニティがメタ学習の能力と限界を研究するためのツールを提供する。
論文 参考訳(メタデータ) (2021-07-15T19:37:43Z) - Meta-Learning with Fewer Tasks through Task Interpolation [67.03769747726666]
現在のメタ学習アルゴリズムは多数のメタトレーニングタスクを必要としており、実際のシナリオではアクセスできない可能性がある。
タスクグラデーションを用いたメタラーニング(MLTI)により,タスクのペアをランダムにサンプリングし,対応する特徴やラベルを補間することにより,タスクを効果的に生成する。
実証的な実験では,提案する汎用MLTIフレームワークが代表的なメタ学習アルゴリズムと互換性があり,他の最先端戦略を一貫して上回っていることがわかった。
論文 参考訳(メタデータ) (2021-06-04T20:15:34Z) - Revisiting Unsupervised Meta-Learning: Amplifying or Compensating for
the Characteristics of Few-Shot Tasks [30.893785366366078]
我々は,限られたデータを用いて視覚認識システムを構築する,少数ショット画像分類への実践的アプローチを開発した。
基本クラスセットラベルは不要であり、識別的埋め込みは教師なしの方法でメタ学習される可能性がある。
数ショットの学習ベンチマークの実験では、従来の手法よりも4~10%のパフォーマンス差で、アプローチが優れていることが確認された。
論文 参考訳(メタデータ) (2020-11-30T10:08:35Z) - Meta-learning the Learning Trends Shared Across Tasks [123.10294801296926]
グラディエントベースのメタ学習アルゴリズムは、限られたデータで新しいタスクに素早く適応する。
既存のメタ学習アプローチは、適応中の現在のタスク情報にのみ依存する。
パターン認識型メタラーニング手法を提案する。
論文 参考訳(メタデータ) (2020-10-19T08:06:47Z) - Structured Prediction for Conditional Meta-Learning [44.30857707980074]
構造化予測を用いた条件付きメタラーニングの新しい視点を提案する。
タスク適応型構造化メタラーニング(TASML: Task-Adaptive Structured Meta-learning)は,タスク固有目的関数を生成する基本的フレームワークである。
実験により,TASMLは既存のメタラーニングモデルの性能を向上し,ベンチマークデータセットの最先端性を上回った。
論文 参考訳(メタデータ) (2020-02-20T15:24:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。