論文の概要: Concept Discovery for Fast Adapatation
- arxiv url: http://arxiv.org/abs/2301.07850v2
- Date: Mon, 10 Apr 2023 00:32:17 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-11 20:52:20.995616
- Title: Concept Discovery for Fast Adapatation
- Title(参考訳): fast adapatation の概念発見
- Authors: Shengyu Feng, Hanghang Tong
- Abstract要約: データ特徴間の構造をメタラーニングすることで、より効果的な適応を実現する。
提案手法は,概念ベースモデル非依存メタラーニング(COMAML)を用いて,合成されたデータセットと実世界のデータセットの両方に対して,構造化データの一貫した改善を実現する。
- 参考スコア(独自算出の注目度): 42.81705659613234
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The advances in deep learning have enabled machine learning methods to
outperform human beings in various areas, but it remains a great challenge for
a well-trained model to quickly adapt to a new task. One promising solution to
realize this goal is through meta-learning, also known as learning to learn,
which has achieved promising results in few-shot learning. However, current
approaches are still enormously different from human beings' learning process,
especially in the ability to extract structural and transferable knowledge.
This drawback makes current meta-learning frameworks non-interpretable and hard
to extend to more complex tasks. We tackle this problem by introducing concept
discovery to the few-shot learning problem, where we achieve more effective
adaptation by meta-learning the structure among the data features, leading to a
composite representation of the data. Our proposed method Concept-Based
Model-Agnostic Meta-Learning (COMAML) has been shown to achieve consistent
improvements in the structured data for both synthesized datasets and
real-world datasets.
- Abstract(参考訳): ディープラーニングの進歩により、機械学習の手法はさまざまな分野で人間より優れているが、十分に訓練されたモデルが新しいタスクに迅速に適応することは、依然として大きな課題である。
この目標を達成するための有望な解決策は、学習のための学習としても知られるメタラーニングである。
しかしながら、現在のアプローチは、特に構造的かつ伝達可能な知識を抽出する能力において、人間の学習プロセスと大きく異なる。
この欠点により、現在のメタ学習フレームワークは解釈不能になり、より複雑なタスクに拡張しづらい。
そこで本研究では,データ特徴間の構造をメタ学習することでより効果的な適応を実現し,データの複合表現に繋がる手法を提案する。
提案手法は,概念ベースモデル非依存メタラーニング(COMAML)を用いて,合成データセットと実世界のデータセットの構造化データに対して一貫した改善を実現する。
関連論文リスト
- When Meta-Learning Meets Online and Continual Learning: A Survey [39.53836535326121]
メタ学習は学習アルゴリズムを最適化するためのデータ駆動型アプローチである。
継続的な学習とオンライン学習はどちらも、ストリーミングデータでモデルを漸進的に更新する。
本稿では,一貫した用語と形式記述を用いて,様々な問題設定を整理する。
論文 参考訳(メタデータ) (2023-11-09T09:49:50Z) - Online Structured Meta-learning [137.48138166279313]
現在のオンラインメタ学習アルゴリズムは、グローバルに共有されたメタラーナーを学ぶために限られている。
この制限を克服するオンライン構造化メタラーニング(OSML)フレームワークを提案する。
3つのデータセットの実験は、提案フレームワークの有効性と解釈可能性を示している。
論文 参考訳(メタデータ) (2020-10-22T09:10:31Z) - Concept Learners for Few-Shot Learning [76.08585517480807]
本研究では,人間の解釈可能な概念次元に沿って学習することで,一般化能力を向上させるメタ学習手法であるCOMETを提案する。
我々は,細粒度画像分類,文書分類,セルタイプアノテーションなど,さまざまな領域からの少数ショットタスクによるモデルの評価を行った。
論文 参考訳(メタデータ) (2020-07-14T22:04:17Z) - Provable Meta-Learning of Linear Representations [114.656572506859]
我々は、複数の関連するタスクから共通の機能の集合を学習し、その知識を新しい未知のタスクに転送する、という2つの課題に対処する、高速でサンプル効率のアルゴリズムを提供する。
また、これらの線形特徴を学習する際のサンプルの複雑さに関する情報理論の下限も提供する。
論文 参考訳(メタデータ) (2020-02-26T18:21:34Z) - Revisiting Meta-Learning as Supervised Learning [69.2067288158133]
メタラーニングと従来の教師付き学習の関連性を再考し,強化することで,原則的,統一的なフレームワークの提供を目指す。
タスク固有のデータセットとターゲットモデルを(機能、ラベル)サンプルとして扱うことで、多くのメタ学習アルゴリズムを教師付き学習のインスタンスに還元することができる。
この視点は、メタラーニングを直感的で実践的なフレームワークに統一するだけでなく、教師付き学習から直接洞察を伝達してメタラーニングを改善することができる。
論文 参考訳(メタデータ) (2020-02-03T06:13:01Z) - Automated Relational Meta-learning [95.02216511235191]
本稿では,クロスタスク関係を自動的に抽出し,メタ知識グラフを構築する自動リレーショナルメタ学習フレームワークを提案する。
我々は,2次元玩具の回帰と少数ショット画像分類に関する広範な実験を行い,ARMLが最先端のベースラインよりも優れていることを示す。
論文 参考訳(メタデータ) (2020-01-03T07:02:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。