論文の概要: Automated Relational Meta-learning
- arxiv url: http://arxiv.org/abs/2001.00745v1
- Date: Fri, 3 Jan 2020 07:02:25 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-14 17:26:31.326895
- Title: Automated Relational Meta-learning
- Title(参考訳): 自動関係メタラーニング
- Authors: Huaxiu Yao, Xian Wu, Zhiqiang Tao, Yaliang Li, Bolin Ding, Ruirui Li,
Zhenhui Li
- Abstract要約: 本稿では,クロスタスク関係を自動的に抽出し,メタ知識グラフを構築する自動リレーショナルメタ学習フレームワークを提案する。
我々は,2次元玩具の回帰と少数ショット画像分類に関する広範な実験を行い,ARMLが最先端のベースラインよりも優れていることを示す。
- 参考スコア(独自算出の注目度): 95.02216511235191
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In order to efficiently learn with small amount of data on new tasks,
meta-learning transfers knowledge learned from previous tasks to the new ones.
However, a critical challenge in meta-learning is the task heterogeneity which
cannot be well handled by traditional globally shared meta-learning methods. In
addition, current task-specific meta-learning methods may either suffer from
hand-crafted structure design or lack the capability to capture complex
relations between tasks. In this paper, motivated by the way of knowledge
organization in knowledge bases, we propose an automated relational
meta-learning (ARML) framework that automatically extracts the cross-task
relations and constructs the meta-knowledge graph. When a new task arrives, it
can quickly find the most relevant structure and tailor the learned structure
knowledge to the meta-learner. As a result, the proposed framework not only
addresses the challenge of task heterogeneity by a learned meta-knowledge
graph, but also increases the model interpretability. We conduct extensive
experiments on 2D toy regression and few-shot image classification and the
results demonstrate the superiority of ARML over state-of-the-art baselines.
- Abstract(参考訳): 新しいタスクで少量のデータで効率的に学習するために、メタラーニングは以前のタスクから学んだ知識を新しいタスクに転送する。
しかしながら、メタラーニングにおける重要な課題は、伝統的なグローバル共有メタラーニング手法ではうまく処理できないタスクの不均一性である。
さらに、現在のタスク固有のメタ学習手法は、手作りの構造設計に苦しむか、タスク間の複雑な関係を捉える能力に欠ける可能性がある。
本稿では,知識ベースにおける知識の組織化を動機として,クロスタスク関係を自動的に抽出し,メタ知識グラフを構築する自動リレーショナルメタラーニング(ARML)フレームワークを提案する。
新しいタスクが到着すると、最も関連性の高い構造を見つけ、学習した構造知識をメタラーナーに合わせることができる。
その結果,学習したメタ知識グラフによるタスクの不均一性の問題に対処するだけでなく,モデルの解釈可能性も向上することがわかった。
我々は,2次元玩具の回帰と少数ショット画像分類に関する広範な実験を行い,ARMLが最先端のベースラインよりも優れていることを示す。
関連論文リスト
- Concept Discovery for Fast Adapatation [42.81705659613234]
データ特徴間の構造をメタラーニングすることで、より効果的な適応を実現する。
提案手法は,概念ベースモデル非依存メタラーニング(COMAML)を用いて,合成されたデータセットと実世界のデータセットの両方に対して,構造化データの一貫した改善を実現する。
論文 参考訳(メタデータ) (2023-01-19T02:33:58Z) - Meta-Learning with Fewer Tasks through Task Interpolation [67.03769747726666]
現在のメタ学習アルゴリズムは多数のメタトレーニングタスクを必要としており、実際のシナリオではアクセスできない可能性がある。
タスクグラデーションを用いたメタラーニング(MLTI)により,タスクのペアをランダムにサンプリングし,対応する特徴やラベルを補間することにより,タスクを効果的に生成する。
実証的な実験では,提案する汎用MLTIフレームワークが代表的なメタ学習アルゴリズムと互換性があり,他の最先端戦略を一貫して上回っていることがわかった。
論文 参考訳(メタデータ) (2021-06-04T20:15:34Z) - Online Structured Meta-learning [137.48138166279313]
現在のオンラインメタ学習アルゴリズムは、グローバルに共有されたメタラーナーを学ぶために限られている。
この制限を克服するオンライン構造化メタラーニング(OSML)フレームワークを提案する。
3つのデータセットの実験は、提案フレームワークの有効性と解釈可能性を示している。
論文 参考訳(メタデータ) (2020-10-22T09:10:31Z) - Concept Learners for Few-Shot Learning [76.08585517480807]
本研究では,人間の解釈可能な概念次元に沿って学習することで,一般化能力を向上させるメタ学習手法であるCOMETを提案する。
我々は,細粒度画像分類,文書分類,セルタイプアノテーションなど,さまざまな領域からの少数ショットタスクによるモデルの評価を行った。
論文 参考訳(メタデータ) (2020-07-14T22:04:17Z) - Provable Meta-Learning of Linear Representations [114.656572506859]
我々は、複数の関連するタスクから共通の機能の集合を学習し、その知識を新しい未知のタスクに転送する、という2つの課題に対処する、高速でサンプル効率のアルゴリズムを提供する。
また、これらの線形特徴を学習する際のサンプルの複雑さに関する情報理論の下限も提供する。
論文 参考訳(メタデータ) (2020-02-26T18:21:34Z) - Revisiting Meta-Learning as Supervised Learning [69.2067288158133]
メタラーニングと従来の教師付き学習の関連性を再考し,強化することで,原則的,統一的なフレームワークの提供を目指す。
タスク固有のデータセットとターゲットモデルを(機能、ラベル)サンプルとして扱うことで、多くのメタ学習アルゴリズムを教師付き学習のインスタンスに還元することができる。
この視点は、メタラーニングを直感的で実践的なフレームワークに統一するだけでなく、教師付き学習から直接洞察を伝達してメタラーニングを改善することができる。
論文 参考訳(メタデータ) (2020-02-03T06:13:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。