論文の概要: Structured Prediction for Conditional Meta-Learning
- arxiv url: http://arxiv.org/abs/2002.08799v2
- Date: Mon, 19 Oct 2020 17:18:39 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-30 06:48:53.075317
- Title: Structured Prediction for Conditional Meta-Learning
- Title(参考訳): 条件付きメタラーニングの構造化予測
- Authors: Ruohan Wang, Yiannis Demiris, Carlo Ciliberto
- Abstract要約: 構造化予測を用いた条件付きメタラーニングの新しい視点を提案する。
タスク適応型構造化メタラーニング(TASML: Task-Adaptive Structured Meta-learning)は,タスク固有目的関数を生成する基本的フレームワークである。
実験により,TASMLは既存のメタラーニングモデルの性能を向上し,ベンチマークデータセットの最先端性を上回った。
- 参考スコア(独自算出の注目度): 44.30857707980074
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The goal of optimization-based meta-learning is to find a single
initialization shared across a distribution of tasks to speed up the process of
learning new tasks. Conditional meta-learning seeks task-specific
initialization to better capture complex task distributions and improve
performance. However, many existing conditional methods are difficult to
generalize and lack theoretical guarantees. In this work, we propose a new
perspective on conditional meta-learning via structured prediction. We derive
task-adaptive structured meta-learning (TASML), a principled framework that
yields task-specific objective functions by weighing meta-training data on
target tasks. Our non-parametric approach is model-agnostic and can be combined
with existing meta-learning methods to achieve conditioning. Empirically, we
show that TASML improves the performance of existing meta-learning models, and
outperforms the state-of-the-art on benchmark datasets.
- Abstract(参考訳): 最適化ベースのメタ学習の目標は、タスクの分散間で共有される単一の初期化を見つけ、新しいタスクを学習するプロセスをスピードアップすることだ。
条件付きメタ学習はタスク固有の初期化を求め、複雑なタスクの分布をよりよく捉え、パフォーマンスを向上させる。
しかし、既存の条件付き手法の多くは一般化が難しく、理論的な保証が欠けている。
本稿では,構造化予測による条件付きメタラーニングの新しい展望を提案する。
タスク適応型構造化メタラーニング(tasml, task-adaptive structured meta-learning)を導出する。
非パラメトリックアプローチはモデル非依存であり、条件付けを達成するために既存のメタラーニング手法と組み合わせることができる。
実験により,TASMLは既存のメタラーニングモデルの性能を向上し,ベンチマークデータセットの最先端性を上回った。
関連論文リスト
- ConML: A Universal Meta-Learning Framework with Task-Level Contrastive Learning [49.447777286862994]
ConMLは、さまざまなメタ学習アルゴリズムに適用可能な、普遍的なメタ学習フレームワークである。
我々は、ConMLが最適化ベース、メートル法ベース、およびアモータイズベースメタ学習アルゴリズムとシームレスに統合できることを実証した。
論文 参考訳(メタデータ) (2024-10-08T12:22:10Z) - Contrastive Knowledge-Augmented Meta-Learning for Few-Shot
Classification [28.38744876121834]
本稿では,知識向上のための新しいアプローチであるCAML(Contrastive Knowledge-Augmented Meta Learning)を紹介する。
そこで我々は,CAMLの性能を,様々な場面で評価した。
論文 参考訳(メタデータ) (2022-07-25T17:01:29Z) - Improving Meta-learning for Low-resource Text Classification and
Generation via Memory Imitation [87.98063273826702]
本稿では,メモリ模倣メタラーニング(MemIML)手法を提案する。
本手法の有効性を証明するために理論的解析を行った。
論文 参考訳(メタデータ) (2022-03-22T12:41:55Z) - Meta-Learning with Fewer Tasks through Task Interpolation [67.03769747726666]
現在のメタ学習アルゴリズムは多数のメタトレーニングタスクを必要としており、実際のシナリオではアクセスできない可能性がある。
タスクグラデーションを用いたメタラーニング(MLTI)により,タスクのペアをランダムにサンプリングし,対応する特徴やラベルを補間することにより,タスクを効果的に生成する。
実証的な実験では,提案する汎用MLTIフレームワークが代表的なメタ学習アルゴリズムと互換性があり,他の最先端戦略を一貫して上回っていることがわかった。
論文 参考訳(メタデータ) (2021-06-04T20:15:34Z) - Lessons from Chasing Few-Shot Learning Benchmarks: Rethinking the
Evaluation of Meta-Learning Methods [9.821362920940631]
メタラーニングのための簡単なベースライン、FIX-MLを紹介します。
メタラーニングの2つの可能性を探る:(i)トレーニングセット(in-distriion)を生成する同じタスク分布に一般化する手法を開発する、(ii)新しい未確認タスク分布(out-of-distriion)に一般化する手法を開発する。
本研究は,この領域の進歩を推論するためには,メタラーニングの目標を明確に説明し,より適切な評価戦略を開発する必要があることを強調した。
論文 参考訳(メタデータ) (2021-02-23T05:34:30Z) - On Fast Adversarial Robustness Adaptation in Model-Agnostic
Meta-Learning [100.14809391594109]
モデルに依存しないメタラーニング(MAML)は、数発の学習において最も成功したメタラーニング手法の1つである。
メタモデルの一般化力にもかかわらず、マルチショット学習においてMDLがいかに敵対的堅牢性を維持することができるかは明らかではない。
本稿では,ラベルなしデータ拡張,高速な攻撃生成,計算量軽微な微調整を可能にする,汎用的かつ最適化が容易なロバストネス正規化メタラーニングフレームワークを提案する。
論文 参考訳(メタデータ) (2021-02-20T22:03:04Z) - A Nested Bi-level Optimization Framework for Robust Few Shot Learning [10.147225934340877]
NestedMAMLはトレーニングタスクやインスタンスに重みを割り当てることを学ぶ。
合成および実世界のデータセットの実験では、NestedMAMLは「不要な」タスクやインスタンスの効果を効率的に緩和している。
論文 参考訳(メタデータ) (2020-11-13T06:41:22Z) - Incremental Meta-Learning via Indirect Discriminant Alignment [118.61152684795178]
メタ学習のメタ学習段階において,段階的な学習の概念を発達させる。
我々のアプローチは、完全なメタトレーニングセットでモデルをトレーニングするのと比べて、テスト時に好適に機能する。
論文 参考訳(メタデータ) (2020-02-11T01:39:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。