論文の概要: Task Weighting in Meta-learning with Trajectory Optimisation
- arxiv url: http://arxiv.org/abs/2301.01400v1
- Date: Wed, 4 Jan 2023 01:36:09 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-05 15:14:12.858351
- Title: Task Weighting in Meta-learning with Trajectory Optimisation
- Title(参考訳): 軌道最適化を伴うメタラーニングにおけるタスク重み付け
- Authors: Cuong Nguyen, Thanh-Toan Do, Gustavo Carneiro
- Abstract要約: 本稿では,メタ学習のためのタスク重み付けアルゴリズムを提案する。
動作と同一のミニバッチ内のタスクの重みを考慮し,タスク重み付けメタ学習問題を軌跡最適化に投入した。
提案手法は,2つの数ショット学習ベンチマークにおいて,手動重み付け法よりも優れていることを示す。
- 参考スコア(独自算出の注目度): 37.32107678838193
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Developing meta-learning algorithms that are un-biased toward a subset of
training tasks often requires hand-designed criteria to weight tasks,
potentially resulting in sub-optimal solutions. In this paper, we introduce a
new principled and fully-automated task-weighting algorithm for meta-learning
methods. By considering the weights of tasks within the same mini-batch as an
action, and the meta-parameter of interest as the system state, we cast the
task-weighting meta-learning problem to a trajectory optimisation and employ
the iterative linear quadratic regulator to determine the optimal action or
weights of tasks. We theoretically show that the proposed algorithm converges
to an $\epsilon_{0}$-stationary point, and empirically demonstrate that the
proposed approach out-performs common hand-engineering weighting methods in two
few-shot learning benchmarks.
- Abstract(参考訳): トレーニングタスクのサブセットに対して偏りのないメタ学習アルゴリズムを開発するには、タスクの重み付けのために手設計の基準が必要になることが少なくない。
本稿では、メタラーニングのための新しい原理的かつ完全自動化されたタスク重み付けアルゴリズムを提案する。
アクションとして同じミニバッチ内のタスクの重みと、システム状態としての関心のメタパラメータを考慮することで、タスク重み付けメタラーニング問題を軌道最適化にキャストし、反復線形二次レギュレータを用いてタスクの最適動作や重みを決定する。
理論的には、提案アルゴリズムは$\epsilon_{0}$-stationary pointに収束し、提案手法が2つの数ショット学習ベンチマークで一般的な手動重み付け法より優れていることを示す。
関連論文リスト
- Algorithm Design for Online Meta-Learning with Task Boundary Detection [57.07616532337541]
非定常環境におけるタスクに依存しないオンラインメタ学習のための新しいアルゴリズムを提案する。
まず,タスクスイッチと分散シフトの簡易かつ効果的な2つの検出機構を提案する。
軽度条件下では,線形タスク平均的後悔がアルゴリズムに対して達成可能であることを示す。
論文 参考訳(メタデータ) (2023-02-02T04:02:49Z) - On the Effectiveness of Fine-tuning Versus Meta-reinforcement Learning [71.55412580325743]
本稿では,新しいタスクを微調整したマルチタスク事前学習がメタテスト時間適応によるメタ事前学習と同等かそれ以上に機能することを示す。
マルチタスク事前学習はメタRLよりもシンプルで計算的に安価である傾向があるため、これは将来の研究を奨励している。
論文 参考訳(メタデータ) (2022-06-07T13:24:00Z) - Meta-learning with an Adaptive Task Scheduler [93.63502984214918]
既存のメタ学習アルゴリズムは、一様確率でランダムにメタトレーニングタスクをサンプリングする。
タスクは、限られた数のメタトレーニングタスクを考えると、ノイズや不均衡に有害である可能性が高い。
メタトレーニングプロセスのための適応タスクスケジューラ(ATS)を提案する。
論文 参考訳(メタデータ) (2021-10-26T22:16:35Z) - Multi-Task Meta-Learning Modification with Stochastic Approximation [0.7734726150561089]
数ショットの学習問題は、メタ学習アルゴリズムの主要なベンチマークの1つである。
本稿では、トレーニング中にマルチタスクアプローチをとる標準的なメタ学習パイプラインの修正について検討する。
提案手法は,共通損失関数における複数のメタ学習タスクの情報の同時利用を行う。
これらの重みの適切な最適化は、モデル全体のトレーニングに大きな影響を与え、テスト時間タスクの品質を改善する可能性がある。
論文 参考訳(メタデータ) (2021-10-25T18:11:49Z) - Learning-to-learn non-convex piecewise-Lipschitz functions [44.6133187924678]
両機械学習アルゴリズムに適用可能な非タスクであるピースワイズ・リプシッツ関数に対するアルゴリズムのメタラーニングを分析する。
複数のオンライン学習タスクからアルゴリズムのステップサイズの両方を学習する実用的なメタ学習手法を提案する。
論文 参考訳(メタデータ) (2021-08-19T16:22:48Z) - Meta-Learning with Fewer Tasks through Task Interpolation [67.03769747726666]
現在のメタ学習アルゴリズムは多数のメタトレーニングタスクを必要としており、実際のシナリオではアクセスできない可能性がある。
タスクグラデーションを用いたメタラーニング(MLTI)により,タスクのペアをランダムにサンプリングし,対応する特徴やラベルを補間することにより,タスクを効果的に生成する。
実証的な実験では,提案する汎用MLTIフレームワークが代表的なメタ学習アルゴリズムと互換性があり,他の最先端戦略を一貫して上回っていることがわかった。
論文 参考訳(メタデータ) (2021-06-04T20:15:34Z) - Energy-Efficient and Federated Meta-Learning via Projected Stochastic
Gradient Ascent [79.58680275615752]
エネルギー効率のよいメタラーニングフレームワークを提案する。
各タスクは別々のエージェントによって所有されていると仮定するため、メタモデルをトレーニングするために限られたタスクが使用される。
論文 参考訳(メタデータ) (2021-05-31T08:15:44Z) - Meta-Learning with Neural Tangent Kernels [58.06951624702086]
メタモデルのニューラルタンジェントカーネル(NTK)によって誘導される再生カーネルヒルベルト空間(RKHS)における最初のメタラーニングパラダイムを提案する。
このパラダイムでは,MAMLフレームワークのように,最適な反復内ループ適応を必要としない2つのメタ学習アルゴリズムを導入する。
本研究の目的は,1) 適応をRKHSの高速適応正則化器に置き換えること,2) NTK理論に基づいて解析的に適応を解くことである。
論文 参考訳(メタデータ) (2021-02-07T20:53:23Z) - Submodular Meta-Learning [43.15332631500541]
将来的なタスクのパフォーマンス向上のために,メタラーニングフレームワークの個別版を導入する。
我々のアプローチは、事前データ、すなわち、以前に訪れたタスクを使用して、適切な初期ソリューションセットをトレーニングすることを目的としている。
我々のフレームワークは、性能損失を小さく抑えながら、新しいタスクを解く際に、計算の複雑さを著しく低減させることを示した。
論文 参考訳(メタデータ) (2020-07-11T21:02:48Z) - Model-based Adversarial Meta-Reinforcement Learning [38.28304764312512]
モデルに基づく対向メタ強化学習(AdMRL)を提案する。
AdMRLは、タスクファミリ内のすべてのタスク間の最悪の部分最適化ギャップを最小限にすることを目的としている。
本手法をいくつかの連続制御ベンチマークで評価し,全てのタスクに対して最悪の性能を示す。
論文 参考訳(メタデータ) (2020-06-16T02:21:49Z) - PAC-Bayes meta-learning with implicit task-specific posteriors [37.32107678838193]
そこで本研究では,PAC-Bayesメタ学習アルゴリズムを提案する。
提案したメタ学習アルゴリズムを用いてトレーニングしたモデルは、精度よく校正されていることを示す。
論文 参考訳(メタデータ) (2020-03-05T06:56:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。