Fugu-MT 論文翻訳(概要): Meta-Learning for Natural Language Understanding under Continual Learning Framework

論文の概要: Meta-Learning for Natural Language Understanding under Continual Learning Framework

arxiv url: http://arxiv.org/abs/2011.01452v1
Date: Tue, 3 Nov 2020 03:41:10 GMT
ステータス: 処理完了
システム内更新日: 2022-09-30 03:42:14.894992
Title: Meta-Learning for Natural Language Understanding under Continual Learning Framework
Title（参考訳）: 連続学習フレームワークによる自然言語理解のためのメタラーニング
Authors: Jiacheng Wang, Yong Fan, Duo Jiang, Shiqing Li
Abstract要約: モデルに依存しないメタ学習(MAML)とオンライン認識メタ学習(OML)のメタオブジェクトを,NLUタスクの連続的なフレームワークの下で実装する。提案手法を選択したSuperGLUEおよびGLUEベンチマークで検証する。
参考スコア（独自算出の注目度）: 2.620911206953405
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Neural network has been recognized with its accomplishments on tackling various natural language understanding (NLU) tasks. Methods have been developed to train a robust model to handle multiple tasks to gain a general representation of text. In this paper, we implement the model-agnostic meta-learning (MAML) and Online aware Meta-learning (OML) meta-objective under the continual framework for NLU tasks. We validate our methods on selected SuperGLUE and GLUE benchmark.
Abstract（参考訳）: ニューラルネットワークは、様々な自然言語理解(NLU)タスクに取り組むことで達成されている。テキストの一般的な表現を得るために、複数のタスクを処理する頑健なモデルを訓練する手法が開発されている。本稿では,NLUタスクの連続的な枠組みの下で,モデル非依存メタ学習(MAML)とオンライン認知メタ学習(OML)のメタオブジェクトを実装する。提案手法を選択したSuperGLUEおよびGLUEベンチマークで検証する。

関連論文リスト

ConML: A Universal Meta-Learning Framework with Task-Level Contrastive Learning [49.447777286862994]
ConMLは、さまざまなメタ学習アルゴリズムに適用可能な、普遍的なメタ学習フレームワークである。我々は、ConMLが最適化ベース、メートル法ベース、およびアモータイズベースメタ学習アルゴリズムとシームレスに統合できることを実証した。
論文参考訳（メタデータ） (2024-10-08T12:22:10Z)
Meta-Task Prompting Elicits Embeddings from Large Language Models [54.757445048329735]
本稿では,新しい教師なしテキスト埋め込み手法であるMeta-Task Prompting with Explicit One-Word Limitationを紹介する。モデル微調整を必要とせずに,大規模言語モデルから高品質な文埋め込みを生成する。提案法は,多種多様なシナリオにまたがって生成を組み込む汎用的で資源効率のよい手法を提供する。
論文参考訳（メタデータ） (2024-02-28T16:35:52Z)
LMRL Gym: Benchmarks for Multi-Turn Reinforcement Learning with Language Models [56.25156596019168]
本稿では,LMRL-Gymベンチマークを用いて,大規模言語モデル(LLM)のマルチターンRLの評価を行う。我々のベンチマークは8つの異なる言語タスクで構成されており、複数ラウンドの言語相互作用が必要であり、オープンエンド対話やテキストゲームにおける様々なタスクをカバーする。
論文参考訳（メタデータ） (2023-11-30T03:59:31Z)
Meta-Learning via Classifier(-free) Guidance [5.812784742024491]
最先端のメタ学習技術は、目に見えないタスクへのゼロショット適応を最適化しない。本稿では,自然言語指導によるゼロショット性能向上のためのメタ学習手法を提案する。
論文参考訳（メタデータ） (2022-10-17T11:09:35Z)
Context-Aware Language Modeling for Goal-Oriented Dialogue Systems [84.65707332816353]
我々は、部分的に観察されたマルコフ決定過程としてゴール指向対話を定式化する。目的を意識して言語モデルを微調整する,シンプルで効果的な手法を考案する。本研究では,AirDialogue を用いた実践的なフライト予約タスクについて評価する。
論文参考訳（メタデータ） (2022-04-18T17:23:11Z)
Online Structured Meta-learning [137.48138166279313]
現在のオンラインメタ学習アルゴリズムは、グローバルに共有されたメタラーナーを学ぶために限られている。この制限を克服するオンライン構造化メタラーニング(OSML)フレームワークを提案する。 3つのデータセットの実験は、提案フレームワークの有効性と解釈可能性を示している。
論文参考訳（メタデータ） (2020-10-22T09:10:31Z)
A Comprehensive Overview and Survey of Recent Advances in Meta-Learning [0.0]
メタラーニングはラーニング・トゥ・ラーン(Learning-to-Lern)とも呼ばれる。メタラーニング手法は,ブラックボックスメタラーニング,メトリックベースメタラーニング,階層型メタラーニング,ベイズ的メタラーニングフレームワークである。
論文参考訳（メタデータ） (2020-04-17T03:11:08Z)
Structured Prediction for Conditional Meta-Learning [44.30857707980074]
構造化予測を用いた条件付きメタラーニングの新しい視点を提案する。タスク適応型構造化メタラーニング(TASML: Task-Adaptive Structured Meta-learning)は,タスク固有目的関数を生成する基本的フレームワークである。実験により,TASMLは既存のメタラーニングモデルの性能を向上し,ベンチマークデータセットの最先端性を上回った。
論文参考訳（メタデータ） (2020-02-20T15:24:15Z)
Automated Relational Meta-learning [95.02216511235191]
本稿では,クロスタスク関係を自動的に抽出し,メタ知識グラフを構築する自動リレーショナルメタ学習フレームワークを提案する。我々は,2次元玩具の回帰と少数ショット画像分類に関する広範な実験を行い,ARMLが最先端のベースラインよりも優れていることを示す。
論文参考訳（メタデータ） (2020-01-03T07:02:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。