論文の概要: Meta-Learning for Effective Multi-task and Multilingual Modelling

• arxiv url: http://arxiv.org/abs/2101.10368v2
• Date: Wed, 27 Jan 2021 16:35:02 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-14 23:20:15.916589
• Title: Meta-Learning for Effective Multi-task and Multilingual Modelling
• Title（参考訳）: マルチタスクと多言語モデリングのためのメタラーニング
• Authors: Ishan Tarunesh, Sushil Khyalia, Vishwajeet Kumar, Ganesh Ramakrishnan, Preethi Jyothi
• Abstract要約: タスクと言語間の相互作用を学ぶためのメタラーニング手法を提案する。 我々は、XTREME多言語ベンチマークデータセットから5つの異なるタスクと6つの異なる言語に関する実験を提示する。
• 参考スコア（独自算出の注目度）: 23.53779501937046
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Natural language processing (NLP) tasks (e.g. question-answering in English) benefit from knowledge of other tasks (e.g. named entity recognition in English) and knowledge of other languages (e.g. question-answering in Spanish). Such shared representations are typically learned in isolation, either across tasks or across languages. In this work, we propose a meta-learning approach to learn the interactions between both tasks and languages. We also investigate the role of different sampling strategies used during meta-learning. We present experiments on five different tasks and six different languages from the XTREME multilingual benchmark dataset. Our meta-learned model clearly improves in performance compared to competitive baseline models that also include multi-task baselines. We also present zero-shot evaluations on unseen target languages to demonstrate the utility of our proposed model.
• Abstract（参考訳）: 自然言語処理(NLP)タスク(例) 英語での質問回答は、他のタスク(例えば)の知識の恩恵を受ける。 英語で名付けられた実体認識)と他の言語(例えば)の知識 スペイン語で質問する)。 このような共有表現は通常、タスク間または言語間で、独立した形で学習される。 本稿では,タスクと言語間の相互作用を学ぶためのメタラーニング手法を提案する。 また,メタラーニングにおける異なるサンプリング戦略の役割についても検討した。 我々は、XTREME多言語ベンチマークデータセットから5つの異なるタスクと6つの異なる言語に関する実験を提示する。 メタ学習モデルは,マルチタスクベースラインを含む競合ベースラインモデルと比較して明らかに性能が向上する。 また,対象言語のゼロショット評価を行い,提案モデルの実用性を示す。

関連論文リスト

• SkillNet-X: A Multilingual Multitask Model with Sparsely Activated Skills [51.74947795895178]
  本稿では,SkillNet-Xという多言語マルチタスクモデルを提案する。 いくつかの言語固有のスキルとタスク固有のスキルを定義し、それぞれがスキルモジュールに対応する。 我々はSkillNet-Xを4言語で11の自然言語理解データセット上で評価した。
  論文  参考訳（メタデータ） (2023-06-28T12:53:30Z)
• Persian Natural Language Inference: A Meta-learning approach [6.832341432995628]
  本稿では,ペルシャ語で自然言語を推論するメタラーニング手法を提案する。 提案手法を4つの言語と補助課題を用いて評価する。
  論文  参考訳（メタデータ） (2022-05-18T06:51:58Z)
• Polyglot Prompt: Multilingual Multitask PrompTraining [35.70124413465395]
  異なる言語から異なるタスクを(タスク/言語固有のモジュールを使わずに)モノリシックなフレームワークでモデル化できるだろうか? 学習フレームワークであるPolyglot Promptを開発し、適切な多言語プロンプトエンジニアリングの後、異なる言語やタスクの統一的な意味空間を学習するためのプロンプト手法を導入する。
  論文  参考訳（メタデータ） (2022-04-29T17:40:50Z)
• On Efficiently Acquiring Annotations for Multilingual Models [12.304046317362792]
  一つのモデルを用いて複数の言語にまたがる共同学習の戦略は、上記の選択肢よりもかなり優れていることを示す。 この単純なアプローチにより、アノテーションの予算を不確実な言語に問い合わせることによって、モデルがデータ効率を向上できることを示す。
  論文  参考訳（メタデータ） (2022-04-03T07:42:13Z)
• Are Multilingual Models Effective in Code-Switching? [57.78477547424949]
  多言語モデルの有効性を検討し,複合言語設定の能力と適応性について検討する。 この結果から,事前学習した多言語モデルでは,コードスイッチングにおける高品質な表現が必ずしも保証されないことが示唆された。
  論文  参考訳（メタデータ） (2021-03-24T16:20:02Z)
• CoSDA-ML: Multi-Lingual Code-Switching Data Augmentation for Zero-Shot Cross-Lingual NLP [68.2650714613869]
  我々は,mBERTを微調整するための多言語コードスイッチングデータを生成するためのデータ拡張フレームワークを提案する。 既存の研究と比較すると,本手法は訓練にバイリンガル文を頼らず,複数の対象言語に対して1つの学習プロセスしか必要としない。
  論文  参考訳（メタデータ） (2020-06-11T13:15:59Z)
• Learning to Scale Multilingual Representations for Vision-Language Tasks [51.27839182889422]
  SMALRの有効性は、これまでビジョン言語タスクでサポートされた2倍以上の10の多言語で実証されている。 単語の埋め込み手法と比較して,訓練パラメータの1/5以下で,複数言語による画像文検索と先行作業の3～4%の性能評価を行った。
  論文  参考訳（メタデータ） (2020-04-09T01:03:44Z)
• XTREME: A Massively Multilingual Multi-task Benchmark for Evaluating Cross-lingual Generalization [128.37244072182506]
  言語間TRansfer Evaluation of Multilinguals XTREMEは、40言語および9タスクにわたる多言語表現の言語間一般化能力を評価するためのベンチマークである。 我々は、英語でテストされたモデルは、多くのタスクにおいて人間のパフォーマンスに達するが、言語間変換されたモデルの性能にはまだ大きなギャップがあることを示した。
  論文  参考訳（メタデータ） (2020-03-24T19:09:37Z)
• Zero-Shot Cross-Lingual Transfer with Meta Learning [45.29398184889296]
  英語以外の言語ではほとんど、あるいは全くデータがない場合に、複数の言語でのトレーニングモデルの設定を同時に検討する。 メタラーニングを用いて、この挑戦的な設定にアプローチできることが示される。 我々は、標準教師付きゼロショットのクロスランガルと、異なる自然言語理解タスクのための数ショットのクロスランガル設定を用いて実験を行った。
  論文  参考訳（メタデータ） (2020-03-05T16:07:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。