論文の概要: Recipes for Adapting Pre-trained Monolingual and Multilingual Models to Machine Translation

• arxiv url: http://arxiv.org/abs/2004.14911v2
• Date: Mon, 20 Jun 2022 18:49:47 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-08 04:34:24.796725
• Title: Recipes for Adapting Pre-trained Monolingual and Multilingual Models to Machine Translation
• Title（参考訳）: 機械翻訳への事前学習型単言語モデルと多言語モデルの適用
• Authors: Asa Cooper Stickland, Xian Li, Marjan Ghazvininejad
• Abstract要約: 機械翻訳(MT)における事前学習モデルの微調整において、凍結パラメータの利点と欠点と新しいパラメータの追加について検討する。 BARTでは、モデルパラメータの大部分を凍結し、追加の位置埋め込みを追加することで、最高のパフォーマンスを得ることができます。 mBARTでは、ほとんどの言語ペアがエンコーダで、ほとんどのデコーダはフリーズして、素早い微調整のパフォーマンスにマッチするか、向上します。
• 参考スコア（独自算出の注目度）: 50.0258495437314
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: There has been recent success in pre-training on monolingual data and fine-tuning on Machine Translation (MT), but it remains unclear how to best leverage a pre-trained model for a given MT task. This paper investigates the benefits and drawbacks of freezing parameters, and adding new ones, when fine-tuning a pre-trained model on MT. We focus on 1) Fine-tuning a model trained only on English monolingual data, BART. 2) Fine-tuning a model trained on monolingual data from 25 languages, mBART. For BART we get the best performance by freezing most of the model parameters, and adding extra positional embeddings. For mBART we match or outperform the performance of naive fine-tuning for most language pairs with the encoder, and most of the decoder, frozen. The encoder-decoder attention parameters are most important to fine-tune. When constraining ourselves to an out-of-domain training set for Vietnamese to English we see the largest improvements over the fine-tuning baseline.
• Abstract（参考訳）: モノリンガルデータの事前学習と機械翻訳(mt)の微調整は近年成功を収めているが、与えられたmtタスクに対して事前学習されたモデルを最大限に活用する方法はまだ不明である。 本稿では,MT 上で事前学習したモデルの微調整を行う際の凍結パラメータの利点と欠点について検討する。 1)英語単言語データのみに基づいて訓練されたモデルBARTを微調整した。 2)25言語からのモノリンガルデータに基づいて訓練したモデル,mBART。 BARTでは、モデルパラメータの大部分を凍結し、追加の位置埋め込みを追加することで、最高のパフォーマンスを得ることができます。 mBARTでは、ほとんどの言語ペアがエンコーダで、ほとんどのデコーダはフリーズされているため、素早い微調整のパフォーマンスにマッチまたは向上します。 エンコーダ・デコーダの注意パラメータは微調整に最も重要である。 ベトナム語から英語へのドメイン外トレーニングに制約を加えると、微調整ベースラインよりも大きな改善が見られます。

関連論文リスト

• Universal Conditional Masked Language Pre-training for Neural Machine Translation [29.334361879066602]
  本稿では,大規模バイリンガルコーパスとモノリンガルコーパスを事前学習した条件付きマスク付き言語モデルCeMATを提案する。 我々は広範囲な実験を行い、CeMATがすべてのシナリオで大幅なパフォーマンス向上を達成できることを示します。
  論文  参考訳（メタデータ） (2022-03-17T10:00:33Z)
• Improving Neural Machine Translation by Denoising Training [95.96569884410137]
  本稿では,ニューラルネットワーク翻訳のためのトレーニングDoTの簡易かつ効果的な事前学習戦略を提案する。 モデルパラメータを、初期段階のソースおよびターゲットサイドのDenoisingタスクで更新し、正常にモデルをチューニングします。 実験によると、DoTは12のバイリンガルと16の多言語方向にわたるニューラルマシン翻訳性能を一貫して改善している。
  論文  参考訳（メタデータ） (2022-01-19T00:11:38Z)
• Multilingual Translation via Grafting Pre-trained Language Models [12.787188625198459]
  本稿では,機械翻訳のための事前学習言語モデルを個別に移植するGraformerを提案する。 事前学習のための単言語データと移植訓練のための並列データを用いて,両タイプのデータの利用を最大限に活用する。
  論文  参考訳（メタデータ） (2021-09-11T10:57:45Z)
• Continual Mixed-Language Pre-Training for Extremely Low-Resource Neural Machine Translation [53.22775597051498]
  我々は,mbart を未熟な言語に効果的に適用するための,継続的な事前学習フレームワークを提案する。 その結果,mBARTベースラインの微調整性能を一貫して改善できることが示された。 私たちのアプローチは、両方の言語が元のmBARTの事前トレーニングで見られる翻訳ペアのパフォーマンスを高めます。
  論文  参考訳（メタデータ） (2021-05-09T14:49:07Z)
• Multilingual Speech Translation with Efficient Finetuning of Pretrained Models [82.22294901727933]
  最小限のLNA(LayerNorm and Attention)ファインタニングは、ゼロショットのクロスリンガルおよびクロスモーダリティ転送能力を実現することができる。 本手法は多言語多言語モデルにおいて強いゼロショット性能を示す。
  論文  参考訳（メタデータ） (2020-10-24T08:15:08Z)
• Pre-training Multilingual Neural Machine Translation by Leveraging Alignment Information [72.2412707779571]
  mRASPは、汎用多言語ニューラルマシン翻訳モデルを事前訓練するためのアプローチである。 我々は,低,中,豊かな資源を含む多種多様な環境における42の翻訳方向の実験を行い,エキゾチックな言語対への変換を行った。
  論文  参考訳（メタデータ） (2020-10-07T03:57:54Z)
• Multilingual Denoising Pre-training for Neural Machine Translation [132.66750663226287]
  mBART(mBART)は、大規模モノリンガルコーパスで事前訓練されたシーケンスからシーケンスまでの自動エンコーダである。 mBARTは、完全なシーケンス・ツー・シーケンスモデルを事前訓練する最初の方法の1つである。
  論文  参考訳（メタデータ） (2020-01-22T18:59:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。