論文の概要: Improving Massively Multilingual Neural Machine Translation and
Zero-Shot Translation
- arxiv url: http://arxiv.org/abs/2004.11867v1
- Date: Fri, 24 Apr 2020 17:21:32 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-10 03:33:12.363455
- Title: Improving Massively Multilingual Neural Machine Translation and
Zero-Shot Translation
- Title(参考訳): 超多言語ニューラルマシン翻訳とゼロショット翻訳の改善
- Authors: Biao Zhang, Philip Williams, Ivan Titov, Rico Sennrich
- Abstract要約: ニューラルネットワーク翻訳(NMT)の多言語モデルは理論的には魅力的であるが、しばしばバイリンガルモデルに劣る。
我々は,多言語NMTが言語ペアをサポートするためにより強力なモデリング能力を必要とすることを論じる。
未知のトレーニング言語ペアの翻訳を強制するために,ランダムなオンライン翻訳を提案する。
- 参考スコア(独自算出の注目度): 81.7786241489002
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Massively multilingual models for neural machine translation (NMT) are
theoretically attractive, but often underperform bilingual models and deliver
poor zero-shot translations. In this paper, we explore ways to improve them. We
argue that multilingual NMT requires stronger modeling capacity to support
language pairs with varying typological characteristics, and overcome this
bottleneck via language-specific components and deepening NMT architectures. We
identify the off-target translation issue (i.e. translating into a wrong target
language) as the major source of the inferior zero-shot performance, and
propose random online backtranslation to enforce the translation of unseen
training language pairs. Experiments on OPUS-100 (a novel multilingual dataset
with 100 languages) show that our approach substantially narrows the
performance gap with bilingual models in both one-to-many and many-to-many
settings, and improves zero-shot performance by ~10 BLEU, approaching
conventional pivot-based methods.
- Abstract(参考訳): ニューラルネットワーク翻訳(NMT)の多言語モデルは理論的には魅力的であるが、しばしばバイリンガルモデルに劣る。
本稿では,その改善方法について検討する。
我々は,多言語NMTは,言語特性の異なる言語ペアをサポートするために,より強力なモデリング能力を必要とし,言語固有のコンポーネントやNMTアーキテクチャの強化を通じて,このボトルネックを克服する。
対象外翻訳問題(すなわち、間違ったターゲット言語への翻訳)を劣等なゼロショット性能の主源とみなし、未知の学習言語ペアの翻訳を強制するためにランダムなオンライン逆翻訳を提案する。
OPUS-100(100言語からなる新しい多言語データセット)の実験により,1対多,多対多の両言語モデルの性能ギャップを著しく狭め,従来のピボット方式にアプローチして10BLEUでゼロショット性能を向上した。
関連論文リスト
- Exploiting Multilingualism in Low-resource Neural Machine Translation
via Adversarial Learning [3.2258463207097017]
Generative Adversarial Networks (GAN) はニューラルマシン翻訳(NMT)に有望なアプローチを提供する
GANでは、バイリンガルモデルと同様に、マルチリンガルNTTはモデルトレーニング中に各文の参照翻訳を1つだけ考慮している。
本稿では,DAASI(Denoising Adversarial Auto-Encoder-based Sentence Interpolation)アプローチによる文計算を提案する。
論文 参考訳(メタデータ) (2023-03-31T12:34:14Z) - High-resource Language-specific Training for Multilingual Neural Machine
Translation [109.31892935605192]
負の干渉を軽減するために,HLT-MT(High-Resource Language-specific Training)を用いた多言語翻訳モデルを提案する。
具体的には、まずマルチ言語モデルを高リソースペアでトレーニングし、デコーダの上部にある言語固有のモジュールを選択する。
HLT-MTは、高リソース言語から低リソース言語への知識伝達のために、利用可能なすべてのコーパスでさらに訓練されている。
論文 参考訳(メタデータ) (2022-07-11T14:33:13Z) - Building Multilingual Machine Translation Systems That Serve Arbitrary
X-Y Translations [75.73028056136778]
任意のX-Y翻訳方向に対応するMNMTシステムを実際に構築する方法を示す。
また,本提案手法を,実用的な展開シナリオに対応するため,極めて大規模なデータ設定で検討した。
論文 参考訳(メタデータ) (2022-06-30T02:18:15Z) - Towards the Next 1000 Languages in Multilingual Machine Translation:
Exploring the Synergy Between Supervised and Self-Supervised Learning [48.15259834021655]
数百の言語をカバーする多言語機械翻訳モデルを構築するための実践的なアプローチを提案する。
私たちは、異なる言語ペアのデータ可用性に応じて、教師付きと自己監督型の目的の混合を使用します。
この2つのトレーニングパラダイム間の相乗効果により、ゼロリソース設定で高品質な翻訳を生成できることを実証する。
論文 参考訳(メタデータ) (2022-01-09T23:36:44Z) - Multilingual Neural Machine Translation:Can Linguistic Hierarchies Help? [29.01386302441015]
MNMT(Multilingual Neural Machine Translation)は、複数の言語間の翻訳をサポートする単一のNMTモデルを訓練する。
MNMTモデルの性能は、様々な言語から知識を伝達することで、負の転送によって翻訳性能が低下するので、訓練で使用される言語の種類に大きく依存する。
本稿では,MNMTにおける階層的知識蒸留(HKD)手法を提案する。
論文 参考訳(メタデータ) (2021-10-15T02:31:48Z) - Improving Multilingual Translation by Representation and Gradient
Regularization [82.42760103045083]
表現レベルと勾配レベルの両方でNMTモデルを正規化するための共同手法を提案する。
提案手法は,オフターゲット翻訳の発生率の低減とゼロショット翻訳性能の向上に有効であることを示す。
論文 参考訳(メタデータ) (2021-09-10T10:52:21Z) - Beyond English-Centric Multilingual Machine Translation [74.21727842163068]
我々は真の多言語多言語翻訳モデルを作成し、100言語のいずれかのペア間で直接翻訳できる。
大規模なマイニングによって生成された教師付きデータで、数千の言語方向をカバーするトレーニングデータセットを構築し、オープンソースにしています。
WMTのベストシングルシステムに競争力を持たせながら、非英語の方向を直接翻訳する場合、非英語モデルに焦点をあてると10 BLEU以上のゲインが得られる。
論文 参考訳(メタデータ) (2020-10-21T17:01:23Z) - Multi-task Learning for Multilingual Neural Machine Translation [32.81785430242313]
本稿では,bitextデータ上での翻訳タスクと,モノリンガルデータ上での2つの認知タスクを併用してモデルを学習するマルチタスク学習フレームワークを提案する。
提案手法は,高リソース言語と低リソース言語の両方の翻訳品質を効果的に向上できることを示す。
論文 参考訳(メタデータ) (2020-10-06T06:54:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。