論文の概要: Towards Making the Most of Context in Neural Machine Translation

• arxiv url: http://arxiv.org/abs/2002.07982v2
• Date: Wed, 9 Sep 2020 07:09:54 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-30 13:52:27.845768
• Title: Towards Making the Most of Context in Neural Machine Translation
• Title（参考訳）: ニューラルマシン翻訳における文脈の最大化に向けて
• Authors: Zaixiang Zheng, Xiang Yue, Shujian Huang, Jiajun Chen, Alexandra Birch
• Abstract要約: 我々は、これまでの研究がグローバルな文脈をはっきりと利用しなかったと論じている。 本研究では,各文の局所的文脈を意図的にモデル化する文書レベルNMTフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 112.9845226123306
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Document-level machine translation manages to outperform sentence level models by a small margin, but have failed to be widely adopted. We argue that previous research did not make a clear use of the global context, and propose a new document-level NMT framework that deliberately models the local context of each sentence with the awareness of the global context of the document in both source and target languages. We specifically design the model to be able to deal with documents containing any number of sentences, including single sentences. This unified approach allows our model to be trained elegantly on standard datasets without needing to train on sentence and document level data separately. Experimental results demonstrate that our model outperforms Transformer baselines and previous document-level NMT models with substantial margins of up to 2.1 BLEU on state-of-the-art baselines. We also provide analyses which show the benefit of context far beyond the neighboring two or three sentences, which previous studies have typically incorporated.
• Abstract（参考訳）: 文書レベルの機械翻訳は文レベルのモデルをわずかに上回っているが、広く採用されていない。 我々は,従来の研究がグローバルな文脈を明確に利用しなかったことを論じ,各文の局所的な文脈を,ソース言語とターゲット言語の両方における文書のグローバルな文脈を意識して意図的にモデル化する文書レベルのNMTフレームワークを提案する。 具体的には、単一文を含む任意の文を含む文書を扱えるようにモデルを設計する。 この統一アプローチにより、文レベルと文書レベルのデータを別々にトレーニングする必要なしに、標準データセット上でエレガントにトレーニングすることが可能になります。 実験結果から,本モデルがトランスフォーマーベースラインと従来の文書レベルのNMTモデルより優れ,最先端ベースラインでは最大2.1BLEUのマージンを持つことがわかった。 また,従来の研究が組み込んだ2文や3文よりもはるかに長い文脈の利点を示す分析を行う。

関連論文リスト

• On Search Strategies for Document-Level Neural Machine Translation [51.359400776242786]
  文書レベルのニューラルネットワーク変換(NMT)モデルは、ドキュメント全体にわたってより一貫性のある出力を生成する。 そこで本研究では,デコードにおける文脈認識翻訳モデルをどのように活用するか,という質問に答えることを目的としている。
  論文  参考訳（メタデータ） (2023-06-08T11:30:43Z)
• SMDT: Selective Memory-Augmented Neural Document Translation [53.4627288890316]
  本稿では,文脈の広い仮説空間を含む文書を扱うために,選択的メモリ拡張型ニューラル文書翻訳モデルを提案する。 トレーニングコーパスから類似のバイリンガル文ペアを抽出し,グローバルな文脈を拡大する。 ローカルなコンテキストと多様なグローバルなコンテキストをキャプチャする選択的なメカニズムで、2ストリームのアテンションモデルを拡張する。
  論文  参考訳（メタデータ） (2022-01-05T14:23:30Z)
• Context-Adaptive Document-Level Neural Machine Translation [1.52292571922932]
  モデルが必要かつ有用なコンテキストを適用できるようにするデータ適応メソッドを紹介します。 実験によれば、提案手法は1.99 bleu ポイントのゲインで従来の手法よりも大幅に性能が向上する。
  論文  参考訳（メタデータ） (2021-04-16T17:43:58Z)
• Rethinking Document-level Neural Machine Translation [73.42052953710605]
  現在のモデルでは、ドキュメントレベルの翻訳に十分な能力がありますか? 適切なトレーニング技術を持つオリジナルのトランスフォーマーは,2000語の長さであっても,文書翻訳の強力な結果が得られることを観察する。
  論文  参考訳（メタデータ） (2020-10-18T11:18:29Z)
• Document-level Neural Machine Translation with Document Embeddings [82.4684444847092]
  この研究は、複数の形式の文書埋め込みの観点から、詳細な文書レベルのコンテキストを活用することに重点を置いている。 提案する文書認識NMTは,大域的および局所的な文書レベルの手がかりをソース端に導入することにより,Transformerベースラインを強化するために実装されている。
  論文  参考訳（メタデータ） (2020-09-16T19:43:29Z)
• Learning Contextualized Sentence Representations for Document-Level Neural Machine Translation [59.191079800436114]
  文書レベルの機械翻訳は、文間の依存関係をソース文の翻訳に組み込む。 本稿では,ニューラルマシン翻訳(NMT)を訓練し,文のターゲット翻訳と周辺文の双方を予測することによって,文間の依存関係をモデル化するフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-03-30T03:38:01Z)
• Capturing document context inside sentence-level neural machine translation models with self-training [5.129814362802968]
  文書レベルのニューラルマシン翻訳は、文レベルの翻訳よりもあまり注目されず、遅れを取っている。 本稿では,並列文書レベルのコーパス上で,特殊なモデルを訓練する必要のない手法を提案する。 我々のアプローチは、モデルによる選択を強化するため、文書内の他の文で同じ選択がされる可能性が高くなる。
  論文  参考訳（メタデータ） (2020-03-11T12:36:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。