Fugu-MT 論文翻訳(概要): The Unreasonable Volatility of Neural Machine Translation Models

論文の概要: The Unreasonable Volatility of Neural Machine Translation Models

arxiv url: http://arxiv.org/abs/2005.12398v1
Date: Mon, 25 May 2020 20:54:23 GMT
ステータス: 処理完了
システム内更新日: 2022-11-29 06:05:37.195337
Title: The Unreasonable Volatility of Neural Machine Translation Models
Title（参考訳）: ニューラルマシン翻訳モデルの不合理なボラティリティ
Authors: Marzieh Fadaee and Christof Monz
Abstract要約: 入力が意味的かつ構文的に正しいNMTモデルの予期せぬボラティリティについて検討する。 RNNモデルとTransformerモデルでは,それぞれ26%と19%の文変動が揮発性を示すことがわかった。
参考スコア（独自算出の注目度）: 5.44772285850031
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Recent works have shown that Neural Machine Translation (NMT) models achieve impressive performance, however, questions about understanding the behavior of these models remain unanswered. We investigate the unexpected volatility of NMT models where the input is semantically and syntactically correct. We discover that with trivial modifications of source sentences, we can identify cases where \textit{unexpected changes} happen in the translation and in the worst case lead to mistranslations. This volatile behavior of translating extremely similar sentences in surprisingly different ways highlights the underlying generalization problem of current NMT models. We find that both RNN and Transformer models display volatile behavior in 26% and 19% of sentence variations, respectively.
Abstract（参考訳）: 近年の研究では、ニューラルネットワーク翻訳(NMT)モデルが優れた性能を発揮することが示されているが、これらのモデルの振る舞いを理解することについての疑問は未解決のままである。入力が意味的かつ構文的に正しいNMTモデルの予期せぬ変動性について検討する。ソース文の簡単な修正によって、翻訳中に \textit{unexpected changes} が発生するケースと、最悪の場合には誤訳につながるケースを識別できることが分かりました。この極めて類似した文を驚くほど異なる方法で翻訳する揮発的挙動は、現在のnmtモデルの基盤となる一般化問題を示している。 RNNモデルとTransformerモデルでは,それぞれ26%と19%の文変動が揮発性を示すことがわかった。

関連論文リスト

Understanding and Addressing the Under-Translation Problem from the Perspective of Decoding Objective [72.83966378613238]
最新のニューラル・マシン・トランスレーション(NMT)システムでは、アンダー・トランスレーションとオーバー・トランスレーションの2つの課題が残っている。我々は,NMTにおけるアンダートランスレーションの根本原因を詳細に分析し,デコード目的の観点から解説する。本研究は,低翻訳の検知器としてEOS(End Of Sentence)予測の信頼性を活用し,低翻訳のリスクが高い候補を罰する信頼性に基づくペナルティを強化することを提案する。
論文参考訳（メタデータ） (2024-05-29T09:25:49Z)
Context-Aware Machine Translation with Source Coreference Explanation [26.336947440529713]
本稿では,入力中のコア参照の特徴を予測し,翻訳のための意思決定を説明するモデルを提案する。我々は、WMT文書レベルの翻訳タスクにおいて、英語-ドイツ語データセット、英語-ロシア語データセット、多言語TEDトークデータセットの評価を行った。
論文参考訳（メタデータ） (2024-04-30T12:41:00Z)
Towards Reliable Neural Machine Translation with Consistency-Aware Meta-Learning [24.64700139151659]
現在のニューラル機械翻訳(NMT)システムは信頼性の欠如に悩まされている。本稿では,モデルに依存しないメタラーニング(MAML)アルゴリズムをベースとした,一貫性を考慮したメタラーニング(CAML)フレームワークを提案する。我々は、NIST中国語から英語へのタスク、3つのWMT翻訳タスク、TED M2Oタスクについて実験を行った。
論文参考訳（メタデータ） (2023-03-20T09:41:28Z)
Can NMT Understand Me? Towards Perturbation-based Evaluation of NMT Models for Code Generation [1.7616042687330642]
NMTモデルの堅牢性を検証するための重要なステップは、その性能を逆入力で評価することである。本研究では,そのようなモデルのロバスト性評価に適した摂動と測定値のセットを同定する。モデルにどのような摂動が最も影響を与えるかを示す予備実験を行った。
論文参考訳（メタデータ） (2022-03-29T08:01:39Z)
When Does Translation Require Context? A Data-driven, Multilingual Exploration [71.43817945875433]
談話の適切な処理は機械翻訳(MT)の品質に大きく貢献する文脈認識型MTにおける最近の研究は、評価中に少量の談話現象を標的にしようとしている。談話現象のモデル性能を識別・評価するタグの集合である,多言語談話認識ベンチマークを開発した。
論文参考訳（メタデータ） (2021-09-15T17:29:30Z)
Beyond Noise: Mitigating the Impact of Fine-grained Semantic Divergences on Neural Machine Translation [14.645468999921961]
本研究は,トランスフォーマーモデルにおける様々な種類の細粒度セマンティックな違いの影響を解析する。自然に発生する発散による劣化からNMTが回復するのに役立つ因子を用いた発散型NMTフレームワークを提案する。
論文参考訳（メタデータ） (2021-05-31T16:15:35Z)
Recoding latent sentence representations -- Dynamic gradient-based activation modification in RNNs [0.0]
RNNでは、サブオプティマティックな方法で情報をエンコーディングすることは、シーケンスの後の要素に基づいて表現の質に影響を与える可能性がある。勾配に基づく補正機構を用いて,標準RNNへの拡張を提案する。言語モデリングの文脈で異なる実験を行い、そのようなメカニズムを使うことによる影響を詳細に調べる。
論文参考訳（メタデータ） (2021-01-03T17:54:17Z)
On Long-Tailed Phenomena in Neural Machine Translation [50.65273145888896]
最先端のニューラルネットワーク翻訳(NMT)モデルは、低周波トークンの生成に苦労する。条件付きテキスト生成における構造的依存関係にモデルトレーニングを適応させるために,新たな損失関数である反焦点損失を提案する。提案手法は,複数の機械翻訳(MT)データセットに対して有効であり,クロスエントロピーよりも顕著に向上することを示す。
論文参考訳（メタデータ） (2020-10-10T07:00:57Z)
On the Inference Calibration of Neural Machine Translation [54.48932804996506]
校正と翻訳性能と誤校正の言語特性の相関について検討した。そこで本研究では,推論キャリブレーションと翻訳性能を両立できる新しいラベル平滑化手法を提案する。
論文参考訳（メタデータ） (2020-05-03T02:03:56Z)
Assessing the Bilingual Knowledge Learned by Neural Machine Translation Models [72.56058378313963]
NMTモデルで学習したバイリンガル知識をフレーズテーブルで評価することで,このギャップを埋める。 NMTモデルは、単純なものから複雑なものまでパターンを学習し、トレーニング例から本質的なバイリンガル知識を抽出する。
論文参考訳（メタデータ） (2020-04-28T03:44:34Z)
Explicit Reordering for Neural Machine Translation [50.70683739103066]
Transformer-based neural machine translation (NMT)では、位置符号化機構は、自己アテンションネットワークが順序依存でソース表現を学習するのに役立つ。本研究では,トランスフォーマーベースのNMTに対して,このリオーダ情報を明示的にモデル化する新しいリオーダ手法を提案する。 WMT14, WAT ASPEC日本語訳, WMT17中国語訳の実証結果から, 提案手法の有効性が示唆された。
論文参考訳（メタデータ） (2020-04-08T05:28:46Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。