論文の概要: Backtranslation Augmented Direct Preference Optimization for Neural Machine Translation

• arxiv url: http://arxiv.org/abs/2604.25702v1
• Date: Tue, 28 Apr 2026 14:29:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-29 16:49:17.903713
• Title: Backtranslation Augmented Direct Preference Optimization for Neural Machine Translation
• Title（参考訳）: バックトランスレーションによるニューラルマシン翻訳の直接選好最適化
• Authors: Mehrdad Ghassabi, Spehr Rajabi, Hamidreza Baradaran Kashani, Sadra Hakim, Mahshid Keivandarian,
• Abstract要約: 我々は、一般的なテキストコーパスと専門家翻訳者のみを必要とする新しいフレームワークを導入し、人間またはAIシステムで反復的なフィードバックを提供することができる。 DPO駆動のフレームワークを gemma3-1b モデルに適用すると、翻訳品質が大幅に向上する。
• 参考スコア（独自算出の注目度）: 39.28410239503065
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Contemporary neural machine translation (NMT) systems are almost exclusively built by training on supervised parallel data. Despite the tremendous progress achieved, these systems still exhibit persistent translation errors. This paper proposes that a post-training paradigm based on reinforcement learning (RL) can effectively rectify such mistakes. We introduce a novel framework that requires only a general text corpus and an expert translator which can be either human or an AI system to provide iterative feedback. In our experiments, we focus specifically on English-to-German translation as a representative high-resource language pair. Crucially, we implement this RL-based post-training using Direct Preference Optimization (DPO). Applying our DPO-driven framework to the gemma3-1b model yields a significant improvement in translation quality, elevating it's COMET score from 0.703 to 0.747 on the English to German task. The results demonstrate that DPO offers an efficient and stable pathway for enhancing pre-trained NMT models through preference-based post-training.
• Abstract（参考訳）: 現代のニューラルネットワーク翻訳(NMT)システムは、ほぼ独占的に、教師付き並列データのトレーニングによって構築されている。 非常に進歩したにもかかわらず、これらのシステムは引き続き持続的な翻訳エラーを示す。 本稿では、強化学習(RL)に基づく後学習パラダイムを効果的に修正できることを提案する。 我々は、一般的なテキストコーパスと専門家翻訳者のみを必要とする新しいフレームワークを導入し、人間またはAIシステムで反復的なフィードバックを提供することができる。 本実験では,ハイソースな言語対として,英語とドイツ語の翻訳に特化して焦点をあてた。 重要なことは、DPO(Direct Preference Optimization)を用いて、このRLベースのポストトレーニングを実装している。 DPO駆動のフレームワークをgemma3-1bモデルに適用すると、COMETのスコアが0.703から0.747に上昇し、翻訳品質が大幅に向上する。 以上の結果から, DPOは, 優先学習によるNMTモデルの強化に効率的かつ安定した経路を提供することが示された。

関連論文リスト

• End-to-End Training for Back-Translation with Categorical Reparameterization Trick [0.0]
  バックトランスレーションは、ニューラルネットワーク翻訳(NMT)における効果的な半教師付き学習フレームワークである 事前学習されたNMTモデルは、モノリンガル文を翻訳し、他のNMTモデルのトレーニングのために合成バイリンガル文ペアを作成する。 翻訳文の離散的性質は、情報勾配が2つのNMTモデル間で流れるのを防ぐ。
  論文  参考訳（メタデータ） (2022-02-17T06:31:03Z)
• Improving Neural Machine Translation by Denoising Training [95.96569884410137]
  本稿では,ニューラルネットワーク翻訳のためのトレーニングDoTの簡易かつ効果的な事前学習戦略を提案する。 モデルパラメータを、初期段階のソースおよびターゲットサイドのDenoisingタスクで更新し、正常にモデルをチューニングします。 実験によると、DoTは12のバイリンガルと16の多言語方向にわたるニューラルマシン翻訳性能を一貫して改善している。
  論文  参考訳（メタデータ） (2022-01-19T00:11:38Z)
• Non-Parametric Online Learning from Human Feedback for Neural Machine Translation [54.96594148572804]
  本稿では,人間のフィードバックによるオンライン学習の課題について検討する。 従来手法では、高品質な性能を達成するために、オンラインモデル更新や翻訳メモリネットワークの追加が必要であった。 モデル構造を変更することなく、新しい非パラメトリックオンライン学習手法を提案する。
  論文  参考訳（メタデータ） (2021-09-23T04:26:15Z)
• Learning Kernel-Smoothed Machine Translation with Retrieved Examples [30.17061384497846]
  データベースから類似の例を検索して翻訳プロセスを導く既存の非パラメトリックアプローチは有望であるが、検索した例に過度に適合する傾向にある。 我々は、ニューラルネットワーク翻訳モデルをオンラインで適応するための効果的なアプローチであるKSTER(Kernel-Smoothed Translation with Example Retrieval)を学習することを提案する。
  論文  参考訳（メタデータ） (2021-09-21T06:42:53Z)
• Improving Neural Machine Translation by Bidirectional Training [85.64797317290349]
  我々は、ニューラルネットワーク翻訳のためのシンプルで効果的な事前学習戦略である双方向トレーニング(BiT)を提案する。 具体的には、初期モデルのパラメータを双方向に更新し、正常にモデルを調整する。 実験の結果,BiTは8つの言語対上の15の翻訳タスクに対して,SOTAニューラルマシン翻訳性能を著しく向上させることがわかった。
  論文  参考訳（メタデータ） (2021-09-16T07:58:33Z)
• The USYD-JD Speech Translation System for IWSLT 2021 [85.64797317290349]
  本稿では,シドニー大学とJDが共同でIWSLT 2021低リソース音声翻訳タスクを提出したことを述べる。 私たちは、公式に提供されたASRとMTデータセットでモデルをトレーニングしました。 翻訳性能の向上を目的として, バック翻訳, 知識蒸留, 多機能再構成, トランスダクティブファインタニングなど, 最新の効果的な手法について検討した。
  論文  参考訳（メタデータ） (2021-07-24T09:53:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。