Fugu-MT 論文翻訳(概要): Back-Translation Still Matters: Leveraging Monolingual Data for Low-Resource Machine Translation with LLMs

論文の概要: Back-Translation Still Matters: Leveraging Monolingual Data for Low-Resource Machine Translation with LLMs

arxiv url: http://arxiv.org/abs/2610.18818v2
Date: Wed, 14 Oct 2026 07:55:24 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-15 21:06:15.698095
Title: Back-Translation Still Matters: Leveraging Monolingual Data for Low-Resource Machine Translation with LLMs
Title（参考訳）: バックトランスレーションは依然として重要です: LLMを用いた低リソース機械翻訳のためのモノリンガルデータを活用する
Abstract要約: 事前訓練された大規模言語モデル(LLM)は、ゼロショットと少数ショットの設定で多くのタスクに有効である。低リソース言語の機械翻訳では、小さな並列セット上でのプロンプトと微調整がほとんどない。我々は、事前トレーニングを継続するよりも、このデータのより効果的な利用は、バックトランスレーションのLLM以前のテクニックである、と論じる。
参考スコア（独自算出の注目度）: 7.1286904598169585
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Pre-trained Large Language Model (LLMs) are effective on many tasks in zero-shot and few-shot settings. For machine translation of low-resource languages, the obvious options are few-shot prompting and fine-tuning on a small parallel set. We ask: what if moderate amounts of low-resource monolingual data are also available? We argue that, rather than continued pretraining, a more effective use of this data is the pre-LLM era technique of back-translation (BT). The current fine-tuned LLM translates monolingual sentences in each language, and the resulting pairs train it in the reverse direction. Updates on the parallel set are interleaved for stable learning. With 1K parallel pairs on Odia and Swahili, BT beats continued pretraining into the low-resource language by 7.7 to 16.4 XCOMET-XXL points in domain. With beam-decoded intermediate translations, it also beats a model with 10 time more parallel data. In-context examples retrieved from the parallel data further improve BT. We also analyze the source, quality and amount of monolingual text. Across five low-resource languages, with Hindi as a high-resource control, and two 3B backbones, BT improves translation into the low-resource language by 16 to 173% XCOMET-XXL over parallel-only fine-tuning. Blind human evaluation on Odia and Sanskrit agrees with the automatic metrics.
Abstract（参考訳）: 事前訓練された大規模言語モデル(LLM)は、ゼロショットと少数ショットの設定で多くのタスクに有効である。低リソース言語の機械翻訳では、小さな並列セット上でのプロンプトと微調整がほとんどない。適度な量の低リソースのモノリンガルデータも利用できるとしたらどうでしょう? 我々は、事前トレーニングを継続するのではなく、より効果的なデータ利用は、バックトランスレーション(BT)のLLM前手法であると主張している。現在の微調整 LLM は各言語の単言語文を翻訳し、その結果のペアはそれを逆方向に訓練する。並列セットの更新は安定した学習のためにインターリーブされる。オディアとスワヒリの1K並列ペアでは、BTはドメイン内の7.7から16.4のXCOMET-XXLポイントで低リソース言語への事前トレーニングを続けた。ビームデコードされた中間翻訳では、10倍の並列データを持つモデルを破る。並列データから取得したインコンテキストの例はBTをさらに改善する。また、モノリンガルテキストのソース、品質、量を分析する。 5つの低リソース言語で、Hindiは高リソースコントロール、2つの3Bバックボーンを持ち、BTは並列のみの微調整で16から173%のXCOMET-XXLで低リソース言語への変換を改善している。オディアとサンスクリットの盲人評価は自動測定値と一致している。

論文の概要: Back-Translation Still Matters: Leveraging Monolingual Data for Low-Resource Machine Translation with LLMs

関連論文リスト