論文の概要: Reference-Free Post-Training of Open Large Language Models for Multilingual Machine Translation
- arxiv url: http://arxiv.org/abs/2608.10812v2
- Date: Wed, 12 Aug 2026 10:06:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-13 14:28:20.625098
- Title: Reference-Free Post-Training of Open Large Language Models for Multilingual Machine Translation
- Title(参考訳): 多言語機械翻訳のためのオープン大言語モデルの参照自由後訓練
- Abstract要約: オープンな大言語モデルを用いた多言語機械翻訳における参照なしのポストトレーニングについて検討する。
46言語にわたって、結果のモデルはSFT言語よりも翻訳品質を一貫して改善した。
さらに, オンライン蒸留(OPD)について検討し, チェックポイントチェックポイントでRLが達成した品質フロンティアに到達したが, 上回らないことを確認した。
- 参考スコア(独自算出の注目度): 16.262185435621078
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study reference-free post-training for multilingual machine translation with open large language models. Starting from the supervised-finetuned MiLMMT-46-v0.1 models, we apply Group Relative Policy Optimization (GRPO) with a reward that averages two reference-free quality estimation models and is gated by language identification. We then linearly interpolate the supervised fine-tuning (SFT) and reinforcement learning (RL) model checkpoints to obtain MiLMMT-46-v1.0. Across 46 languages, the resulting models consistently improve translation quality over their SFT counterparts, outperform strong recent open baselines, including Seed-X, HY-MT2, and TranslateGemma, and achieve leading reference-free scores against evaluated proprietary systems such as Google Translate, Gemini 3 Pro, and GPT-5. We further investigate on-policy distillation (OPD) and find that it reaches, but does not surpass, the quality frontier achieved by RL with checkpoint interpolation. We release the models and code to facilitate future research.
- Abstract(参考訳): オープンな大言語モデルを用いた多言語機械翻訳における参照なしのポストトレーニングについて検討する。
教師付き微調整MiLMMT-46-v0.1モデルから,2つの参照なし品質推定モデルの平均化と言語識別によるアクティベーションを含むグループ相対政策最適化(GRPO)を適用した。
次に、教師付き微調整(SFT)と強化学習(RL)モデルのチェックポイントを線形に補間し、MILMMT-46-v1.0を得る。
46言語にわたって、結果のモデルはSFT言語よりも翻訳品質を一貫して改善し、Seed-X、HY-MT2、TranslateGemmaなどの最近のオープンベースラインを上回り、Google Translate、Gemini 3 Pro、GPT-5といった評価済みのプロプライエタリシステムに対してリードフリースコアを達成している。
さらに, オンライン蒸留(OPD)について検討し, チェックポイント補間によりRLが達成した品質フロンティアに到達したが, 到達しなかった。
将来の研究を促進するために、モデルとコードをリリースします。
関連論文リスト
- Scaling Model and Data for Multilingual Machine Translation with Open Large Language Models [38.626788948945844]
本稿では,多言語多言語機械翻訳(MT)のためのオープン大言語モデル(LLM)について述べる。
46言語で最上位の多言語翻訳性能を実現するMiLMMT-46を開発した。
論文 参考訳(メタデータ) (2026-02-12T13:56:02Z) - Beyond English: Toward Inclusive and Scalable Multilingual Machine Translation with LLMs [41.53385639669034]
大規模な言語モデルでは、MMT(Multilingual Machine Translation)が大幅に進歩しているが、幅広い言語カバレッジ、一貫した翻訳品質、英語中心のバイアスは未解決の課題である。
textbfLMTは、中国語と英語を中心としたtextbfLarge-scale textbfMultilingual textbfTranslationモデルである。
LMTは4BモデルがAya-13BとNLLB-54Bモデルを大きく上回り、4Bモデルと同等の言語カバレッジを持つモデル間でSOTA性能を実現している。
論文 参考訳(メタデータ) (2025-11-10T11:54:53Z) - Seed-X: Building Strong Multilingual Translation LLM with 7B Parameters [53.59868121093848]
7Bパラメータサイズを持つオープンソースの言語モデル(LLM)のファミリーであるSeed-Xを紹介する。
ベースモデルは、28言語にわたるモノリンガルコンテンツとバイリンガルコンテンツの両方を含む、多種多様な高品質データセットで事前訓練されている。
その後、インストラクションモデルは、Chain-of-Thought(CoT)推論によって翻訳され、強化学習(RL)によりさらに強化され、多様な言語対をまたいだより良い一般化が達成される。
論文 参考訳(メタデータ) (2025-07-18T03:19:43Z) - Checklist Engineering Empowers Multilingual LLM Judges [12.64438771302935]
Checklist Engineering ベースの LLM-as-a-Judge (CE-Judge) は、オープンソースのモデルによる多言語評価にチェックリストの直観を使用する、トレーニング不要のフレームワークである。
我々の手法は一般にベースラインを超え、GPT-4oモデルと同等に機能する。
論文 参考訳(メタデータ) (2025-07-09T12:03:06Z) - Trans-Zero: Self-Play Incentivizes Large Language Models for Multilingual Translation Without Parallel Data [64.4458540273004]
言語モデル(LLM)の単言語データと本質的な多言語知識のみを活用するセルフプレイフレームワークを提案する。
実験により、このアプローチは大規模並列データに基づいて訓練されたモデルの性能と一致するだけでなく、非英語翻訳の方向でも優れていることが示された。
論文 参考訳(メタデータ) (2025-04-20T16:20:30Z) - M-Prometheus: A Suite of Open Multilingual LLM Judges [65.63858815169924]
M-Prometheusは,多言語出力の直接評価とペア比較フィードバックを両立できるオープンウェイトLLM判定器のスイートである。
M-Prometheusモデルは、20以上の言語にまたがる多言語報酬ベンチマークや、4つの言語対をカバーする文語機械翻訳(MT)評価において、最先端のLLM判事より優れている。
論文 参考訳(メタデータ) (2025-04-07T11:37:26Z) - Expanding Performance Boundaries of Open-Source Multimodal Models with Model, Data, and Test-Time Scaling [191.7830199016589]
InternVL 2.5は、InternVL 2.0上に構築された高度マルチモーダル大規模言語モデル(MLLM)シリーズである。
InternVL 2.5は、GPT-4oやClaude-3.5-Sonnetといった主要な商用モデルと競合する競争力を持つ。
このモデルが、マルチモーダルAIシステムの開発と適用のための新しい標準を設定することで、オープンソースコミュニティに貢献できることを願っています。
論文 参考訳(メタデータ) (2024-12-06T18:57:08Z) - Towards Zero-Shot Multimodal Machine Translation [64.9141931372384]
本稿では,マルチモーダル機械翻訳システムの学習において,完全教師付きデータの必要性を回避する手法を提案する。
我々の手法はZeroMMTと呼ばれ、2つの目的の混合で学習することで、強いテキストのみの機械翻訳(MT)モデルを適応させることである。
本手法が完全に教師付きトレーニングデータを持たない言語に一般化されることを証明するため,CoMMuTE評価データセットをアラビア語,ロシア語,中国語の3言語に拡張した。
論文 参考訳(メタデータ) (2024-07-18T15:20:31Z) - Machine Translation for Ge'ez Language [0.0]
Ge'ezのような低リソース言語の機械翻訳は、語彙外単語、ドメインミスマッチ、ラベル付きトレーニングデータの欠如といった課題に直面している。
言語関連性に基づく多言語ニューラルマシン翻訳(MNMT)モデルを開発した。
また,最新のLCMであるGPT-3.5を用いて,ファジィマッチングを用いた数ショット翻訳実験を行った。
論文 参考訳(メタデータ) (2023-11-24T14:55:23Z) - Pre-training Multilingual Neural Machine Translation by Leveraging
Alignment Information [72.2412707779571]
mRASPは、汎用多言語ニューラルマシン翻訳モデルを事前訓練するためのアプローチである。
我々は,低,中,豊かな資源を含む多種多様な環境における42の翻訳方向の実験を行い,エキゾチックな言語対への変換を行った。
論文 参考訳(メタデータ) (2020-10-07T03:57:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。