論文の概要: Qwen-MT-Lumen at WMT2026: Instruction-Specialized Translation via Quality-Aware Training and On-Policy Distillation
- arxiv url: http://arxiv.org/abs/2610.19758v1
- Date: Wed, 14 Oct 2026 08:12:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.030109
- Title: Qwen-MT-Lumen at WMT2026: Instruction-Specialized Translation via Quality-Aware Training and On-Policy Distillation
- Title(参考訳): Qwen-MT-Lumen at WMT2026: Instruction-Specialized Translation via Quality-Aware Training and On-Policy Distillation (英語)
- Abstract要約: 我々はLumenを紹介します。オープンソースモデルは、WMT 2026 General Machine Translation Shared Taskへの提出で利用可能です。
そこでは,システムでは,形式,用語,構造的出力に関する詳細な要件を満たしつつ,正確な翻訳を行なわなければならない。
- 参考スコア(独自算出の注目度): 56.276866222334064
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We present Lumen, The open-source model is available at, our submission to the WMT 2026 General Machine Translation Shared Task. We focus on instruction-specialized translation, where systems must produce accurate translations while satisfying fine-grained requirements on style, terminology, and structured output. Lumen follows a four-stage pipeline. First, continued pre-training and supervised fine-tuning jointly strengthen multilingual translation competence and the ability to follow translation-specific instructions, such as terminology, style, and format constraints. Second, we extend the originally offline M^{2}PO preference-optimization framework into an online preference-optimization stage: the current policy samples candidate translations, an LLM judge assigns continuous direct-assessment scores, and the resulting multi-pair preferences are used to update the model. Third, on-policy distillation transfers stronger translation-instruction-following behavior from a larger teacher model to the Qwen3-14B student, improving translation-instruction adherence while retaining a 14B primary translation backbone. Finally, structure-aware inference and postprocessing preserve required formats, while selective repair addresses clear structural or decoding failures before submission. We participate in 23 translation directions. Under an absolute 1--5 LLM-judge rubric that evaluates translation-instruction following and translation quality separately, Lumen reaches an overall mean score of 4.60. Despite using a 14B translation backbone, it achieves performance comparable to leading proprietary systems in both translation quality and translation-instruction following.
- Abstract(参考訳): 我々はLumenを紹介します。オープンソースモデルは、WMT 2026 General Machine Translation Shared Taskへの提出で利用可能です。
そこでは,システムでは,形式,用語,構造的出力に関する詳細な要件を満たしつつ,正確な翻訳を行なわなければならない。
ルーメンは4段のパイプラインを辿る。
まず、継続した事前学習と教師付き微調整により、多言語翻訳能力と、用語、スタイル、フォーマット制約などの翻訳固有の命令に従う能力が強化された。
第2に、当初オフラインであったM^{2}PO選好最適化フレームワークをオンライン選好最適化段階に拡張し、現在のポリシーが候補翻訳をサンプリングし、LCM判事が連続的な直接評価スコアを割り当て、結果として得られたマルチペア選好を用いてモデルを更新する。
第3に、オンライン蒸留は、より大きな教師モデルからQwen3-14Bの学生に翻訳命令追従の強い振る舞いを伝達し、14Bの一次翻訳バックボーンを保持しながら翻訳命令の付着を改善する。
最後に、構造を意識した推論と後処理は必要なフォーマットを保持し、選択的な修復は、提出前に明確な構造またはデコード障害に対処する。
私たちは23の翻訳の方向に参加します。
翻訳指導と翻訳品質を別々に評価する絶対1--5 LLM-judgeルーブリックでは、ルーメンの平均スコアは4.60である。
14Bの翻訳バックボーンを使用しているにもかかわらず、翻訳品質とその後の翻訳命令の両方において、主要なプロプライエタリなシステムに匹敵するパフォーマンスを実現している。
関連論文リスト
- Incentivizing Parametric Knowledge via Reinforcement Learning with Verifiable Rewards for Cross-Cultural Entity Translation [68.85147984815778]
本稿では, EA-RLVR(Entity-Anchored Reinforcement Learning with Verifiable Rewards)を提案する。
EA-RLVRは、検証可能なエンティティレベルの報酬信号の監視をアンカーし、最適化を安定させるために軽量な構造ゲートを組み込む。
EA-RLVRをXC-Translate上で評価し、エンティティ翻訳精度とドメイン外一般化の両面で一貫した改善を観察する。
論文 参考訳(メタデータ) (2026-04-18T07:15:43Z) - From Utterance to Vividity: Training Expressive Subtitle Translation LLM via Adaptive Local Preference Optimization [12.547838537411215]
ドメインのカスタマイズのニーズを満たす翻訳 LLM の構築方法に焦点をあてる。
我々は、視覚メディアの字幕翻訳をテーマとして、表現力と鮮明な翻訳 LLM の訓練方法を探求する。
論文 参考訳(メタデータ) (2026-02-01T07:24:06Z) - Specification-Aware Machine Translation and Evaluation for Purpose Alignment [10.50113943900077]
専門的な翻訳において仕様が重要な理由に関する理論的根拠を提供するとともに,仕様対応機械翻訳(MT)の実装のための実践的ガイドを提供する。
我々は、専門家のエラー分析、ユーザの嗜好ランキング、自動測定値を用いて、人文翻訳と大規模言語モデル(LLM)からのプロンプトベースのアウトプットを含む5つの翻訳タイプを比較した。
その結果,仕様書による翻訳は人間の評価において人文翻訳よりも一貫して優れており,知覚と期待される品質のギャップが強調された。
論文 参考訳(メタデータ) (2025-09-22T10:50:37Z) - Lost in Literalism: How Supervised Training Shapes Translationese in LLMs [51.04435855143767]
大規模言語モデル(LLM)は機械翻訳において顕著な成功を収めた。
しかし、過度にリテラルと不自然な翻訳を特徴とする翻訳は、依然として永続的な課題である。
我々は、黄金の基準を磨き、不自然なトレーニングインスタンスをフィルタリングするなど、これらのバイアスを軽減する方法を導入する。
論文 参考訳(メタデータ) (2025-03-06T12:14:45Z) - TasTe: Teaching Large Language Models to Translate through Self-Reflection [82.83958470745381]
大規模言語モデル(LLM)は、様々な自然言語処理タスクにおいて顕著な性能を示した。
本稿では,自己回帰を通した翻訳を行うTasTeフレームワークを提案する。
WMT22ベンチマークにおける4つの言語方向の評価結果から,既存の手法と比較して,提案手法の有効性が示された。
論文 参考訳(メタデータ) (2024-06-12T17:21:21Z) - Building Accurate Translation-Tailored LLMs with Language Aware Instruction Tuning [57.323716555996114]
オフターゲット翻訳は、特に低リソース言語では未解決の問題である。
最近の研究は、翻訳命令の機能を強調するために高度なプロンプト戦略を設計するか、LLMの文脈内学習能力を活用している。
本研究では,LLMの命令追従能力(特に翻訳方向)を向上させるために,2段階の微調整アルゴリズムを設計する。
論文 参考訳(メタデータ) (2024-03-21T13:47:40Z) - Improving Multilingual Translation by Representation and Gradient
Regularization [82.42760103045083]
表現レベルと勾配レベルの両方でNMTモデルを正規化するための共同手法を提案する。
提案手法は,オフターゲット翻訳の発生率の低減とゼロショット翻訳性能の向上に有効であることを示す。
論文 参考訳(メタデータ) (2021-09-10T10:52:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。