論文の概要: CAT-Translate: Building Compact Open-Source Models for Japanese-English Translation

• arxiv url: http://arxiv.org/abs/2606.21413v1
• Date: Fri, 19 Jun 2026 13:28:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-25 13:37:20.768245
• Title: CAT-Translate: Building Compact Open-Source Models for Japanese-English Translation
• Title（参考訳）: CAT翻訳:日本語翻訳のためのコンパクトなオープンソースモデルの構築
• Authors: Yuu Jinnai,
• Abstract要約: 日本語と英語の双方向翻訳に特化した小言語モデル群(0.8B,1.4B,3.3B,7Bパラメータ)を開発した。 我々は、ビジネス、法律、医療、ファイナンシャル、特許ドメインにわたるWMTおよび実世界の翻訳ベンチマークに関するモデルを評価する。
• 参考スコア（独自算出の注目度）: 16.295305195753723
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Nowadays, large multilingual translation models demonstrate impressive translation capabilities in the machine translation benchmarks. This raises a practical question to the developers: is it worth developing translation models specialized for a particular language pair if you only need to support that language pair? To give an anecdotal answer to this question, we develop a family of small language models (0.8B, 1.4B, 3.3B, and 7B parameters) specialized for Japanese-English bidirectional translation. We employ a two-stage supervised fine-tuning approach followed by Multi-Objective GRPO (Ichihara et al. 2025) to train models on synthetically generated parallel corpora. We evaluate our models on WMT and real-world translation benchmarks across business, legal, medical, financial, and patent domains. While multilingual models achieve strong performance on WMT benchmarks, our compact models outperform them on real-world benchmarks, suggesting the practical utility of developing specialized translation models even in the era of large multilingual models.
• Abstract（参考訳）: 現在、大規模な多言語翻訳モデルは、機械翻訳ベンチマークにおいて印象的な翻訳能力を示している。 言語ペアをサポートする必要さえあれば、特定の言語ペアに特化した翻訳モデルを開発する価値はあるのでしょうか? そこで本研究では,日本語と英語の双方向翻訳に特化した小言語モデル(0.8B,1.4B,3.3B,7Bパラメータ)を考案した。 合成並列コーパス上でのモデル学習には,2段階の教師付き微調整手法,次いでMulti-Objective GRPO (Ichihara et al 2025) を用いる。 我々は、ビジネス、法律、医療、ファイナンシャル、特許ドメインにわたるWMTおよび実世界の翻訳ベンチマークに関するモデルを評価する。 マルチリンガルモデルはWMTベンチマークにおいて高い性能を達成する一方で,我々のコンパクトモデルは実世界のベンチマークよりも優れており,大規模なマルチリンガルモデルの時代においても,特殊な翻訳モデルを開発するための実用的有用性が示唆されている。

関連論文リスト

• Seed-X: Building Strong Multilingual Translation LLM with 7B Parameters [53.59868121093848]
  7Bパラメータサイズを持つオープンソースの言語モデル(LLM)のファミリーであるSeed-Xを紹介する。 ベースモデルは、28言語にわたるモノリンガルコンテンツとバイリンガルコンテンツの両方を含む、多種多様な高品質データセットで事前訓練されている。 その後、インストラクションモデルは、Chain-of-Thought(CoT)推論によって翻訳され、強化学習(RL)によりさらに強化され、多様な言語対をまたいだより良い一般化が達成される。
  論文  参考訳（メタデータ） (2025-07-18T03:19:43Z)
• Relay Decoding: Concatenating Large Language Models for Machine Translation [21.367605327742027]
  我々はRD(Relay Decoding)と呼ばれる革新的なアプローチを提案し、ソースとターゲット言語を個別にサポートする2つの異なる大規模モデルを結合する。 これら2つのモデル間の接続を容易にするための単純なマッピング層を導入し、訓練に限られた並列データを活用することにより、機械翻訳タスクにおいて優れた結果が得られた。
  論文  参考訳（メタデータ） (2024-05-05T13:42:25Z)
• Multilingual Bidirectional Unsupervised Translation Through Multilingual Finetuning and Back-Translation [23.401781865904386]
  本研究では,NMTモデルをトレーニングし,未知の言語を英語と英語の両方に翻訳する2段階のアプローチを提案する。 最初の段階では、事前訓練されたXLM-RおよびRoBERTa重みにエンコーダデコーダモデルを初期化し、40言語で並列データに対して多言語微調整を行う。 第2段階では、この一般化機能を活用して、単言語データセットから合成並列データを生成し、その後、連続した後方翻訳ラウンドで双方向に訓練する。
  論文  参考訳（メタデータ） (2022-09-06T21:20:41Z)
• Beyond English-Centric Multilingual Machine Translation [74.21727842163068]
  我々は真の多言語多言語翻訳モデルを作成し、100言語のいずれかのペア間で直接翻訳できる。 大規模なマイニングによって生成された教師付きデータで、数千の言語方向をカバーするトレーニングデータセットを構築し、オープンソースにしています。 WMTのベストシングルシステムに競争力を持たせながら、非英語の方向を直接翻訳する場合、非英語モデルに焦点をあてると10 BLEU以上のゲインが得られる。
  論文  参考訳（メタデータ） (2020-10-21T17:01:23Z)
• Improving Massively Multilingual Neural Machine Translation and Zero-Shot Translation [81.7786241489002]
  ニューラルネットワーク翻訳(NMT)の多言語モデルは理論的には魅力的であるが、しばしばバイリンガルモデルに劣る。 我々は,多言語NMTが言語ペアをサポートするためにより強力なモデリング能力を必要とすることを論じる。 未知のトレーニング言語ペアの翻訳を強制するために,ランダムなオンライン翻訳を提案する。
  論文  参考訳（メタデータ） (2020-04-24T17:21:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。