論文の概要: LatentMT: Machine Translation with Latent Reasoning

• arxiv url: http://arxiv.org/abs/2607.18618v1
• Date: Tue, 21 Jul 2026 01:38:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-22 19:05:05.288497
• Title: LatentMT: Machine Translation with Latent Reasoning
• Title（参考訳）: LatentMT: Latent Reasoningによる機械翻訳
• Abstract要約: 機械翻訳のための潜時推論ループLMの最初の体系的研究であるLatntMTを紹介する。 32の翻訳方向で、LatentMTは3倍から5倍のモデルに匹敵する性能を達成している。 LatentMTは、より大規模な非遅延推論モデルよりも低いトレーニングと推論計算を必要とする。
• 参考スコア（独自算出の注目度）: 30.307790715793942
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Latent-reasoning looped language models (LoopLMs) offer a different scaling path for machine translation (MT): instead of increasing parameter count or emitting explicit chain-of-thought tokens, they spend additional recurrent computation inside hidden states. We introduce LatentMT, the first systematic study of latent-reasoning LoopLMs for machine translation. LatentMT adapts a small 2.6B-parameter backbone model with lightweight training. Across 32 translation directions spanning high-, mid-, and low-resource languages, LatentMT achieves performance comparable to models three to five times larger. It is competitive in a high-resource language and achieves state-of-the-art performance on both mid-resource and low-resource languages. Studying the behavior of scaling the number of recurrent reasoning steps, we find that recurrent computation consistently improves translation quality in early steps, then saturates quickly afterwards. Our mechanistic analysis shows that hidden-representation differences shrink along the recurrent reasoning-step axis, supporting the observed saturation in performance. Finally, our efficiency analysis shows that LatentMT requires lower training and inference compute than much larger non-latent-reasoning models with similar performance, making latent recurrent computation a promising path toward compact, efficient, and strong machine translation.
• Abstract（参考訳）: 潜在推論ループ言語モデル(LoopLMs)は、パラメータ数を増やしたり、明示的な連鎖トークンを出力する代わりに、隠された状態内でのさらなる再帰的な計算に費やす代わりに、機械翻訳(MT)の異なるスケーリングパスを提供する。 機械翻訳のための潜時推論ループLMの最初の体系的研究であるLatntMTを紹介する。 LatentMTは2.6Bパラメータのバックボーンモデルに軽量なトレーニングを施している。 ハイ、ミッド、ローリソース言語にまたがる32の翻訳方向において、LatntMTは3倍から5倍のモデルに匹敵する性能を達成する。 ハイリソース言語では競争力があり、ミッドリソース言語とローリソース言語の両方で最先端のパフォーマンスを達成する。 逐次推論ステップのスケーリングの挙動を調べた結果,逐次計算は初期段階の翻訳品質を継続的に改善し,その後急速に飽和することがわかった。 我々の力学解析により, 隠れ表現の相違は繰り返し推理ステップに沿って小さくなり, 観測された飽和度を支えていることがわかった。 最後に、我々の効率解析により、LatentMTは、同様の性能を持つより大規模な非待ち時間モデルよりも、より低いトレーニングと推論の計算を必要としており、よりコンパクトで効率的で強力な機械翻訳への有望な経路であることを示す。

関連論文リスト

• Mixture of Experts for Low-Resource LLMs [0.0]
  Mixture-of-Experts (MoE)アーキテクチャは効率的なモデルスケーリングを実現するが、未表現言語をまたいだ専門家のルーティング動作はあまり理解されていない。 アーキテクチャ的に異なる2つのMoEモデル(Qwen3-30B-A3B)とハイブリッドのMamba-Transformer(Nemotron-3-Nano-30B-A3B)のルーティングダイナミクスを、形態的にリッチで低リソースなテストベッドとしてHebrewを用いて解析する。
  論文  参考訳（メタデータ） (2026-05-17T18:50:50Z)
• ReflectMT: Internalizing Reflection for Efficient and High-Quality Machine Translation [63.89730738735446]
  機械翻訳のための2段階反射内在化アルゴリズムであるReflectMTを提案する。 提案手法は,強化学習を通じて,モデルの「翻訳-反射-精製」機能を開発する。 WMT24のようなデータセットに対する実験結果から、推論時のモデルのファーストパス変換がマルチステップ推論のLRMよりも優れていることが示された。
  論文  参考訳（メタデータ） (2026-04-21T06:48:41Z)
• Unlocking Reasoning Capability on Machine Translation in Large Language Models [57.60641851466707]
  推論指向の大規模言語モデル(RLM)は、明示的な中間推論を生成することにより、数学やコーディングといったタスクに強い利益をもたらす。 WMT24++ベンチマークを用いて,オープンおよびクローズドヘビー級のRCMを系統的に評価した。 明示的な推論を可能にすることは、言語やモデル間の翻訳品質を一貫して低下させる。
  論文  参考訳（メタデータ） (2026-02-16T14:05:59Z)
• Beyond Many-Shot Translation: Scaling In-Context Demonstrations For Low-Resource Machine Translation [49.82863380286994]
  In-context Learningは、低リソース機械翻訳にLarge Language Modelsを適用する新しい方法を提供するかもしれない。 本研究では,Long-context モデルを用いた数千例のサンプルに対して,数ショット設定以上の低リソース機械翻訳ICLのスケーリングについて検討する。 JavaneseとSundaneseに関する我々の実験は、追加のコンテキストからのゲインがすばやく飽和し、最大コンテキストウィンドウの近くで分解可能であることを示している。
  論文  参考訳（メタデータ） (2026-02-04T17:02:22Z)
• Test-Time Scaling of Reasoning Models for Machine Translation [16.317481079574065]
  テスト時間スケーリング(TTS)は、数学やコーディングといった様々なタスクにおける推論モデル(RM)の性能を向上させる。 本稿では,推論時間の増大により翻訳品質が向上するかどうかを考察する。
  論文  参考訳（メタデータ） (2025-10-07T21:15:18Z)
• Latent Thought Models with Variational Bayes Inference-Time Computation [52.63299874322121]
  ラテント思考モデル(LTM)は、ラテント空間における明示的な事前モデルに従う明示的なラテント思考ベクトルを包含する。 LTMは自己回帰モデルや離散拡散モデルよりも優れたサンプルおよびパラメータ効率を示す。
  論文  参考訳（メタデータ） (2025-02-03T17:50:34Z)
• Efficient Machine Translation with a BiLSTM-Attention Approach [0.0]
  本稿では,翻訳品質の向上を目的とした新しいSeq2Seqモデルを提案する。 このモデルでは、双方向長短期記憶ネットワーク(Bidirectional Long Short-Term Memory Network, Bi-LSTM)をエンコーダとして使用し、入力シーケンスのコンテキスト情報をキャプチャする。 現在の主流トランスフォーマーモデルと比較して,本モデルはWMT14機械翻訳データセットにおいて優れた性能を発揮する。
  論文  参考訳（メタデータ） (2024-10-29T01:12:50Z)
• Towards Effective Disambiguation for Machine Translation with Large Language Models [65.80775710657672]
  我々は「あいまいな文」を翻訳する大規模言語モデルの能力について研究する。 実験の結果,提案手法はDeepLやNLLBといった最先端システムと5つの言語方向のうち4つで一致し,性能を向上できることがわかった。
  論文  参考訳（メタデータ） (2023-09-20T22:22:52Z)
• Distributionally Robust Multilingual Machine Translation [94.51866646879337]
  本稿では,分散的ロバストな最適化に基づくMNMT(Multilingual Neural Machine Translation)の新しい学習目標を提案する。 この目的を,反復的最適応答方式を用いて,大規模翻訳コーパスに対して実用的に最適化する方法を示す。 本手法は,多対一の翻訳設定と多対多の翻訳設定の両方において,平均と言語毎のパフォーマンスにおいて,強いベースライン法より一貫して優れる。
  論文  参考訳（メタデータ） (2021-09-09T03:48:35Z)
• Learning Source Phrase Representations for Neural Machine Translation [65.94387047871648]
  本稿では,対応するトークン表現から句表現を生成可能な注意句表現生成機構を提案する。 実験では,強力なトランスフォーマーベースライン上でのWMT 14の英語・ドイツ語・英語・フランス語タスクにおいて,大幅な改善が得られた。
  論文  参考訳（メタデータ） (2020-06-25T13:43:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。