論文の概要: LLaMAX2: Your Translation-Enhanced Model also Performs Well in Reasoning

• arxiv url: http://arxiv.org/abs/2510.09189v1
• Date: Fri, 10 Oct 2025 09:33:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-14 00:38:48.60262
• Title: LLaMAX2: Your Translation-Enhanced Model also Performs Well in Reasoning
• Title（参考訳）: LLaMAX2:翻訳強化モデルも推論でうまく機能する
• Authors: Changjiang Gao, Zixian Huang, Jingyang Gong, Shujian Huang, Lei Li, Fei Yuan,
• Abstract要約: 一般的な大規模言語モデルは推論において優れているが、翻訳のために強化されたモデルは推論タスクに苦労する。 提案手法は命令モデルから始まり,並列データのみに層選択型チューニングを適用する。 我々はQwen3-XPlusモデルを導入し、ハイソース言語とローソース言語の両方で翻訳性能が大幅に向上したことを示す。
• 参考スコア（独自算出の注目度）: 39.84745746949007
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: General Large Language Models (LLMs) excel in reasoning, but those enhanced for translation struggle with reasoning tasks. To address this, we propose a novel translationenhanced recipe that begins with instruct models and applies layer-selective tuning only on parallel data. Following this pipeline, we introduce the Qwen3-XPlus models, which demonstrate significant improvements in translation performance across both high- and lowresource languages, achieving 15+ spBLEU and 40+ xComet in low-resource languages, like Swahili. Interestingly, training only with small parallel datasets, Qwen3-XPlus achieves an average improvement of 1+ points on 7 multilingual tasks while maintaining proficiency comparable to the Qwen3 instruct model in 15 popular reasoning datasets. This work offers a promising approach to multilingual enhancement, significantly reducing complexity and enhancing accessibility for a wider range of languages. The code and model are publicly available.
• Abstract（参考訳）: General Large Language Models (LLMs) は推論において優れているが、翻訳のために強化された言語は推論タスクに苦労する。 そこで本研究では,命令モデルから始まり,並列データのみに層選択的チューニングを適用する,新しいトランスフォーメーション強化レシピを提案する。 このパイプラインに続いて、Qwen3-XPlusモデルを導入し、Swahiliのような低リソース言語で15以上のspBLEUと40以上のxCometを達成し、高ソース言語と低リソース言語の翻訳性能を大幅に改善した。 興味深いことに、Qwen3-XPlusは小さな並列データセットでのみトレーニングすることで、7つの多言語タスクで1以上のポイントを平均的に改善すると同時に、15の一般的な推論データセットでQwen3命令モデルに匹敵する習熟性を維持している。 この研究は多言語拡張への有望なアプローチを提供し、複雑さを大幅に減らし、幅広い言語に対するアクセシビリティを向上させる。 コードとモデルは公開されています。

関連論文リスト

• Aligning Multilingual Reasoning with Verifiable Semantics from a High-Resource Expert Model [13.788758077632432]
  本稿では,セマンティック検証リワードを用いたPivot-based Reinforcement Learningを紹介する。 このフレームワークは、ターゲット言語における人間の注釈付きデータの必要性を回避し、多言語推論を強化する。 提案手法は,英語と他言語のパフォーマンスギャップを著しく狭めることを示す。
  論文  参考訳（メタデータ） (2025-09-29T22:03:11Z)
• Pretraining Language Models to Ponder in Continuous Space [50.52734567589996]
  単一のトークン生成ステップ内で,前処理を繰り返し呼び出すことによって,この思考プロセスを言語モデルに導入する。 人間のアノテーションを使わずに、自己教師付き学習を通じて、この方法でモデルを学習できることが示される。
  論文  参考訳（メタデータ） (2025-05-27T03:47:33Z)
• Qwen3 Technical Report [137.96804244102205]
  Qwenモデルファミリの最新バージョンであるQwen3を紹介します。 Qwen3は、性能、効率、多言語機能を向上させるために設計された一連の大規模言語モデル(LLM)から構成されている。
  論文  参考訳（メタデータ） (2025-05-14T13:41:34Z)
• Benchmarking the Performance of Pre-trained LLMs across Urdu NLP Tasks [0.9786690381850356]
  本研究では、22のデータセットと13.8時間の発話をゼロショット環境で使用し、17のタスクにまたがる7つの顕著なLarge Language Model (LLM)を詳細に検討し、その性能を最先端(SOTA)モデルと比較した。 この結果から,Llama 3.1-8Bのようなより少ないパラメータを持つモデルでは,GPT-3.5のような言語多様性の低いモデルよりも,よりリッチな言語特化データの方が優れていることが示唆された。
  論文  参考訳（メタデータ） (2024-05-24T11:30:37Z)
• Question Translation Training for Better Multilingual Reasoning [108.10066378240879]
  大規模言語モデルは推論タスクにおいて魅力的なパフォーマンスを示すが、英語以外の言語ではより悪いパフォーマンスを示す傾向がある。 典型的な解決策は、命令データを興味のあるすべての言語に翻訳し、結果の多言語データをトレーニングすることである。 本稿では,X- English parallel question dataを微調整することで,推論する質問を英語に翻訳するモデルを訓練する。
  論文  参考訳（メタデータ） (2024-01-15T16:39:10Z)
• Document-Level Language Models for Machine Translation [37.106125892770315]
  文書レベルのモノリンガルデータを利用した文脈対応翻訳システムを構築した。 モデル組み合わせの最近の進歩を活用することで、既存のアプローチを改善します。 ほとんどのシナリオでは、バックトランスレーションは、翻訳システムを再トレーニングするコストを犠牲にして、よりよい結果をもたらす。
  論文  参考訳（メタデータ） (2023-10-18T20:10:07Z)
• Bactrian-X: Multilingual Replicable Instruction-Following Models with Low-Rank Adaptation [40.695782736177264]
  Bactrian-Xは52言語にわたる340万の命令応答対の包括的な多言語並列データセットである。 大規模言語モデルとシームレスに統合可能な軽量なコンポーネントであるローランク適応(LoRA)を用いて,アダプタセットをトレーニングする。 様々な多言語評価設定の実験では、バニラモデルと既存の命令調整モデルの両方において、バクタリアンXによるLoRAベースのトレーニングから派生したモデルが優れていることが示されている。
  論文  参考訳（メタデータ） (2023-05-24T10:50:31Z)
• Mixed-Lingual Pre-training for Cross-lingual Summarization [54.4823498438831]
  言語間の要約は、ソース言語の記事に対する対象言語の要約を作成することを目的としている。 本稿では,翻訳のような言語間タスクと,マスク付き言語モデルのようなモノリンガルタスクの両方を活用する混合言語事前学習に基づくソリューションを提案する。 本モデルでは,2.82(中国語)と1.15(中国語,英語)のROUGE-1スコアを最先端の結果に対して改善する。
  論文  参考訳（メタデータ） (2020-10-18T00:21:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。