論文の概要: Efficient Multilingual Reasoning Transfer via Progressive Code-Switching
- arxiv url: http://arxiv.org/abs/2607.00485v1
- Date: Wed, 01 Jul 2026 06:13:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-02 19:56:07.748072
- Title: Efficient Multilingual Reasoning Transfer via Progressive Code-Switching
- Title(参考訳): プログレッシブコードスイッチングによる多言語推論の効率化
- Abstract要約: トランスファーアプローチは典型的には、強いLEMからの蒸留されたターゲット言語推論のトレースや、外部の審査モデルからのオンライン監視に依存している。
軽量翻訳のみを必要とするより効率的な転送フレームワークであるPCS(Progressive Code-Switching)を提案する。
PCSは、ターゲット言語と英語の推論のパフォーマンスギャップを著しく狭め、より言語に一貫性のある推論をもたらす。
- 参考スコア(独自算出の注目度): 51.49388869532955
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large reasoning models (LRMs) have achieved strong reasoning capabilities in English, yet their performance degrades significantly when required to reason in other languages. A natural solution is to transfer the model's English reasoning ability to target languages. However, existing transfer approaches typically rely on distilled target-language reasoning traces from stronger LRMs or online supervision from external judge models, which are costly and difficult to scale. In this paper, we propose PCS (Progressive Code-Switching), a more efficient transfer framework that requires only lightweight translation without any stronger model for distillation or judging. PCS first constructs code-switched reasoning traces by translating a subset of English reasoning steps into the target language, and uses them to initialize the model's code-switching ability via supervised fine-tuning. It then applies reinforcement learning with a step-level language consistency curriculum, progressively raising the target-language ratio until the model reasons entirely in the target language. This progressive design provides a smooth transfer path that avoids the instability and performance degradation commonly observed when directly enforcing target-language reasoning. Experiments on multiple benchmarks and five typologically diverse languages show that PCS substantially narrows the performance gap between target-language and English reasoning, yielding more language-consistent reasoning while maintaining competitive accuracy.
- Abstract(参考訳): 大きな推論モデル(LRM)は、英語で強力な推論能力を達成したが、他の言語での推論を必要とすると性能が著しく低下する。
自然な解決策は、モデルの英語推論能力をターゲット言語に渡すことである。
しかし、既存のトランスファーアプローチは、通常、より強力なLRMや外部の判断モデルからのオンライン監視から抽出されたターゲット言語推論のトレースに依存しており、これは費用がかかりスケールが困難である。
本稿では,PCS (Progressive Code-Switching) を提案する。
PCSはまず、英語の推論ステップのサブセットを対象言語に翻訳することで、コード変更の推論トレースを構築し、教師付き微調整によってモデルのコード変更能力を初期化する。
次に、ステップレベルの言語整合性カリキュラムによる強化学習を適用し、モデルが完全に対象言語に含まれるようになるまで、対象言語比率を段階的に引き上げる。
このプログレッシブデザインは、ターゲット言語推論を直接実施する際によく見られる不安定性と性能劣化を回避するスムーズな伝達経路を提供する。
複数のベンチマークと5つの類型的多様言語の実験により、PCSはターゲット言語と英語の推論のパフォーマンスギャップを著しく狭め、競争精度を維持しつつ、言語に一貫性のある推論をより多く得ることが示された。
関連論文リスト
- AdaMame: A Training Recipe for Adaptive Multilingual Reasoning [32.31269959716733]
大規模推論モデル(LRM)は、クエリの言語ではしばしば推論に失敗する。
AdaMameは多言語数学的推論のための2段階のトレーニングレシピである。
論文 参考訳(メタデータ) (2026-06-13T03:22:35Z) - Learning When to Translate for Multilingual Reasoning [20.51941069559769]
推論言語モデル (RLM) は複雑な推論タスクにおいて高い性能を発揮するが、それでもかなりの多言語推論のギャップがある。
英語翻訳は、RLMがより確実に解釈できる形で非英語入力を表現することによって、これらの失敗を軽減することができる。
本稿では,言語理解境界を意識した強化学習フレームワークLuarを提案する。
論文 参考訳(メタデータ) (2026-06-01T16:37:18Z) - LANG: Reinforcement Learning for Multilingual Reasoning with Language-Adaptive Hint Guidance [77.58408743830314]
強化学習は大規模言語モデルにおける多段階推論の強化に有効であることが証明されている。
しかし、その利点は多言語文脈に完全には翻訳されていない。
我々は、言語条件付きヒントを利用して、英語以外の推論タスクの探索をガイドする新しいフレームワークを開発する。
論文 参考訳(メタデータ) (2026-05-21T14:47:52Z) - ReasonXL: Shifting LLM Reasoning Language Without Sacrificing Performance [44.67427662307542]
ヨーロッパ5言語にまたがるクロスドメイン推論トレースの最初の大規模並列コーパスであるReasonXLを紹介する。
ReasonXL を用いて、所望のターゲット言語で LLM が完全に論理に適応できることを実証する。
適応の広範な表現解析を行い、モデル深度を横断する明確な機能分割を求める。
論文 参考訳(メタデータ) (2026-04-14T07:10:46Z) - Think Natively: Unlocking Multilingual Reasoning with Consistency-Enhanced Reinforcement Learning [85.7304930030649]
本稿では,言語一貫性報酬と言語間思考アライメント報酬によって訓練されたM-Thinkerを提案する。
M-Thinkerは2つのマルチ言語ベンチマークで100%近い言語一貫性と優れたパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-10-08T17:55:02Z) - Code-Switching In-Context Learning for Cross-Lingual Transfer of Large Language Models [64.54005959758733]
我々は,コードスイッチング・イン・コンテキスト・ラーニング(CSICL)を,推論中の翻訳障壁を克服するための原則的かつ堅牢なアプローチとして導入する。
4つのLLM、6つのデータセット、10の言語にわたる広範な実験を行い、知識集約型ドメインと推論指向ドメインの両方にまたがる。
その結果、CSICLはX-ICLベースラインを一貫して上回り、ターゲット言語と見当たらない言語の両方で3.1%pと1.9%pを達成した。
論文 参考訳(メタデータ) (2025-10-07T08:35:42Z) - Long Chain-of-Thought Reasoning Across Languages [14.79632337642471]
モデル開発の4つの重要な段階として,スケーリング,事前学習,ポストトレーニング,推論について検討する。
スケーリング推論モデルのサイズはEn-CoTの多言語タスク性能を改善するが、Target-CoTのパフォーマンスは遅れている。
英語以外の言語で高品質な推論トレースが不足していることを踏まえ,ポストトレーニングのための合成データキュレーション手法について検討する。
論文 参考訳(メタデータ) (2025-08-20T16:22:51Z) - When Less Language is More: Language-Reasoning Disentanglement Makes LLMs Better Multilingual Reasoners [111.50503126693444]
言語固有のアブレーションは多言語推論性能を継続的に向上させることを示す。
トレーニング後のアブレーションと比較して、トレーニング不要のアブレーションは、計算オーバーヘッドを最小限に抑えながら、同等または優れた結果が得られる。
論文 参考訳(メタデータ) (2025-05-21T08:35:05Z) - AdaMCoT: Rethinking Cross-Lingual Factual Reasoning through Adaptive Multilingual Chain-of-Thought [40.16140566668239]
AdaMCOTは多言語の事実推論を強化するフレームワークである。
AdaMCOTは、ターゲット言語応答を生成する前に、中間言語における思考プロセスを動的にルーティングする。
本評価は, 事実推論品質と言語間整合性の両方において, 大幅な改善を示すものである。
論文 参考訳(メタデータ) (2025-01-27T15:48:57Z) - From Zero to Hero: On the Limitations of Zero-Shot Cross-Lingual
Transfer with Multilingual Transformers [62.637055980148816]
言語モデリングの目的によって事前訓練された多言語トランスフォーマーは、NLPの事実上のデフォルト転送パラダイムとなっている。
膨大な多言語変換器による言語間変換は,リソースリーンシナリオや遠方言語では著しく効果が低いことを示す。
論文 参考訳(メタデータ) (2020-05-01T22:04:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。