論文の概要: What Does Post-Training Change in Multilingual Reasoning?

• arxiv url: http://arxiv.org/abs/2609.37104v1
• Date: Tue, 29 Sep 2026 09:23:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:47.376801
• Title: What Does Post-Training Change in Multilingual Reasoning?
• Title（参考訳）: 多言語推論における学習後の変化とは何か
• Abstract要約: オープンソース推論モデルは、言語間の推論能力に不平等なアクセスを提供する。 11言語における競合数学のタスクに関するQwen3チェックポイントを監査する。 10の非英語言語全体では、15.4-17.9%の問題は16のサンプルのいずれにおいても、要求された言語で目に見える推論を伴う正しい解決策が与えられ、英語では92.9%である。
• 参考スコア（独自算出の注目度）: 12.915215118963893
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Open-source reasoning models provide unequal access to reasoning capability across languages. When a model can solve a problem but cannot deliver a complete solution in the user's language, language becomes an access barrier rather than merely a source of performance variation. We audit Qwen3 checkpoints on competition-mathematics tasks in eleven languages. Across the ten non-English languages, only 15.4-17.9% of problems receive a correct, terminating solution with visible reasoning in the requested language in any of 16 samples, compared with 92.9% in English. To identify the source of this disparity, we evaluate thirteen endpoints from one model family, spanning released checkpoints, multilingual supervised fine-tuning (SFT) at two scales, controlled SFT ablations, and three reinforcement-learning (RL) reward formulations. We jointly track correctness, language adherence, termination, and delivery efficiency. The dominant bottleneck shifts across post-training stages. Released models often reason in English. Multilingual SFT restores target-language reasoning, but accuracy declines across multilingual, English-only, and single-language SFT runs, showing that this cost is not specific to multilingual mixing; non-English reasoning traces additionally become prone to non-terminating loops. RL restores termination in both arms at no cost in accuracy, but only the arm whose reward includes a language term delivers: rewarding correctness alone returns the model to English. Together, these stages establish a constructive post-training path from English-pivoted capability to multilingual reasoning that is reliably delivered.
• Abstract（参考訳）: オープンソース推論モデルは、言語間の推論能力に不平等なアクセスを提供する。 モデルが問題の解決が可能で、ユーザの言語で完全なソリューションを提供できない場合、言語は単にパフォーマンスの変化の源となるのではなく、アクセス障壁になる。 11言語における競合数学のタスクに関するQwen3チェックポイントを監査する。 10の非英語言語全体では、15.4-17.9%の問題は16のサンプルのいずれかにおいて、要求された言語で視覚的に推論できる正しい解決策を与えられる。 この相違の原因を明らかにするため,1つのモデルファミリーからの13のエンドポイント,リリースされたチェックポイント,複数言語による教師付き微調整(SFT)の2つのスケール,制御されたSFT短縮,3つの強化学習(RL)報酬の定式化について検討した。 私たちは、正確性、言語順守、終了、デリバリ効率を共同で追跡します。 主要なボトルネックは、トレーニング後の段階にわたってシフトする。 リリースされたモデルは、しばしば英語で説明される。 多言語SFTは、ターゲット言語推論を復元するが、多言語、英語のみ、単言語SFT実行において精度は低下し、このコストは多言語混合に特化せず、非英語の推論トレースは非終端ループの傾向が増す。 RLは両腕の終了を正確さの犠牲なしに復元するが、報酬が与えられるのは言語用語を含むアームのみである。 これらの段階が組み合わさって、英語で書かれた能力から、確実に納品される多言語推論への建設的なポストトレーニングパスを確立する。

関連論文リスト

• Choosing the Right Language Mode at Inference Time for Multilingual Reliability [3.6095388702618405]
  大規模な言語モデルは、低級から中級の言語では推論に苦慮することが多い。 以前の研究によると、翻訳は、より強い英語中心の表現へのアクセスを支援することで、多言語推論を改善することができる。 これは、多言語の大言語モデルが確実に推論するためにどのくらいの翻訳が必要かという、中心的な疑問を提起する。
  論文  参考訳（メタデータ） (2026-09-04T02:36:26Z)
• Language as a Latent Variable for Reasoning Optimization [45.35129925776798]
  LLMは英語中心のバイアスを減らすので、驚くべき傾向が現れます。 モデルの内部推論経路を構造的に修飾する潜在変数として機能する言語を仮定する。 言語変化を暗黙的な探索信号として扱うRLフレームワークであるpolyGRPOを提案する。
  論文  参考訳（メタデータ） (2026-04-23T12:19:14Z)
• What Makes Good Multilingual Reasoning? Disentangling Reasoning Traces with Measurable Features [32.31269959716733]
  この研究は、多言語設定における効果的な推論を実際に特徴付けるものについて尋ねる。 まず、多言語アライメント、推論ステップ、推論トレースの推論フロー側面にまたがる測定可能な推論機能群を定義した。 次に、多言語トレース上でスパースオートエンコーダをトレーニングし、これらの機能をインスタンス化または拡張する潜在推論概念を自動的に検出する。
  論文  参考訳（メタデータ） (2026-04-06T14:40:50Z)
• Align to the Pivot: Dual Alignment with Self-Feedback for Multilingual Math Reasoning [71.4175109189942]
  Pivot-Aligned Self-Feedback Multilingual Reasoning (PASMR)を提案する。 このアプローチは、モデルの第一言語をピボット言語として指定する。 外部の正しい回答や報酬モデルに頼ることなく、言語横断的な自己フィードバック機構を確立する。
  論文  参考訳（メタデータ） (2026-01-25T03:20:00Z)
• Cross-lingual Collapse: How Language-Centric Foundation Models Shape Reasoning in Large Language Models [44.94287386776289]
  textbfCross-lingual Collapseは、多言語言語モデルが支配的な事前学習言語に回帰する体系的なドリフトである。 実験の結果, (i)GRPOは事前学習言語の不均衡を急速に増幅し, わずか数百回の更新で低リソース言語が侵食され, (ii) 言語整合性報酬はこのドリフトを緩和するが, ほぼ5～10ppの精度の低下を犠牲にしていることがわかった。
  論文  参考訳（メタデータ） (2025-06-06T08:08:48Z)
• Demystifying Multilingual Chain-of-Thought in Process Reward Modeling [86.98098988779809]
  プロセス報酬モデル(PRM)を多言語設定に拡張するという課題に対処する。 我々は、7つの言語にまたがるデータセット上で多言語PRMを訓練し、それを英語から翻訳する。 本結果は,学習言語数と英語データ量の両方に対する多言語PRMの感度を強調した。
  論文  参考訳（メタデータ） (2025-02-18T09:11:44Z)
• Question Translation Training for Better Multilingual Reasoning [108.10066378240879]
  大規模言語モデルは推論タスクにおいて魅力的なパフォーマンスを示すが、英語以外の言語ではより悪いパフォーマンスを示す傾向がある。 典型的な解決策は、命令データを興味のあるすべての言語に翻訳し、結果の多言語データをトレーニングすることである。 本稿では,X- English parallel question dataを微調整することで,推論する質問を英語に翻訳するモデルを訓練する。
  論文  参考訳（メタデータ） (2024-01-15T16:39:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。