論文の概要: Native Multilingual Chain-of-Thought Reasoning in Low-Resource Southeast Asian Languages
- arxiv url: http://arxiv.org/abs/2608.00533v1
- Date: Sat, 01 Aug 2026 08:44:32 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:24.746975
- Title: Native Multilingual Chain-of-Thought Reasoning in Low-Resource Southeast Asian Languages
- Title（参考訳）: 低資源東南アジア諸語におけるネイティブ多言語連鎖推論
- Authors: Sean Gip Lim, William Chandra Tjhi, Hai Leong Chieu,
- Abstract要約: Onramp-Sequence Cross-Distillation (OSCD)は、生成的トレーニングロールアウト中に低リソースの語彙部分空間に高リソースの推論軌道を投影する。
OSCDは、数学的な推論のために東南アジアのネイティブ言語で最大3.2倍の改善を達成している。
- 参考スコア（独自算出の注目度）: 3.6077805387487545
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Language Models have achieved substantial progress in reasoning capabilities. Yet in low-resource native settings, many suffer from cross-lingual collapse, reverting to English during intermediate steps that require complex logical reasoning. This presents a cold-start bottleneck for policy optimization, whereas standard fine-tuning risks catastrophic forgetting due to cross-lingual representation drift. To address these challenges, we introduce the Onramp-Sequence Cross-Distillation (OSCD), a post-training algorithm that projects high-resource reasoning trajectories into low-resource vocabulary subspaces during generative training rollouts via an integrated translator agentic loop, ensuring the stable and efficient translation of dynamically generated reference samples for fine-tuning. This is coupled with joint-embedding semantic alignment of both reference and target-language reasoning traces, thereby bridging the pairwise cross-lingual representational gaps. Comprehensive evaluations using the AIME25 and HMMT25 benchmarks demonstrate that OSCD yields up to 3.2 times overall improvements in native Southeast Asian languages for mathematical reasoning, of which the joint-embedding semantic alignment component contributes up to 6.4% improvements in linguistic debiasing over translation-only baselines.
- Abstract（参考訳）: 大規模言語モデルは推論能力を大幅に進歩させた。
しかし、低リソースのネイティブ環境では、多くは言語間の崩壊に悩まされ、複雑な論理的推論を必要とする中間ステップの間、英語に戻される。
これは、政策最適化のためのコールドスタートボトルネックを示すが、標準的な微調整のリスクは、言語間表現の漂流による破滅的な忘れ込みである。
これらの課題に対処するために、我々は、オンランプ・シーケンス・クロス蒸留(OSCD)というポストトレーニングアルゴリズムを導入し、このアルゴリズムは、インテグレートトランスレータエージェントループを介して、動的に生成された参照サンプルを動的に変換し、微調整する。
これは、参照とターゲット言語推論トレースの両方のセマンティックアライメントを結合することで、ペアの言語間表現ギャップをブリッジする。
AIME25 と HMMT25 ベンチマークを用いた総合的な評価は、OSCD が数学的推論のために東南アジアのネイティブ言語で最大3.2 倍の改善をもたらすことを示した。
関連論文リスト
- Unified Gradient Projection: Language-Balanced Continual Learning for Multilingual Low-Resource ASR [6.818862582399845]
低リソース言語での微調整は、しばしば破滅的な忘れ物を引き起こす。
本稿では,言語バランスの取れたリプレイからの参照勾配を用いてパラメータ更新を制約するUnified Gradient Projectionを提案する。
Whisper-large-v3では、ほぼゼロに近い平均的な忘れ方を達成する。
論文 参考訳（メタデータ） (2026-07-13T06:57:02Z) - Efficient Multilingual Reasoning Transfer via Progressive Code-Switching [51.49388869532955]
トランスファーアプローチは典型的には、強いLEMからの蒸留されたターゲット言語推論のトレースや、外部の審査モデルからのオンライン監視に依存している。
軽量翻訳のみを必要とするより効率的な転送フレームワークであるPCS(Progressive Code-Switching)を提案する。
PCSは、ターゲット言語と英語の推論のパフォーマンスギャップを著しく狭め、より言語に一貫性のある推論をもたらす。
論文 参考訳（メタデータ） (2026-07-01T06:13:16Z) - SARA: Unlocking Multilingual Knowledge in Mixture-of-Experts via Semantically Anchored Routing Alignment [74.27200765510635]
本研究では,SARA(Semantically Anchored Routing Alignment)を提案する。
5つの低リソース言語と3つのベンチマークにまたがる2つのLLMの実験を行った。
論文 参考訳（メタデータ） (2026-06-24T13:36:46Z) - IRIS: Interleaved Reinforcement with Incremental Staged Curriculum for Cross-Lingual Mathematical Reasoning [54.28485292978118]
IRISは2軸フレームワークであり、逆カリキュラム強化学習(Reverse Curriculum Reinforcement Learning)で徐々に難しい問題にスーパーバイザード・ファインチューニング(Supervised Fine-Tuning)を組み合わせる。
CL-Mathは、英語、ヒンディー語、マラシ語でステップレベルのアノテーションを持つ29k問題のデータセットです。
IRISは標準ベンチマークと多言語テストセットのパフォーマンスを継続的に改善する。
論文 参考訳（メタデータ） (2026-04-27T07:10:35Z) - MERIT: Multilingual Expert-Reward Informed Tuning for Chinese-Centric Low-Resource Machine Translation [9.42682887916488]
5つの東南アジア低リソース言語(LRL)に対する中国語中心のALTベンチマークを導入する。
LRLtextright Chineseでは、微調整と報酬誘導最適化は、単なるモデルスケーリングよりも劇的に優れている。
これらの結果から、LRLtextright Chineseでは、ターゲットデータと報酬誘導最適化が単なるモデルスケーリングよりも劇的に優れていることが確認された。
論文 参考訳（メタデータ） (2026-04-06T16:42:34Z) - LiRA: Linguistic Robust Anchoring for Cross-lingual Large Language Models [16.504397960476584]
LiRA(Linguistic Robust Anchoring for Large Language Models)は、低リソース条件下での言語間表現を改善するトレーニングフレームワークである。
東南アジア5言語と東南アジア2言語を対象とした多言語製品検索データセットを作成した。
論文 参考訳（メタデータ） (2025-10-16T09:08:24Z) - AdaMCoT: Rethinking Cross-Lingual Factual Reasoning through Adaptive Multilingual Chain-of-Thought [40.16140566668239]
AdaMCOTは多言語の事実推論を強化するフレームワークである。
AdaMCOTは、ターゲット言語応答を生成する前に、中間言語における思考プロセスを動的にルーティングする。
本評価は, 事実推論品質と言語間整合性の両方において, 大幅な改善を示すものである。
論文 参考訳（メタデータ） (2025-01-27T15:48:57Z) - Optimal Transport Posterior Alignment for Cross-lingual Semantic Parsing [68.47787275021567]
言語間のセマンティックパーシングは、高いソース言語(例えば英語)から少ないトレーニングデータを持つ低リソース言語へのパーシング能力を伝達する。
そこで本稿では,最適輸送を用いた係り受け変数間の言語間相違を明示的に最小化することで,言語間セマンティック解析のための新しい手法を提案する。
論文 参考訳（メタデータ） (2023-07-09T04:52:31Z) - CROP: Zero-shot Cross-lingual Named Entity Recognition with Multilingual
Labeled Sequence Translation [113.99145386490639]
言語間NERは、整列した言語間表現や機械翻訳結果を通じて、言語間で知識を伝達することができる。
ゼロショット言語間NERを実現するために,クロスランガル・エンティティ・プロジェクション・フレームワーク(CROP)を提案する。
多言語ラベル付きシーケンス翻訳モデルを用いて、タグ付けされたシーケンスをターゲット言語に投影し、ターゲットの原文にラベル付けする。
論文 参考訳（メタデータ） (2022-10-13T13:32:36Z) - Continual Mixed-Language Pre-Training for Extremely Low-Resource Neural
Machine Translation [53.22775597051498]
我々は,mbart を未熟な言語に効果的に適用するための,継続的な事前学習フレームワークを提案する。
その結果,mBARTベースラインの微調整性能を一貫して改善できることが示された。
私たちのアプローチは、両方の言語が元のmBARTの事前トレーニングで見られる翻訳ペアのパフォーマンスを高めます。
論文 参考訳（メタデータ） (2021-05-09T14:49:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。