論文の概要: From Unverifiable Domain Text to Cross-Lingual RLVR via Code-Switched Task Synthesis
- arxiv url: http://arxiv.org/abs/2610.25399v1
- Date: Sun, 18 Oct 2026 16:54:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 21:34:20.034062
- Title: From Unverifiable Domain Text to Cross-Lingual RLVR via Code-Switched Task Synthesis
- Title(参考訳): コード変換タスク合成による不検証ドメインテキストから言語間RLVRへ
- Abstract要約: RLVR(Reinforcement Learning with Verifiable Rewards)は、大規模言語モデルの推論を改善することができるが、専門の非英語ドメインはデータミスマッチを公開する。
本稿では,言語間RLVRのためのコード切替タスク合成について紹介する。
- 参考スコア(独自算出の注目度): 53.90157445737174
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Reinforcement Learning with Verifiable Rewards (RLVR) can improve reasoning in large language models, but specialized non-English domains expose a data mismatch. Raw English domain text is often available, while target-language RLVR tasks with verifiable rewards are scarce. We introduce code-switched task synthesis for cross-lingual RLVR, a data-centric approach that derives target-language and code-switched RLVR task variants from otherwise unverifiable English domain text. Using fill-in-the-middle multiple-choice QA as a seed task format, we synthesize automatically verifiable tasks from domain passages and reshape them into cross-lingual variants. These variants preserve the same evidence-answer relation but change how English and target-language evidence are presented during RLVR. On Korean medical benchmarks and cybersecurity benchmarks across four target languages, code-switched training outperforms matched monolingual and bilingual-mixture baselines on average target-language performance while maintaining comparable English performance. Additional analyses provide evidence of better target-language input understanding and stronger cross-lingual alignment in both model outputs and internal representations. These results suggest that code-switched training helps target-language inputs access domain reasoning learned more strongly in English.
- Abstract(参考訳): RLVR(Reinforcement Learning with Verifiable Rewards)は、大規模言語モデルの推論を改善することができるが、専門の非英語ドメインはデータミスマッチを公開する。
英語のドメインテキストは、しばしば利用可能であるが、検証可能な報酬を伴うターゲット言語RLVRタスクは少ない。
RLVRは、ターゲット言語およびコードスイッチングされたRLVRタスクの変種を、検証不能な英語ドメインテキストから導出するデータ中心の手法である。
中間の複数選択型QAをシードタスク形式として使用し、ドメインパスから検証可能なタスクを自動的に合成し、それらを言語間変異に再生成する。
これらの変種は同じエビデンスと回答の関係を保っているが、RLVR中に英語とターゲット言語のエビデンスがどのように提示されるかを変える。
韓国の医療ベンチマークと4つのターゲット言語にわたるサイバーセキュリティベンチマークでは、コードスイッチによるトレーニングの成績は、英語のパフォーマンスを同等に保ちながら、平均的なターゲット言語のパフォーマンスでモノリンガルとバイリンガルの混合ベースラインと一致した。
さらなる分析により、モデル出力と内部表現の両方において、より優れた目標言語入力理解とより強力な言語間アライメントの証拠が得られる。
これらの結果は,目標言語入力が英語で学習したドメイン推論に強くアクセスする上で,コードスイッチトトレーニングが有効であることを示唆している。
関連論文リスト
- mAceReason-Math: A Dataset of High-Quality Multilingual Math Problems Ready For RLVR [2.1851076088498296]
mAceReason-Mathは、RLVR用に特別にキュレーションされたコーパス(AceReason-Math)から得られる挑戦的な数学問題の高品質な翻訳データセットである。
研究コミュニティにおける多言語RLVR研究とベンチマークを容易にするためのデータセットをリリースする。
論文 参考訳(メタデータ) (2026-03-11T13:42:26Z) - CONCRETE: Improving Cross-lingual Fact-checking with Cross-lingual
Retrieval [73.48591773882052]
ほとんどのファクトチェックアプローチは、他の言語におけるデータ不足の問題にのみ英語に焦点を当てている。
クロスリンガル検索を付加した最初のファクトチェックフレームワークを提案する。
提案したクロスリンガル逆クローズタスク(XICT)を用いてレトリバーを訓練する。
論文 参考訳(メタデータ) (2022-09-05T17:36:14Z) - The Impact of Cross-Lingual Adjustment of Contextual Word
Representations on Zero-Shot Transfer [3.300216758849348]
mBERTやXLM-Rのような大規模な多言語言語モデルは、様々なIRやNLPタスクにおいてゼロショットの言語間転送を可能にする。
そこで本研究では,mBERTの並列コーパスを用いた言語間相互調整のためのデータ・計算効率向上手法を提案する。
類型的に多様な言語(スペイン語、ロシア語、ベトナム語、ヒンディー語)を実験し、その実装を新しいタスクに拡張する。
NER, XSR, 言語間QAを改良した4言語でのNLIの再生ゲインについて検討した。
論文 参考訳(メタデータ) (2022-04-13T15:28:43Z) - On Cross-Lingual Retrieval with Multilingual Text Encoders [51.60862829942932]
言語間文書・文検索タスクにおける最先端多言語エンコーダの適合性について検討する。
教師なしのアドホック文と文書レベルのCLIR実験でそれらの性能をベンチマークする。
我々は、ゼロショット言語とドメイン転送CLIR実験のシリーズにおける英語関連データに基づいて、教師付き方式で微調整された多言語エンコーダの評価を行った。
論文 参考訳(メタデータ) (2021-12-21T08:10:27Z) - Zero-Shot Cross-lingual Semantic Parsing [56.95036511882921]
7つのテスト言語に対する並列データを持たないゼロショット問題として,言語間セマンティックパーシングについて検討した。
英文論理形式ペアデータのみを用いて解析知識を付加言語に転送するマルチタスクエンコーダデコーダモデルを提案する。
このシステムは、ゼロショット解析を潜時空間アライメント問題としてフレーム化し、事前訓練されたモデルを改善し、最小のクロスリンガル転送ペナルティで論理形式を生成することができる。
論文 参考訳(メタデータ) (2021-04-15T16:08:43Z) - VECO: Variable and Flexible Cross-lingual Pre-training for Language
Understanding and Generation [77.82373082024934]
我々はTransformerエンコーダにクロスアテンションモジュールを挿入し、言語間の相互依存を明確に構築する。
独自の言語でコンテキストにのみ条件付けされたマスク付き単語の予測の退化を効果的に回避することができる。
提案した言語間モデルでは,XTREMEベンチマークのさまざまな言語間理解タスクに対して,最先端の新たな結果が提供される。
論文 参考訳(メタデータ) (2020-10-30T03:41:38Z) - FILTER: An Enhanced Fusion Method for Cross-lingual Language
Understanding [85.29270319872597]
我々は,XLMファインタニングの入力として言語間データを利用する拡張融合法を提案する。
推論中は、ターゲット言語で入力されたテキストとソース言語の翻訳に基づいて予測を行う。
この問題に対処するため,対象言語における翻訳テキストのための自動生成ソフト擬似ラベルに基づくモデル学習のためのKL分割自己学習損失を提案する。
論文 参考訳(メタデータ) (2020-09-10T22:42:15Z) - LAReQA: Language-agnostic answer retrieval from a multilingual pool [29.553907688813347]
LAReQAによる言語間アライメントの「強い」テスト。
機械翻訳による学習データの増強は効果的であることがわかった。
この発見は、言語に依存しない検索は、言語間評価の実質的な新しいタイプである、という我々の主張を裏付けるものである。
論文 参考訳(メタデータ) (2020-04-11T20:51:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。