論文の概要: Improving Cross-Lingual Factual Recall via Consistency-Driven Reinforcement Learning

• arxiv url: http://arxiv.org/abs/2606.06586v1
• Date: Thu, 04 Jun 2026 18:00:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-08 14:33:29.389479
• Title: Improving Cross-Lingual Factual Recall via Consistency-Driven Reinforcement Learning
• Title（参考訳）: 一貫性駆動型強化学習による言語間ファクトリコールの改善
• Authors: Jonathan von Rad, Louis Arts, George Burgess, Eleftheria Kolokytha, Harry O'Donnell, Ektor Oikonomidis Doumpas, Eduardo Sanchez, Yao Lu, Pontus Stenetorp,
• Abstract要約: 大規模言語モデル(LLM)は、かなりの世界の知識を符号化する英語のデータに基づいて主に訓練されるが、他の言語でそれを確実に表現することができないことが多い。 The PolyFact is a large-scale parallel multilingual factual QA dataset with 100K Wikidata-ground facts across 12 typologically various languages。 GRPO は SFT を一貫して上回り,言語間整合性と非可視言語への一般化を両立させる。
• 参考スコア（独自算出の注目度）: 9.485903240691018
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) trained predominantly on English data encode substantial world knowledge, yet often fail to express it reliably in other languages, a phenomenon known as cross-lingual factual inconsistency. To study and address this, we introduce PolyFact, a large-scale parallel multilingual factual QA dataset containing 100K Wikidata-grounded facts across 12 typologically diverse languages. Using PolyFact, we compare light continual pretraining (CPT), supervised fine-tuning (SFT), and reinforcement learning via Group Relative Policy Optimization (GRPO) for improving cross-lingual factual recall in Qwen-2.5-7B and OLMo-2-1124-7B. We find that GRPO consistently outperforms SFT, improving both cross-lingual consistency and generalization to unseen languages, while CPT on parallel data yields limited additional gains. Mechanistic analyses further show that GRPO reorganizes multilingual routing by reducing language specialization in MLP layers and attention heads, thereby promoting more shared cross-lingual representations. We release our code, models, and dataset.
• Abstract（参考訳）: 大規模な言語モデル(LLM)は、主に英語のデータに基づいて訓練され、かなりの世界の知識を符号化するが、他の言語でそれを確実に表現することができないことが多い。 そこで本研究では,12言語にまたがる100万のウィキデータに基づく事実を含む大規模並列多言語事実QAデータセットであるPolyFactを紹介した。 PolyFact を用いて,Qwen-2.5-7B と OLMo-2-1124-7B の相互言語的ファクトリコールを改善するために,光連続事前訓練 (CPT) と教師付き微調整 (SFT) ,グループ相対ポリシー最適化 (GRPO) による強化学習を比較した。 GRPOはSFTを一貫して上回り、言語間整合性および非可視言語への一般化が向上し、並列データ上のCPTは限定的な追加利得が得られることがわかった。 さらに,MLP層とアテンションヘッドにおける言語特化を低減し,より共有された言語間表現を促進することにより,GRPOが多言語ルーティングを再編成することを示す。 コード、モデル、データセットをリリースします。

関連論文リスト

• Bridging Linguistic Gaps: Cross-Lingual Mapping in Pre-Training and Dataset for Enhanced Multilingual LLM Performance [30.9640918372872]
  大規模言語モデル(LLM)は、高リソース言語と低リソース言語の間のデータ不均衡により、言語間タスクに苦しむ。 バイリンガル微調整やコントラストアライメントといった既存の手法は、言語間性能を向上させることができる。 事前学習期間中に言語間マッピングタスクを導入し,言語間アライメントを向上させることで,単言語間の流速を損なうことなく,言語間アライメントを向上させる。
  論文  参考訳（メタデータ） (2026-04-12T11:43:25Z)
• Optimizing Language Models for Crosslingual Knowledge Consistency [90.86445137816942]
  大規模な言語モデルは、しばしば一貫性のない知識を示すことが知られている。 これは、モデルが異なる言語で同様の質問をすることが多い、多言語シナリオにおいて特に問題となる。 本研究では,この問題を構造化報酬関数を用いた強化学習を用いて緩和することができることを示す。
  論文  参考訳（メタデータ） (2026-03-04T23:36:55Z)
• LaV-CoT: Language-Aware Visual CoT with Multi-Aspect Reward Optimization for Real-World Multilingual VQA [39.131225916852834]
  思考の連鎖(CoT)推論は、解釈可能性と複雑な推論を高めることが証明されている。 LaV-CoTは、マルチアスペクト・リワード最適化を備えた最初の言語対応Visual CoTフレームワークである。 LaV-CoTはオープンソースベースラインよりも9.5%の精度向上を実現している。
  論文  参考訳（メタデータ） (2025-09-12T07:45:44Z)
• From Unaligned to Aligned: Scaling Multilingual LLMs with Multi-Way Parallel Corpora [80.0547333327488]
  TED Talks に基づく大規模かつ高品質なマルチウェイ並列コーパス TED2025 を導入する。 このデータセットは113の言語にまたがっており、最大50の言語が並列に並び、広範囲にわたるマルチリンガルカバレッジを保証する。 実験により、マルチウェイ並列データでトレーニングされたモデルは、不整合多言語データでトレーニングされたモデルよりも一貫して優れていた。
  論文  参考訳（メタデータ） (2025-05-20T07:43:45Z)
• Crosslingual Capabilities and Knowledge Barriers in Multilingual Large Language Models [62.91524967852552]
  大規模言語モデル(LLM)は、多言語コーパスの事前訓練のため、一般的に多言語である。 しかし、これらのモデルは言語間の対応する概念、すなわち言語を横断的に関連付けることができるだろうか? 本研究は,言語横断的タスクにおける最先端LLMの評価である。
  論文  参考訳（メタデータ） (2024-06-23T15:15:17Z)
• Improving Low-resource Reading Comprehension via Cross-lingual Transposition Rethinking [0.9236074230806579]
  Extractive Reading (ERC)は、大規模で高品質なERCトレーニングデータの提供によって、大幅に進歩した。 このような急速な進歩と広範囲の応用にもかかわらず、英語のような高リソース言語以外の言語のデータセットは依然として不足している。 多言語環境において,既存の高品質抽出読解データセットをモデル化し,XLTT(Cross-Lingual Transposition ReThinking)モデルを提案する。
  論文  参考訳（メタデータ） (2021-07-11T09:35:16Z)
• Multilingual Transfer Learning for QA Using Translation as Data Augmentation [13.434957024596898]
  我々は,多言語組込みを意味空間に近づけることで,言語間伝達を改善する戦略を検討する。 言語敵対的トレーニングと言語仲裁フレームワークという2つの新しい戦略を提案し、(ゼロリソースの)クロスリンガルトランスファーのパフォーマンスを大幅に改善します。 実験により,提案モデルは,最近導入された多言語MLQAデータセットとTyDiQAデータセットにおいて,以前のゼロショットベースラインよりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-12-10T20:29:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。