論文の概要: Incentivizing Parametric Knowledge via Reinforcement Learning with Verifiable Rewards for Cross-Cultural Entity Translation
- arxiv url: http://arxiv.org/abs/2604.16881v1
- Date: Sat, 18 Apr 2026 07:15:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-21 21:52:52.213191
- Title: Incentivizing Parametric Knowledge via Reinforcement Learning with Verifiable Rewards for Cross-Cultural Entity Translation
- Title(参考訳): クロスカルチュラルエンティティ翻訳のための検証可能なリワードを用いた強化学習によるパラメトリック知識のインセンティブ化
- Authors: Jiang Zhou, Xiaohu Zhao, Xinwei Wu, Tianyu Dong, Hao Wang, Yangyang Liu, Heng Liu, Linlong Xu, Longyue Wang, Weihua Luo, Deyi Xiong,
- Abstract要約: 本稿では, EA-RLVR(Entity-Anchored Reinforcement Learning with Verifiable Rewards)を提案する。
EA-RLVRは、検証可能なエンティティレベルの報酬信号の監視をアンカーし、最適化を安定させるために軽量な構造ゲートを組み込む。
EA-RLVRをXC-Translate上で評価し、エンティティ翻訳精度とドメイン外一般化の両面で一貫した改善を観察する。
- 参考スコア(独自算出の注目度): 68.85147984815778
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Cross-cultural entity translation remains challenging for large language models (LLMs) as literal or phonetic renderings are usually yielded instead of culturally appropriate translations in context. However, relevant knowledge may already be encoded in model parameters during large-scale pre-training. To incentivize the effective use of parametric knowledge, we propose EA-RLVR (Entity-Anchored Reinforcement Learning with Verifiable Rewards), a training framework that optimizes cross-cultural entity translation without relying on external knowledge bases. EA-RLVR anchors supervision on a verifiable, entity-level reward signal and incorporates lightweight structural gates to stabilize optimization. This design steers the model toward learning a robust reasoning process rather than merely imitating reference translations. We evaluate EA-RLVR on XC-Translate and observe consistent improvements in both entity translation accuracy and out-of-domain generalization. Specifically, training on merely 7k samples boosts Qwen3-14B's entity translation accuracy from 23.66\% to 31.87\% on a 50k test set comprising entirely unseen entities. The learned entity translation ability also transfers to general translation, yielding +1.35 XCOMET on WMT24++, which scales to +1.59 with extended optimization. Extensive analyses of $pass@k$ dynamics and reward formulations attribute these gains to superior sampling efficiency and a stable optimization landscape.
- Abstract(参考訳): 異文化間の実体翻訳は、リテラルや音素のレンダリングは通常、文脈において文化的に適切な翻訳の代わりに得られるため、大きな言語モデル(LLM)にとって難しいままである。
しかし、関連する知識は、大規模な事前学習中に既にモデルパラメータにエンコードされている可能性がある。
パラメトリック知識を効果的に活用するためのトレーニングフレームワークEA-RLVR(Entity-Anchored Reinforcement Learning with Verifiable Rewards)を提案する。
EA-RLVRは、検証可能なエンティティレベルの報酬信号の監視をアンカーし、最適化を安定させるために軽量な構造ゲートを組み込む。
この設計は、単に参照翻訳を模倣するのではなく、堅牢な推論プロセスを学ぶためのモデルである。
EA-RLVRをXC-Translate上で評価し、エンティティ翻訳精度とドメイン外一般化の両面で一貫した改善を観察する。
具体的には、たった7kサンプルのトレーニングにより、Qwen3-14Bのエンティティ翻訳精度は23.66\%から31.87\%に向上する。
学習されたエンティティ翻訳能力も一般的な翻訳に変換され、WMT24++上で+1.35 XCOMETが生成される。
パス@k$のダイナミックスと報酬の定式化の大規模な解析は、これらの利点がより優れたサンプリング効率と安定した最適化の展望に寄与している。
関連論文リスト
- PEGRL: Improving Machine Translation by Post-Editing Guided Reinforcement Learning [54.19784655270799]
textbfPEGRLは、後編集を補助タスクとして用い、トレーニングを安定させ、全体的な最適化を導く2段階のRLフレームワークである。
英語$to$Finnish、英語$to$Turkish、英語$leftrightarrow$ Chineseでの実験は、RLベースラインよりも一貫した利得を示している。
論文 参考訳(メタデータ) (2026-02-03T10:22:55Z) - Reflective Translation: Improving Low-Resource Machine Translation via Structured Self-Reflection [0.15229257192293197]
isiZuluやisiXhosaのような低リソース言語は、限られた並列データと言語資源のために機械翻訳において永続的な課題に直面している。
大規模言語モデルの最近の進歩は、自己回帰がモデルを批判し、自身の出力を修正させ、推論品質と事実整合性を改善することを示唆している。
本稿では、モデルが初期翻訳を生成し、構造化された自己批判を生成し、このリフレクションを用いて洗練された翻訳を生成するプロンプトベースのフレームワークであるリフレクティブ翻訳を紹介する。
論文 参考訳(メタデータ) (2026-01-27T18:37:09Z) - EffiReasonTrans: RL-Optimized Reasoning for Code Translation [48.862761776440635]
EffiReasonTransは、推論レイテンシのバランスを保ちながら翻訳精度を向上させるために設計されたトレーニングフレームワークである。
EffiReasonTransは、生成トークンの数を減らしながら、翻訳精度(ベースモデルと比較して+49.2% CAと+27.8% CodeBLEU)を一貫して改善している。
論文 参考訳(メタデータ) (2025-10-21T17:55:39Z) - How Much Data is Enough Data? Fine-Tuning Large Language Models for In-House Translation: Performance Evaluation Across Multiple Dataset Sizes [2.0109318570325847]
ソフトウェア分野の特定の組織からTMを用いたLlama 3モデルの微調整の影響について検討する。
トレーニングセット毎にモデルを微調整し,自動メトリクス,BLEU,chrF++,TER,COMETに基づいて評価する。
以上の結果から,全指標にまたがるより大きなデータセットによる翻訳性能の向上が示された。
論文 参考訳(メタデータ) (2024-09-05T12:06:38Z) - Advancing Translation Preference Modeling with RLHF: A Step Towards
Cost-Effective Solution [57.42593422091653]
人間のフィードバックによる強化学習の活用による翻訳品質の向上について検討する。
強力な言語能力を持つ報酬モデルは、翻訳品質の微妙な違いをより敏感に学習することができる。
論文 参考訳(メタデータ) (2024-02-18T09:51:49Z) - Improving Neural Machine Translation by Bidirectional Training [85.64797317290349]
我々は、ニューラルネットワーク翻訳のためのシンプルで効果的な事前学習戦略である双方向トレーニング(BiT)を提案する。
具体的には、初期モデルのパラメータを双方向に更新し、正常にモデルを調整する。
実験の結果,BiTは8つの言語対上の15の翻訳タスクに対して,SOTAニューラルマシン翻訳性能を著しく向上させることがわかった。
論文 参考訳(メタデータ) (2021-09-16T07:58:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。