論文の概要: Source-Grounded Semantic Reinforcement Learning for Low-Resource Target-Language Generation
- arxiv url: http://arxiv.org/abs/2605.29502v1
- Date: Thu, 28 May 2026 07:27:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-30 02:45:55.945514
- Title: Source-Grounded Semantic Reinforcement Learning for Low-Resource Target-Language Generation
- Title(参考訳): 低リソースターゲットランゲージ生成のためのソースグラウンドセマンティック強化学習
- Authors: Zeli Su, Ziyin Zhang, Zewei Pan, Zhou Liu, Dingcheng Huang, Dehan Li, Zhankai Xu, Longfei Zheng, Xiaolu Zhang, Jun Zhou, Wentao Zhang,
- Abstract要約: Source-Grounded Semantic Reinforcement Learning (SG-SRL)は、オープンソースのモノリンガルデータをターゲット言語生成のための言語間セマンティック監視に変換するリソース活用フレームワークである。
SG-SRLは、言語間セマンティック報酬モデルを用いて、ソース言語データ上で参照なし強化学習(RL)を行う。
中国からタイにかけての実験では、SG-SRLはコールドスタートSFTよりも意味的接地と事実的カバレッジを改善している。
- 参考スコア(独自算出の注目度): 19.750295463954853
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Low-resource target-language generation is often limited by scarce parallel data, while high-resource source-language monolingual data is abundant but difficult to use with standard supervised fine-tuning. We propose Source-Grounded Semantic Reinforcement Learning (SG-SRL), a resource-utilization framework that converts source-language monolingual data into cross-lingual semantic supervision for target-language generation. SG-SRL performs reference-free reinforcement learning (RL) on source-language data using a cross-lingual semantic reward model, instantiated by a cross-lingual reranker that scores the semantic relevance between the source input and the target-language generation. While this induces severe verbosity-based reward hacking, a lightweight recovery stage using a small parallel corpus restores fluency, conciseness, and task format while preserving the semantic gains. Experiments on Chinese-to-Thai generation show that SG-SRL improves semantic grounding and factual coverage over cold-start SFT. Additional analyses on long-form transfer and Tibetan embedding-based rewards clarify the generalization behavior of SG-SRL and show that an encoder-based semantic reward can substitute for an LLM-based reranker in a realistic low-resource language setting.
- Abstract(参考訳): 低リソースのターゲット言語生成は、少ない並列データによって制限されることが多いが、高リソースのソース言語のモノリンガルデータは豊富だが、標準的な教師付き微調整では利用が困難である。
本稿では,ソース・グラウンド・セマンティック・強化学習(Source-Grounded Semantic Reinforcement Learning, SG-SRL)を提案する。
SG-SRLは、ソース入力とターゲット言語生成とのセマンティック関連をスコアするクロスランガルリランカによってインスタンス化されるクロスランガルセマンティックリワードモデルを用いて、ソース言語データ上で参照不要強化学習(RL)を行う。
これは重度の冗長性に基づく報酬ハックを誘発するが、小さな並列コーパスを使用した軽量なリカバリステージは、セマンティックゲインを維持しながら、浮力、簡潔さ、タスクフォーマットを復元する。
中国からタイにかけての実験では、SG-SRLはコールドスタートSFTよりも意味的接地と事実的カバレッジを改善している。
SG-SRLの一般化挙動を明らかにするとともに,エンコーダをベースとしたセマンティック報酬が,現実的な低リソース言語設定でLLMベースのリランカに代用可能であることを示す。
関連論文リスト
- Semantic Aware Linear Transfer by Recycling Pre-trained Language Models for Cross-lingual Transfer [5.990773821761297]
SALTは、ターゲット言語からの埋め込みをリサイクルする新しい言語間移動技術である。
実験の結果,SALTは他のトランスファー手法よりも優れており,言語適応時の収束の高速化による損失の低減が期待できることがわかった。
論文 参考訳(メタデータ) (2025-05-16T07:30:22Z) - Think Carefully and Check Again! Meta-Generation Unlocking LLMs for Low-Resource Cross-Lingual Summarization [108.6908427615402]
CLS(Cross-lingual summarization)は、異なるターゲット言語でソーステキストの要約を生成することを目的としている。
現在、インストラクションチューニング付き大規模言語モデル (LLM) は様々な英語タスクで優れている。
近年の研究では、LCSタスクにおけるLCMの性能は、わずかな設定でも満足できないことが示されている。
論文 参考訳(メタデータ) (2024-10-26T00:39:44Z) - Cross-lingual Back-Parsing: Utterance Synthesis from Meaning Representation for Zero-Resource Semantic Parsing [6.074150063191985]
Cross-Lingual Back-Parsing(クロスリンガル・バック・パーシング)は、セマンティック・パーシングのためのクロスリンガル・トランスファーを強化するために設計された新しいデータ拡張手法である。
提案手法は,ゼロリソース設定に挑戦する上で,言語間データ拡張を効果的に行う。
論文 参考訳(メタデータ) (2024-10-01T08:53:38Z) - SMILE: Speech Meta In-Context Learning for Low-Resource Language Automatic Speech Recognition [55.2480439325792]
音声メタインコンテキスト学習(SMILE)は、メタラーニングと音声インコンテキスト学習(SICL)を組み合わせた革新的なフレームワークである
SMILEは、トレーニング不要な多言語ASRタスクにおいて、ベースライン手法よりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2024-09-16T16:04:16Z) - MoE-CT: A Novel Approach For Large Language Models Training With Resistance To Catastrophic Forgetting [53.77590764277568]
ベースモデルの学習を多言語拡張プロセスから分離する新しいMoE-CTアーキテクチャを提案する。
我々の設計では、元のLLMパラメータを凍結し、高リソース言語のパフォーマンスを保護しますが、様々な言語データセットに基づいてトレーニングされたMoEモジュールは、低リソース言語の習熟度を向上します。
論文 参考訳(メタデータ) (2024-06-25T11:03:45Z) - Enhancing Multilingual Capabilities of Large Language Models through
Self-Distillation from Resource-Rich Languages [60.162717568496355]
大規模言語モデル(LLM)は多言語コーパスで事前訓練されている。
彼らのパフォーマンスは、いくつかのリソース豊富な言語と比較して、ほとんどの言語でまだ遅れています。
論文 参考訳(メタデータ) (2024-02-19T15:07:32Z) - MoSECroT: Model Stitching with Static Word Embeddings for Crosslingual Zero-shot Transfer [50.40191599304911]
クロスリンガルゼロショット転送のための静的単語埋め込みを用いたMoSECroTモデルスティッチについて紹介する。
本稿では,ソースコードPLMの埋め込みと対象言語の静的単語埋め込みのための共通空間を構築するために,相対表現を利用した最初のフレームワークを提案する。
提案するフレームワークは,MoSECroTに対処する際,弱いベースラインと競合するが,強いベースラインに比べて競合する結果が得られないことを示す。
論文 参考訳(メタデータ) (2024-01-09T21:09:07Z) - Learning Cross-lingual Mappings for Data Augmentation to Improve
Low-Resource Speech Recognition [31.575930914290762]
言語間リソースの爆発は、低リソース言語のデータの不足を補う効果的な方法である。
エンドツーエンド音声認識のための学習可能な言語間マッピングの概念を拡張した。
その結果,任意のソース言語 ASR モデルを用いて,低リソースターゲット言語認識を行うことが可能であることが示唆された。
論文 参考訳(メタデータ) (2023-06-14T15:24:31Z) - Cross-Lingual Semantic Role Labeling with High-Quality Translated
Training Corpus [41.031187560839555]
言語間セマンティックロールのラベル付けは、この問題に対処するための有望な方法である。
目的言語のための高品質なトレーニングデータセットを構築するためのコーパス翻訳に基づく新しい代替案を提案する。
ユニバーサル・プロポーション・バンクの実験結果から, 翻訳法が有効であることが示唆された。
論文 参考訳(メタデータ) (2020-04-14T04:16:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。