論文の概要: Biomedical Machine Translation for Low-Resource Arabic-Script Languages via Cross-Lingual Transfer and LoRA Adapter Merging
- arxiv url: http://arxiv.org/abs/2607.22300v1
- Date: Fri, 24 Jul 2026 13:44:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 20:58:57.137131
- Title: Biomedical Machine Translation for Low-Resource Arabic-Script Languages via Cross-Lingual Transfer and LoRA Adapter Merging
- Title(参考訳): クロスリンガル・トランスファーとLoRAアダプタ・マージによる低リソースアラビア語スクリプト言語のためのバイオメディカル機械翻訳
- Abstract要約: アラビア文字言語における生物医学的NMT資源の不足に対処するために,医療ドメイン間言語間移動の体系的研究を行った。
Dari、Pashto、Sorani Kurdish、Urduといった低リソースターゲットの翻訳を改善するために、高リソースのピボットとしてアラビア語とペルシア語を使用します。
LoRAアダプタのマージは、ターゲット言語のバイオメディカルデータなしでも、密接に関連する言語で驚くほどうまく機能する。
- 参考スコア(独自算出の注目度): 3.36987520740109
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: We present a systematic study of healthcare-domain cross-lingual transfer to address the scarcity of biomedical NMT resources for Arabic-script languages. We use Arabic and Persian as higher-resource pivots to improve translation for \textbf{four severely low-resource} targets: Dari (Afghan Persian, a standardised variety of Persian), Pashto, Sorani Kurdish (Central Kurdish, a major standardized variety of Kurdish), and Urdu (closely related to Hindi). Using LoRA fine-tuning on small decoder-only LLMs, we train \textit{domain-specific pivot adapters} and evaluate \textbf{three transfer strategies}: few-shot in-context learning, minimal supervised adaptation, and, to the best of our knowledge, for the first time in this setting, zero-data LoRA adapter merging. Supervised adaptation with just 500 sentences achieves near pivot-language quality for Dari (CHrF++ 41.01) and meaningful gains for Urdu (28.88), while adapter merging reaches within 3.5 CHrF++ of supervised adaptation for Dari at zero additional cost. Pashto and Sorani Kurdish remain insufficient for high-stakes clinical deployment exposing the limits of cross-lingual transfer when structural distance from the pivots is too great. LoRA adapter merging works surprisingly well for closely related languages, even without target-language biomedical data.
- Abstract(参考訳): アラビア文字言語における生物医学的NMT資源の不足に対処するために,医療ドメイン間言語間移動の体系的研究を行った。
我々はアラビア語とペルシア語を高解像度のピボットとして用いて、dari(アフガニスタンペルシア語)、Pashto(ペルシア語)、Sorani Kurdish(クルド語)、Urdu(ヒンディー語)の翻訳を改善する。
小さなデコーダのみのLLMでLoRAを微調整し、 \textit{ domain-specific pivot adapters} を訓練し、 \textbf{ three transfer strategy} を評価する。
500文に制限された適応は、Dari(CHrF++ 41.01)のピボット言語品質とUrdu(28.88)の有意義なゲインを達成し、アダプタのマージはDariの教師付き適応の3.5 CHrF++以内で追加コストがゼロになる。
パシュトとソルニ・クルディッシュは、ピボットから構造的距離が大きすぎる場合に、言語間移動の限界を露呈する高頻度臨床展開には不十分なままである。
LoRAアダプタのマージは、ターゲット言語のバイオメディカルデータなしでも、密接に関連する言語で驚くほどうまく機能する。
関連論文リスト
- Sequential Adapter Stacking for Cross-Lingual Low-Resource ASR [2.27726424067057]
本稿では,Whisper上で,ソース言語から低リソースターゲット言語への知識伝達手法について検討する。
そこで本研究では,凍結したソース言語アダプタ上に,トレーニング可能なターゲット言語アダプタを配置するSequential Adapter Stackingを提案する。
これらのアプローチは、Whisperによってサポートされていない3つのターゲット言語で評価される。
論文 参考訳(メタデータ) (2026-09-14T15:43:41Z) - Bridging the English-Arabic Medical Knowledge Gap: Targeted Low-Rank Adaptation via Causal Layer Selection [10.674512408815836]
大きな言語モデル (LLM) は、英語の医学的タスクにおいて強く機能するが、アラビア語では著しく低下する。
我々は、この仮定を、調整レンズ探索と因果活性化パッチングを用いて検討する。
本稿では,言語間表現が分散するレイヤウィンドウに制限されたTLoRA(Targeted Low-Rank Adaptation)を提案する。
論文 参考訳(メタデータ) (2026-07-31T18:43:07Z) - SARA: Unlocking Multilingual Knowledge in Mixture-of-Experts via Semantically Anchored Routing Alignment [74.27200765510635]
本研究では,SARA(Semantically Anchored Routing Alignment)を提案する。
5つの低リソース言語と3つのベンチマークにまたがる2つのLLMの実験を行った。
論文 参考訳(メタデータ) (2026-06-24T13:36:46Z) - MERIT: Multilingual Expert-Reward Informed Tuning for Chinese-Centric Low-Resource Machine Translation [9.42682887916488]
5つの東南アジア低リソース言語(LRL)に対する中国語中心のALTベンチマークを導入する。
LRLtextright Chineseでは、微調整と報酬誘導最適化は、単なるモデルスケーリングよりも劇的に優れている。
これらの結果から、LRLtextright Chineseでは、ターゲットデータと報酬誘導最適化が単なるモデルスケーリングよりも劇的に優れていることが確認された。
論文 参考訳(メタデータ) (2026-04-06T16:42:34Z) - Tiny Aya: Bridging Scale and Multilingual Depth [71.20786995660801]
Tiny Aya氏は、小さな多言語言語モデルが達成できることを再定義する。
翻訳品質の最先端、多言語理解の強化、高品質なターゲット言語生成を提供する。
このレポートでは、Tiny Ayaを支えるトレーニング戦略、データ構成、包括的な評価フレームワークについて詳述する。
論文 参考訳(メタデータ) (2026-03-12T03:53:13Z) - PersianMedQA: Evaluating Large Language Models on a Persian-English Bilingual Medical Question Answering Benchmark [3.2640411992544345]
大規模言語モデル(LLM)は、広範囲の自然言語処理(NLP)ベンチマークにおいて、顕著なパフォーマンスを実現している。
イランの14年間の医学試験から得られた,20,785名の専門資格を持つペルシア人医療質問の大規模データセットであるペルシャMedQAを紹介した。
我々は、ゼロショットとチェーンオブ思考の設定で、汎用、ペルシャ細調整、医療用LLMを含む40の最先端モデルをベンチマークする。
論文 参考訳(メタデータ) (2025-05-30T21:34:30Z) - Limited-Resource Adapters Are Regularizers, Not Linguists [10.811626810036374]
関連する高リソース言語からの言語間移動は、低リソース言語技術を強化するための確立された戦略である。
予め訓練された機械翻訳モデルのクロスアテンション微調整と組み合わせたアダプタスープ法について検討する。
論文 参考訳(メタデータ) (2025-05-30T12:34:28Z) - Improving Low-Resource Machine Translation via Cross-Linguistic Transfer from Typologically Similar High-Resource Languages [0.0]
本研究では,低リソース機械翻訳におけるトランスファー学習の言語間効果について検討した。
異なる家系にまたがる5つの言語対について実験を行った。
その結果,トランスファー学習はすべてのペアの翻訳品質を一貫して向上させることがわかった。
論文 参考訳(メタデータ) (2024-12-27T16:34:56Z) - Self-Augmentation Improves Zero-Shot Cross-Lingual Transfer [92.80671770992572]
言語間移動は多言語NLPにおける中心的なタスクである。
このタスクの以前の作業では、並列コーパス、バイリンガル辞書、その他の注釈付きアライメントデータを使用していた。
ゼロショットの言語間移動を改善するため, 単純で効果的なSALT法を提案する。
論文 参考訳(メタデータ) (2023-09-19T19:30:56Z) - Transfer to a Low-Resource Language via Close Relatives: The Case Study
on Faroese [54.00582760714034]
言語間のNLP転送は、高ソース言語のデータとモデルを活用することで改善できる。
我々は、名前付きエンティティ認識(NER)、セマンティックテキスト類似性(STS)、スカンジナビア全言語で訓練された新しい言語モデルのためのFaroeseデータセットとFaroeseデータセットの新しいWebコーパスをリリースする。
論文 参考訳(メタデータ) (2023-04-18T08:42:38Z) - Refining Low-Resource Unsupervised Translation by Language
Disentanglement of Multilingual Model [16.872474334479026]
本稿では,事前訓練された多言語UTTモデルから言語を切り離すための簡単な改良手法を提案する。
我々の手法は、ネパール語、シンハラ語、グジャラート語、ラトビア語、エストニア語、カザフ語への英語の完全な教師なし翻訳作業における芸術の状態を達成している。
論文 参考訳(メタデータ) (2022-05-31T05:14:50Z) - Parameter-Efficient Neural Reranking for Cross-Lingual and Multilingual
Retrieval [66.69799641522133]
最先端のニューラルランカーは、お腹が空いていることで悪名高い。
現在のアプローチでは、英語データに基づいて訓練されたローダを、多言語エンコーダを用いて他の言語や言語間設定に転送するのが一般的である。
本研究では,Sparse Fine-Tuning Masks (SFTMs) とAdapters (Adapters) の2つのパラメータ効率のアプローチにより,より軽量で効果的なゼロショット転送が可能となることを示す。
論文 参考訳(メタデータ) (2022-04-05T15:44:27Z) - Improving Cross-Lingual Transfer Learning for End-to-End Speech
Recognition with Speech Translation [63.16500026845157]
本稿では,対象言語に関する追加知識を組み込む補助課題として,音声からテキストへの翻訳を導入する。
人間の翻訳によるSTの訓練は必要ないことを示す。
低リソースMT(200K例)の擬似ラベルであっても、ST強化転送は直接転送に対して最大8.9%のWER還元をもたらす。
論文 参考訳(メタデータ) (2020-06-09T19:34:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。