論文の概要: Text-Only Domain Adaptation for Low-Resource Medical ASR: Shallow Fusion and Density Ratio Rescoring for Hausa
- arxiv url: http://arxiv.org/abs/2611.05744v1
- Date: Tue, 03 Nov 2026 23:32:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:57.902492
- Title: Text-Only Domain Adaptation for Low-Resource Medical ASR: Shallow Fusion and Density Ratio Rescoring for Hausa
- Title（参考訳）: 低リソース医療用ASRのためのテキストオンリードメイン適応:ハウサの浅層核融合と密度比補正
- Abstract要約: 固定MMS-1B-FL102音響モデルと2つの復号時間言語モデル融合法を用いて,ハウサ医療ASRのテキストのみのドメイン適応について検討した。
19,421 Hausaの健康刑で訓練された4グラムのKenLMは、医療ターゲットモデルとして機能する。
SFとDRAはWERをそれぞれ29.5から23.55%、23.33%に削減している。
- 参考スコア（独自算出の注目度）: 1.7597146361760585
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Automatic speech recognition (ASR) systems often struggle with specialised medical vocabulary, especially in low-resource languages where domain-specific speech data are scarce. We investigate text-only domain adaptation for Hausa medical ASR using the fixed MMS-1B-FL102 acoustic model and two decoding-time language-model fusion methods: Shallow Fusion (SF) and the Density Ratio Approach (DRA). A 4-gram KenLM trained on 19,421 Hausa health sentences serves as the medical target model, while a 75,372-sentence general-domain model provides the source prior for DRA. Evaluation uses 250 recordings of 25 physician-reviewed prompts from 10 speakers across six northern Nigerian states. Under prompt-disjoint five-fold cross-validation, SF and DRA reduce WER from 29.56% to 23.55% and 23.33%, respectively. Both significantly outperform greedy decoding (p < 0.001), while their difference is not significant (p = 0.423). However, general-LM-only SF achieves 23.96% WER, indicating that the medical LM's additional improvement over a general LM is modest. Medical Term Error Rate also improves under fusion, but does not establish a distinct medical-domain advantage. These findings demonstrate that lightweight, text-only language-model fusion can improve Hausa medical ASR without additional domain-specific speech collection.
- Abstract（参考訳）: 自動音声認識(ASR)システムは、特にドメイン固有の音声データが不足している低リソース言語において、特別な医療語彙に苦しむことが多い。
固定MMS-1B-FL102音響モデルと2つの復号時間言語モデル融合法(Shallow Fusion,SF)と密度比アプローチ(DRA)を用いて,ハウサ医療ASRのテキストのみのドメイン適応について検討した。
19,421 Hausaの健康刑期で訓練された4グラムのKenLMは医療対象モデルとして機能し、75,372文の一般ドメインモデルはDRAに先立ってソースを提供する。
評価では、ナイジェリア北部の6州で10人の話者から25人の医師が診察したプロンプトを250件記録している。
SFとDRAはそれぞれ29.56%から23.55%、23.33%に減少する。
どちらもグリーディ復号法(p < 0.001)を著しく上回り、その差はそれほど大きくない(p = 0.423)。
しかし、一般のLMのみのSFは23.96%のWERを達成しており、一般のLMに対する医療用LMのさらなる改善は控えめであることを示している。
医療用語の誤り率は、融合下でも改善されるが、明確な医療領域の優位性は確立していない。
これらの結果から,軽快なテキストのみの言語モデル融合が,ドメイン固有の音声収集を伴わずにハウサ医学的ASRを改善することが示唆された。
関連論文リスト
- Understanding Multilingual Medical ASR Adaptation Through Layer-Wise Analysis [6.589859862828104]
多言語医療適応は、層ワイドエンコーダ分析を通じてWhisperモデルの内部表現を再評価する。
我々は、ゼロショットデコーディング、英語のみの微調整、ドイツ語のみの診断微調整、二段階EN->EN+DE継続、Whisperモデルサイズ間のEN+DE直接微調整を比較した。
論文 参考訳（メタデータ） (2026-08-19T11:29:30Z) - A Federated and Parameter-Efficient Framework for Large Language Model Training in Medicine [59.78991974851707]
大規模言語モデル(LLM)は、質問応答や診断など、医療ベンチマークにおいて強力なパフォーマンスを示している。
ほとんどの医療用LDMは、異種システムの一般化性と安全性の制限に直面している単一の機関のデータに基づいて訓練されている。
本稿では, LLMを医療応用に適用するためのモデルに依存しない, パラメータ効率のよいフェデレーション学習フレームワークを提案する。
論文 参考訳（メタデータ） (2026-01-29T18:48:21Z) - Optimizing Medical Question-Answering Systems: A Comparative Study of Fine-Tuned and Zero-Shot Large Language Models with RAG Framework [0.0]
本稿では,ドメイン固有知識検索とオープンソース LLM を組み合わせたRAG (Research-augmented Generation) ベースの医療QAシステムを提案する。
ローランド適応 (LoRA) を用いて, 最先端のオープンLCM (LLaMA2 と Falcon) を2つ微調整し, 効率的なドメイン特殊化を行う。
我々の微調整LLaMA2モデルはPubMedQAで71.8%の精度を実現し、55.4%のゼロショットベースラインを大幅に改善した。
論文 参考訳（メタデータ） (2025-12-05T16:38:47Z) - MedRECT: A Medical Reasoning Benchmark for Error Correction in Clinical Texts [0.0]
大規模言語モデル (LLM) は医療応用における将来性を示すが, 臨床用テキストにおける誤りの検出と訂正能力は, 未評価のままである。
我々は,医療ミス処理を3つのサブタスクとして定式化する言語間ベンチマーク(日本語/英語)であるMedRECTを紹介する。
プロプライエタリ、オープンウェイト、理性家族にまたがる9つの現代LSMを評価した。
論文 参考訳（メタデータ） (2025-11-01T06:19:34Z) - Hulu-Med: A Transparent Generalist Model towards Holistic Medical Vision-Language Understanding [112.46150793476603]
透明で汎用的な医用ビジョンランゲージモデル(VLM)であるHulu-Medを紹介する。
Hulu-Medは1670万サンプルのキュレートされたコーパスで訓練されており、12の解剖学的システムと14の医用画像モダリティにまたがっている。
Hulu-Medは、30ベンチマーク中27ベンチマークで既存のオープンソースモデルを上回っ、16ベンチマークでGPT-4oなどのプロプライエタリシステムを上回っている。
論文 参考訳（メタデータ） (2025-10-09T17:06:42Z) - EchoBench: Benchmarking Sycophancy in Medical Large Vision-Language Models [82.43729208063468]
医療用LVLM(Large Vision-Language Models)の最近のベンチマークでは、信頼性と安全性を見越して、リーダボードの精度を強調している。
ユーザが提供した情報を非批判的に反響させる傾向のモデルについて検討する。
医療用LVLMの梅毒を系統的に評価するベンチマークであるEchoBenchを紹介する。
論文 参考訳（メタデータ） (2025-09-24T14:09:55Z) - LLMCARE: early detection of cognitive impairment via transformer models enhanced by LLM-generated synthetic data [32.69241041313969]
アルツハイマー病と関連する認知症は、米国で500万人近い高齢者に影響を及ぼす。
本研究は,トランスフォーマー埋め込みと手作り言語的特徴を融合した音声ベースのスクリーニングパイプラインを開発し,評価する。
論文 参考訳（メタデータ） (2025-08-08T13:44:55Z) - Fact or Guesswork? Evaluating Large Language Models' Medical Knowledge with Structured One-Hop Judgments [108.55277188617035]
大規模言語モデル(LLM)は、様々な下流タスクドメインで広く採用されているが、実際の医学的知識を直接呼び起こし、適用する能力は、まだ探索されていない。
標準化された語彙と知識グラフの包括的なリポジトリであるUMLS(Unified Medical Language System)から派生したデータセットであるMKJ(Messical Knowledge Judgment dataset)を紹介する。
バイナリ分類フレームワークを通じて、MKJは、簡潔なワンホップ文の妥当性を評価することによって、LCMが基本的な医学的事実を把握できることを評価する。
論文 参考訳（メタデータ） (2025-02-20T05:27:51Z) - It's Never Too Late: Fusing Acoustic Information into Large Language
Models for Automatic Speech Recognition [70.77292069313154]
大規模言語モデル(LLM)は、自動音声認識(ASR)出力の上の生成誤り訂正(GER)に成功することができる。
本研究では,不確実性認識ダイナミックフュージョン (UADF) と呼ばれる新しい遅延融合解によって予測された転写を生成する前に,音響情報を注入することにより,そのような制限を克服することを目的とする。
論文 参考訳（メタデータ） (2024-02-08T07:21:45Z) - Few-Shot Cross-lingual Transfer for Coarse-grained De-identification of
Code-Mixed Clinical Texts [56.72488923420374]
事前学習型言語モデル (LM) は低リソース環境下での言語間移動に大きな可能性を示している。
脳卒中におけるコードミキシング(スペイン・カタラン)臨床ノートの低リソース・実世界の課題を解決するために,NER (name recognition) のためのLMの多言語間転写特性を示す。
論文 参考訳（メタデータ） (2022-04-10T21:46:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。