論文の概要: Language Specificity vs. Domain Diversity: Benchmarking Transformers for Bangla Medical NER
- arxiv url: http://arxiv.org/abs/2609.29101v1
- Date: Thu, 24 Sep 2026 06:32:55 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 21:10:09.752418
- Title: Language Specificity vs. Domain Diversity: Benchmarking Transformers for Bangla Medical NER
- Title(参考訳): 言語固有性 vs. ドメインの多様性: Bangla Medical NER のベンチマーク変換
- Abstract要約: 本研究は,バングラ医学NERのゼロショットおよび少数ショットプロンプト構成下で,3つの微調整トランスフォーマーエンコーダ(BanglaBERT),マルチリンガルBERT(mBERT),XLM-RoBERTa-against GPT-4o miniの総合的な評価を行う。
我々の微調整したXLM-RoBERTaモデルはF1スコア0.5959を達成し、新しい最先端技術を確立し、これまで報告された最高の0.5848を上回った。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Medical Named Entity Recognition (NER) for low-resource languages remains a challenging task due to high linguistic variability and a scarcity of domain-specific annotated corpora. This work presents a comprehensive empirical benchmark evaluating three fine-tuned transformer encoders-BanglaBERT, multilingual BERT (mBERT), and XLM-RoBERTa-against GPT-4o mini under zero-shot and few-shot prompting configurations for Bangla medical NER. In contrast to prior studies that evaluated large language models on limited subsets of only 50 samples, we conduct a large-scale evaluation across the full test set of 3,179 samples, providing statistically robust and reproducible baselines. Our fine-tuned XLM-RoBERTa model achieves an F1- score of 0.5959, establishing a new state-of-the-art and surpassing the previously reported best result of 0.5848. Crucially, we demonstrate that the language-specific BanglaBERT model consistently underperforms its multilingual counterparts with an F1-score of 0.4937, indicating that pretraining domain diversity can outweigh language specificity in highly specialized clinical settings. Furthermore, we present a detailed per-entity-type analysis for this task, revealing that Medicine and Specialist categories are recognized with high reliability, achieving F1- scores above 0.83, while the Symptom category remains the most challenging with an F1-score of 0.4367 despite being the most frequent training class. Finally, fine-tuned transformer models outperform the optimal prompting configuration by a factor of 3.76, confirming that prompt-only pipelines remain inadequate for structured clinical entity extraction in low-resource language environments.
- Abstract(参考訳): 低リソース言語に対する医学的名前付きエンティティ認識(NER)は、高い言語的多様性とドメイン固有の注釈付きコーパスの不足のため、依然として困難な課題である。
本研究は,バングラ医学NERのゼロショットおよび少数ショットプロンプト構成下で,3つの微調整トランスフォーマーエンコーダ(BanglaBERT),マルチリンガルBERT(mBERT),XLM-RoBERTa-against GPT-4o miniの総合的な評価を行う。
少数のサンプルの限られた部分集合上で大規模な言語モデルを評価する以前の研究とは対照的に,我々は3,179個のサンプルの完全なテストセットに対して大規模な評価を行い,統計的に堅牢で再現可能なベースラインを提供する。
我々の微調整したXLM-RoBERTaモデルはF1スコア0.5959を達成し、新しい最先端技術を確立し、これまで報告された最高の0.5848を上回った。
重要なことは、言語固有のBanglaBERTモデルがF1スコア0.4937の多言語モデルに一貫して劣っていることを示し、高度に専門化された臨床環境では、事前学習ドメインの多様性が言語特異性を上回ることが示される。
さらに,本課題に対して,F1-スコアが0.83以上,F1-スコアが0.4367であるにもかかわらず,F1-スコアが最も難易度が高い,医学とスペシャリストのカテゴリが高い信頼性で認識されていることを明らかにする。
最後に、微調整トランスフォーマーモデルは最適なプロンプト構成を3.76倍に向上させ、低リソース言語環境において、プロンプトのみのパイプラインが構造化された臨床エンティティ抽出に不適切であることを確認する。
関連論文リスト
- Custom Named Entity Recognition and Topic Classification for Global Health Publications [0.3823356975862005]
この論文は、セマンティックタグ発見、名前付きエンティティ認識(NER)、マルチラベルトピック分類の実験を通じて課題を調査する。
まず, プログレッシブな特殊コーパスをトレーニングしたスキップグラム word2vec モデルを BioWordVec と比較し, コーパスサイズとドメインコンテキストがタグ発見に与える影響を評価する。
この分析結果はエンティティ抽出に変わり、1000の注釈付き文で畳み込みのspurCyモデルとRoBERTaベースの変換器を比較した。
論文 参考訳(メタデータ) (2026-09-21T14:09:53Z) - Olfactory-Inspired Sparse Combinatorial Coding for Low-Resource Named Entity Recognition [0.0]
標準トークン埋め込みとBiLSTM-CRFシークエンスモデルの間には,受容体-球面ボトルネックが存在する。
データスケールの異なる条件下で、スクラッチから完全に訓練された6つの多言語データセット(事前訓練された埋め込みなしで)でアーキテクチャを評価する。
以上の結果から,表現ボトルネックの導入により,データ不足によるF1スコアの改善が期待できることがわかった。
論文 参考訳(メタデータ) (2026-06-20T06:15:51Z) - Reliable Multilingual Orthopedic Decision Support from Clinical Narratives: Language-Aware Adaptation and Verification-Guided Deferral [0.0]
本稿では,英語,ヒンディー語,パンジャービ語で自由文正書法を分類するための信頼性指向フレームワークを提案する。
本研究では,タスク整列型多言語トランスフォーマーエンコーダ,タスク細調整型 DistilBERT ベースライン,ゼロショット命令調整型大言語モデル(LLM),ドメイン適応型エンコーダ IndicBERT-HPA を比較した。
論文 参考訳(メタデータ) (2026-05-29T16:30:45Z) - Cerebra: A Multidisciplinary AI Board for Multimodal Dementia Characterization and Risk Assessment [56.62016795093786]
CerebraはインタラクティブなマルチエージェントAIチームで、ERH、臨床ノート、医療画像分析のための特殊エージェントをコーディネートする。
構造化された表現を操作することで、プライバシ保護デプロイメントをサポートし、モダリティが不完全であれば、堅牢である。
Cerebraは、有識者のパフォーマンスを著しく改善し、前向き認知症リスク推定において精度を17.5ポイント向上させた。
論文 参考訳(メタデータ) (2026-03-23T05:46:45Z) - Agent-Based Uncertainty Awareness Improves Automated Radiology Report Labeling with an Open-Source Large Language Model [1.7064514726335305]
クローン病患者のヘブライ語9,683例について検討した。
我々は不確実性を認識したプロンプトアンサンブルとエージェントに基づく決定モデルを導入した。
論文 参考訳(メタデータ) (2025-02-02T16:57:03Z) - Towards a Holistic Framework for Multimodal Large Language Models in Three-dimensional Brain CT Report Generation [42.06416052431378]
2Dラジオグラフィーキャプションは、ボリューム3D解剖学における現実の診断課題を反映するものではない。
我々は18,885組の3D-BrainCTデータセットを収集し,臨床ビジュアルインストラクション・チューニングを用いて,脳波モデルを用いて放射線治療を施した3D脳CTレポートを作成した。
私たちの研究は、3Dの脳CTデータセットのキュレーション、微調整による解剖学的意味のある言語モデル、堅牢な放射線学評価指標の提案など、総合的な枠組みを具現化したものです。
論文 参考訳(メタデータ) (2024-07-02T12:58:35Z) - Identifying and Extracting Rare Disease Phenotypes with Large Language
Models [12.555067118549347]
ChatGPTは、複雑な人間のプロンプトに従い、高品質な応答を生成することができる革命的な大規模言語モデルである。
従来の微調整手法と比較し,詳細な誤差解析を行った。
ChatGPTは1ショット設定で、特定の実体(まれな疾患や徴候)に対して類似または高い精度を達成した。
論文 参考訳(メタデータ) (2023-06-22T03:52:12Z) - Few-Shot Cross-lingual Transfer for Coarse-grained De-identification of
Code-Mixed Clinical Texts [56.72488923420374]
事前学習型言語モデル (LM) は低リソース環境下での言語間移動に大きな可能性を示している。
脳卒中におけるコードミキシング(スペイン・カタラン)臨床ノートの低リソース・実世界の課題を解決するために,NER (name recognition) のためのLMの多言語間転写特性を示す。
論文 参考訳(メタデータ) (2022-04-10T21:46:52Z) - Modelling Latent Translations for Cross-Lingual Transfer [47.61502999819699]
従来のパイプラインの2つのステップ(翻訳と分類)を1つのモデルに統合する新しい手法を提案する。
我々は,多言語NLUタスクにおける新しい潜時翻訳モデルの評価を行った。
ゼロショットと数ショットの学習設定の両方で、平均2.7の精度ポイントのゲインを報告します。
論文 参考訳(メタデータ) (2021-07-23T17:11:27Z) - NEMO: Frequentist Inference Approach to Constrained Linguistic Typology
Feature Prediction in SIGTYP 2020 Shared Task [83.43738174234053]
タイプ的特徴間の相関関係を表現するために頻繁な推論を用い、この表現を用いて、個々の特徴を予測する単純なマルチクラス推定器を訓練する。
テスト言語149言語に対して,マイクロ平均精度0.66を達成できた。
論文 参考訳(メタデータ) (2020-10-12T19:25:43Z) - Domain-Specific Language Model Pretraining for Biomedical Natural
Language Processing [73.37262264915739]
バイオメディシンなどのラベルなしテキストの少ないドメインでは、スクラッチから言語モデルを事前学習することで、かなりの利益が得られることを示す。
実験の結果, ドメイン固有のプレトレーニングは, 幅広い生物医学的NLPタスクの基盤となることが明らかとなった。
論文 参考訳(メタデータ) (2020-07-31T00:04:15Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。