論文の概要: BERT-based Models vs. Large Language Models for Low-Resource Named Entity Recognition: A Comparative Study on Marathi

• arxiv url: http://arxiv.org/abs/2607.23344v1
• Date: Sat, 25 Jul 2026 19:40:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-28 22:34:15.068888
• Title: BERT-based Models vs. Large Language Models for Low-Resource Named Entity Recognition: A Comparative Study on Marathi
• Title（参考訳）: BERT-based Models vs. Large Language Models for Low-Resource Named Entity Recognition: A Comparison Study on Marathi
• Authors: Hariom Ingle, Ronit Ghode, Ishwari Gondkar, Jidnyasa Harad, Raviraj Joshi,
• Abstract要約: MahaNERデータセットのさまざまなバリエーションについて、MahaBERT-v2を微調整します。 すべてのモデルは、精度、リコール、F1スコアの標準メトリクスを使用して、Marathi NERテストデータセットで評価される。
• 参考スコア（独自算出の注目度）: 2.584263027095689
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Named Entity Recognition (NER) for low-resource languages such as Marathi remains a challenging task due to limited annotated resources and linguistic complexity. Although recent Large Language Models (LLMs) have demonstrated strong performance across a wide range of natural language processing tasks, their effectiveness for language-specific NER in low-resource settings remains uncertain. In this study, we fine-tune MahaBERT-v2 on different variants of the MahaNER dataset and systematically compare the performance of these models with an existing MahaNER baseline and prominent general-purpose LLMs, including Gemini, LLaMA-3.3-70B, and Gemma models. All models are evaluated on a Marathi NER test dataset using standard metrics of precision, recall, and F1-score. The experimental results show that the fine-tuned MahaBERT-based models consistently outperform both the baseline and all evaluated LLMs, with the fine-tuned models achieving F1-scores ranging from 0.88 to 0.91, surpassing the existing MahaNER model (0.8843) and significantly exceeding the performance of LLM-based approaches, whose F1-scores range from 0.57 to 0.69. These findings demonstrate that task-specific, language-focused models trained on domain-relevant data remain more effective than general-purpose LLMs for Marathi NER, highlighting the continued importance of specialized architectures for low-resource language processing.
• Abstract（参考訳）: Marathiのような低リソース言語向けの名前付きエンティティ認識(NER)は、限られたアノテートリソースと言語的な複雑さのために難しい課題である。 近年のLarge Language Models (LLM) は,様々な自然言語処理タスクにおいて高い性能を示したが,低リソース環境での言語固有のNERの有効性はいまだ不明である。 本研究では,MahaNERデータセットの異なる変種に対してMahaBERT-v2を微調整し,これらのモデルの性能を既存のMahaNERベースラインと,Gemini,LLaMA-3.3-70B,Gemmaモデルを含む著名な汎用LLMと体系的に比較する。 すべてのモデルは、精度、リコール、F1スコアの標準メトリクスを使用して、Marathi NERテストデータセットで評価される。 実験結果から,F1スコアを0.88から0.91の範囲で達成し,既存のMahaNERモデル(0.8843)を上回り,F1スコアを0.57から0.69の範囲で達成した。 これらの結果から,領域関連データに基づいて学習したタスク特化言語型モデルは,Marathi NER の汎用 LLM よりも有効であり,低リソース言語処理における特殊アーキテクチャの継続的な重要性を強調している。

関連論文リスト

• Binary Token-Level Classification with DeBERTa for All-Type MWE Identification: A Lightweight Approach with Linguistic Enhancement [1.8429656136522097]
  本稿では,バイナリトークンレベルの分類,言語的特徴の統合,データ拡張を組み合わせた,MWE識別のための包括的アプローチを提案する。 我々のDeBERTa-v3大規模モデルは、CoAMデータセット上で69.8%のF1を達成し、このデータセットで最高の結果(Qwen-72B, 57.8% F1)を12ポイント上回り、パラメータは165倍少ない。
  論文  参考訳（メタデータ） (2026-01-27T08:42:54Z)
• Named Entity Recognition for the Kurdish Sorani Language: Dataset Creation and Comparative Analysis [1.0499611180329804]
  この研究は、自然言語処理技術の傾きとグローバルな適用性のバランスに寄与する。 このデータセットは、低リソースで低表現の言語であるKurdish Soraniのための最初の 'name entity recognition' データセットを提案する。
  論文  参考訳（メタデータ） (2025-11-27T10:46:11Z)
• Model Utility Law: Evaluating LLMs beyond Performance through Mechanism Interpretable Metric [99.56567010306807]
  大規模言語モデル(LLM)は、学術、産業、そして日々のアプリケーションに欠かせないものになっている。 大規模言語モデル (LLM) 時代における評価の課題の1つは一般化問題である。 従来の性能スコアを補完するメカニズムの解釈可能性向上指標であるモデル利用指数(MUI)を提案する。
  論文  参考訳（メタデータ） (2025-04-10T04:09:47Z)
• Transformer-Based Contextualized Language Models Joint with Neural Networks for Natural Language Inference in Vietnamese [1.7457686843484872]
  文脈型言語モデル(CLM)とニューラルネットワークの様々な組み合わせを用いて実験を行う。 CLMとニューラルネットワークのジョイントアプローチはシンプルだが,高品質な性能を実現することができる。
  論文  参考訳（メタデータ） (2024-11-20T15:46:48Z)
• Unlocking the Potential of Model Merging for Low-Resource Languages [66.7716891808697]
  大規模言語モデルを新しい言語に適応させるには、通常、継続事前訓練(CT)と、教師付き微調整(SFT)が含まれる。 我々は低リソース言語の代替としてモデルマージを提案し、異なる機能を持つモデルを追加トレーニングなしで単一のモデルに組み合わせる。 Llama-2-7Bをベースとした実験により、モデルマージはタスク解決能力の低い低リソース言語に対して、極めて少ないデータを持つシナリオにおいて、CT-then-SFTよりも優れていることが実証された。
  論文  参考訳（メタデータ） (2024-07-04T15:14:17Z)
• Few-shot clinical entity recognition in English, French and Spanish: masked language models outperform generative model prompting [4.832840259029653]
  大規模言語モデル(LLM)は多くの自然言語処理タスクにおいて好まれるソリューションとなっている。 本研究は, 数発のNERに対して, 即発的な工学的手法を用いて, 生成性LLMを評価することを目的とする。 我々は、英語、フランス語、スペイン語をカバーする14のNERデータセットを微調整し、プロンプトを用いた13の自己回帰モデルと16のマスキングモデルを比較した。 プロンプトベースの自己回帰モデルは一般的なNERの競合F1を達成するが、マスクモデルに基づくより軽いbiLSTM-CRFタグにより臨床領域内では優れる。
  論文  参考訳（メタデータ） (2024-02-20T08:20:49Z)
• An Open Dataset and Model for Language Identification [84.15194457400253]
  マクロ平均F1スコア0.93、偽陽性率0.033を201言語で達成するLIDモデルを提案する。 モデルとデータセットの両方を研究コミュニティに公開しています。
  論文  参考訳（メタデータ） (2023-05-23T08:43:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。