論文の概要: Enhancing Biomedical Named Entity Recognition via Multiple Programming Languages Instruction Tuning and Ensemble Method
- arxiv url: http://arxiv.org/abs/2610.02949v1
- Date: Fri, 02 Oct 2026 07:42:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 00:14:30.256795
- Title: Enhancing Biomedical Named Entity Recognition via Multiple Programming Languages Instruction Tuning and Ensemble Method
- Title(参考訳): 複数のプログラム言語による生物医学的名前付きエンティティ認識の実現 : 授業チューニングとアンサンブル手法
- Abstract要約: 我々は,BioNERのための多言語命令調整およびアンサンブル手法であるMITEを提案する。
MITEは、コード形式の表現で命令とエンティティ出力の両方を表現することで、BioNERを構造から構造への生成タスクとして再構成する。
6つの広く使用されているBioNERデータセットの実験では、MITEはBERTベースとLLMベースベースラインを一貫して上回っている。
- 参考スコア(独自算出の注目度): 20.369613885260247
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Instruction tuning has become a common paradigm for applying large language models (LLMs) to biomedical named entity recognition (BioNER). However, existing instruction-tuning approaches still face two key challenges. First, conventional natural-language instructions typically serialize BioNER annotations as flat textual outputs, providing limited structural constraints for typed entity extraction. Second, high-quality biomedical annotations are limited, and learning from a single serialized output form may restrict structural diversity and reduce model robustness. Although external biomedical knowledge can be introduced to alleviate data scarcity, it often requires costly resource construction. To address these challenges, we propose MITE, a Multiple Programming Languages Instruction Tuning and Ensemble method for BioNER. MITE reformulates BioNER as a structure-to-structure generation task by representing both instructions and entity outputs in code-formatted representations. Specifically, each training instance is transformed into multiple programming-language formats, including Python, C++, and Java, while preserving the same underlying entity semantics. These language-specific representations provide structurally diverse supervision without requiring external biomedical knowledge or additional annotations. During inference, MITE aggregates predictions from different code formats through an entity-level voting strategy, reducing language-specific prediction variance and improving robustness. Experiments on six widely used BioNER datasets demonstrate that MITE consistently outperforms representative BERT-based and LLM-based baselines and exhibits strong cross-dataset generalization. Ablation and parameter analyses further verify the effectiveness and robustness of the proposed components.
- Abstract(参考訳): インストラクションチューニングは、バイオメディカルな名前付きエンティティ認識(BioNER)に大規模言語モデル(LLM)を適用するための一般的なパラダイムとなっている。
しかし、既存の命令チューニングアプローチは2つの大きな課題に直面している。
まず、従来の自然言語命令は、通常、BioNERアノテーションを平文出力としてシリアライズし、型付きエンティティ抽出のための制限された構造的制約を提供する。
第二に、高品質なバイオメディカルアノテーションは制限されており、単一のシリアライズされた出力形式からの学習は構造的多様性を制限し、モデルの堅牢性を低下させる可能性がある。
データの不足を軽減するために外部のバイオメディカル知識を導入することができるが、しばしば高価な資源構築を必要とする。
これらの課題に対処するため,BioNERのためのMultiple Programming Languages Instruction Tuning and Ensemble法であるMITEを提案する。
MITEは、コード形式の表現で命令とエンティティ出力の両方を表現することで、BioNERを構造から構造への生成タスクとして再構成する。
具体的には、各トレーニングインスタンスは、Python、C++、Javaを含む複数のプログラミング言語フォーマットに変換され、同じ基盤となるエンティティセマンティクスを保存する。
これらの言語固有の表現は、外部のバイオメディカル知識や追加のアノテーションを必要とせずに、構造的に多様な監視を提供する。
推論の間、MITEはエンティティレベルの投票戦略を通じて異なるコードフォーマットからの予測を集約し、言語固有の予測のばらつきを低減し、堅牢性を改善する。
6つの広く使われているBioNERデータセットの実験では、MITEはBERTベースとLLMベースベースラインを一貫して上回り、強力なクロスデータセットの一般化を示している。
アブレーションとパラメータ分析により,提案手法の有効性とロバスト性をさらに検証した。
関連論文リスト
- A Guideline-Augmented Multi-Agent Framework for Schema-as-Code Biomedical Named Entity Recognition [20.369613885260247]
GAMAは、スキーマ・アズ・コードBioNERのためのガイドライン付きマルチエージェントフレームワークである。
計画コンポーネントは有理数でランク付けされたスパン型仮説を生成し、コーディングコンポーネントはそれらをスキーマ制約されたエンティティオブジェクトに変換する。
複数のLLMバックボーンを持つ5つの広く使われているBioNERデータセットの実験は、GAMAが強いLLMベースラインを一貫して上回っていることを示している。
論文 参考訳(メタデータ) (2026-10-02T08:06:20Z) - A Unified Biomedical Named Entity Recognition Framework with Large Language Models [44.92744341698289]
大規模言語モデル(LLM)に基づくバイオメディカル名前付きエンティティ認識(BioNER)フレームワークを提案する。
まず、テキスト生成タスクとしてBioNERを再構成し、フラットなエンティティとネストされたエンティティの両方を共同で扱うシンボリックタグ戦略を設計する。
複数の中国語と英語のデータセットでバイリンガル共同微調整を行う。
論文 参考訳(メタデータ) (2025-10-10T01:33:54Z) - Learning to Extract Structured Entities Using Language Models [52.281701191329]
機械学習の最近の進歩は、情報抽出の分野に大きな影響を与えている。
タスクをエンティティ中心にすることで、さまざまなメトリクスの使用を可能にします。
我々は、Structured Entity extractを導入し、Adroximate Entity Set OverlaPメトリックを提案し、この分野にコントリビュートします。
論文 参考訳(メタデータ) (2024-02-06T22:15:09Z) - Exploring the Effectiveness of Instruction Tuning in Biomedical Language
Processing [19.41164870575055]
本研究では,バイオメディカル言語処理における指導指導の可能性について検討する。
約20,000ドルのインストラクション中心のサンプルからなるデータセットで訓練された包括的,命令ベースのモデルを提案する。
論文 参考訳(メタデータ) (2023-12-31T20:02:10Z) - Diversifying Knowledge Enhancement of Biomedical Language Models using
Adapter Modules and Knowledge Graphs [54.223394825528665]
我々は、軽量なアダプターモジュールを用いて、構造化された生体医学的知識を事前訓練された言語モデルに注入するアプローチを開発した。
バイオメディカル知識システムUMLSと新しいバイオケミカルOntoChemの2つの大きなKGと、PubMedBERTとBioLinkBERTの2つの著名なバイオメディカルPLMを使用している。
計算能力の要件を低く保ちながら,本手法がいくつかの事例において性能改善につながることを示す。
論文 参考訳(メタデータ) (2023-12-21T14:26:57Z) - UMLS-KGI-BERT: Data-Centric Knowledge Integration in Transformers for Biomedical Entity Recognition [3.5555176462255824]
この研究は、UMLSからテキストシーケンスを抽出することにより、バイオメディカルトランスフォーマーエンコーダLMの言語表現を強化するためのデータ中心パラダイムに寄与する。
予め訓練したLMの拡張およびスクラッチからのトレーニングによる実験の結果から,複数の生物医学的,臨床的な名前付きエンティティ認識(NER)タスクにおける下流性能の向上が示された。
論文 参考訳(メタデータ) (2023-07-20T18:08:34Z) - Pre-training Language Model Incorporating Domain-specific Heterogeneous Knowledge into A Unified Representation [49.89831914386982]
本研究では, 構造化されていないテキスト, 半構造化されたテキスト, 十分に構造化されたテキストを含む, あらゆる形式のテキストに対して, 統一された事前学習言語モデル (PLM) を提案する。
提案手法は,データの1/4のみを用いて,プレーンテキストの事前学習に優れる。
論文 参考訳(メタデータ) (2021-09-02T16:05:24Z) - Domain-Specific Language Model Pretraining for Biomedical Natural
Language Processing [73.37262264915739]
バイオメディシンなどのラベルなしテキストの少ないドメインでは、スクラッチから言語モデルを事前学習することで、かなりの利益が得られることを示す。
実験の結果, ドメイン固有のプレトレーニングは, 幅広い生物医学的NLPタスクの基盤となることが明らかとなった。
論文 参考訳(メタデータ) (2020-07-31T00:04:15Z) - Multilingual Denoising Pre-training for Neural Machine Translation [132.66750663226287]
mBART(mBART)は、大規模モノリンガルコーパスで事前訓練されたシーケンスからシーケンスまでの自動エンコーダである。
mBARTは、完全なシーケンス・ツー・シーケンスモデルを事前訓練する最初の方法の1つである。
論文 参考訳(メタデータ) (2020-01-22T18:59:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。