論文の概要: Demonstration-based learning for few-shot biomedical named entity recognition under machine reading comprehension

• arxiv url: http://arxiv.org/abs/2308.06454v2
• Date: Fri, 25 Oct 2024 16:17:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-28 13:34:45.368535
• Title: Demonstration-based learning for few-shot biomedical named entity recognition under machine reading comprehension
• Title（参考訳）: 機械読取理解下における数発の生物医学的実体認識のための実証的学習
• Authors: Leilei Su, Jian Chen, Yifan Peng, Cong Sun,
• Abstract要約: 本研究は, 数発の学習シナリオにおいて, バイオメディカルな実体を認識する能力を向上させる戦略を考案した。 数ショットの学習の領域では、MRCベースの言語モデルは、シーケンスラベリングアプローチと比較して、生物医学的な実体を認識するのにはるかに熟練している。
• 参考スコア（独自算出の注目度）: 15.29652181655241
• License:
• Abstract: Although deep learning techniques have shown significant achievements, they frequently depend on extensive amounts of hand-labeled data and tend to perform inadequately in few-shot scenarios. The objective of this study is to devise a strategy that can improve the model's capability to recognize biomedical entities in scenarios of few-shot learning. By redefining biomedical named entity recognition (BioNER) as a machine reading comprehension (MRC) problem, we propose a demonstration-based learning method to address few-shot BioNER, which involves constructing appropriate task demonstrations. In assessing our proposed method, we compared the proposed method with existing advanced methods using six benchmark datasets, including BC4CHEMD, BC5CDR-Chemical, BC5CDR-Disease, NCBI-Disease, BC2GM, and JNLPBA. We examined the models' efficacy by reporting F1 scores from both the 25-shot and 50-shot learning experiments. In 25-shot learning, we observed 1.1% improvements in the average F1 scores compared to the baseline method, reaching 61.7%, 84.1%, 69.1%, 70.1%, 50.6%, and 59.9% on six datasets, respectively. In 50-shot learning, we further improved the average F1 scores by 1.0% compared to the baseline method, reaching 73.1%, 86.8%, 76.1%, 75.6%, 61.7%, and 65.4%, respectively. We reported that in the realm of few-shot learning BioNER, MRC-based language models are much more proficient in recognizing biomedical entities compared to the sequence labeling approach. Furthermore, our MRC-language models can compete successfully with fully-supervised learning methodologies that rely heavily on the availability of abundant annotated data. These results highlight possible pathways for future advancements in few-shot BioNER methodologies.
• Abstract（参考訳）: ディープラーニング技術は大きな成果を上げてきたが、しばしば大量の手書きデータに依存し、数ショットのシナリオでは不十分に実行される傾向にある。 本研究の目的は,数発の学習シナリオにおいて,生物医学的実体を認識する能力を向上させる戦略を考案することである。 バイオメディカルな名前付きエンティティ認識(BioNER)を機械読み取り理解(MRC)問題として再定義することにより、適切なタスクのデモンストレーションを構築することを含む、数発のBioNERに対処する実演ベースの学習手法を提案する。 提案手法の評価には,BC4CHEMD,BC5CDR-Chemical,BC5CDR-Disease,NCBI-Disease,BC2GM,JNLPBAの6つのベンチマークデータを用いた。 25ショット, 50ショットの学習実験からF1スコアを報告し, モデルの有効性を検討した。 25ショット学習では、ベースライン法と比較して平均F1スコアが1.1%改善し、61.7%、84.1%、69.1%、70.1%、50.6%、59.9%に達した。 50ショット学習では,ベースライン法に比べて平均F1スコアが1.0%向上し,73.1%,86.8%,76.1%,75.6%,61.7%,65.4%となった。 数ショット学習の分野では,MRCに基づく言語モデルは,シークエンスラベリングアプローチに比べて,生物医学的実体の認識にはるかに熟練している,と報告した。 さらに, MRC言語モデルは, 豊富な注釈付きデータの可用性に大きく依存する, 完全に教師付き学習手法とうまく競合することができる。 これらの結果は,BioNER法における今後の進歩の道筋を浮き彫りにした。

関連論文リスト

• Building Math Agents with Multi-Turn Iterative Preference Learning [56.71330214021884]
  本稿では,モデル性能をさらに向上させるために,補完的な直接選好学習手法について検討する。 既存の直接選好学習アルゴリズムは、もともとシングルターンチャットタスク用に設計されている。 この文脈に合わせたマルチターン直接選好学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-09-04T02:41:04Z)
• Augmenting Biomedical Named Entity Recognition with General-domain Resources [47.24727904076347]
  ニューラルネットワークに基づくバイオメディカル名前付きエンティティ認識(BioNER)モデルのトレーニングは通常、広範囲でコストのかかる人的アノテーションを必要とする。 GERBERAは、一般ドメインのNERデータセットをトレーニングに利用した、単純なyet効率の手法である。 我々は,81,410インスタンスからなる8つのエンティティタイプの5つのデータセットに対して,GERBERAを体系的に評価した。
  論文  参考訳（メタデータ） (2024-06-15T15:28:02Z)
• SciRIFF: A Resource to Enhance Language Model Instruction-Following over Scientific Literature [80.49349719239584]
  SciRIFF(Scientific Resource for Instruction-Following and Finetuning, SciRIFF)は、54のタスクに対して137Kの命令追従デモのデータセットである。 SciRIFFは、幅広い科学分野の研究文献から情報を抽出し、合成することに焦点を当てた最初のデータセットである。
  論文  参考訳（メタデータ） (2024-06-10T21:22:08Z)
• Towards a clinically accessible radiology foundation model: open-access and lightweight, with automated evaluation [113.5002649181103]
  オープンソースの小型マルチモーダルモデル(SMM)を訓練し、放射線学における未測定臨床ニーズに対する能力ギャップを埋める。 トレーニングのために,697万以上の画像テキストペアからなる大規模なデータセットを組み立てる。 評価のために,GPT-4に基づく実測値CheXpromptを提案する。 LlaVA-Radの推論は高速で、単一のV100 GPU上でプライベート設定で実行できる。
  論文  参考訳（メタデータ） (2024-03-12T18:12:02Z)
• Exploring the In-context Learning Ability of Large Language Model for Biomedical Concept Linking [4.8882241537236455]
  本研究では,生物医学的概念リンクのための大規模モデルのコンテキスト内学習機能を活用する手法について検討する。 提案手法は2段階のレトリーブ・アンド・ランク・フレームワークを採用する。 BC5CDRの病体正規化では90.%、化学体正規化では94.7%の精度を達成した。
  論文  参考訳（メタデータ） (2023-07-03T16:19:50Z)
• Robust Surgical Tools Detection in Endoscopic Videos with Noisy Data [2.566694420723775]
  ノイズデータを用いた手術用ツール検出のためのロバストなモデルを開発するための体系的手法を提案する。 提案手法では,(1)データセットの最小化のための知的能動学習戦略と,(2)学習者モデルに基づく自己学習フレームワークの組み立て戦略,の2点を紹介する。 提案手法は,クラス重み付きアンサンブルモデルを用いた自己学習では平均85.88%,うるさいラベルでは80.88%のF1スコアを達成する。
  論文  参考訳（メタデータ） (2023-07-03T08:12:56Z)
• Predicted Embedding Power Regression for Large-Scale Out-of-Distribution Detection [77.1596426383046]
  本研究では,学習過程において学習したラベル分布に基づいて,予測されたクラスラベルの確率を計算する手法を開発した。 提案手法は,計算コストの最小化のみで,現在の最先端手法よりも優れた性能を発揮する。
  論文  参考訳（メタデータ） (2023-03-07T18:28:39Z)
• A Biomedical Pipeline to Detect Clinical and Non-Clinical Named Entities [0.0]
  本稿では,標準的なもの以外の多くの生物医学的実体を認識できる機械学習パイプラインを提案する。 このパイプラインはまた、前処理、トークン化、マッピング埋め込みルックアップ、名前付きエンティティ認識タスクといったステージで構成されている。 新型コロナウイルスの症例報告をキュレートして準備する新たなデータセットを提示する。
  論文  参考訳（メタデータ） (2022-07-02T16:30:36Z)
• Transfer Learning improves MI BCI models classification accuracy in Parkinson's disease patients [50.591267188664666]
  運動運動に基づくBCI(MIBCI)は、パーキンソン病患者の能力向上と障害症状の軽減を可能にする。 精度と時間関連キャリブレーションの課題を克服するためには、高度なMotor Imagery BCI法が必要である。 本研究は, PD患者に対するMI BCIの精度向上を目的とした, 転写学習に基づくFBCSPアプローチを提案する。
  論文  参考訳（メタデータ） (2020-10-29T19:28:00Z)
• Biomedical named entity recognition using BERT in the machine reading comprehension framework [16.320249089801884]
  バイオメディカルな名前付きエンティティ認識(BioNER)を実現する新しい手法を提案する。 そこで我々は,BioNERタスクをシーケンスラベリング問題として扱う代わりに,機械読解問題として定式化する。 提案手法は,BC4CHEMD,BC5CDR-Chem,BC5CDR-Disease,NCBI-Disease,BC2GMおよびJNLPBAデータセット上での最先端(SOTA)性能を実現する。
  論文  参考訳（メタデータ） (2020-09-03T10:10:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。