論文の概要: An Event Structure-aware Generative Model for Biomedical Event Extraction
- arxiv url: http://arxiv.org/abs/2408.06583v2
- Date: Wed, 14 Aug 2024 15:44:07 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-15 12:12:37.725488
- Title: An Event Structure-aware Generative Model for Biomedical Event Extraction
- Title(参考訳): 生体イベント抽出のためのイベント構造認識生成モデル
- Authors: Haohan Yuan, Siu Cheung Hui, Haopeng Zhang,
- Abstract要約: GenBEEは、バイオメディカルイベント抽出のための構造対応プレフィックスで強化された生成モデルである。
大型言語モデル(LLM)から抽出した知識を活用するイベントプロンプトを構築する。
3つのベンチマークデータセットの実験では、GenBEEの有効性が示されている。
- 参考スコア(独自算出の注目度): 6.282854894433099
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Biomedical Event Extraction (BEE) is a challenging task that involves modeling complex relationships between fine-grained entities in biomedical text. Most existing BEE models rely on classification methods that ignore label semantics and argument dependencies in the data. Although generative models that use prompts are increasingly being used for event extraction, they face two main challenges: creating effective prompts for the biomedical domain and dealing with events with complex structures in the text. To address these limitations, we propose GenBEE, a generative model enhanced with structure-aware prefixes for biomedical event extraction. GenBEE constructs event prompts that leverage knowledge distilled from large language models (LLMs), thereby incorporating both label semantics and argument dependency relationships. Additionally, GenBEE introduces a structural prefix learning module that generates structure-aware prefixes with structural prompts, enriching the generation process with structural features. Extensive experiments on three benchmark datasets demonstrate the effectiveness of GenBEE and it achieves state-of-the-art performance on the MLEE and GE11 datasets. Moreover, our analysis shows that the structural prefixes effectively bridge the gap between structural prompts and the representation space of generative models, enabling better integration of event structural information.
- Abstract(参考訳): バイオメディカルイベント抽出(BEE)は、バイオメディカルテキストにおける微細な実体間の複雑な関係をモデル化する難しいタスクである。
既存のBEEモデルは、データ内のラベルのセマンティクスや引数の依存関係を無視した分類方法に依存しています。
プロンプトを用いた生成モデルは、イベント抽出にますます使われているが、バイオメディカルドメインの効果的なプロンプトの作成と、テキスト内の複雑な構造を持つイベントの処理という、2つの大きな課題に直面している。
これらの制約に対処するため, バイオメディカルイベント抽出のための構造認識プレフィックスを付加した生成モデルGenBEEを提案する。
GenBEEは、大きな言語モデル(LLM)から抽出された知識を活用するイベントプロンプトを構築し、ラベルの意味論と引数依存関係の両方を組み込む。
さらに、GenBEEは構造的なプロンプトを持つ構造的なプレフィックスを生成する構造的なプレフィックス学習モジュールを導入し、構造的な特徴を持つ生成プロセスを強化した。
3つのベンチマークデータセットに対する大規模な実験は、GenBEEの有効性を示し、MLEEとGE11データセット上で最先端のパフォーマンスを達成する。
さらに, 構造的プレフィックスは, 構造的プロンプトと生成モデルの表現空間とのギャップを効果的に橋渡しし, イベント構造情報のより良い統合を可能にすることを示す。
関連論文リスト
- DictLLM: Harnessing Key-Value Data Structures with Large Language Models
for Enhanced Medical Diagnostics [36.057925881268226]
DictLLMは、医学実験室報告のようなキーバリュー構造化データのモデリングを改善するために設計された革新的なフレームワークである。
診断自動生成のための総合的な実世界医療実験室レポートデータセットを用いて,様々なLCMモデルを用いた実験を行った。
論文 参考訳(メタデータ) (2024-02-18T07:10:02Z) - Diversifying Knowledge Enhancement of Biomedical Language Models using
Adapter Modules and Knowledge Graphs [54.223394825528665]
我々は、軽量なアダプターモジュールを用いて、構造化された生体医学的知識を事前訓練された言語モデルに注入するアプローチを開発した。
バイオメディカル知識システムUMLSと新しいバイオケミカルOntoChemの2つの大きなKGと、PubMedBERTとBioLinkBERTの2つの著名なバイオメディカルPLMを使用している。
計算能力の要件を低く保ちながら,本手法がいくつかの事例において性能改善につながることを示す。
論文 参考訳(メタデータ) (2023-12-21T14:26:57Z) - A Systematic Survey in Geometric Deep Learning for Structure-based Drug
Design [63.30166298698985]
構造に基づく薬物設計(SBDD)は、タンパク質の3次元幾何学を利用して、潜在的な薬物候補を特定する。
幾何学的深層学習の最近の進歩は、3次元幾何データの統合と処理に焦点をあてて、構造に基づく薬物設計の分野を大いに進歩させてきた。
論文 参考訳(メタデータ) (2023-06-20T14:21:58Z) - Semantic Structure Enhanced Event Causality Identification [57.26259734944247]
事象因果同定(ECI)は、非構造化テキスト中の事象間の因果関係を特定することを目的としている。
既存の方法は、イベント中心構造とイベント関連構造という、ECIタスクに不可欠な2種類の意味構造を過小評価する。
論文 参考訳(メタデータ) (2023-05-22T07:42:35Z) - StrAE: Autoencoding for Pre-Trained Embeddings using Explicit Structure [5.2869308707704255]
StrAEは構造化オートエンコーダフレームワークであり、明示的な構造に厳格に固執することで、マルチレベル表現の効果的な学習を可能にする。
本研究の結果は,入力として提供される構造に直接的な関連性があることを示し,既存のツリーモデルではそうではないことを示す。
次に、StrAEを拡張して、単純なローカライズ・マージアルゴリズムを用いてモデルが独自の構成を定義する。
論文 参考訳(メタデータ) (2023-05-09T16:20:48Z) - LasUIE: Unifying Information Extraction with Latent Adaptive
Structure-aware Generative Language Model [96.889634747943]
全ての典型的な情報抽出タスク(UIE)を1つの生成言語モデル(GLM)で普遍的にモデル化し、大きな可能性を明らかにした。
UIE のための構文知識のパワーを完全に解放する構造対応 GLM を提案する。
7つのタスクにわたるIEベンチマークが12以上あり、私たちのシステムはベースラインのUIEシステムよりも大幅に改善されていることを示しています。
論文 参考訳(メタデータ) (2023-04-13T04:01:14Z) - RDesign: Hierarchical Data-efficient Representation Learning for
Tertiary Structure-based RNA Design [65.41144149958208]
本研究では,データ駆動型RNA設計パイプラインを体系的に構築することを目的とする。
我々は、ベンチマークデータセットを作成し、複雑なRNA第三次構造を表現するための包括的な構造モデリングアプローチを設計した。
RNA設計プロセスを容易にするために,塩基対を持つ抽出二次構造体を事前知識として組み込んだ。
論文 参考訳(メタデータ) (2023-01-25T17:19:49Z) - Unified Structure Generation for Universal Information Extraction [58.89057387608414]
UIEは、異なるIEタスクを普遍的にモデル化し、ターゲット構造を適応的に生成し、異なる知識ソースから一般的なIE能力を協調的に学習することができる。
実験によると、UIEは4つのIEタスク、13のデータセット、およびすべての教師付き、低リソース、数ショット設定で最先端のパフォーマンスを達成した。
論文 参考訳(メタデータ) (2022-03-23T08:49:29Z) - Entity Structure Within and Throughout: Modeling Mention Dependencies
for Document-Level Relation Extraction [17.653025734439616]
このような構造を言及対間の独特の依存関係として定式化する。
次に,これらの構造的依存関係を標準自己認識機構に組み込んだSSANを提案する。
本実験では,提案された実体構造の有用性およびSSANの有効性を示す。
論文 参考訳(メタデータ) (2021-02-20T03:47:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。