論文の概要: Named entity recognition in chemical patents using ensemble of contextual language models

• arxiv url: http://arxiv.org/abs/2007.12569v2
• Date: Thu, 17 Sep 2020 09:54:53 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-07 06:40:14.442911
• Title: Named entity recognition in chemical patents using ensemble of contextual language models
• Title（参考訳）: 文脈言語モデルのアンサンブルを用いた化学特許における名前付きエンティティ認識
• Authors: Jenny Copara and Nona Naderi and Julien Knafou and Patrick Ruch and Douglas Teodoro
• Abstract要約: 化学特許から情報を取り出すための文脈型言語モデルの有効性について検討する。 我々の最良のモデルは、多数アンサンブルのアプローチに基づくもので、正確なF1スコアは92.30%、緩和されたF1スコアは96.24%に達する。
• 参考スコア（独自算出の注目度）: 0.3731111830152912
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Chemical patent documents describe a broad range of applications holding key reaction and compound information, such as chemical structure, reaction formulas, and molecular properties. These informational entities should be first identified in text passages to be utilized in downstream tasks. Text mining provides means to extract relevant information from chemical patents through information extraction techniques. As part of the Information Extraction task of the Cheminformatics Elsevier Melbourne University challenge, in this work we study the effectiveness of contextualized language models to extract reaction information in chemical patents. We assess transformer architectures trained on a generic and specialised corpora to propose a new ensemble model. Our best model, based on a majority ensemble approach, achieves an exact F1-score of 92.30% and a relaxed F1-score of 96.24%. The results show that ensemble of contextualized language models can provide an effective method to extract information from chemical patents.
• Abstract（参考訳）: 化学特許文書は、化学構造、反応式、分子特性など、キー反応と化合物情報を保持する幅広い応用を記述している。 これらの情報エンティティは、ダウンストリームタスクで使用されるテキストパスで最初に識別されるべきである。 テキストマイニングは、情報抽出技術を通じて化学特許から関連情報を抽出する手段を提供する。 化学情報学エルゼビエメルボルン大学チャレンジの情報抽出タスクの一環として, 化学特許における反応情報抽出における文脈化言語モデルの有効性について検討した。 我々は,新しいアンサンブルモデルを提案するために,ジェネリックで特殊化されたコーパスで訓練されたトランスフォーマーアーキテクチャを評価する。 我々の最良のモデルは、多数アンサンブルのアプローチに基づくもので、正確なF1スコアは92.30%、緩和されたF1スコアは96.24%に達する。 その結果, 文脈型言語モデルのアンサンブルは, 化学特許から情報を抽出する有効な方法であることがわかった。

関連論文リスト

• Integrating Chemistry Knowledge in Large Language Models via Prompt Engineering [2.140221068402338]
  本稿では,科学領域における大規模言語モデル(LLM)の性能向上を目的として,ドメイン固有の知識の統合について検討する。 ベンチマークデータセットは、小さな分子の複雑な物理化学的性質、薬理学の薬物性、酵素や結晶材料の機能的特性に適合する。 提案したドメイン知識組み込みのプロンプトエンジニアリング手法は,従来のプロンプトエンジニアリング手法よりも優れた性能を発揮する。
  論文  参考訳（メタデータ） (2024-04-22T16:55:44Z)
• EnzChemRED, a rich enzyme chemistry relation extraction dataset [3.6124226106001]
  EnzChemREDは1,210名の専門家によるPubMed抽象体から構成され、そこでは酵素と触媒する化学反応がアノテートされる。 EnzChemREDを用いた微調整済み言語モデルは、テキスト中のタンパク質や化学物質の言及を識別する能力を著しく向上させることができることを示す。 本稿では,EnzChemREDを微調整して,テキストから知識を抽出するエンド・ツー・エンド・エンドのパイプラインを作成する。
  論文  参考訳（メタデータ） (2024-04-22T14:18:34Z)
• OpenChemIE: An Information Extraction Toolkit For Chemistry Literature [37.23189665773341]
  OpenChemIEは化学文献から反応データを抽出するツールである。 我々は、化学情報抽出の特定のタスクに対処する専門的なニューラルモデルを採用する。 我々は、パイプライン全体を評価するために、Rグループによる反応スキームの挑戦的なデータセットを慎重に注釈付けする。
  論文  参考訳（メタデータ） (2024-04-01T20:16:21Z)
• Leveraging Biomolecule and Natural Language through Multi-Modal Learning: A Survey [75.47055414002571]
  生物分子モデリングと自然言語(BL)の統合は、人工知能、化学、生物学の交差点において有望な学際領域として現れてきた。 生体分子と自然言語の相互モデリングによって達成された最近の進歩について分析する。
  論文  参考訳（メタデータ） (2024-03-03T14:59:47Z)
• An Autonomous Large Language Model Agent for Chemical Literature Data Mining [60.85177362167166]
  本稿では,幅広い化学文献から高忠実度抽出が可能なエンドツーエンドAIエージェントフレームワークを提案する。 本フレームワークの有効性は,反応条件データの精度,リコール,F1スコアを用いて評価する。
  論文  参考訳（メタデータ） (2024-02-20T13:21:46Z)
• ReactIE: Enhancing Chemical Reaction Extraction with Weak Supervision [27.850325653751078]
  構造化化学反応情報は、実験とコンピュータ支援医薬品設計のような先進的な取り組みに携わる化学者にとって重要な役割を担っている。 科学的文献から構造的反応を抽出することが重要であるにもかかわらず、この目的のためのデータアノテーションは、ドメインの専門家が必要とする多大な労力のためにコストを抑えることができる。 本稿では,2つの弱教師付き事前学習手法を組み合わせたReactIEを提案する。本手法では,テキスト内の頻繁なパターンを言語的手がかりとして用いて,化学反応の特異な特性を同定する。
  論文  参考訳（メタデータ） (2023-07-04T02:52:30Z)
• Stress Testing BERT Anaphora Resolution Models for Reaction Extraction in Chemical Patents [7.653466578233261]
  化学特許には、共参照(co-reference)、変換(transform)、反応関連(reaction associated)、組立(work up)、包含(intained)の5つのアナフォリックな関係がある。 我々の目標は、ノイズフリーでノイズの多い環境で、反応テキストに対するアナフォラ分解能モデルの性能がどのように異なるかを検討することである。
  論文  参考訳（メタデータ） (2023-06-23T09:01:56Z)
• Interactive Molecular Discovery with Natural Language [69.89287960545903]
  対象分子を記述・編集するための自然言語を用いた対話型分子設計を提案する。 この課題をより良くするために、実験プロパティ情報を注入することによって強化された知識的で汎用的な生成事前学習モデルChatMolを設計する。
  論文  参考訳（メタデータ） (2023-06-21T02:05:48Z)
• ChemVise: Maximizing Out-of-Distribution Chemical Detection with the Novel Application of Zero-Shot Learning [60.02503434201552]
  本研究は,簡単な学習セットから複雑な露光の学習近似を提案する。 合成センサ応答に対するこのアプローチは, 分布外の化学分析物の検出を驚くほど改善することを示した。
  論文  参考訳（メタデータ） (2023-02-09T20:19:57Z)
• Structured information extraction from complex scientific text with fine-tuned large language models [55.96705756327738]
  そこで本研究では,共振器認識と関係抽出のための簡単なシーケンス・ツー・シーケンス手法を提案する。 このアプローチは、約500組のプロンプトで微調整された、事前訓練済みの大規模言語モデル(LLM)であるGPT-3を利用する。 このアプローチは、構造化されていないテキストから抽出された構造化知識の大規模なデータベースを得るための、シンプルで、アクセス可能で、非常に柔軟な経路を示す。
  論文  参考訳（メタデータ） (2022-12-10T07:51:52Z)
• Unassisted Noise Reduction of Chemical Reaction Data Sets [59.127921057012564]
  本稿では,データセットから化学的に間違ったエントリを除去するための,機械学習に基づく無支援アプローチを提案する。 その結果,クリーン化およびバランスの取れたデータセットでトレーニングしたモデルの予測精度が向上した。
  論文  参考訳（メタデータ） (2021-02-02T09:34:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。