論文の概要: Multimodal Model with Text and Drug Embeddings for Adverse Drug Reaction
Classification
- arxiv url: http://arxiv.org/abs/2210.13238v1
- Date: Fri, 21 Oct 2022 11:41:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-25 15:07:53.123901
- Title: Multimodal Model with Text and Drug Embeddings for Adverse Drug Reaction
Classification
- Title(参考訳): 有害薬物反応分類のためのテキストおよび薬物埋め込みによるマルチモーダルモデル
- Authors: Andrey Sakhovskiy and Elena Tutubalina
- Abstract要約: 本稿では2つのコンポーネントを持つマルチモーダルモデルを提案する。これらのコンポーネントは言語理解と分子特性予測のための最先端のBERTモデルである。
実験により、ニューラルネットワークから得られる分子情報は、従来の分子記述子よりもADE分類にとって有益であることが示されている。
- 参考スコア(独自算出の注目度): 9.339007998235378
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this paper, we focus on the classification of tweets as sources of
potential signals for adverse drug effects (ADEs) or drug reactions (ADRs).
Following the intuition that text and drug structure representations are
complementary, we introduce a multimodal model with two components. These
components are state-of-the-art BERT-based models for language understanding
and molecular property prediction. Experiments were carried out on multilingual
benchmarks of the Social Media Mining for Health Research and Applications
(#SMM4H) initiative. Our models obtained state-of-the-art results of 0.61 F1
and 0.57 F1 on #SMM4H 2021 Shared Tasks 1a and 2 in English and Russian,
respectively. On the classification of French tweets from SMM4H 2020 Task 1,
our approach pushes the state of the art by an absolute gain of 8% F1. Our
experiments show that the molecular information obtained from neural networks
is more beneficial for ADE classification than traditional molecular
descriptors. The source code for our models is freely available at
https://github.com/Andoree/smm4h_2021_classification.
- Abstract(参考訳): 本稿では、有害薬物効果(ADE)や薬物反応(ADR)の潜在的なシグナル源としてのツイートの分類に焦点をあてる。
テキスト表現と薬物構造表現が相補的であるという直感に従って,2成分のマルチモーダルモデルを導入する。
これらのコンポーネントは、言語理解と分子特性予測のための最先端のBERTベースのモデルである。
ソーシャル・メディア・マイニング・フォー・ヘルス・リサーチ・アンド・アプリケーション(#SMM4H)イニシアチブの多言語ベンチマークで実験を行った。
我々のモデルでは,#SMM4H 2021で0.61 F1,#SMM4H 2021で0.57 F1を得た。
SMM4H 2020 Task 1のフランス語ツイートの分類について、我々のアプローチは、芸術の状態を8%の利得で押し上げます。
実験により,ニューラルネットワークから得られた分子情報は従来の分子ディスクリプタよりもade分類に有用であることが示された。
私たちのモデルのソースコードはhttps://github.com/andoree/smm4h_2021_classificationで無料で利用できます。
関連論文リスト
- FARM: Functional Group-Aware Representations for Small Molecules [55.281754551202326]
小型分子のための機能的グループ認識表現(FARM)について紹介する。
FARMはSMILES、自然言語、分子グラフのギャップを埋めるために設計された基礎モデルである。
MoleculeNetデータセット上でFARMを厳格に評価し、12タスク中10タスクで最先端のパフォーマンスを実現しています。
論文 参考訳(メタデータ) (2024-10-02T23:04:58Z) - Diversifying Knowledge Enhancement of Biomedical Language Models using
Adapter Modules and Knowledge Graphs [54.223394825528665]
我々は、軽量なアダプターモジュールを用いて、構造化された生体医学的知識を事前訓練された言語モデルに注入するアプローチを開発した。
バイオメディカル知識システムUMLSと新しいバイオケミカルOntoChemの2つの大きなKGと、PubMedBERTとBioLinkBERTの2つの著名なバイオメディカルPLMを使用している。
計算能力の要件を低く保ちながら,本手法がいくつかの事例において性能改善につながることを示す。
論文 参考訳(メタデータ) (2023-12-21T14:26:57Z) - Contextualized Medication Information Extraction Using Transformer-based
Deep Learning Architectures [35.65283211002216]
薬剤の言及抽出,事象分類(治療内容の変更の有無を示す),文脈分類のためのNLPシステムを開発した。
我々は,900億語以上のテキストを用いて事前学習した大規模言語モデルであるGatorTronを含む,3つのサブタスクに対する最先端の事前学習型トランスフォーマモデルについて検討した。
我々のGatorTronモデルは、薬物抽出で0.9828(第3位)、イベント分類で0.9379(第2位)、文脈分類で0.9126(第2位)のF1スコアを達成した。
論文 参考訳(メタデータ) (2023-03-14T22:22:28Z) - Drug Synergistic Combinations Predictions via Large-Scale Pre-Training
and Graph Structure Learning [82.93806087715507]
薬物併用療法は、より有効で安全性の低い疾患治療のための確立された戦略である。
ディープラーニングモデルは、シナジスティックな組み合わせを発見する効率的な方法として登場した。
我々のフレームワークは、他のディープラーニングベースの手法と比較して最先端の結果を達成する。
論文 参考訳(メタデータ) (2023-01-14T15:07:43Z) - Dependency-based Mixture Language Models [53.152011258252315]
依存性に基づく混合言語モデルを紹介する。
より詳しくは、依存関係モデリングの新たな目的により、まずニューラルネットワークモデルを訓練する。
次に、前回の依存性モデリング確率分布と自己意図を混合することにより、次の確率を定式化する。
論文 参考訳(メタデータ) (2022-03-19T06:28:30Z) - Text Mining Drug/Chemical-Protein Interactions using an Ensemble of BERT
and T5 Based Models [3.7462395049372894]
バイオクリーティブVIIチャレンジのトラック1では、参加者が薬物と化学薬品とタンパク質の相互作用を識別するよう求められている。
本稿では,BERTに基づく文分類手法と,T5モデルを用いたより新しいテキスト・テキスト分類手法を提案する。
論文 参考訳(メタデータ) (2021-11-30T18:14:06Z) - R-BERT-CNN: Drug-target interactions extraction from biomedical
literature [1.8814209805277506]
薬物プロットタスクのBioCreative VIIへの参加について紹介する。
薬物-標的相互作用(DTI)は、薬物の発見と再資源化に重要である。
PubMedには32万件のバイオメディカル記事があり、このような膨大な知識ベースからDTIを手作業で抽出することは困難である。
論文 参考訳(メタデータ) (2021-10-31T22:50:33Z) - Neural networks for Anatomical Therapeutic Chemical (ATC) [83.73971067918333]
両方向の長期記憶ネットワーク(BiLSTM)から抽出された集合を含む、特徴の異なるセットで訓練された複数の複数ラベル分類器を組み合わせることを提案する。
実験はこのアプローチのパワーを実証し、文献で報告された最良の手法よりも優れていることを示した。
論文 参考訳(メタデータ) (2021-01-22T19:49:47Z) - MolTrans: Molecular Interaction Transformer for Drug Target Interaction
Prediction [68.5766865583049]
薬物標的相互作用(DTI)予測は、シリコ薬物発見の基本的な課題である。
近年、DTI予測におけるディープラーニングの進歩が期待されている。
これらの制約に対処する分子間相互作用変換器(TransMol)を提案する。
論文 参考訳(メタデータ) (2020-04-23T18:56:04Z) - The Russian Drug Reaction Corpus and Neural Models for Drug Reactions
and Effectiveness Detection in User Reviews [13.428173157465062]
ロシア・ドラッグ・リアクション・コーパス (RuDReC) は、ロシアにおける医薬品製品に関する消費者レビューを部分的に注釈付けした新しいコーパスである。
生の部分には、さまざまなインターネットソースから収集された14万件の健康関連ユーザー生成テキストが含まれている。
ラベル付き部は、薬物および疾患関連情報による薬物療法に関する500の消費者レビューを含んでいる。
論文 参考訳(メタデータ) (2020-04-07T19:26:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。