論文の概要: Multimodal Graph-based Transformer Framework for Biomedical Relation Extraction

• arxiv url: http://arxiv.org/abs/2107.00596v1
• Date: Thu, 1 Jul 2021 16:37:17 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-02 16:24:24.424062
• Title: Multimodal Graph-based Transformer Framework for Biomedical Relation Extraction
• Title（参考訳）: マルチモーダルグラフを用いた生体関係抽出用トランスフォーマーフレームワーク
• Authors: Sriram Pingali, Shweta Yadav, Pratik Dutta, and Sriparna Saha
• Abstract要約: 本稿では,分子構造などの付加的なマルチモーダルキューの助けを借りて,モデルが実体(タンパク質)に関する多言語生物学的情報を学習することを可能にする新しい枠組みを提案する。 バイオメディカルコーパスを用いたタンパク質プロテイン相互作用タスクの評価を行った。
• 参考スコア（独自算出の注目度）: 21.858440542249934
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: The recent advancement of pre-trained Transformer models has propelled the development of effective text mining models across various biomedical tasks. However, these models are primarily learned on the textual data and often lack the domain knowledge of the entities to capture the context beyond the sentence. In this study, we introduced a novel framework that enables the model to learn multi-omnics biological information about entities (proteins) with the help of additional multi-modal cues like molecular structure. Towards this, rather developing modality-specific architectures, we devise a generalized and optimized graph based multi-modal learning mechanism that utilizes the GraphBERT model to encode the textual and molecular structure information and exploit the underlying features of various modalities to enable end-to-end learning. We evaluated our proposed method on ProteinProtein Interaction task from the biomedical corpus, where our proposed generalized approach is observed to be benefited by the additional domain-specific modality.
• Abstract（参考訳）: 近年のプレトレーニング変圧器モデルの進歩により、様々な生物医学的課題にまたがる効果的なテキストマイニングモデルの開発が進められている。 しかしながら、これらのモデルは主としてテキストデータに基づいて学習され、しばしば文以外のコンテキストをキャプチャするエンティティのドメイン知識を欠いている。 そこで本研究では, 分子構造などの多変量分子の助けを借りて, 実体(タンパク質)に関する多変量生物情報を学習するための新しい枠組みを提案する。 そこで我々は、グラフBERTモデルを用いて、テキストや分子構造情報をエンコードし、様々なモダリティの基盤となる特徴を活用してエンドツーエンドの学習を可能にする、汎用的で最適化されたグラフベースのマルチモーダル学習機構を考案した。 提案するタンパク質相互作用タスクの手法を生体医学コーパスから評価し,提案手法が追加のドメイン特異的モダリティの恩恵を受けることを示した。

関連論文リスト

• GTP-4o: Modality-prompted Heterogeneous Graph Learning for Omni-modal Biomedical Representation [68.63955715643974]
  Omnimodal Learning(GTP-4o)のためのモダリティプロンプト不均質グラフ 我々は、Omnimodal Learning(GTP-4o)のための革新的モダリティプロンプト不均質グラフを提案する。
  論文  参考訳（メタデータ） (2024-07-08T01:06:13Z)
• Unified Modeling Enhanced Multimodal Learning for Precision Neuro-Oncology [8.802214988309684]
  ヒストロジーとゲノム学の両モードの共通性と相補的な特徴を利用する階層的アテンション構造を導入する。 本手法は,グリオーマ診断および予後タスクにおける従来の最先端手法を超越した手法である。
  論文  参考訳（メタデータ） (2024-06-11T09:06:41Z)
• Leveraging Biomolecule and Natural Language through Multi-Modal Learning: A Survey [75.47055414002571]
  生物分子モデリングと自然言語(BL)の統合は、人工知能、化学、生物学の交差点において有望な学際領域として現れてきた。 生体分子と自然言語の相互モデリングによって達成された最近の進歩について分析する。
  論文  参考訳（メタデータ） (2024-03-03T14:59:47Z)
• Diversifying Knowledge Enhancement of Biomedical Language Models using Adapter Modules and Knowledge Graphs [54.223394825528665]
  我々は、軽量なアダプターモジュールを用いて、構造化された生体医学的知識を事前訓練された言語モデルに注入するアプローチを開発した。 バイオメディカル知識システムUMLSと新しいバイオケミカルOntoChemの2つの大きなKGと、PubMedBERTとBioLinkBERTの2つの著名なバイオメディカルPLMを使用している。 計算能力の要件を低く保ちながら,本手法がいくつかの事例において性能改善につながることを示す。
  論文  参考訳（メタデータ） (2023-12-21T14:26:57Z)
• Towards Graph Foundation Models: A Survey and Beyond [66.37994863159861]
  ファンデーションモデルは、さまざまな人工知能アプリケーションにおいて重要なコンポーネントとして現れてきた。 基礎モデルがグラフ機械学習研究者を一般化し、適応させる能力は、新しいグラフ学習パラダイムを開発する可能性について議論する。 本稿では,グラフ基礎モデル(GFM)の概念を紹介し,その重要な特徴と基礎技術について概説する。
  論文  参考訳（メタデータ） (2023-10-18T09:31:21Z)
• Molecular Joint Representation Learning via Multi-modal Information [11.493011069441188]
  MMSGと呼ばれるSMILESと分子グラフのマルチモーダル情報を用いた分子共同表現学習フレームワークを提案する。 トランスフォーマーのアテンションバイアスとしてボンドレベルグラフ表現を導入することにより,自己注意機構を改善した。 さらに,グラフから集約された情報フローを強化するために,双方向メッセージ通信グラフニューラルネットワーク(BMC GNN)を提案する。
  論文  参考訳（メタデータ） (2022-11-25T11:53:23Z)
• A Molecular Multimodal Foundation Model Associating Molecule Graphs with Natural Language [63.60376252491507]
  本稿では,分子グラフとその意味的関連テキストデータから事前学習した分子マルチモーダル基礎モデルを提案する。 我々のモデルは、生物学、化学、材料、環境、医学などの分野において、AIを動力とする分野に幅広い影響を与えるだろうと考えています。
  論文  参考訳（メタデータ） (2022-09-12T00:56:57Z)
• Biologically-informed deep learning models for cancer: fundamental trends for encoding and interpreting oncology data [0.0]
  本稿では,癌生物学における推論を支援するために用いられる深層学習(DL)モデルに着目した構造化文献解析を行う。 この研究は、既存のモデルが、先行知識、生物学的妥当性、解釈可能性とのより良い対話の必要性にどのように対処するかに焦点を当てている。
  論文  参考訳（メタデータ） (2022-07-02T12:11:35Z)
• DIME: Fine-grained Interpretations of Multimodal Models via Disentangled Local Explanations [119.1953397679783]
  我々は,マルチモーダルモデルの解釈における最先端化に注力する。 提案手法であるDIMEは,マルチモーダルモデルの高精度かつきめ細かな解析を可能にする。
  論文  参考訳（メタデータ） (2022-03-03T20:52:47Z)
• Utilising Graph Machine Learning within Drug Discovery and Development [19.21101749270075]
  グラフ機械学習(gml)は、生体分子構造をモデル化する能力から、製薬およびバイオテクノロジー業界で注目を集めている。 本稿では,創薬・開発におけるトピックの多分野の学術・産業的考察を行う。 重要な用語とモデリングアプローチを導入した後、薬物開発パイプラインを経時的に経時的に移動し、標的の同定、小さな分子や生物の設計、薬物の再利用などを含む作業の特定と要約を行う。
  論文  参考訳（メタデータ） (2020-12-09T10:12:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。