論文の概要: Fine-Tuning Models for Biomedical Relation Extraction

• arxiv url: http://arxiv.org/abs/2609.20169v1
• Date: Thu, 23 Jul 2026 06:21:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.623373
• Title: Fine-Tuning Models for Biomedical Relation Extraction
• Title（参考訳）: バイオメディカルリレーション抽出のための微調整モデル
• Abstract要約: バイオメディカルテキストから関係を自動的に抽出するための事前学習モデル(PTM)を提案する。 SNPPhenA corpus の評価では、細調整の小さな BERT ベースのモデル、特に DeBERTa は高い性能を示す。
• 参考スコア（独自算出の注目度）: 3.09837566739141
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Next-Generation Sequencing has revolutionized the study of genetic mutations, enabling large-scale investigations into their roles in disease development. However, extracting meaningful insights from the vast amount of biomedical literature remains a complex challenge that cannot be addressed manually. In this paper, we present pre-trained models (PTMs) for the automatic extraction of relations from biomedical text, specifically targeting the variant-phenotype domain. Our evaluation on the SNPPhenA corpus demonstrates that fine-tuning small BERT-based models, particularly DeBERTa, yields strong performance, approaching the current state-of-the-art (SOTA). Additionally, our results indicate that carefully fine-tuning Google's Gemini Pro 1.0 outperforms the existing SOTA for both sentence-level tasks (where the model processes only the target sentence) and abstract-level tasks (where the model processes the entire abstract).
• Abstract（参考訳）: 次世代シークエンシングは遺伝子変異の研究に革命をもたらし、疾患発生におけるその役割について大規模な研究を可能にした。 しかし、大量の生物医学文献から有意義な洞察を抽出することは、手動では対処できない複雑な課題である。 本稿では,生物医学的テキストから関係を自動的に抽出するための事前学習モデル(PTM)を提案する。 SNPPhenA corpus の評価では、細調整の小さな BERT ベースのモデル、特に DeBERTa が、現在の最先端モデル (SOTA) に近づき、高い性能が得られることを示した。 さらに,GoogleのGemini Pro 1.0を慎重に調整することで,文レベルタスク(モデルが対象文のみを処理する場合)と抽象レベルタスク(モデルが抽象文全体を処理する場合)の両方において,既存のSOTAよりも優れています。

関連論文リスト

• GENERator: A Long-Context Generative Genomic Foundation Model [66.46537421135996]
  本稿では,98k塩基対 (bp) と1.2Bパラメータからなるゲノム基盤モデル GENERator を提案する。 DNAの386Bbpからなる拡張データセットに基づいて、GENERatorは、確立されたベンチマークと新しく提案されたベンチマークの両方で最先端のパフォーマンスを実証する。 また、特に特定のアクティビティプロファイルを持つエンハンサーシーケンスを即応的に生成することで、シーケンス最適化において大きな可能性を秘めている。
  論文  参考訳（メタデータ） (2025-02-11T05:39:49Z)
• NeuroSym-BioCAT: Leveraging Neuro-Symbolic Methods for Biomedical Scholarly Document Categorization and Question Answering [0.14999444543328289]
  本稿では,最適化されたトピックモデリングフレームワークであるOVB-LDAとBI-POP CMA-ES最適化技術を統合し,学術文書の抽象分類を強化した新しい手法を提案する。 我々は、ドメイン固有データに基づいて微調整された蒸留MiniLMモデルを用いて、高精度な回答抽出を行う。
  論文  参考訳（メタデータ） (2024-10-29T14:45:12Z)
• MS-MANO: Enabling Hand Pose Tracking with Biomechanical Constraints [50.61346764110482]
  筋骨格系と学習可能なパラメトリックハンドモデルMANOを統合し,MS-MANOを作成する。 このモデルは骨格系を駆動する筋肉と腱の力学をエミュレートし、結果として生じるトルク軌跡に生理学的に現実的な制約を与える。 また,マルチ層パーセプトロンネットワークによる初期推定ポーズを改良する,ループ式ポーズ改善フレームワークBioPRを提案する。
  論文  参考訳（メタデータ） (2024-04-16T02:18:18Z)
• Improving Biomedical Entity Linking with Retrieval-enhanced Learning [53.24726622142558]
  $k$NN-BioELは、トレーニングコーパス全体から同様のインスタンスを予測のヒントとして参照する機能を備えたBioELモデルを提供する。 k$NN-BioELは、いくつかのデータセットで最先端のベースラインを上回ります。
  論文  参考訳（メタデータ） (2023-12-15T14:04:23Z)
• Relation Extraction in underexplored biomedical domains: A diversity-optimised sampling and synthetic data generation approach [0.0]
  ラベル付きデータの空間性は関係抽出モデルの開発に障害となる。 我々は、最初のキュレートされた評価データセットを作成し、LOTUSデータベースから文献項目を抽出し、トレーニングセットを構築する。 我々は,オープンな大規模言語モデルを用いた生成タスクと数ショット学習として,標準微調整の性能を評価する。
  論文  参考訳（メタデータ） (2023-11-10T19:36:00Z)
• Sectioning of Biomedical Abstracts: A Sequence of Sequence Classification Task [0.0]
  本研究では,SSN-4モデルと呼ぶ最先端のディープラーニングモデルについて検討する。 我々は、このモデルがRandomized Controlled Trials(RCT)データセット以外の新しいデータセットにどのように一般化するかを検討する。 その結果, SSN-4 モデルでは RCT データセットをはるかに超えた一般化は得られなかった。
  論文  参考訳（メタデータ） (2022-01-18T16:41:13Z)
• Fine-Tuning Large Neural Language Models for Biomedical Natural Language Processing [55.52858954615655]
  バイオメディカルNLPの微調整安定性に関する系統的研究を行った。 我々は、特に低リソース領域において、微調整性能は事前トレーニング設定に敏感であることを示した。 これらの技術は低リソースバイオメディカルNLPアプリケーションの微調整性能を大幅に向上させることができることを示す。
  論文  参考訳（メタデータ） (2021-12-15T04:20:35Z)
• Investigation of BERT Model on Biomedical Relation Extraction Based on Revised Fine-tuning Mechanism [2.8881198461098894]
  BERTモデルの微調整過程における層全体の利用法について検討する。 さらに解析により,BERTモデルの最後の層から関係性に関する重要な知識を学習できることが示唆された。
  論文  参考訳（メタデータ） (2020-11-01T01:47:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。