Fugu-MT 論文翻訳(概要): Improving Biomedical Entity Linking with Retrieval-enhanced Learning

論文の概要: Improving Biomedical Entity Linking with Retrieval-enhanced Learning

arxiv url: http://arxiv.org/abs/2312.09806v1
Date: Fri, 15 Dec 2023 14:04:23 GMT
ステータス: 処理完了
システム内更新日: 2023-12-18 15:26:56.821352
Title: Improving Biomedical Entity Linking with Retrieval-enhanced Learning
Title（参考訳）: 検索学習によるバイオメディカルエンティティリンクの改善
Authors: Zhenxi Lin, Ziheng Zhang, Xian Wu, Yefeng Zheng
Abstract要約: $k$NN-BioELは、トレーニングコーパス全体から同様のインスタンスを予測のヒントとして参照する機能を備えたBioELモデルを提供する。 k$NN-BioELは、いくつかのデータセットで最先端のベースラインを上回ります。
参考スコア（独自算出の注目度）: 53.24726622142558
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Biomedical entity linking (BioEL) has achieved remarkable progress with the help of pre-trained language models. However, existing BioEL methods usually struggle to handle rare and difficult entities due to long-tailed distribution. To address this limitation, we introduce a new scheme $k$NN-BioEL, which provides a BioEL model with the ability to reference similar instances from the entire training corpus as clues for prediction, thus improving the generalization capabilities. Moreover, we design a contrastive learning objective with dynamic hard negative sampling (DHNS) that improves the quality of the retrieved neighbors during inference. Extensive experimental results show that $k$NN-BioEL outperforms state-of-the-art baselines on several datasets.
Abstract（参考訳）: biomedical entity links (bioel) は、事前学習された言語モデルの助けを借りて著しく進歩した。しかしながら、既存のBioEL法は通常、長い尾の分布のため、稀で困難なエンティティを扱うのに苦労する。この制限に対処するため,BioELモデルをトレーニングコーパス全体の類似したインスタンスを予測の手がかりとして参照し,一般化能力を向上する,新たなスキームである$k$NN-BioELを導入する。さらに,動的ハードネガティブサンプリング(DHNS)を用いたコントラスト学習目標を設計し,抽出した隣人の品質を向上させる。広範な実験の結果、$k$nn-bioelはいくつかのデータセットで最先端のベースラインよりも優れていた。

関連論文リスト

Histo-Genomic Knowledge Distillation For Cancer Prognosis From Histopathology Whole Slide Images [7.5123289730388825]
ゲノムインフォームドハイパーアテンションネットワーク(G-HANet)は、トレーニング中にヒストリーゲノム知識を効果的に蒸留することができる。ネットワークは、クロスモーダル・アソシエーション・ブランチ(CAB)とハイパーアテンション・サバイバル・ブランチ(HSB)から構成される。
論文参考訳（メタデータ） (2024-03-15T06:20:09Z)
Diversifying Knowledge Enhancement of Biomedical Language Models using Adapter Modules and Knowledge Graphs [54.223394825528665]
我々は、軽量なアダプターモジュールを用いて、構造化された生体医学的知識を事前訓練された言語モデルに注入するアプローチを開発した。バイオメディカル知識システムUMLSと新しいバイオケミカルOntoChemの2つの大きなKGと、PubMedBERTとBioLinkBERTの2つの著名なバイオメディカルPLMを使用している。計算能力の要件を低く保ちながら,本手法がいくつかの事例において性能改善につながることを示す。
論文参考訳（メタデータ） (2023-12-21T14:26:57Z)
Embracing assay heterogeneity with neural processes for markedly improved bioactivity predictions [0.276240219662896]
リガンドの生物活性を予測することは、コンピュータ支援薬物発見において最も困難かつ最も重要な課題の1つである。長年のデータ収集とキュレーションの努力にもかかわらず、生物活性データは希少で不均一である。異種アッセイ間の情報シナジーを利用した階層型メタラーニングフレームワークを提案する。
論文参考訳（メタデータ） (2023-08-17T16:26:58Z)
Incorporating Prior Knowledge in Deep Learning Models via Pathway Activity Autoencoders [5.950889585409067]
本稿では,癌におけるRNA-seqデータのための,事前知識に基づく新しいディープオートエンコーディングフレームワークPAAEを提案する。機能セットが小さいにもかかわらず,PAAEモデルとPAAEモデルでは,一般的な手法と比較して,アウト・オブ・セットの再現性が向上していることを示す。
論文参考訳（メタデータ） (2023-06-09T11:12:55Z)
No Pairs Left Behind: Improving Metric Learning with Regularized Triplet Objective [19.32706951298244]
サンプルマイニングやオーバーヘッドコストを伴わずにメートル法学習を改善する三重項目的関数の新たな定式化を提案する。提案手法は,従来の3重項対象の定式化によって改善されていることを示す。
論文参考訳（メタデータ） (2022-10-18T00:56:01Z)
Fine-Tuning Large Neural Language Models for Biomedical Natural Language Processing [55.52858954615655]
バイオメディカルNLPの微調整安定性に関する系統的研究を行った。我々は、特に低リソース領域において、微調整性能は事前トレーニング設定に敏感であることを示した。これらの技術は低リソースバイオメディカルNLPアプリケーションの微調整性能を大幅に向上させることができることを示す。
論文参考訳（メタデータ） (2021-12-15T04:20:35Z)
Bootstrapping Your Own Positive Sample: Contrastive Learning With Electronic Health Record Data [62.29031007761901]
本稿では,新しいコントラスト型正規化臨床分類モデルを提案する。 EHRデータに特化した2つのユニークなポジティブサンプリング戦略を紹介します。私たちのフレームワークは、現実世界のCOVID-19 EHRデータの死亡リスクを予測するために、競争の激しい実験結果をもたらします。
論文参考訳（メタデータ） (2021-04-07T06:02:04Z)
Evolution Is All You Need: Phylogenetic Augmentation for Contrastive Learning [1.7188280334580197]
生物配列埋め込みの自己監視型表現学習は、下流タスクにおける計算リソースの制約を緩和する。進化的系統的増補を用いた対比学習が表現学習の目的として利用できることを示す。
論文参考訳（メタデータ） (2020-12-25T01:35:06Z)
Towards an Automatic Analysis of CHO-K1 Suspension Growth in Microfluidic Single-cell Cultivation [63.94623495501023]
我々は、人間の力で抽象化されたニューラルネットワークをデータレベルで注入できる新しい機械学習アーキテクチャを提案する。具体的には、自然データと合成データに基づいて生成モデルを同時に訓練し、細胞数などの対象変数を確実に推定できる共有表現を学習する。
論文参考訳（メタデータ） (2020-10-20T08:36:51Z)
Generative Data Augmentation for Commonsense Reasoning [75.26876609249197]
G-DAUGCは、低リソース環境でより正確で堅牢な学習を実現することを目的とした、新しい生成データ拡張手法である。 G-DAUGCは、バックトランスレーションに基づく既存のデータ拡張手法を一貫して上回っている。分析の結果,G-DAUGCは多種多様な流線型学習例を産出し,その選択と学習アプローチが性能向上に重要であることが示された。
論文参考訳（メタデータ） (2020-04-24T06:12:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。