論文の概要: BELXTR: Biomedical Entity Linking via Contextualized Token Retrieval
- arxiv url: http://arxiv.org/abs/2609.25859v1
- Date: Tue, 22 Sep 2026 08:23:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-23 18:04:04.298483
- Title: BELXTR: Biomedical Entity Linking via Contextualized Token Retrieval
- Title(参考訳): BELXTR: コンテキスト化されたトークン検索によるバイオメディカルエンティティリンク
- Abstract要約: マルチベクトルアーキテクチャに基づく新しい埋め込みモデルであるBELXTRを提案する。
以上の結果から,BELXTRはコーパスの半分で現在の状態を改善し,平均5ppリコール@1。
この結果から,マルチベクタモデルが,ルールベースシステムに対する現実的な代替手段として注目されている。
- 参考スコア(独自算出の注目度): 1.2459014910726005
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Biomedical Entity Linking disambiguates mentions to entities in a knowledge base (KB), making it the cornerstone of information extraction pipelines. While embedding-based models are a popular approach for the task, they suffer from a key limitation. They compress mentions (and entities) into a single vector, forcing the model to average away crucial fine-grained differences. We present BELXTR, a novel embedding model based on the multi-vector (a.k.a. late interaction) architecture, which allows to leverage token-level matching information. BELXTR extends the original XTR model to biomedical entity linking by integrating an existing task-specific training objective and exploring active query expansion. Experiments across ten corpora and five KBs show that BELXTR improves upon current state-of-the-art in half of the corpora with an average improvement of 5pp recall@1. The largest gains are reported on the challenging cross-species gene disambiguation subtask, where BELXTR outperforms an LLM-powered retrieve-and-rerank pipeline and closely approaches a specialized rule-based system. Our results highlight multi-vector models as a practical alternative to hard-to-maintain rule-based systems or in scenarios where LLM-based reranking is too costly as in PubMed-scale mining. The code to reproduce our experiments can be found at: https://github.com/sg-wbi/belxtr.
- Abstract(参考訳): バイオメディカルエンティティリンクの曖昧さは知識ベース(KB)のエンティティに言及し、情報抽出パイプラインの基盤となる。
埋め込みベースのモデルはタスクの一般的なアプローチであるが、それらは重要な制限に悩まされている。
彼らは言及(およびエンティティ)を1つのベクトルに圧縮し、モデルに決定的な微妙な違いを平均化させる。
本稿では,トークンレベルのマッチング情報を活用するマルチベクタ(遅延相互作用)アーキテクチャに基づく新しい埋め込みモデルであるBELXTRを提案する。
BELXTRは、既存のタスク固有のトレーニング目標を統合し、アクティブなクエリ拡張を探索することによって、元のXTRモデルをバイオメディカルエンティティリンクに拡張する。
10コーパスと5KBの実験では、BELXTRはコーパスの半分で現在の状態を改善し、平均5ppリコール@1。
BELXTRはLSMによって駆動されるレトリーブ・アンド・レランのパイプラインより優れ、特殊なルールベースのシステムに近づいた。
本研究は, LLMをベースとした大規模鉱業において, マルチベクターモデルは, 厳密なルールベースシステムや, LLMをベースとした再品位が, PubMedの大規模鉱業ほど高価すぎるシナリオにおいて, 現実的な代替手段として注目されている。
実験を再現するコードは、https://github.com/sg-wbi/belxtr.comで確認できます。
関連論文リスト
- A Hybrid Hierarchical 1D-CNN-BiLSTM Framework for Extractive Summarization of Biomedical and Clinical Text [0.39146761527401436]
大規模な言語モデルでは抽象的な要約は極めて流動的であるが、生成された要約は事実を幻覚させることがある。
パイプラインから生成を除去し,要約を抽出文選択としてフレーミングすることで,この問題に対処する。
我々のアーキテクチャはCNNやLSTMのベースラインよりも優れており、Ablationsはより広い畳み込み受容領域が文のスコアリングを改善することを示している。
論文 参考訳(メタデータ) (2026-09-11T19:49:33Z) - Few-Shot Biomedical Relation Extraction with Large Language Models: A Viable Alternative to Supervised Learning? [0.0]
大規模言語モデル(LLM)を用いたプロンプトベース学習によるバイオレファレンスの検討
個別のエンティティペアの関係を予測するペアワイズ分類と,1つのモデルコールで複数の関係を抽出するジョイント生成という2つのタスクの定式化を比較した。
BioREDirectデータセットの実験は、明確な精度-リコールトレードオフを明らかにし、ペアワイズ分類は高いリコールを達成する一方、ジョイント生成はより正確で計算的に効率的である。
論文 参考訳(メタデータ) (2026-06-13T17:37:50Z) - Influence-Guided Symbolic Regression: Scientific Discovery via LLM-Driven Equation Search with Granular Feedback [56.69850045068714]
逐次的2段階プロセスとして方程式発見をフレーム化する方法である textitInfluence-Guided Regression (IGSR) を導入する。
LLM-SRBench, 薬理学的PKPDモデル, 疫学シミュレーション, 実世界のゲノムデータなど, IGSRの有効性を示す。
論文 参考訳(メタデータ) (2026-05-27T23:48:01Z) - What Linear Probes Miss: Multi-View Probing for Weight-Space Learning [8.474818775416637]
MVProbeは、インタラクションを意識したビューで一階のシグナルを合成する、多視点のプロファイリングフレームワークである。
Model Jungleベンチマークでは、MVProbeが最先端のProbeXを一貫して上回っている。
論文 参考訳(メタデータ) (2026-05-22T09:18:01Z) - RelPrism: A Multi-Faceted Pre-training Framework with Self-Generated Tasks for Relational Databases [49.47033473074821]
RDBのための多面的自己教師型学習フレームワークであるRelPrismを提案する。
RDBタスクは、しばしば異なる視点と粒度の多面的な情報を必要とする。
以上の結果から,RelPrismはROC-AUCを4.15%改善し,MAEを10.75%削減した。
論文 参考訳(メタデータ) (2026-05-22T05:19:58Z) - Evaluating Embedding Generalization: How LLMs, LoRA, and SLERP Shape Representational Geometry [0.0]
本研究では,SLERPモデルがタスク固有適応によって導入された超特殊化を緩和する程度について検討する。
モデルの4つのファミリを比較する: ゼロから訓練された非LLMエンコーダ、パラメータ係数法(LoRA)に適応したLLMベースのエンコーダ、LoRAを用いたLLMベースのエンコーダ、ベースウェイトにマージしたモデルスープ、および同じLoRA適応LLMはチェックポイントやステージをまたいだSLERPを用いてマージされる。
論文 参考訳(メタデータ) (2025-11-16T17:28:06Z) - MARAG-R1: Beyond Single Retriever via Reinforcement-Learned Multi-Tool Agentic Retrieval [50.30107119622642]
大規模言語モデル(LLM)は推論と生成において優れているが、本質的には静的事前学習データによって制限されている。
Retrieval-Augmented Generation (RAG)は、LLMを外部知識に基盤を置くことでこの問題に対処する。
MarAG-R1は、LLMが複数の検索機構を動的に調整できる強化学習型マルチツールRAGフレームワークである。
論文 参考訳(メタデータ) (2025-10-31T15:51:39Z) - Learning Grouped Lattice Vector Quantizers for Low-Bit LLM Compression [57.54335545892155]
本稿では,各重みの群に独自の格子コードブックを割り当てるGLVQ(Grouped Lattice Vector Quantization)フレームワークを紹介する。
提案手法は,既存のトレーニング後の量子化ベースラインと比較して,モデルサイズと精度のトレードオフが良好である。
論文 参考訳(メタデータ) (2025-10-23T20:19:48Z) - VANER: Leveraging Large Language Model for Versatile and Adaptive Biomedical Named Entity Recognition [3.4923338594757674]
大型言語モデル(LLM)は、様々な種類のエンティティを抽出できるモデルを訓練するために使用することができる。
本稿では,オープンソースのLLM LLaMA2をバックボーンモデルとして利用し,異なるタイプのエンティティとデータセットを区別するための具体的な命令を設計する。
我々のモデルVANERは、パラメータの小さな分割で訓練され、従来のLLMモデルよりも大幅に優れており、LLMをベースとしたモデルとして初めて、従来の最先端のBioNERシステムの大部分を上回りました。
論文 参考訳(メタデータ) (2024-04-27T09:00:39Z) - ExaRanker-Open: Synthetic Explanation for IR using Open-Source LLMs [60.81649785463651]
ExaRanker-Openを導入し、オープンソース言語モデルを適用して、説明を生成する。
以上の結果から,LLMのサイズが大きくなるにつれて,説明の組み込みが神経ランク付けを継続的に促進することが明らかとなった。
論文 参考訳(メタデータ) (2024-02-09T11:23:14Z) - DORE: Document Ordered Relation Extraction based on Generative Framework [56.537386636819626]
本稿では,既存のDocREモデルの根本原因について検討する。
本稿では,モデルが学習しやすく,決定論的な関係行列から記号列と順序列を生成することを提案する。
4つのデータセットに対する実験結果から,提案手法は生成型DocREモデルの性能を向上させることができることが示された。
論文 参考訳(メタデータ) (2022-10-28T11:18:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。