論文の概要: SNO-PI: Label-Scarce SNOMED CT Entity Linking with Pre-trained Encoders and Curated Terminology Knowledge
- arxiv url: http://arxiv.org/abs/2610.26425v1
- Date: Mon, 19 Oct 2026 13:53:29 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-10-20 22:35:21.480578
- Title: SNO-PI: Label-Scarce SNOMED CT Entity Linking with Pre-trained Encoders and Curated Terminology Knowledge
- Title(参考訳): SNO-PI:ラベルスカースSNOMED CT Entitying with Pre-trained Encoder and Curated Terminology Knowledge
- Abstract要約: SNO-PIは0.5387のマクロキャラクタIoUを達成し、オーガナイザの参照システム(0.4582)を18%向上させる。
SNOMED CTに臨床所見をリンクすることは、非常に大きなラベル空間におけるゼロショット問題である。
キュレートされた知識は、トレーニングで見たことのない概念のほとんどに役立ちます。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: We present SNO-PI, the top-performing submission on SNOMED International's SNOMED CT Entity Linking Benchmark as of 18 October 2026. SNO-PI achieves a macro character IoU of 0.5387, outperforming the organisers' reference system (0.4582; based on the 2024 challenge winner's approach) by 18% relative. Linking clinical mentions to SNOMED CT is a zero- and few-shot problem over a very large label space: the 272 annotated MIMIC-IV discharge summaries cover only 6,595 of the roughly 219,000 eligible concepts, and a third of those occur only once. This motivates a design built on transfer from pre-trained models and human-curated knowledge. SNO-PI combines high-recall span proposal, SapBERT candidate retrieval and listwise ensemble reranking with three BERT-family encoders, each further pre-trained with masked language modelling on unlabelled MIMIC-IV notes and then on SNOMED CT synonyms and hierarchy before task fine-tuning. We find that curated knowledge helps most on concepts never seen in training, yet these concepts remain the main source of error.
- Abstract(参考訳): 2026年10月18日現在、SNOMED InternationalのSNOMED CT Entity Linking Benchmarkで最高性能のSNO-PIを提示する。
SNO-PIは0.5387のマクロキャラクタIoUを達成し、オーガナイザの参照システム(0.4582、2024年の挑戦者のアプローチに基づく)を18%向上させる。
SNOMED CTに臨床文献をリンクすることは、非常に大きなラベル空間上のゼロショット問題であり、272個の注釈付きMIMIC-IV放電サマリーは、約219,000の概念のうち6,595個しかカバーせず、そのうち3分の1は1回しか発生しない。
これは、事前訓練されたモデルと人為的な知識から移行した設計を動機付けている。
SNO-PIは、ハイリコールスパンの提案、SapBERT候補検索、リストワイズアンサンブルを3つのBERTファミリーエンコーダと組み合わせ、それぞれが未ラベルMIC-IVノートでマスク付き言語をモデル化し、タスクの微調整の前にSNOMED CTシノニムと階層化を行う。
キュレートされた知識は、トレーニングで見たことのない概念のほとんどに役立ちます。
関連論文リスト
- Relational Attention for Data-Efficient Language Modeling [1.197803121152197]
本稿では,BabyLM 2026チャレンジに応募するシステムであるBabyLMを紹介する。
通常の自己注意変換をデュアルアテンション変換器に置き換える。
私たちのベストモデルは、執筆時点でのリーダーボードのサブセットタスクで、全体55の6位、55の3位にランク付けしています。
論文 参考訳(メタデータ) (2026-09-17T15:05:19Z) - SNOMED CT Concept Recommendation from Masked Clinical Context [0.0]
このデータセットには、272の放電サマリーに75,491のアノテーションが含まれており、トレーニングには204のノート、履歴テストには68のノートが使用されている。
個別のノート・コンセプション・ペアごとに、対象の言及は局所的な臨床状況から隠蔽され、システムはトレーニング中に観察されるSNOMED CT概念をランク付けする。
Sparse TF-IDFは14.81%のRecall@1、33.43%のRecall@10、0.2114のMRR、0.2297のnDCG@10を達成している。
論文 参考訳(メタデータ) (2026-09-15T21:25:06Z) - Post-Training Language Models for Gold-Medal Performance in Coding Competitions [70.8192632995446]
本稿では,大規模問題キュレーション,合成推論トレース,教師付き微調整,強化学習を組み合わせたエンドツーエンドの特殊化パイプラインを提案する。
SFTとRLでNemotron-3-Nano-CCを,SFT単独でNemotron-3-Ultra-CC(550B-A55B)を訓練した。
IOI 2025では、Nano-CCはポストトレーニング後の130点から291点に改善され、GenCorrectでは468点に改善され、Ultra-CCは502点に達した。
論文 参考訳(メタデータ) (2026-09-02T17:33:37Z) - First Place Solution of 2023 Global Artificial Intelligence Technology Innovation Competition Track 1 [9.915564470970049]
我々は,グローバル人工知能技術革新コンペティショントラック1のチャンピオンソリューションを提示する。
我々はテキスト生成タスクのベースモデルとしてCPT-BASEを選択する。
驚いたことに、我々のシングルモデルはリーダーボードAで2.321点を獲得し、複数のモデル融合スコアはAとBのリーダーボードで2.362点と2.320点である。
論文 参考訳(メタデータ) (2024-07-01T13:22:22Z) - Code-Switching with Word Senses for Pretraining in Neural Machine
Translation [107.23743153715799]
ニューラルネットワーク翻訳のための単語センス事前学習(WSP-NMT)について紹介する。
WSP-NMTは、知識ベースからの単語感覚情報を活用した多言語NMTモデルの事前学習のためのエンドツーエンドアプローチである。
実験の結果,全体の翻訳品質が大幅に向上した。
論文 参考訳(メタデータ) (2023-10-21T16:13:01Z) - Incorporating Class-based Language Model for Named Entity Recognition in Factorized Neural Transducer [50.572974726351504]
クラスベースのLMをFNTに組み込んだ新しいE2EモデルであるC-FNTを提案する。
C-FNTでは、名前付きエンティティのLMスコアは、その表面形式の代わりに名前クラスに関連付けることができる。
実験の結果,提案したC-FNTは,単語認識の性能を損なうことなく,名前付きエンティティの誤りを著しく低減することがわかった。
論文 参考訳(メタデータ) (2023-09-14T12:14:49Z) - MER 2023: Multi-label Learning, Modality Robustness, and Semi-Supervised
Learning [90.17500229142755]
第1回マルチモーダル感情認識チャレンジ(MER 2023)は、ACMマルチメディアで成功した。
本稿では、この課題の背景にある動機を紹介し、ベンチマークデータセットを説明し、参加者に関する統計情報を提供する。
この高品質なデータセットは、特に中国の研究コミュニティにとって、マルチモーダルな感情認識の新しいベンチマークになり得ると考えています。
論文 参考訳(メタデータ) (2023-04-18T13:23:42Z) - COMET-ATOMIC 2020: On Symbolic and Neural Commonsense Knowledge Graphs [82.8453695903687]
我々は,手作業で構築したコモンセンス知識グラフ(CSKG)が,NLPエージェントが遭遇するすべての状況に適用可能な範囲を達成できないことを示す。
我々は、事前訓練された言語モデルでは利用できない知識を含む汎用コモンセンス知識の新しいCSKGであるATOMIC 2020を提案する。
我々は,他のCSKGと比較してその特性を評価し,コモンセンス知識資源の大規模一対研究を行った。
論文 参考訳(メタデータ) (2020-10-12T18:27:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。