論文の概要: AKI-BERT: a Pre-trained Clinical Language Model for Early Prediction of
Acute Kidney Injury
- arxiv url: http://arxiv.org/abs/2205.03695v1
- Date: Sat, 7 May 2022 18:04:31 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-15 07:29:24.055374
- Title: AKI-BERT: a Pre-trained Clinical Language Model for Early Prediction of
Acute Kidney Injury
- Title(参考訳): AKI-BERT : 急性腎損傷早期予測のための事前訓練型臨床言語モデル
- Authors: Chengsheng Mao, Liang Yao and Yuan Luo
- Abstract要約: 急性腎障害 (AKI) は、突然の腎不全または腎障害を数時間から数日で発症する一般的な臨床症状である。
AKIに関連する臨床情報は、ほとんど構造化されていない臨床ノートに記録されている。
本稿では,AKI の早期予測のために臨床ノートのマイニングに使用可能な BERT (AKI-BERT) に基づく,AKI ドメイン固有の事前訓練言語モデルを提案する。
- 参考スコア(独自算出の注目度): 16.17079730998607
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Acute kidney injury (AKI) is a common clinical syndrome characterized by a
sudden episode of kidney failure or kidney damage within a few hours or a few
days. Accurate early prediction of AKI for patients in ICU who are more likely
than others to have AKI can enable timely interventions, and reduce the
complications of AKI. Much of the clinical information relevant to AKI is
captured in clinical notes that are largely unstructured text and requires
advanced natural language processing (NLP) for useful information extraction.
On the other hand, pre-trained contextual language models such as Bidirectional
Encoder Representations from Transformers (BERT) have improved performances for
many NLP tasks in general domain recently. However, few have explored BERT on
disease-specific medical domain tasks such as AKI early prediction. In this
paper, we try to apply BERT to specific diseases and present an AKI
domain-specific pre-trained language model based on BERT (AKI-BERT) that could
be used to mine the clinical notes for early prediction of AKI. AKI-BERT is a
BERT model pre-trained on the clinical notes of patients having risks for AKI.
Our experiments on Medical Information Mart for Intensive Care III (MIMIC-III)
dataset demonstrate that AKI-BERT can yield performance improvements for early
AKI prediction, thus expanding the utility of the BERT model from general
clinical domain to disease-specific domain.
- Abstract(参考訳): 急性腎障害 (aki) は、腎不全や腎障害が数時間から数日で突然発生することが特徴の一般的な臨床症状である。
ICU患者のAKIの正確な早期予測は、他者よりもAKIの介入が可能であり、AKIの合併症を軽減できる。
AKIに関連する臨床情報は、ほとんど構造化されていないテキストであり、有用な情報抽出に高度な自然言語処理(NLP)を必要とする臨床ノートに記録されている。
一方、BERT(Bidirectional Encoder Representations from Transformers)のような事前学習された文脈言語モデルは、最近、多くのNLPタスクの性能を改善している。
しかし、AKI早期予測のような疾患特異的医療領域のタスクについてBERTを探索する人は少ない。
本稿では、特定疾患にBERTを適用し、AKIの早期予測のために臨床ノートのマイニングに使用できるBERT(AKI-BERT)に基づくAKIドメイン固有の事前訓練言語モデルを提案する。
AKI-BERT(AKI-BERT)は、AKIのリスクを持つ患者の臨床ノートに事前訓練されたBERTモデルである。
集中治療のための医療情報マート(MIMIC-III)データセットを用いた実験により,AKI-BERTは早期AKI予測の性能向上を図り,BERTモデルの有用性を一般臨床領域から疾患特異的領域に拡張した。
関連論文リスト
- Continuous Predictive Modeling of Clinical Notes and ICD Codes in Patient Health Records [9.427150895481832]
本研究は, 患者全員の滞在時間におけるICDコード予測の可能性について検討した。
早期に診断と治療を予測する手法の開発は、予測医学の機会を開く可能性がある。
論文 参考訳(メタデータ) (2024-05-19T17:23:04Z) - Automatic diagnosis of knee osteoarthritis severity using Swin
transformer [55.01037422579516]
変形性膝関節症 (KOA) は膝関節の慢性的な痛みと硬直を引き起こす疾患である。
我々は,Swin Transformer を用いて KOA の重大度を予測する自動手法を提案する。
論文 参考訳(メタデータ) (2023-07-10T09:49:30Z) - Informing clinical assessment by contextualizing post-hoc explanations
of risk prediction models in type-2 diabetes [50.8044927215346]
本研究は, 合併症リスク予測のシナリオを考察し, 患者の臨床状態に関する文脈に焦点を当てる。
我々は、リスク予測モデル推論に関する文脈を提示し、その受容性を評価するために、最先端のLLMをいくつか採用する。
本論文は,実世界における臨床症例における文脈説明の有効性と有用性を明らかにする最初のエンドツーエンド分析の1つである。
論文 参考訳(メタデータ) (2023-02-11T18:07:11Z) - Can Current Explainability Help Provide References in Clinical Notes to
Support Humans Annotate Medical Codes? [53.45585591262433]
本稿では、注意スコアに基づくxRAC-ATTNと、モデルに依存しない知識蒸留に基づくxRAC-KDの2つのアプローチについて説明する。
我々は,xRAC-ATTNが強調した支持エビデンステキストが,xRAC-KDよりも高品質であるのに対して,xRAC-KDは本番環境において潜在的に有利であることを示した。
論文 参考訳(メタデータ) (2022-10-28T04:06:07Z) - DR.BENCH: Diagnostic Reasoning Benchmark for Clinical Natural Language
Processing [5.022185333260402]
診断推論ベンチマーク(DR.BENCH)は臨床診断推論能力を持つcNLPモデルの開発と評価のための新しいベンチマークである。
DR.BENCHは、訓練済みの言語モデルを評価するための自然言語生成フレームワークとして設計された最初の臨床スイートである。
論文 参考訳(メタデータ) (2022-09-29T16:05:53Z) - Using machine learning techniques to predict hospital admission at the
emergency department [0.0]
救急部門(ED)における最も重要な課題の一つは、病院入院の恩恵を受ける患者を迅速に特定することである。
機械学習(ML)技術は、医療における診断支援として有望であることを示している。
本研究は,病院入院の予測における業績について,以下の特徴について考察した。
論文 参考訳(メタデータ) (2021-06-23T16:37:37Z) - Clinical Outcome Prediction from Admission Notes using Self-Supervised
Knowledge Integration [55.88616573143478]
臨床テキストからのアウトカム予測は、医師が潜在的なリスクを見落としないようにする。
退院時の診断,手術手順,院内死亡率,長期予測は4つの一般的な結果予測対象である。
複数の公開資料から得られた患者結果に関する知識を統合するために,臨床結果の事前学習を提案する。
論文 参考訳(メタデータ) (2021-02-08T10:26:44Z) - An Interpretable End-to-end Fine-tuning Approach for Long Clinical Text [72.62848911347466]
EHRにおける非構造化臨床テキストには、意思決定支援、トライアルマッチング、振り返り研究を含むアプリケーションにとって重要な情報が含まれている。
最近の研究は、これらのモデルが他のNLPドメインにおける最先端の性能を考慮し、BERTベースのモデルを臨床情報抽出およびテキスト分類に応用している。
本稿では,SnipBERTという新しい微調整手法を提案する。SnipBERTは全音符を使用する代わりに,重要なスニペットを識別し,階層的に切り刻まれたBERTベースのモデルに供給する。
論文 参考訳(メタデータ) (2020-11-12T17:14:32Z) - Predicting Clinical Diagnosis from Patients Electronic Health Records
Using BERT-based Neural Networks [62.9447303059342]
医療コミュニティにおけるこの問題の重要性を示す。
本稿では,変換器 (BERT) モデルによる2方向表現の分類順序の変更について述べる。
約400万人のユニークな患者訪問からなる、大規模なロシアのEHRデータセットを使用します。
論文 参考訳(メタデータ) (2020-07-15T09:22:55Z) - Precisely Predicting Acute Kidney Injury with Convolutional Neural
Network Based on Electronic Health Record Data [2.6127142674140234]
急性腎臓損傷(AKI)は、ICU(Intensive Care Unit)患者、特に成人患者でよく起こる。
我々の研究はAKI予測精度を大幅に改善し、最高のAUROCはMIMIC-IIIデータセットで0.988、eICUデータセットで0.936となる。
論文 参考訳(メタデータ) (2020-05-27T05:39:42Z) - Natural Language Processing with Deep Learning for Medical Adverse Event
Detection from Free-Text Medical Narratives: A Case Study of Detecting Total
Hip Replacement Dislocation [0.0]
人工股関節置換術後の股関節脱臼AEの検出を効率的かつ正確に行うための深層学習ベースNLP(DL-NLP)モデルを提案する。
提案したモデルをML-NLP(ML-NLP)モデルでベンチマークした。
すべてのDL-NLPモデルはML-NLPモデルをすべて上回り、畳み込みニューラルネットワーク(CNN)モデルは全体的なパフォーマンスを最高のものにした。
論文 参考訳(メタデータ) (2020-04-17T16:25:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。