論文の概要: BERTSurv: BERT-Based Survival Models for Predicting Outcomes of Trauma
Patients
- arxiv url: http://arxiv.org/abs/2103.10928v1
- Date: Fri, 19 Mar 2021 17:49:00 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-22 14:43:46.338998
- Title: BERTSurv: BERT-Based Survival Models for Predicting Outcomes of Trauma
Patients
- Title(参考訳): bertsurv:外傷患者の予後予測のためのbert-based survival model
- Authors: Yun Zhao, Qinghang Hong, Xinlu Zhang, Yu Deng, Yuqing Wang, and Linda
Petzold
- Abstract要約: 非構造化臨床ノートの言語表現モデルとしてBidirectional Representations from Transformers (BERT)を応用した深層学習サバイバルフレームワークBERTSurvを紹介します。
bce(binary cross-entropy)損失により、bertsurvはバイナリアウトとして死亡率を予測することができる(モーティリティー予測)。
部分log-likelihood (pll) 損失により、bertsurvは死亡確率を時間対事象の結果として予測する(生存分析)。
- 参考スコア(独自算出の注目度): 10.028470758068636
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Survival analysis is a technique to predict the times of specific outcomes,
and is widely used in predicting the outcomes for intensive care unit (ICU)
trauma patients. Recently, deep learning models have drawn increasing attention
in healthcare. However, there is a lack of deep learning methods that can model
the relationship between measurements, clinical notes and mortality outcomes.
In this paper we introduce BERTSurv, a deep learning survival framework which
applies Bidirectional Encoder Representations from Transformers (BERT) as a
language representation model on unstructured clinical notes, for mortality
prediction and survival analysis. We also incorporate clinical measurements in
BERTSurv. With binary cross-entropy (BCE) loss, BERTSurv can predict mortality
as a binary outcome (mortality prediction). With partial log-likelihood (PLL)
loss, BERTSurv predicts the probability of mortality as a time-to-event outcome
(survival analysis). We apply BERTSurv on Medical Information Mart for
Intensive Care III (MIMIC III) trauma patient data. For mortality prediction,
BERTSurv obtained an area under the curve of receiver operating characteristic
curve (AUC-ROC) of 0.86, which is an improvement of 3.6% over baseline of
multilayer perceptron (MLP) without notes. For survival analysis, BERTSurv
achieved a concordance index (C-index) of 0.7. In addition, visualizations of
BERT's attention heads help to extract patterns in clinical notes and improve
model interpretability by showing how the model assigns weights to different
inputs.
- Abstract(参考訳): 生存分析は特定の結果の時間を予測する技術であり、集中治療単位(ICU)外傷患者の結果を予測するために広く用いられている。
近年、深層学習モデルが医療に注目を集めている。
しかし、測定値、臨床ノート、死亡率の関係をモデル化できる深層学習手法が欠如している。
本稿では,非構造化臨床ノートを用いた言語表現モデルとしてトランスフォーマ(bert)からの双方向エンコーダ表現を適用し,死亡率予測と生存率解析を行う深層学習サバイバルフレームワークbertsurvを提案する。
bertsurvの臨床測定も取り入れています。
二進的クロスエントロピー(BCE)損失では、BERTSurvは二進的な結果(死の予測)として死亡を予測できる。
部分log-likelihood (pll) が失われると、bertsurvは死亡確率を時間対事象の結果として予測する(生存分析)。
重度ケアIII(MIMIC III)外傷患者データについて,BERTSurvを医療情報マートに適用した。
死亡予測のため、BERTSurvは0.86の受信動作特性曲線(AUC-ROC)の曲線の下での領域を得たが、これはメモ無しで多層パーセプトロン(MLP)の基線よりも3.6%向上した。
生存分析では、BERTSurvは0.7のコンコーダンス指標(C-index)を達成した。
さらに、BERTの注意ヘッドの可視化は、臨床ノートのパターンを抽出し、モデルがどのように異なる入力に重みを割り当てるかを示すことによって、モデルの解釈可能性を向上させるのに役立つ。
関連論文リスト
- SepsisLab: Early Sepsis Prediction with Uncertainty Quantification and Active Sensing [67.8991481023825]
セプシスは米国での院内死亡の主な原因である。
既存の予測モデルは通常、情報不足の少ない高品質なデータで訓練される。
限られた観察により信頼性の低い高リスク患者に対して,ロバストな能動センシングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-07-24T04:47:36Z) - A Knowledge Distillation Approach for Sepsis Outcome Prediction from
Multivariate Clinical Time Series [2.621671379723151]
我々は、制約付き変分推論による知識蒸留を用いて、強力な「教師」ニューラルネットワークモデルの知識を蒸留する。
我々は「学生」潜在変数モデルを訓練し、解釈可能な隠れ状態表現を学習し、セシス結果予測のための高い予測性能を達成する。
論文 参考訳(メタデータ) (2023-11-16T05:06:51Z) - MedDiffusion: Boosting Health Risk Prediction via Diffusion-based Data
Augmentation [58.93221876843639]
本稿では,MedDiffusion という,エンドツーエンドの拡散に基づくリスク予測モデルを提案する。
トレーニング中に合成患者データを作成し、サンプルスペースを拡大することで、リスク予測性能を向上させる。
ステップワイズ・アテンション・メカニズムを用いて患者の来訪者間の隠れた関係を識別し、高品質なデータを生成する上で最も重要な情報をモデルが自動的に保持することを可能にする。
論文 参考訳(メタデータ) (2023-10-04T01:36:30Z) - Contrastive Learning-based Imputation-Prediction Networks for
In-hospital Mortality Risk Modeling using EHRs [9.578930989075035]
本稿では, EHRデータを用いた病院内死亡リスク予測のための, 対照的な学習ベース予測ネットワークを提案する。
本研究は, グラフ解析に基づく患者層形成モデルを用いて, 似通った患者をグループ化する手法を提案する。
2つの実世界のEHRデータセットの実験により、我々のアプローチは、計算タスクと予測タスクの両方において最先端のアプローチよりも優れていることが示された。
論文 参考訳(メタデータ) (2023-08-19T03:24:34Z) - Learning to diagnose cirrhosis from radiological and histological labels
with joint self and weakly-supervised pretraining strategies [62.840338941861134]
そこで本稿では, 放射線学者が注釈付けした大規模データセットからの転写学習を活用して, 小さい付加データセットで利用できる組織学的スコアを予測することを提案する。
我々は,肝硬変の予測を改善するために,異なる事前訓練法,すなわち弱い指導法と自己指導法を比較した。
この方法は、METAVIRスコアのベースライン分類を上回り、AUCが0.84、バランスの取れた精度が0.75に達する。
論文 参考訳(メタデータ) (2023-02-16T17:06:23Z) - Clinical Deterioration Prediction in Brazilian Hospitals Based on
Artificial Neural Networks and Tree Decision Models [56.93322937189087]
超強化ニューラルネットワーク(XBNet)は臨床劣化(CD)を予測するために用いられる
XGBoostモデルはブラジルの病院のデータからCDを予測する最良の結果を得た。
論文 参考訳(メタデータ) (2022-12-17T23:29:14Z) - Using Deep Learning-based Features Extracted from CT scans to Predict
Outcomes in COVID-19 Patients [0.4841303207359715]
Computed Tomography(CT)スキャンとElectronic Health Record(EHR)データから抽出したマルチモーダル特徴を組み合わせた新しい手法を提案する。
深層学習モデルを用いてCTスキャンから定量的特徴を抽出する。
これらの特徴と、EHRデータベースから直接読み込まれるものを組み合わせることで、マシンラーニングモデルに入力され、最終的には患者の結果の確率が出力される。
論文 参考訳(メタデータ) (2022-05-10T16:22:16Z) - Leveraging Deep Representations of Radiology Reports in Survival
Analysis for Predicting Heart Failure Patient Mortality [10.075717786962896]
臨床テキストのBERTベースの隠れ層表現を用いて患者の生存結果を予測する新しい方法を提案する。
隠れたレイヤは,事前定義された機能よりも予測精度が著しく向上し,c-indexおよび時間依存型aucの平均を5.7%上回った。
論文 参考訳(メタデータ) (2021-05-03T16:54:52Z) - Clinical Outcome Prediction from Admission Notes using Self-Supervised
Knowledge Integration [55.88616573143478]
臨床テキストからのアウトカム予測は、医師が潜在的なリスクを見落としないようにする。
退院時の診断,手術手順,院内死亡率,長期予測は4つの一般的な結果予測対象である。
複数の公開資料から得られた患者結果に関する知識を統合するために,臨床結果の事前学習を提案する。
論文 参考訳(メタデータ) (2021-02-08T10:26:44Z) - UNITE: Uncertainty-based Health Risk Prediction Leveraging Multi-sourced
Data [81.00385374948125]
我々はUNcertaInTyベースのhEalth Risk Prediction(UNITE)モデルを提案する。
UNITEは、複数ソースの健康データを活用した正確な疾患リスク予測と不確実性推定を提供する。
非アルコール性脂肪肝疾患(NASH)とアルツハイマー病(AD)の実態予測タスクにおけるUNITEの評価を行った。
UNITEはAD検出のF1スコアで最大0.841点、NASH検出のPR-AUCで最大0.609点を達成し、最高のベースラインで最大19%の高パフォーマンスを達成している。
論文 参考訳(メタデータ) (2020-10-22T02:28:11Z) - ISeeU2: Visually Interpretable ICU mortality prediction using deep
learning and free-text medical notes [0.0]
そこで本研究では,MIMIC-IIIで訓練した深層学習モデルを用いて,生の看護ノートによる死亡率の予測と,単語の重要性の視覚的説明を行う。
我々のモデルは0.8629のROCに達し、従来のSAPS-IIスコアを上回り、類似のDeep Learningアプローチと比較して高い解釈性を提供する。
論文 参考訳(メタデータ) (2020-05-19T08:30:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。