論文の概要: Hi-BEHRT: Hierarchical Transformer-based model for accurate prediction of clinical events using multimodal longitudinal electronic health records

• arxiv url: http://arxiv.org/abs/2106.11360v1
• Date: Mon, 21 Jun 2021 18:47:08 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-23 14:51:37.565184
• Title: Hi-BEHRT: Hierarchical Transformer-based model for accurate prediction of clinical events using multimodal longitudinal electronic health records
• Title（参考訳）: hi-behrt:マルチモーダル縦型電子健康記録による臨床事象の正確な予測のための階層的トランスフォーマーモデル
• Authors: Yikuan Li, Mohammad Mamouei, Gholamreza Salimi-Khorshidi, Shishir Rao, Abdelaali Hassaine, Dexter Canoy, Thomas Lukasiewicz, and Kazem Rahimi
• Abstract要約: より長いシーケンスから関連を抽出できる階層型トランスフォーマーモデルHi-BEHRTを提案する。 Hi-BEHRTはマルチモーダルな大規模リンク型電子健康記録を用いて、最先端のBROCT 1%から5%を超える。 EHRを用いたHi-BEHRTのエンド・ツー・エンド事前トレーニング戦略も提案し,臨床イベントの予測における転送性の向上を図った。
• 参考スコア（独自算出の注目度）: 23.36011610637235
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Electronic health records represent a holistic overview of patients' trajectories. Their increasing availability has fueled new hopes to leverage them and develop accurate risk prediction models for a wide range of diseases. Given the complex interrelationships of medical records and patient outcomes, deep learning models have shown clear merits in achieving this goal. However, a key limitation of these models remains their capacity in processing long sequences. Capturing the whole history of medical encounters is expected to lead to more accurate predictions, but the inclusion of records collected for decades and from multiple resources can inevitably exceed the receptive field of the existing deep learning architectures. This can result in missing crucial, long-term dependencies. To address this gap, we present Hi-BEHRT, a hierarchical Transformer-based model that can significantly expand the receptive field of Transformers and extract associations from much longer sequences. Using a multimodal large-scale linked longitudinal electronic health records, the Hi-BEHRT exceeds the state-of-the-art BEHRT 1% to 5% for area under the receiver operating characteristic (AUROC) curve and 3% to 6% for area under the precision recall (AUPRC) curve on average, and 3% to 6% (AUROC) and 3% to 11% (AUPRC) for patients with long medical history for 5-year heart failure, diabetes, chronic kidney disease, and stroke risk prediction. Additionally, because pretraining for hierarchical Transformer is not well-established, we provide an effective end-to-end contrastive pre-training strategy for Hi-BEHRT using EHR, improving its transferability on predicting clinical events with relatively small training dataset.
• Abstract（参考訳）: 電子健康記録は患者の軌跡の全体像を示している。 その可用性の向上は、それらを活用し、幅広い病気の正確なリスク予測モデルを開発するという、新たな期待を喚起している。 医療記録と患者の成果の複雑な相互関係を考えると、ディープラーニングモデルは、この目標を達成するための明確なメリットを示している。 しかし、これらのモデルの鍵となる制限は長いシーケンスを処理する能力である。 医学的遭遇の歴史全体を捉えることは、より正確な予測につながると期待されているが、何十年もの間収集され、複数のリソースから収集された記録は、必然的に既存のディープラーニングアーキテクチャの受容領域を超える可能性がある。 これにより、重要な長期的な依存関係が失われる可能性がある。 このギャップに対処するため,階層型トランスフォーマーベースモデルであるHi-BEHRTを提案する。 Hi-BEHRTは、マルチモーダルな大規模リンク型電子健康記録を用いて、5年間の心不全、糖尿病、慢性腎臓病、脳卒中リスク予測において、最先端のBEHRT 1%から5%、レシーバー操作特性(AUROC)曲線下の領域では3%から6%、精度リコール(AUPRC)曲線下の領域では3%から6%(AUROC)および3%から11%(AUPRC)を超える。 また,階層型トランスフォーマーの事前トレーニングは十分に確立されていないため,EHRを用いたHi-BEHRTの効果的なエンドツーエンドコントラスト事前トレーニング戦略を提供し,比較的少ないトレーニングデータセットによる臨床イベントの予測における転送性を向上させる。

関連論文リスト

• Prediction of Lung Metastasis from Hepatocellular Carcinoma using the SEER Database [0.9055332067000195]
  肝細胞癌(HCC)は、がん関連死亡の原因である。 HCCにおける肺転移の予測モデルは、範囲と臨床応用性に限られている。 本研究では,Surveillance, Epidemiology, End Results (SEER)データベースのデータを用いて,エンドツーエンドの機械学習パイプラインの開発と検証を行う。
  論文  参考訳（メタデータ） (2025-01-20T20:06:31Z)
• PT: A Plain Transformer is Good Hospital Readmission Predictor [1.2695170900407071]
  高い寛容率はしばしば不適切な治療や退院後のケアを示す。 本稿では,電子健康記録(EHR),医用画像,臨床ノートを統合したトランスフォーマーベースモデルPTを提案する。 PTは生のデータから特徴を抽出し、データの複雑さに合わせて専用のTransformerブロックを使用する。
  論文  参考訳（メタデータ） (2024-12-17T13:37:11Z)
• MedDiffusion: Boosting Health Risk Prediction via Diffusion-based Data Augmentation [58.93221876843639]
  本稿では,MedDiffusion という,エンドツーエンドの拡散に基づくリスク予測モデルを提案する。 トレーニング中に合成患者データを作成し、サンプルスペースを拡大することで、リスク予測性能を向上させる。 ステップワイズ・アテンション・メカニズムを用いて患者の来訪者間の隠れた関係を識別し、高品質なデータを生成する上で最も重要な情報をモデルが自動的に保持することを可能にする。
  論文  参考訳（メタデータ） (2023-10-04T01:36:30Z)
• Clinical Deterioration Prediction in Brazilian Hospitals Based on Artificial Neural Networks and Tree Decision Models [56.93322937189087]
  超強化ニューラルネットワーク(XBNet)は臨床劣化(CD)を予測するために用いられる XGBoostモデルはブラジルの病院のデータからCDを予測する最良の結果を得た。
  論文  参考訳（メタデータ） (2022-12-17T23:29:14Z)
• Integrated Convolutional and Recurrent Neural Networks for Health Risk Prediction using Patient Journey Data with Many Missing Values [9.418011774179794]
  本稿では,統合畳み込みニューラルネットワークとリカレントニューラルネットワークを用いたEMH患者旅行データモデリングのためのエンドツーエンドアプローチを提案する。 本モデルでは,各患者旅行における長期的・短期的時間的パターンを抽出し,インパルスデータ生成を伴わずに,高レベルのEHRデータの欠落を効果的に処理することができる。
  論文  参考訳（メタデータ） (2022-11-11T07:36:18Z)
• Robust and Efficient Medical Imaging with Self-Supervision [80.62711706785834]
  医用画像AIの堅牢性とデータ効率を向上させるための統一表現学習戦略であるREMEDISを提案する。 様々な医療画像タスクを研究し, 振り返りデータを用いて3つの現実的な応用シナリオをシミュレートする。
  論文  参考訳（メタデータ） (2022-05-19T17:34:18Z)
• Multimodal spatiotemporal graph neural networks for improved prediction of 30-day all-cause hospital readmission [4.609543591101764]
  本研究では,30日間の院内通院予測のためのマルチモーダル・モダリティ非依存型グラフニューラルネットワーク(MM-STGNN)を提案する。 MM-STGNNは、プライマリデータセットと外部データセットの両方で0.79のAUを達成する。 心臓・血管疾患患者のサブセットでは,30日間の寛解予測において,ベースラインよりも優れていた。
  論文  参考訳（メタデータ） (2022-04-14T05:50:07Z)
• SANSformers: Self-Supervised Forecasting in Electronic Health Records with Attention-Free Models [48.07469930813923]
  本研究は,医療施設への患者訪問数を予測することにより,医療サービスの需要を予測することを目的とする。 SNSformerは、特定の帰納バイアスを設計し、EHRデータの特異な特徴を考慮に入れた、注意のない逐次モデルである。 本研究は, 各種患者集団を対象とした医療利用予測の修正における, 注意力のないモデルと自己指導型事前訓練の有望な可能性について考察した。
  論文  参考訳（メタデータ） (2021-08-31T08:23:56Z)
• Bootstrapping Your Own Positive Sample: Contrastive Learning With Electronic Health Record Data [62.29031007761901]
  本稿では,新しいコントラスト型正規化臨床分類モデルを提案する。 EHRデータに特化した2つのユニークなポジティブサンプリング戦略を紹介します。 私たちのフレームワークは、現実世界のCOVID-19 EHRデータの死亡リスクを予測するために、競争の激しい実験結果をもたらします。
  論文  参考訳（メタデータ） (2021-04-07T06:02:04Z)
• Longitudinal modeling of MS patient trajectories improves predictions of disability progression [2.117653457384462]
  本研究は, 実世界の患者データから情報を最適に抽出する作業に対処する。 本研究では,患者軌跡モデリングに適した機械学習手法を用いることで,患者の障害進行を2年間の地平線で予測できることを示す。 文献で利用可能なモデルと比較して、この研究はMS病の進行予測に最も完全な患者履歴を使用する。
  論文  参考訳（メタデータ） (2020-11-09T20:48:00Z)
• UNITE: Uncertainty-based Health Risk Prediction Leveraging Multi-sourced Data [81.00385374948125]
  我々はUNcertaInTyベースのhEalth Risk Prediction(UNITE)モデルを提案する。 UNITEは、複数ソースの健康データを活用した正確な疾患リスク予測と不確実性推定を提供する。 非アルコール性脂肪肝疾患(NASH)とアルツハイマー病(AD)の実態予測タスクにおけるUNITEの評価を行った。 UNITEはAD検出のF1スコアで最大0.841点、NASH検出のPR-AUCで最大0.609点を達成し、最高のベースラインで最大19%の高パフォーマンスを達成している。
  論文  参考訳（メタデータ） (2020-10-22T02:28:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。