論文の概要: Zero-shot Medical Event Prediction Using a Generative Pre-trained Transformer on Electronic Health Records

• arxiv url: http://arxiv.org/abs/2503.05893v1
• Date: Fri, 07 Mar 2025 19:26:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-11 15:51:35.786574
• Title: Zero-shot Medical Event Prediction Using a Generative Pre-trained Transformer on Electronic Health Records
• Title（参考訳）: 電子カルテにおける生成前訓練変圧器を用いたゼロショット医療イベント予測
• Authors: Ekaterina Redekop, Zichen Wang, Rushikesh Kulkarni, Mara Pleasure, Aaron Chin, Hamid Reza Hassanzadeh, Brian L. Hill, Melika Emami, William Speier, Corey W. Arnold,
• Abstract要約: EHRで訓練された基礎モデルはゼロショット方式で予測タスクを実行できることを示す。 広範囲なラベル付きデータを必要とする教師付きアプローチとは違って,本手法では,事前学習した知識から,次の医療イベントを純粋に予測することができる。
• 参考スコア（独自算出の注目度）: 8.575985305475355
• License:
• Abstract: Longitudinal data in electronic health records (EHRs) represent an individual`s clinical history through a sequence of codified concepts, including diagnoses, procedures, medications, and laboratory tests. Foundational models, such as generative pre-trained transformers (GPT), can leverage this data to predict future events. While fine-tuning of these models enhances task-specific performance, it is costly, complex, and unsustainable for every target. We show that a foundation model trained on EHRs can perform predictive tasks in a zero-shot manner, eliminating the need for fine-tuning. This study presents the first comprehensive analysis of zero-shot forecasting with GPT-based foundational models in EHRs, introducing a novel pipeline that formulates medical concept prediction as a generative modeling task. Unlike supervised approaches requiring extensive labeled data, our method enables the model to forecast a next medical event purely from a pretraining knowledge. We evaluate performance across multiple time horizons and clinical categories, demonstrating model`s ability to capture latent temporal dependencies and complex patient trajectories without task supervision. Model performance for predicting the next medical concept was evaluated using precision and recall metrics, achieving an average top1 precision of 0.614 and recall of 0.524. For 12 major diagnostic conditions, the model demonstrated strong zero-shot performance, achieving high true positive rates while maintaining low false positives. We demonstrate the power of a foundational EHR GPT model in capturing diverse phenotypes and enabling robust, zero-shot forecasting of clinical outcomes. This capability enhances the versatility of predictive healthcare models and reduces the need for task-specific training, enabling more scalable applications in clinical settings.
• Abstract（参考訳）: 電子健康記録(EHRs)における経時的データは、診断、処置、医薬品、検査など一連の凝固概念を通じて、個人の臨床履歴を表す。 生成事前学習変換器(GPT)のような基礎モデルでは、このデータを利用して将来の事象を予測することができる。 これらのモデルの微調整によってタスク固有のパフォーマンスが向上するが、すべてのターゲットに対してコストが高く、複雑で、持続不可能である。 EHRで訓練された基礎モデルはゼロショットで予測タスクを実行でき、微調整の必要がなくなる。 本研究では,GPTに基づく基礎モデルを用いたゼロショット予測の総合的解析を行い,医療概念予測を生成的モデリングタスクとして定式化した新しいパイプラインを提案する。 広範囲なラベル付きデータを必要とする教師付きアプローチとは違って,本手法では,事前学習した知識から,次の医療イベントを純粋に予測することができる。 我々は,複数の時間的地平線と臨床カテゴリーにまたがるパフォーマンスを評価し,タスクの監督なしに,潜時的依存と複雑な患者の軌跡を捉えるモデルの能力を実証した。 次の医療概念を予測するためのモデル性能を精度とリコール指標を用いて評価し,平均トップ1の精度0.614,リコール0.524を達成した。 12大診断条件では, 強いゼロショット性能を示し, 偽陽性を低く保ちながら, 真陽性率の高い結果を得た。 本稿では,多種多様な表現型を抽出し,臨床結果の堅牢かつゼロショット予測を可能にする基礎的ERH GPTモデルの有効性を実証する。 この機能は、予測医療モデルの汎用性を高め、タスク固有のトレーニングの必要性を減らし、臨床現場でのよりスケーラブルなアプリケーションを可能にする。

関連論文リスト

• Recent Advances in Predictive Modeling with Electronic Health Records [71.19967863320647]
  EHRデータを予測モデリングに利用すると、その特徴からいくつかの課題が生じる。 深層学習は、医療を含む様々な応用においてその優位性を示している。
  論文  参考訳（メタデータ） (2024-02-02T00:31:01Z)
• MedDiffusion: Boosting Health Risk Prediction via Diffusion-based Data Augmentation [58.93221876843639]
  本稿では,MedDiffusion という,エンドツーエンドの拡散に基づくリスク予測モデルを提案する。 トレーニング中に合成患者データを作成し、サンプルスペースを拡大することで、リスク予測性能を向上させる。 ステップワイズ・アテンション・メカニズムを用いて患者の来訪者間の隠れた関係を識別し、高品質なデータを生成する上で最も重要な情報をモデルが自動的に保持することを可能にする。
  論文  参考訳（メタデータ） (2023-10-04T01:36:30Z)
• Clinical Deterioration Prediction in Brazilian Hospitals Based on Artificial Neural Networks and Tree Decision Models [56.93322937189087]
  超強化ニューラルネットワーク(XBNet)は臨床劣化(CD)を予測するために用いられる XGBoostモデルはブラジルの病院のデータからCDを予測する最良の結果を得た。
  論文  参考訳（メタデータ） (2022-12-17T23:29:14Z)
• Foresight -- Deep Generative Modelling of Patient Timelines using Electronic Health Records [46.024501445093755]
  医学史の時間的モデリングは、将来の出来事を予測し、シミュレートしたり、リスクを見積り、代替診断を提案したり、合併症を予測するために使用することができる。 我々は、文書テキストを構造化されたコード化された概念に変換するためにNER+Lツール(MedCAT)を使用する新しいGPT3ベースのパイプラインであるForesightを提示する。
  論文  参考訳（メタデータ） (2022-12-13T19:06:00Z)
• SANSformers: Self-Supervised Forecasting in Electronic Health Records with Attention-Free Models [48.07469930813923]
  本研究は,医療施設への患者訪問数を予測することにより,医療サービスの需要を予測することを目的とする。 SNSformerは、特定の帰納バイアスを設計し、EHRデータの特異な特徴を考慮に入れた、注意のない逐次モデルである。 本研究は, 各種患者集団を対象とした医療利用予測の修正における, 注意力のないモデルと自己指導型事前訓練の有望な可能性について考察した。
  論文  参考訳（メタデータ） (2021-08-31T08:23:56Z)
• Pre-training transformer-based framework on large-scale pediatric claims data for downstream population-specific tasks [3.1580072841682734]
  本研究は、小児科のクレームデータセット全体をトレーニングする一般的な事前学習モデルであるClaim Pre-Training(Claim-PT)フレームワークを提案する。 効果的な知識伝達はタスク対応微調整段階を通じて完了する。 我々は100万人以上の患者記録を持つ実世界のクレームデータセットの実験を行った。
  論文  参考訳（メタデータ） (2021-06-24T15:25:41Z)
• Synthesizing time-series wound prognosis factors from electronic medical records using generative adversarial networks [0.0]
  創傷予後因子を合成するためにgans(time series medical generative adversarial networks)を開発した。 条件付きトレーニング戦略は, 癒しや非癒しの観点から, 訓練の強化と分類データの生成に活用された。
  論文  参考訳（メタデータ） (2021-05-03T20:26:48Z)
• UNITE: Uncertainty-based Health Risk Prediction Leveraging Multi-sourced Data [81.00385374948125]
  我々はUNcertaInTyベースのhEalth Risk Prediction(UNITE)モデルを提案する。 UNITEは、複数ソースの健康データを活用した正確な疾患リスク予測と不確実性推定を提供する。 非アルコール性脂肪肝疾患(NASH)とアルツハイマー病(AD)の実態予測タスクにおけるUNITEの評価を行った。 UNITEはAD検出のF1スコアで最大0.841点、NASH検出のPR-AUCで最大0.609点を達成し、最高のベースラインで最大19%の高パフォーマンスを達成している。
  論文  参考訳（メタデータ） (2020-10-22T02:28:11Z)
• Bidirectional Representation Learning from Transformers using Multimodal Electronic Health Record Data to Predict Depression [11.1492931066686]
  うつ病の予測のために,ERHシーケンス上で双方向の表現学習を行うための時間的深層学習モデルを提案する。 このモデルでは, 曲線(PRAUC)下において, 最良ベースラインモデルと比較して, 抑うつ予測において0.70から0.76まで, 精度・リコール面積の最大値が得られた。
  論文  参考訳（メタデータ） (2020-09-26T17:56:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。