論文の概要: LLM4EHR: Aligning Clinical Time Series with Medical Event Sequences via Large Language Models

• arxiv url: http://arxiv.org/abs/2607.15447v1
• Date: Thu, 16 Jul 2026 20:40:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-20 17:56:52.698383
• Title: LLM4EHR: Aligning Clinical Time Series with Medical Event Sequences via Large Language Models
• Title（参考訳）: LLM4EHR:大規模言語モデルによる医療イベント系列と臨床時系列の調整
• Abstract要約: 臨床機械学習の最近の研究は、脳卒中教師付きモデルから基礎モデルへと移行している。 ここでは、様々な下流業務に有用な複雑な臨床データモダリティの混合に基づいて基礎モデルを事前訓練する。
• 参考スコア（独自算出の注目度）: 36.391923477672776
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent research in clinical machine learning, focusing on outcome predictions in intensive care unit (ICU), has shifted from bespoke supervised models to foundation models, utilising modern representation learning methods. Here, foundation models are pre-trained on mixtures of complex clinical data modalities, useful for various downstream tasks. Existing works often utilise Electronic Health Records (EHR) to provide rich and diverse patient observations to train clinical foundation models. However, existing methods do not sufficiently explore the shared temporal structures between clinical events and time series (TS) observations recorded in EHRs. This limitation potentially leads to less robust and adaptive clinical foundation models, resulting in reduced performance on downstream tasks. To fully exploit this temporal structure, we propose LLM4EHR, a new clinical foundation model trained on ICU EHR data. Combining domain adapted large language models with a transformer TS encoder, we pre-trained LLM4EHR by temporally aligning the EHR events and TS. For this, we propose a regularised contrastive objective to learn robust EHR TS representations conditioned on EHR event embeddings produced by the domain adapted LLM. Supported by an ablation study, we find that learnt EHR TS embeddings from LLM4EHR improve performance on various downstream clinical tasks with competitive performance. Further, we empirically demonstrate that LLM4EHR learns transferable clinical TS embeddings that can be deployed to new cohorts via k-shot adaptation. These findings provide a step towards building more generalisable and performant clinical foundation models.
• Abstract（参考訳）: 近年,集中治療室(ICU)における予後予測に着目した臨床機械学習の研究が,基礎モデルへと変化し,近代的な表現学習手法が利用されるようになった。 ここでは、様々な下流業務に有用な複雑な臨床データモダリティの混合に基づいて基礎モデルを事前訓練する。 既存の研究はしばしばElectronic Health Records(EHR)を利用して、リッチで多様な患者観察を提供し、臨床基礎モデルを訓練している。 しかし、既存の方法では、臨床イベントと時系列観測(TS)の共有時間構造を十分に調べることができない。 この制限により、より堅牢で適応的な臨床基礎モデルが減少し、下流タスクのパフォーマンスが低下する可能性がある。 この時間構造をフル活用するために,ICU EHRデータに基づく新たな臨床基盤モデル LLM4EHR を提案する。 ドメイン適応型大言語モデルと変圧器TSエンコーダを組み合わせることで,ERHイベントとTSを時間的に整列させてLLM4EHRを事前訓練した。 そこで本研究では,ドメイン適応型LLMにより生成されたEHRイベント埋め込みを条件に,堅牢なEHR TS表現を学習するための規則化されたコントラスト目的を提案する。 LLM4EHRからEHR TSの埋め込みを学習することで、様々な下流臨床タスクのパフォーマンスが向上し、競争性能が向上することがわかった。 さらに, LLM4EHR が k-shot 適応により新しいコホートに展開できる転写可能な臨床TS 埋め込みを学習できることを実証的に実証した。 これらの知見は、より汎用的でパフォーマンスの高い臨床基礎モデルを構築するための一歩となる。

関連論文リスト

• Reinforcement Learning over Patient Trajectories for Clinical Reasoning in EHR Foundation Models [38.37812950780674]
  本稿では,ERH基盤モデルを患者軌跡に対する生成ポリシーとして扱う強化学習フレームワークを提案する。 我々は,一般的な臨床予測問題を,事象条件,時間スケジュールの推論タスクとして定式化する。 次に、タイムアウェアでロールアウトに敏感な報酬を設計し、有限のロールアウトの長さと時間的に決定的な結果を考慮する。
  論文  参考訳（メタデータ） (2026-09-10T23:10:38Z)
• Cohort-Anchored Foundation Models for Electronic Health Records: From Risk Scores to Auditable Peer Cohorts [3.299672391663527]
  本稿では,患者コホートを学習パイプライン全体を通じて一級対象に高めるためのコホート・アンコレッド財団モデルフレームワークを提案する。 このフレームワークは、偏差認識データキュレーション、コホート条件付きプレトレーニング、マルチモーダルコホートアライメント、クリニアン・イン・ザ・ループ・リファインメントの4つのステージで構成されている。 心電図による急性腎傷害予測,心血管性リスク層形成,眼神経障害三徴症,網膜電図による報告の4つの臨床症例について検討した。
  論文  参考訳（メタデータ） (2026-06-20T05:14:43Z)
• EHR-RAGp: Retrieval-Augmented Prototype-Guided Foundation Model for Electronic Health Records [0.9989630065856642]
  EHRは、豊富な縦断的な患者情報を含み、予測モデリングの応用に広く利用されている。 EHR-RAGpは,多種多様な臨床イベントタイプにまたがって,最も関連性の高い患者履歴を動的に統合する基盤モデルである。
  論文  参考訳（メタデータ） (2026-05-12T16:17:03Z)
• CLEF: EEG Foundation Model for Learning Clinical Semantics [50.3767252824646]
  CLEFは,脳波基礎モデルである。 CLEFは, 疾患の表現型, 薬物曝露, 脳波所見にまたがる新しい234タスク・ベンチマークで評価した。
  論文  参考訳（メタデータ） (2026-05-11T16:34:58Z)
• Countering Catastrophic Forgetting of Large Language Models for Better Instruction Following via Weight-Space Model Merging [10.955738714664276]
  医療領域では,医療負担軽減のための医療資料として,大規模言語モデルが採用されている。 研究によると、LSMはタスク固有の医療データセットを使用して微調整を行う際に、かなりの量の指示追従能力を「忘れる」ことがしばしばある。 本研究では,汎用LSMを医療領域に効率的に適用するためのモデル統合フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-04-02T02:18:49Z)
• Can we generate portable representations for clinical time series data using LLMs? [14.97461269508036]
  本研究では,広範言語モデル (LLM) が患者への移植可能な埋め込み,すなわち患者の表現を創出するかどうかを考察する。 当社のアプローチは単純で使いやすく,グリッド計算による流通と競合するものであることが分かりました。 これらのポータブルな表現を用いることで、数ショットの学習が向上し、ベースラインに対する年齢や性別の人口的回復性が向上しないことがわかった。
  論文  参考訳（メタデータ） (2026-03-25T06:34:32Z)
• A Federated and Parameter-Efficient Framework for Large Language Model Training in Medicine [59.78991974851707]
  大規模言語モデル(LLM)は、質問応答や診断など、医療ベンチマークにおいて強力なパフォーマンスを示している。 ほとんどの医療用LDMは、異種システムの一般化性と安全性の制限に直面している単一の機関のデータに基づいて訓練されている。 本稿では, LLMを医療応用に適用するためのモデルに依存しない, パラメータ効率のよいフェデレーション学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-01-29T18:48:21Z)
• Integrating Genomics into Multimodal EHR Foundation Models [56.31910745104141]
  本稿では,ポリジェニックリスクスコア(PRS)を基本データモダリティとして統合した,革新的なEHR基盤モデルを提案する。 このフレームワークは、臨床データと遺伝子前置詞の複雑な関係を学習することを目的としている。 このアプローチは、病気の予測、積極的な健康管理、リスク階層化、パーソナライズされた治療戦略に対する新たな洞察を解放するために重要である。
  論文  参考訳（メタデータ） (2025-10-24T15:56:40Z)
• Large Language Models are Powerful Electronic Health Record Encoders [2.310631440585048]
  汎用大規模言語モデルは、下流臨床予測タスクの表現にERHをエンコードするために使用される。 本手法は, 機関固有の訓練を必要とせず, 医用コードにテキスト記述を組み込むことが可能である。 LLMに基づくモデルでは, 発症, 入院, 死亡率の予測に優れた性能を示し, 集団に対する堅牢性, コーディングシフトを示す。
  論文  参考訳（メタデータ） (2025-02-24T18:30:36Z)
• Time Associated Meta Learning for Clinical Prediction [78.99422473394029]
  本稿では,時間関連メタラーニング(TAML)手法を提案する。 タスク分割後のスパーシリティ問題に対処するため、TAMLは時間情報共有戦略を採用し、正のサンプル数を増やす。 複数の臨床データセットに対するTAMLの有効性を示す。
  論文  参考訳（メタデータ） (2023-03-05T03:54:54Z)
• Competence-based Multimodal Curriculum Learning for Medical Report Generation [98.10763792453925]
  本稿では,コンピテンスベースのマルチモーダルカリキュラム学習フレームワーク(CMCL)を提案する。 具体的には、CMCLは放射線学者の学習過程をシミュレートし、段階的にモデルを最適化する。 パブリックIU-XrayとMIMIC-CXRデータセットの実験は、CMCLを既存のモデルに組み込んでパフォーマンスを向上させることができることを示している。
  論文  参考訳（メタデータ） (2022-06-24T08:16:01Z)
• SANSformers: Self-Supervised Forecasting in Electronic Health Records with Attention-Free Models [48.07469930813923]
  本研究は,医療施設への患者訪問数を予測することにより,医療サービスの需要を予測することを目的とする。 SNSformerは、特定の帰納バイアスを設計し、EHRデータの特異な特徴を考慮に入れた、注意のない逐次モデルである。 本研究は, 各種患者集団を対象とした医療利用予測の修正における, 注意力のないモデルと自己指導型事前訓練の有望な可能性について考察した。
  論文  参考訳（メタデータ） (2021-08-31T08:23:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。