論文の概要: Pretraining EHR Foundation Models with Patient-Aware Sampling

• arxiv url: http://arxiv.org/abs/2607.22114v1
• Date: Fri, 24 Jul 2026 09:10:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-27 20:58:57.088433
• Title: Pretraining EHR Foundation Models with Patient-Aware Sampling
• Title（参考訳）: 患者認識サンプリングによるEHRファンデーションモデルの事前学習
• Abstract要約: 患者サンプリングは、患者間でのトレーニング信号の分散を制御できる事前訓練シーケンス構築法である。 制御可能な重み付けによる患者サンプリングにより,実世界のEHRデータの性能が向上することを示す。 これらの結果は,自己回帰的EHR基盤モデルにおいて,トレーニングと検証を重要かつ過小評価された設計選択とみなす。
• 参考スコア（独自算出の注目度）: 15.261305009306978
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Autoregressive foundation models for electronic health records (EHRs) typically inherit pretraining methods from language modeling, where patient trajectories are concatenated into a single token stream and windows are sampled from that stream. In EHR data, this choice is consequential: windows may mix multiple patients, and patients with longer records contribute more optimization updates, potentially introducing bias. We propose Patient Sampling, a pretraining sequence-construction method that allows us to control how training signal is distributed across patients. We compare this method to the standard approach, which we refer to as Global Stream. We show that stochastic Patient Sampling with controllable weighting improves performance on real-world EHR data. Across downstream clinical tasks on MIMIC-IV v2.2 and v3.1, Patient Sampling improves Macro AUROC and AUPRC over the Global Stream baseline. These results identify training and validation sequence construction as important and underexplored design choices for autoregressive EHR foundation models.
• Abstract（参考訳）: 電子健康記録のための自己回帰基盤モデル(EHR)は、典型的には、患者の軌跡を単一のトークンストリームに結合し、そのストリームからウィンドウをサンプリングする言語モデリングから事前学習方法を継承する。 ウィンドウは複数の患者を混在させ、長い記録を持つ患者はさらなる最適化に寄与し、バイアスをもたらす可能性がある。 本研究では,患者間でのトレーニング信号の配布方法を制御するための事前訓練シーケンス構築法であるPatent Samplingを提案する。 我々は,この手法をGlobal Streamと呼ぶ標準手法と比較する。 制御可能な重み付けによる確率的患者サンプリングにより,実世界のERHデータの性能が向上することを示す。 MIMIC-IV v2.2とv3.1の下流臨床では、患者サンプリングはGlobal StreamベースラインよりもマクロAUROCとAUPRCを改善している。 これらの結果は,自己回帰的EHR基盤モデルにおいて,トレーニングと検証シーケンス構築が重要かつ未探索な設計選択であることを示す。

関連論文リスト

• Improving Patient Subtyping on Longitudinal Data using Representations from Mamba-based Architecture [5.577596968571274]
  本稿では,効率的なEMH表現を学習し,患者サブタイプを拡張できる自己教師型マンバモデルを提案する。 提案したモデルを,公開およびプライベートな実世界のEHRデータセット上で評価し,データを分類する。 本研究は, EHR モデルからの経時的記録に基づいて, 患者の潜伏状況に有意な洞察を与えるものである。
  論文  参考訳（メタデータ） (2026-06-26T21:45:07Z)
• FRESH: Information-Geometric Calibration of Patient-Level Models to Aggregate Evidence [0.0]
  Freshは、患者レベルのデータに基づいてトレーニングされた予測モデルに、人口レベルの要約結果を組み込む方法である。 本手法は,対象人口に対する特定の集計統計値のセットと一致する再校正モデルを用いて患者レベルの予測を行う。
  論文  参考訳（メタデータ） (2026-05-15T17:50:11Z)
• Integrating Genomics into Multimodal EHR Foundation Models [56.31910745104141]
  本稿では,ポリジェニックリスクスコア(PRS)を基本データモダリティとして統合した,革新的なEHR基盤モデルを提案する。 このフレームワークは、臨床データと遺伝子前置詞の複雑な関係を学習することを目的としている。 このアプローチは、病気の予測、積極的な健康管理、リスク階層化、パーソナライズされた治療戦略に対する新たな洞察を解放するために重要である。
  論文  参考訳（メタデータ） (2025-10-24T15:56:40Z)
• Cross-Representation Benchmarking in Time-Series Electronic Health Records for Clinical Outcome Prediction [44.23284500920266]
  このベンチマークは、2つの異なる臨床環境におけるデータキュレーションと評価を標準化する。 実験によると、イベントストリームモデルは、常に最強のパフォーマンスを提供する。 特徴選択戦略は臨床環境に適応する必要がある。
  論文  参考訳（メタデータ） (2025-10-10T09:03:47Z)
• Synthesizing Multimodal Electronic Health Records via Predictive Diffusion Models [69.06149482021071]
  EHRPDと呼ばれる新しいEHRデータ生成モデルを提案する。 時間間隔推定を組み込んだ拡散モデルである。 我々は2つの公開データセットで実験を行い、忠実さ、プライバシー、実用性の観点からEPHPDを評価する。
  論文  参考訳（メタデータ） (2024-06-20T02:20:23Z)
• MedDiffusion: Boosting Health Risk Prediction via Diffusion-based Data Augmentation [58.93221876843639]
  本稿では,MedDiffusion という,エンドツーエンドの拡散に基づくリスク予測モデルを提案する。 トレーニング中に合成患者データを作成し、サンプルスペースを拡大することで、リスク予測性能を向上させる。 ステップワイズ・アテンション・メカニズムを用いて患者の来訪者間の隠れた関係を識別し、高品質なデータを生成する上で最も重要な情報をモデルが自動的に保持することを可能にする。
  論文  参考訳（メタデータ） (2023-10-04T01:36:30Z)
• Federated Learning of Medical Concepts Embedding using BEHRT [0.0]
  医療概念の埋め込み学習のための連合学習手法を提案する。 我々のアプローチは、EHRのディープニューラルネットワークモデルであるBEHRTのような埋め込みモデルに基づいている。 我々は、FLで訓練されたモデルと集中型データで訓練されたモデルのパフォーマンスを比較した。
  論文  参考訳（メタデータ） (2023-05-22T14:05:39Z)
• SANSformers: Self-Supervised Forecasting in Electronic Health Records with Attention-Free Models [48.07469930813923]
  本研究は,医療施設への患者訪問数を予測することにより,医療サービスの需要を予測することを目的とする。 SNSformerは、特定の帰納バイアスを設計し、EHRデータの特異な特徴を考慮に入れた、注意のない逐次モデルである。 本研究は, 各種患者集団を対象とした医療利用予測の修正における, 注意力のないモデルと自己指導型事前訓練の有望な可能性について考察した。
  論文  参考訳（メタデータ） (2021-08-31T08:23:56Z)
• Bootstrapping Your Own Positive Sample: Contrastive Learning With Electronic Health Record Data [62.29031007761901]
  本稿では,新しいコントラスト型正規化臨床分類モデルを提案する。 EHRデータに特化した2つのユニークなポジティブサンプリング戦略を紹介します。 私たちのフレームワークは、現実世界のCOVID-19 EHRデータの死亡リスクを予測するために、競争の激しい実験結果をもたらします。
  論文  参考訳（メタデータ） (2021-04-07T06:02:04Z)
• Adversarial Sample Enhanced Domain Adaptation: A Case Study on Predictive Modeling with Electronic Health Records [57.75125067744978]
  ドメイン適応を容易にするデータ拡張手法を提案する。 逆生成したサンプルはドメイン適応時に使用される。 その結果,本手法の有効性とタスクの一般性が確認された。
  論文  参考訳（メタデータ） (2021-01-13T03:20:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。