論文の概要: MIRA: Medical Time Series Foundation Model for Real-World Health Data
- arxiv url: http://arxiv.org/abs/2506.07584v1
- Date: Mon, 09 Jun 2025 09:27:17 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-10 16:33:10.891439
- Title: MIRA: Medical Time Series Foundation Model for Real-World Health Data
- Title(参考訳): MIRA:実世界の健康データのための医療時系列基礎モデル
- Authors: Hao Li, Bowen Deng, Chang Xu, Zhiyuan Feng, Viktor Schlegel, Yu-Hao Huang, Yizheng Sun, Jingyuan Sun, Kailai Yang, Yiyao Yu, Jiang Bian,
- Abstract要約: 医用時系列の統一基盤モデルは、アノテーションの負担を軽減し、モデルのカスタマイズを最小化し、堅牢な転送を可能にする。
医療時系列の予測に特化して設計された統合基盤モデルであるMIRAを紹介する。
MIRAは、他のゼロショットベースラインや微調整ベースラインと比較して、アウト・オブ・ディストリビューションとイン・ディストリビューションのシナリオで平均10%と7%の誤差を予測できる。
- 参考スコア(独自算出の注目度): 25.490004589135946
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: A unified foundation model for medical time series -- pretrained on open access and ethics board-approved medical corpora -- offers the potential to reduce annotation burdens, minimize model customization, and enable robust transfer across clinical institutions, modalities, and tasks, particularly in data-scarce or privacy-constrained environments. However, existing generalist time series foundation models struggle to handle medical time series data due to their inherent challenges, including irregular intervals, heterogeneous sampling rates, and frequent missing values. To address these challenges, we introduce MIRA, a unified foundation model specifically designed for medical time series forecasting. MIRA incorporates a Continuous-Time Rotary Positional Encoding that enables fine-grained modeling of variable time intervals, a frequency-specific mixture-of-experts layer that routes computation across latent frequency regimes to further promote temporal specialization, and a Continuous Dynamics Extrapolation Block based on Neural ODE that models the continuous trajectory of latent states, enabling accurate forecasting at arbitrary target timestamps. Pretrained on a large-scale and diverse medical corpus comprising over 454 billion time points collect from publicly available datasets, MIRA achieves reductions in forecasting errors by an average of 10% and 7% in out-of-distribution and in-distribution scenarios, respectively, when compared to other zero-shot and fine-tuned baselines. We also introduce a comprehensive benchmark spanning multiple downstream clinical tasks, establishing a foundation for future research in medical time series modeling.
- Abstract(参考訳): 医療時系列の統一基盤モデルは、オープンアクセスと倫理委員会が承認した医療コーパスに基づいて訓練され、アノテーションの負担を軽減し、モデルのカスタマイズを最小化し、医療機関、モダリティ、タスク、特にデータスキャンやプライバシーに制約のある環境で堅牢な移行を可能にする。
しかし、既存の一般時系列基盤モデルは、不規則間隔、不均一なサンプリングレート、頻繁な欠落値などの固有の課題のために、医療時系列データを扱うのに苦労している。
これらの課題に対処するために,医療時系列予測に特化して設計された統合基盤モデルであるMIRAを紹介する。
MIRAは、可変時間間隔のきめ細かなモデリングを可能にするContinuous-Time Rotary Positional Encodingと、潜時周波数レシエーション間で計算をルーティングして時間的特殊化をさらに促進する周波数特化混合層と、潜時状態の連続軌道をモデル化し、任意の目標タイムスタンプでの正確な予測を可能にするNeural ODEに基づくContinuous Dynamics Extrapolation Blockを組み込んでいる。
MIRAは、公開データセットから収集された4540億のタイムポイントからなる大規模かつ多様な医療コーパスに基づいて、他のゼロショットベースラインや微調整ベースラインと比較して、アウト・オブ・ディストリビューションシナリオとイン・ディストリビューションシナリオにおいて、平均で10%と7%のエラー予測の削減を実現している。
また、複数の下流臨床タスクにまたがる総合的なベンチマークを導入し、医療時系列モデリングにおける将来の研究の基盤を確立した。
関連論文リスト
- Generalized Prompt Tuning: Adapting Frozen Univariate Time Series Foundation Models for Multivariate Healthcare Time Series [3.9599054392856483]
時系列基礎モデルは、大規模なデータセットで事前訓練され、様々なタスクで最先端のパフォーマンスを達成することができる。
我々は、既存の単変量時系列基礎モデルに適応できる、素早いチューニングインスパイアされた微調整技術Gen-P-Tuningを提案する。
2つのMIMIC分類課題とインフルエンザ様疾患予測における各種ベースラインに対する微調整アプローチの有効性を実証した。
論文 参考訳(メタデータ) (2024-11-19T19:20:58Z) - A Survey on Diffusion Models for Time Series and Spatio-Temporal Data [92.1255811066468]
時系列およびS時間データにおける拡散モデルの使用について概観し、それらをモデル、タスクタイプ、データモダリティ、実用的なアプリケーションドメインで分類する。
我々は拡散モデルを無条件型と条件付き型に分類し、時系列とS時間データを別々に議論する。
本調査は,医療,レコメンデーション,気候,エネルギー,オーディオ,交通など,さまざまな分野の応用を幅広くカバーしている。
論文 参考訳(メタデータ) (2024-04-29T17:19:40Z) - Temporal Cross-Attention for Dynamic Embedding and Tokenization of Multimodal Electronic Health Records [1.6609516435725236]
マルチモーダルな臨床時系列を正確に表現するための動的埋め込み・トークン化フレームワークを提案する。
術後合併症9例の発症予測に基礎的アプローチを応用した。
論文 参考訳(メタデータ) (2024-03-06T19:46:44Z) - Unified Training of Universal Time Series Forecasting Transformers [104.56318980466742]
マスク型ユニバーサル時系列予測変換器(モイライ)について述べる。
Moiraiは、新たに導入された大規模オープンタイムシリーズアーカイブ(LOTSA)で訓練されており、9つのドメインで27億以上の観測が行われた。
Moiraiは、フルショットモデルと比較してゼロショットの予測器として、競争力や優れたパフォーマンスを達成する。
論文 参考訳(メタデータ) (2024-02-04T20:00:45Z) - Time-dependent Probabilistic Generative Models for Disease Progression [0.0]
医療イベント間の不規則な時間間隔をモデル化するためのマルコフ的治療生成モデルを提案する。
予測最大化アルゴリズムを用いてモデルを学習し,動的プログラミング法を用いて効率よく解法する。
論文 参考訳(メタデータ) (2023-11-15T21:00:00Z) - Continuous-Time Modeling of Counterfactual Outcomes Using Neural
Controlled Differential Equations [84.42837346400151]
反現実的な結果を予測することは、パーソナライズされたヘルスケアをアンロックする可能性がある。
既存の因果推論アプローチでは、観察と治療決定の間の通常の離散時間間隔が考慮されている。
そこで本研究では,腫瘍増殖モデルに基づく制御可能なシミュレーション環境を提案する。
論文 参考訳(メタデータ) (2022-06-16T17:15:15Z) - Deep diffusion-based forecasting of COVID-19 by incorporating
network-level mobility information [22.60685417365995]
我々は、自己回帰混合密度拡散動的ネットワーク(ARM3Dnet)と呼ばれる確率予測のためのディープラーニングに基づく時系列モデルを開発した。
アメリカ合衆国におけるCovid-19の死亡数やケースの予測において,我々のモデルは従来の統計モデルとディープラーニングモデルの両方を上回っていることを示す。
論文 参考訳(メタデータ) (2021-11-09T15:18:03Z) - CSDI: Conditional Score-based Diffusion Models for Probabilistic Time
Series Imputation [107.63407690972139]
Conditional Score-based Diffusion Model for Imputation (CSDI) は、観測データに条件付きスコアベース拡散モデルを利用する新しい時系列計算法である。
CSDIは、一般的なパフォーマンスメトリクスの既存の確率論的計算方法よりも40-70%改善されている。
さらに、Cは最先端の決定論的計算法と比較して誤差を5-20%削減する。
論文 参考訳(メタデータ) (2021-07-07T22:20:24Z) - Model-Attentive Ensemble Learning for Sequence Modeling [86.4785354333566]
シーケンスモデリング(MAES)のためのモデル・アテンティブ・アンサンブル・ラーニングを提案する。
MAESは、異なるシーケンスダイナミクスの専門家を専門とし、予測を適応的に重み付けるために、注目ベースのゲーティングメカニズムを利用する時系列の専門家の混合物です。
MAESが時系列シフトを受けるデータセットの人気シーケンスモデルを大幅に上回ることを示す。
論文 参考訳(メタデータ) (2021-02-23T05:23:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。