論文の概要: MILM: Large Language Models for Multimodal Irregular Time Series with Informative Sampling
- arxiv url: http://arxiv.org/abs/2605.13711v1
- Date: Wed, 13 May 2026 15:58:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-14 23:30:28.160128
- Title: MILM: Large Language Models for Multimodal Irregular Time Series with Informative Sampling
- Title(参考訳): MILM:インフォーマティブサンプリングを用いた多モード不規則時系列用大言語モデル
- Authors: Hsing-Huan Chung, Shijun Li, Yoav Wald, Xing Han, Suchi Saria, Joydeep Ghosh,
- Abstract要約: マルチモーダル不規則時系列(Multimodal irregular time series、MITS)は、不均一な数値およびテキストチャネルからの非同期および不規則なサンプルである。
我々は、MILM(Multimodal Irregular time series Language Model)を導入し、MITSをXML形式で時間順三重項として表現する。
我々の2段階モデル(MILM-2S)とその1段階モデル(MILM-Direct)は、複数のEHRデータセット上で最高の2番目に高い平均性能を達成する。
- 参考スコア(独自算出の注目度): 13.57035503301166
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multimodal irregular time series (MITS) consist of asynchronous and irregularly sampled observations from heterogeneous numerical and textual channels. In healthcare, for example, patients' electronic health records (EHR) include irregular lab measurements and clinical notes. The irregular timing and channel patterns of observations carry predictive signal alongside the numerical values and textual content. LLMs are natural candidates for processing such heterogeneous data, given their extensive pretrained knowledge spanning textual and numerical domains. We introduce MILM (Multimodal Irregular time series Language Model), which represents MITS as time-ordered triplets in Extensible Markup Language (XML) format and fine-tunes an LLM through a two-stage strategy for MITS classification. The first stage trains on value-redacted MITS to predict from sampling patterns alone, and the second stage trains on full MITS to jointly model sampling patterns and observed values. Our two-stage model (MILM-2S) and its single-stage counterpart (MILM-Direct) achieve the best and second-best average performance on multiple EHR datasets. Further value redaction evaluations confirm that sampling patterns carry predictive signal and that MILM-2S learns to exploit them. In the value pending evaluation we introduce, where some values are unavailable at prediction time, MILM-2S outperforms MILM-Direct by a larger margin compared to standard evaluation. For MILM-2S, preserving the time and channel of value-pending observations as additional sampling information further improves in-hospital mortality prediction.
- Abstract(参考訳): マルチモーダル不規則時系列(Multimodal irregular time series、MITS)は、不均一な数値およびテキストチャネルからの非同期および不規則なサンプルである。
例えば、医療では、患者の電子健康記録(EHR)には、不規則な検査室の測定と臨床ノートが含まれる。
不規則な観測タイミングとチャネルパターンは、数値とテキストの内容と共に予測信号を運ぶ。
LLMは、テキストと数値の領域にまたがる膨大な事前訓練された知識を考えると、このような異種データを処理するための自然な候補である。
我々は、MILM(Multimodal Irregular time series Language Model)を導入し、MITSを拡張可能なマークアップ言語(XML)フォーマットのタイムオーダー三重項として表現し、MITS分類のための2段階戦略を通じてLLMを微調整する。
第1段階は、サンプリングパターンのみから予測するために、価値再現されたMITSで、第2段階は完全なMITSで、サンプリングパターンと観察された値を共同でモデル化する。
我々の2段階モデル(MILM-2S)とその1段階モデル(MILM-Direct)は、複数のEHRデータセット上で最高の2番目に高い平均性能を達成する。
さらなる値の再作用評価により、サンプリングパターンが予測信号を持ち、MILM-2Sがそれらを活用することを確認する。
予測時にいくつかの値が利用できない場合,MILM-2S はMILM-Direct を標準評価よりも大きなマージンで上回っている。
MILM-2S の場合、追加のサンプリング情報として値が保たれる観測の時間と経路を保存することにより、病院内での死亡予測がさらに向上する。
関連論文リスト
- Time-Prompt: Integrated Heterogeneous Prompts for Unlocking LLMs in Time Series Forecasting [13.283980715705693]
時系列予測は、変数間の時間的依存関係を将来の状態推論のためにモデル化することを目的としている。
深層学習に基づく手法は目覚ましい進歩を遂げているが, 長期的な予測では, 依然として準最適性能を示している。
本稿では,時系列予測のための大規模言語モデルを活性化するフレームワークであるTime-Promptを提案する。
論文 参考訳(メタデータ) (2025-06-21T08:22:25Z) - ChronoSteer: Bridging Large Language Model and Time Series Foundation Model via Synthetic Data [22.81326423408988]
我々はChronoSteerを紹介した。ChronoSteerはマルチモーダルTSFMであり、テキストのリビジョン命令で操作できる。
クロスモーダルな命令系列ペアデータ不足を軽減するため,合成データに基づく2段階のトレーニング戦略を考案した。
ChronoSteerは、前回の最先端マルチモーダル法よりも25.7%の精度で予測精度が向上し、22.5%も向上した。
論文 参考訳(メタデータ) (2025-05-15T08:37:23Z) - TimeXL: Explainable Multi-modal Time Series Prediction with LLM-in-the-Loop [79.5773512667468]
TimeXLは、プロトタイプベースの時系列エンコーダと3つの協調する大規模言語モデルを統合するマルチモーダル予測フレームワークである。
リフレクションLLMは、予測された値と地上の真実を比較し、テキストの不整合やノイズを識別する。
このクローズドループワークフロー予測、批判(参照)、改善が連続的にフレームワークのパフォーマンスと解釈可能性を高めます。
論文 参考訳(メタデータ) (2025-03-02T20:40:53Z) - Large Language Models are Few-shot Multivariate Time Series Classifiers [23.045734479292356]
大規模言語モデル (LLM) は時系列解析に広く応用されている。
しかし、数発の分類(すなわち重要な訓練シナリオ)におけるそれらの実用性は過小評価されている。
データ不足を克服するために,LLMの学習済み知識を幅広く活用することを目的としている。
論文 参考訳(メタデータ) (2025-01-30T03:59:59Z) - Both Text and Images Leaked! A Systematic Analysis of Data Contamination in Multimodal LLM [53.05486269607166]
マルチモーダルな大言語モデル (MLLM) はベンチマーク間で大幅に性能が向上した。
マルチモーダルデータ複雑性とマルチフェーズトレーニングのため,既存のLLM検出手法はMLLMでは不十分である。
我々は分析フレームワークMM-Detectを用いてマルチモーダルデータの汚染を分析する。
論文 参考訳(メタデータ) (2024-11-06T10:44:15Z) - An Evaluation of Standard Statistical Models and LLMs on Time Series Forecasting [16.583730806230644]
本研究では,大言語モデルが時系列予測の文脈で直面する重要な課題を明らかにする。
実験結果から、大規模な言語モデルは特定のデータセットのゼロショット予測において良好に機能するが、様々な時系列データや従来の信号に直面すると、予測精度は顕著に低下することが示された。
論文 参考訳(メタデータ) (2024-08-09T05:13:03Z) - SoK: Membership Inference Attacks on LLMs are Rushing Nowhere (and How to Fix It) [16.673210422615348]
LLMに対するメンバーシップ推論攻撃(MIA)を行うための10以上の新しい手法が提案されている。
固定だがランダム化されたレコードやモデルに依存する従来のMIAとは対照的に、これらの方法は主にトレーニングされ、ポストホックで収集されたデータセットでテストされる。
このランダム化の欠如は、メンバーと非メンバー間の分散シフトの懸念を引き起こす。
論文 参考訳(メタデータ) (2024-06-25T23:12:07Z) - Time-LLM: Time Series Forecasting by Reprogramming Large Language Models [110.20279343734548]
時系列予測は多くの実世界の力学系において重要な意味を持つ。
時系列予測のための大規模言語モデルを再利用するための再プログラミングフレームワークであるTime-LLMを提案する。
Time-LLMは、最先端の特殊な予測モデルよりも優れた、強力な時系列学習者である。
論文 参考訳(メタデータ) (2023-10-03T01:31:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。