論文の概要: Sequential Multi-Dimensional Self-Supervised Learning for Clinical Time
Series
- arxiv url: http://arxiv.org/abs/2307.10923v1
- Date: Thu, 20 Jul 2023 14:49:58 GMT
- ステータス: 処理完了
- システム内更新日: 2023-07-21 12:41:14.480832
- Title: Sequential Multi-Dimensional Self-Supervised Learning for Clinical Time
Series
- Title(参考訳): 臨床時系列における連続多次元自己監督学習
- Authors: Aniruddh Raghu, Payal Chandak, Ridwan Alam, John Guttag, Collin M.
Stultz
- Abstract要約: 本稿では,臨床時系列データを対象とした自己教師付き学習手法を提案する。
本手法は各レベルにおける損失関数の特定の形態に依存しない。
本手法を実世界の2つの臨床データセットで評価する。
- 参考スコア(独自算出の注目度): 3.635056427544418
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Self-supervised learning (SSL) for clinical time series data has received
significant attention in recent literature, since these data are highly rich
and provide important information about a patient's physiological state.
However, most existing SSL methods for clinical time series are limited in that
they are designed for unimodal time series, such as a sequence of structured
features (e.g., lab values and vitals signs) or an individual high-dimensional
physiological signal (e.g., an electrocardiogram). These existing methods
cannot be readily extended to model time series that exhibit multimodality,
with structured features and high-dimensional data being recorded at each
timestep in the sequence. In this work, we address this gap and propose a new
SSL method -- Sequential Multi-Dimensional SSL -- where a SSL loss is applied
both at the level of the entire sequence and at the level of the individual
high-dimensional data points in the sequence in order to better capture
information at both scales. Our strategy is agnostic to the specific form of
loss function used at each level -- it can be contrastive, as in SimCLR, or
non-contrastive, as in VICReg. We evaluate our method on two real-world
clinical datasets, where the time series contains sequences of (1)
high-frequency electrocardiograms and (2) structured data from lab values and
vitals signs. Our experimental results indicate that pre-training with our
method and then fine-tuning on downstream tasks improves performance over
baselines on both datasets, and in several settings, can lead to improvements
across different self-supervised loss functions.
- Abstract(参考訳): 臨床時系列データに対する自己教師付き学習 (ssl) は, 患者の生理的状態に関する重要な情報を提供するため, 近年の文献で注目されている。
しかし、既存の臨床時系列のSSL法のほとんどは、構造化された特徴(例えば、実験値やバイタルサイン)や個々の高次元生理的信号(例えば、心電図)のような、単調な時系列のために設計されているという点で制限されている。
これらの既存手法は、構造的特徴と高次元データがシーケンスの各時間ステップに記録される多モード性を示すモデル時系列に容易に拡張することはできない。
本研究では,このギャップに対処し,シーケンス全体のレベルとシーケンス内の個々の高次元データポイントのレベルの両方でSSLロスを適用し,両方のスケールで情報をよりよく取得する,新たなSSLメソッドであるSequential Multi-dimensional SSLを提案する。
当社の戦略は,各レベルで使用される損失関数の特定の形式とは無関係です -- vicregのように,simclrや非contrastiveのように,対照的なものです。
本手法は,(1)高周波心電図,(2)検査値とバイタルサインからの構造化データを含む実世界の2つの臨床データセットを用いて評価した。
実験結果から,本手法による事前学習と下流タスクの微調整により,両方のデータセットのベースライン上でのパフォーマンスが向上し,複数の設定で異なる自己教師付き損失関数が改良される可能性が示唆された。
関連論文リスト
- FedCVD: The First Real-World Federated Learning Benchmark on Cardiovascular Disease Data [52.55123685248105]
心臓血管疾患(CVD)は、現在世界でも主要な死因であり、早期診断と治療の要点を浮き彫りにしている。
機械学習(ML)手法はCVDの早期診断に役立つが、その性能は高品質なデータへのアクセスに依存している。
本稿では、FedCVDという心臓血管疾患検出のための、世界初の実世界のFLベンチマークを示す。
論文 参考訳(メタデータ) (2024-10-28T02:24:01Z) - MedTsLLM: Leveraging LLMs for Multimodal Medical Time Series Analysis [6.30440420617113]
MedTsLLMは、時系列データとリッチな文脈情報をテキスト形式で統合し、生理的信号を解析する汎用多モーダル大規模言語モデル(LLM)フレームワークである。
本研究は,連続時間における意味的セグメンテーション,境界検出,異常検出という,臨床的関連性のある3つのタスクを実行する。
我々のモデルは、深層学習モデル、他のLSM、および複数の医療領域における臨床方法など、最先端のベースラインよりも優れています。
論文 参考訳(メタデータ) (2024-08-14T18:57:05Z) - Temporal Cross-Attention for Dynamic Embedding and Tokenization of Multimodal Electronic Health Records [1.6609516435725236]
マルチモーダルな臨床時系列を正確に表現するための動的埋め込み・トークン化フレームワークを提案する。
術後合併症9例の発症予測に基礎的アプローチを応用した。
論文 参考訳(メタデータ) (2024-03-06T19:46:44Z) - On the Importance of Step-wise Embeddings for Heterogeneous Clinical
Time-Series [1.3285222309805063]
近年のシークエンス・モデリングの深層学習の進歩は、電子健康記録から時系列を扱うタスクに完全に移行していない。
特に、ICU(Intensive Care Unit)に関わる問題では、木に基づく手法で表形式でシーケンス分類に取り組むことが現状である。
論文 参考訳(メタデータ) (2023-11-15T12:18:15Z) - ICU Mortality Prediction Using Long Short-Term Memory Networks [0.0]
我々はElectronic Health Records(EHRs)から得られた大量の時間データを解析する自動データ駆動システムを実装した。
我々は,院内死亡率とLOS(Longth of Stay)を早期に予測するために,高レベル情報を抽出する。
実世界の予測エンジン構築のための厳密な時系列測定によるLSTMモデルの効率性について実験を行った。
論文 参考訳(メタデータ) (2023-08-18T09:44:47Z) - Self-Supervised Learning for Time Series Analysis: Taxonomy, Progress, and Prospects [84.6945070729684]
自己教師付き学習(SSL)は、最近、様々な時系列タスクで印象的なパフォーマンスを達成した。
この記事では、時系列データに対する最先端のSSLメソッドについてレビューする。
論文 参考訳(メタデータ) (2023-06-16T18:23:10Z) - Multimodality Multi-Lead ECG Arrhythmia Classification using
Self-Supervised Learning [5.675787521359948]
SSLベースのマルチモーダリティECG分類を提案する。
提案するネットワークはSSL学習パラダイムに従っており,前ストリームタスクと下流タスクに対応する2つのモジュールで構成されている。
提案手法の有効性を評価するため,12リードのPhystoNet 2020データセット上で10倍のクロス検証を行った。
論文 参考訳(メタデータ) (2022-09-30T18:45:34Z) - LifeLonger: A Benchmark for Continual Disease Classification [59.13735398630546]
MedMNISTコレクションの連続的な疾患分類のためのベンチマークであるLifeLongerを紹介する。
タスクとクラスでの病気の漸進的な学習は、モデルをスクラッチから再トレーニングすることなく、新しいサンプルを分類する問題に対処する。
クロスドメインインクリメンタル学習は、これまで得られた知識を維持しながら、異なる機関から派生したデータセットを扱う問題に対処する。
論文 参考訳(メタデータ) (2022-04-12T12:25:05Z) - Federated Cycling (FedCy): Semi-supervised Federated Learning of
Surgical Phases [57.90226879210227]
FedCyは、FLと自己教師付き学習を組み合わせた半教師付き学習(FSSL)手法で、ラベル付きビデオとラベルなしビデオの両方の分散データセットを利用する。
外科的段階の自動認識作業において,最先端のFSSL法よりも顕著な性能向上を示した。
論文 参考訳(メタデータ) (2022-03-14T17:44:53Z) - Learning summary features of time series for likelihood free inference [93.08098361687722]
時系列データから要約機能を自動的に学習するためのデータ駆動型戦略を提案する。
以上の結果から,データから要約的特徴を学習することで,手作りの値に基づいてLFI手法よりも優れる可能性が示唆された。
論文 参考訳(メタデータ) (2020-12-04T19:21:37Z) - Uncovering the structure of clinical EEG signals with self-supervised
learning [64.4754948595556]
教師付き学習パラダイムは、しばしば利用可能なラベル付きデータの量によって制限される。
この現象は脳波(EEG)などの臨床関連データに特に問題となる。
ラベルのないデータから情報を抽出することで、ディープニューラルネットワークとの競合性能に到達することができるかもしれない。
論文 参考訳(メタデータ) (2020-07-31T14:34:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。