論文の概要: Interpretable Pre-Trained Transformers for Heart Time-Series Data
- arxiv url: http://arxiv.org/abs/2407.20775v2
- Date: Tue, 13 Aug 2024 10:18:45 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-14 21:54:47.260571
- Title: Interpretable Pre-Trained Transformers for Heart Time-Series Data
- Title(参考訳): 心的時系列データのための解釈可能な事前学習変換器
- Authors: Harry J. Davies, James Monsen, Danilo P. Mandic,
- Abstract要約: 我々は、PTG-PTとECG-PTの2つのトレーニング済み汎用心臓モデルを作成する。
PPGのジクロティックノッチや心電図のP波など,個々の注意が生理学的に反する特徴に反応することを強調した。
これらの事前訓練されたモデルは、心房細動(AF)の分類や、光胸腺撮影におけるビート検出などのタスクにおいて、簡単に微調整できる。
- 参考スコア(独自算出の注目度): 15.377534937558744
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Decoder-only transformers are the backbone of the popular generative pre-trained transformer (GPT) series of large language models. In this work, we employ this framework to the analysis of clinical heart time-series data, to create two pre-trained general purpose cardiac models, termed PPG-PT and ECG-PT. We place a special emphasis on making both such pre-trained models fully interpretable. This is achieved firstly through aggregate attention maps which show that, in order to make predictions, the model focuses on similar points in previous cardiac cycles and gradually broadens its attention in deeper layers. Next, we show that tokens with the same value, which occur at different distinct points in the electrocardiography (ECG) and photoplethysmography (PPG) cycle, form separate clusters in high dimensional space. The clusters form according to phase, as the tokens propagate through the transformer blocks. Finally, we highlight that individual attention heads respond to specific physiologically relevent features, such as the dicrotic notch in PPG and the P-wave in ECG. It is also demonstrated that these pre-trained models are straightforward to fine-tune for tasks such as classification of atrial fibrillation (AF), and beat detection in photoplethysmography. For the example of AF, the fine-tuning took 11 minutes of computer time, and achieved the respective leave-one-subject-out AUCs of 0.99 and 0.93 for ECG and PPG within the MIMIC Perform AF dataset. In addition, the fine-tuned beat detector achieved a state-of-the-art F1 score of 98%, as well as uniquely providing a beat confidence level which acts as a signal quality estimator. Importantly, the fine-tuned models for AF screening are also fully explainable, with attention shifting to regions in the context that are strongly indicative of atrial fibrillation.
- Abstract(参考訳): デコーダのみのトランス (Decoder-only transformer) は、大規模言語モデルの一般的な生成事前学習トランス (GPT) シリーズのバックボーンである。
本研究では,臨床心臓の時系列データの解析にこの枠組みを用いて,PTG-PTとECG-PTという2つのトレーニング済み汎用心臓モデルを作成する。
我々は、これらの事前学習されたモデルの両方を完全に解釈できることに特に重点を置いている。
これはまずアグリゲーション・アテンション・マップ(英語版)を用いて達成され、予測を行うために、モデルが過去の心循環の類似点に焦点を当て、より深い層で徐々に注意を拡大することを示す。
次に、同じ値のトークンが心電図(ECG)と光胸腺図(PPG)の異なる点で発生し、高次元空間で別々のクラスターを形成することを示す。
トークンは変圧器ブロックを介して伝播するので、クラスターは位相に応じて形成される。
最後に, PPGのジクロティックノッチや心電図のP波など, 個々の注意が生理的変化に反応することを明らかにする。
また, 心房細動 (AF) の分類や光胸腺撮影におけるビート検出などのタスクにおいて, これらの事前訓練モデルが容易に微調整できることが実証された。
AFの例では、微調整はコンピュータ時間11分を要し、MIMIC Perform AFデータセット内のECGとPSGのそれぞれ0.99と0.93の残射AUCを達成した。
さらに、微細調整されたビート検出器は、最先端のF1スコアの98%を達成し、信号品質推定器として機能するビート信頼レベルを独自に提供する。
重要なことは、AFスクリーニングのための微調整されたモデルも完全に説明可能であり、心房細動を強く示唆する文脈の領域に注意が移る。
関連論文リスト
- Self-supervised inter-intra period-aware ECG representation learning for detecting atrial fibrillation [41.82319894067087]
そこで本研究では,周期型ECG表現学習手法を提案する。
心房細動患者の心電図ではRR間隔の不規則性やP波の欠如を考慮し, 経時的および経時的表現のための特定の事前訓練タスクを開発する。
本手法は,発作/持続性心房細動検出のためのBTCHデータセット,textiti., 0.953/0.996におけるAUCの顕著な性能を示す。
論文 参考訳(メタデータ) (2024-10-08T10:03:52Z) - Improving Diffusion Models for ECG Imputation with an Augmented Template
Prior [43.6099225257178]
ノイズと品質の悪い録音は、モバイルヘルスシステムを使って収集された信号にとって大きな問題である。
近年の研究では、確率的時系列モデルによるECGの欠落値の計算が検討されている。
本稿では,様々な健康状態の事前情報として,テンプレート誘導型拡散確率モデル(DDPM)PulseDiffを提案する。
論文 参考訳(メタデータ) (2023-10-24T11:34:15Z) - PulseNet: Deep Learning ECG-signal classification using random
augmentation policy and continous wavelet transform for canines [46.09869227806991]
犬心電図(ECG)の評価には熟練した獣医が必要である。
心電図の解釈と診断支援のための獣医師の現在の利用状況は限られている。
犬の心電図配列を正常または異常と分類するためのディープ畳み込みニューラルネットワーク(CNN)アプローチを実装した。
論文 参考訳(メタデータ) (2023-05-17T09:06:39Z) - Deep learning based ECG segmentation for delineation of diverse arrhythmias [0.0]
多様な不整脈に着目した心電図記述のためのU-Netライクセグメンテーションモデルを提案する。
これに続いて後処理アルゴリズムがノイズを除去し、P、QRS、T波の境界を自動的に決定する。
F1スコアはQRSおよびT波の99%,LUDBデータセットのP波の97%以上である。
論文 参考訳(メタデータ) (2023-04-13T03:20:45Z) - Performer: A Novel PPG to ECG Reconstruction Transformer For a Digital
Biomarker of Cardiovascular Disease Detection [0.0]
心臓血管疾患(CVD)は死因の上位1つとなり、これらの死亡の4分の3は低所得層で発生している。
心電図 (ECG) は, ユーザ参加の必要性から, 連続心臓モニタリングには有効ではない。
フォトプレチスモグラフィーは容易に収集できるが、精度の制限により臨床応用は制限される。
論文 参考訳(メタデータ) (2022-04-25T17:10:13Z) - Global ECG Classification by Self-Operational Neural Networks with
Feature Injection [25.15075119957447]
コンパクトな1次元自己組織化オペレーショナルニューラルネットワーク(Self-ONN)を用いた患者間心電図分類のための新しいアプローチを提案する。
我々は1D Self-ONN層を用いてECGデータから形態表現を自動的に学習し、Rピーク付近のECG波形の形状を捉えることができた。
提案手法は,MIT-BIH ベンチマークデータベースを用いて,これまでで最高の分類性能を達成している。
論文 参考訳(メタデータ) (2022-04-07T22:49:18Z) - Generalizing electrocardiogram delineation: training convolutional
neural networks with synthetic data augmentation [63.51064808536065]
ECGのデライン化のための既存のデータベースは小さく、サイズやそれらが表す病態の配列に不足している。
まず、原データベースから抽出した基本セグメントのプールを与えられたECGトレースを確率的に合成し、その整合性のある合成トレースに配置するための一連のルールを考案した。
第二に、2つの新しいセグメンテーションに基づく損失関数が開発され、これは、正確な数の独立構造の予測を強制し、サンプル数の削減に焦点をあてて、より密接なセグメンテーション境界を創出することを目的としている。
論文 参考訳(メタデータ) (2021-11-25T10:11:41Z) - Anomaly Detection in Time Series with Triadic Motif Fields and
Application in Atrial Fibrillation ECG Classification [3.026059658770843]
時系列分析では、時系列モチーフと時系列の順序パターンは、一般的な時間パターンと動的特徴を明らかにすることができる。
TMFは、三進時系列モチーフに基づくシンプルで効果的な時系列画像符号化方法です。
この動的特徴は、伝達学習事前学習畳み込みニューラルネットワーク(CNN)モデルを用いて、TMF画像から抽出することができる。
symmetrized Gradient-weighted Class Mappingによって明らかにされたパターンは、明確な臨床解釈を有する。
論文 参考訳(メタデータ) (2020-12-09T09:39:48Z) - Multilabel 12-Lead Electrocardiogram Classification Using Gradient
Boosting Tree Ensemble [64.29529357862955]
我々は,心電図の診断を分類するために,形態や信号処理機能に適合した勾配強化木のアンサンブルを用いたアルゴリズムを構築した。
各リードについて、心拍変動、PQRSTテンプレート形状、全信号波形から特徴を導出する。
各クラスに属するECGインスタンスの確率を予測するため、全12項目の特徴と合わせて、勾配を増す決定ツリーの集合に適合する。
論文 参考訳(メタデータ) (2020-10-21T18:11:36Z) - Classification of Arrhythmia by Using Deep Learning with 2-D ECG
Spectral Image Representation [3.3426603061273994]
本稿では,ECG信号を8つのクラスに分類するための2次元(2次元)畳み込みニューラルネットワーク(CNN)モデルを提案する。
我々は,最新の平均分類精度99.11%を達成し,同種の不整脈の分類において,最近報告した結果より優れている。
論文 参考訳(メタデータ) (2020-05-14T12:11:41Z) - ECG-DelNet: Delineation of Ambulatory Electrocardiograms with Mixed
Quality Labeling Using Neural Networks [69.25956542388653]
ディープラーニング(DL)アルゴリズムは、学術的、産業的にも重くなっている。
セグメンテーションフレームワークにECGの検出とデライン化を組み込むことにより、低解釈タスクにDLをうまく適用できることを実証する。
このモデルは、PhyloNetのQTデータベースを使用して、105個の増幅ECG記録から訓練された。
論文 参考訳(メタデータ) (2020-05-11T16:29:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。