論文の概要: Interpretable Pre-Trained Transformers for Heart Time-Series Data
- arxiv url: http://arxiv.org/abs/2407.20775v1
- Date: Tue, 30 Jul 2024 12:22:03 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-31 17:19:48.802263
- Title: Interpretable Pre-Trained Transformers for Heart Time-Series Data
- Title(参考訳): 心的時系列データのための解釈可能な事前学習変換器
- Authors: Harry J. Davies, James Monsen, Danilo P. Mandic,
- Abstract要約: 我々は、PTG-PTとECG-PTという2つの訓練済み汎用心臓モデルを作成する。
このような事前学習されたモデルが完全に解釈可能であることを実証する。
また, 心房細動の分類などのタスクにおいて, これらの事前訓練モデルを簡単に微調整できることが実証された。
- 参考スコア(独自算出の注目度): 15.377534937558744
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Decoder-only transformers are the backbone of the popular generative pre-trained transformer (GPT) series of large language models. In this work, we apply the same framework to periodic heart time-series data to create two pre-trained general purpose cardiac models, namely PPG-PT and ECG-PT. We demonstrate that both such pre-trained models are fully interpretable. This is achieved firstly through aggregate attention maps which show that the model focuses on similar points in previous cardiac cycles in order to make predictions and gradually broadens its attention in deeper layers. Next, tokens with the same value, that occur at different distinct points in the ECG and PPG cycle, form separate clusters in high dimensional space based on their phase as they propagate through the transformer blocks. Finally, we highlight that individual attention heads respond to specific physiologically relevent features, such as the dicrotic notch in PPG and the P-wave in ECG. It is also demonstrated that these pre-trained models can be easily fine-tuned for tasks such as classification of atrial fibrillation. In this specific example, the fine-tuning took 11 minutes of computer time, and achieved a leave-one-subject-out AUCs of 0.99 and 0.93 for ECG and PPG respectively. Importantly, these fine-tuned models are also fully explainable, with attention shifting to regions in the context that are strongly indicative of atrial fibrillation.
- Abstract(参考訳): デコーダのみのトランス (Decoder-only transformer) は、大規模言語モデルの一般的な生成事前学習トランス (GPT) シリーズのバックボーンである。
本研究では、周期的心拍データに同じ枠組みを適用し、PTG-PTとECG-PTの2つのトレーニング済み汎用心臓モデルを作成する。
このような事前学習されたモデルが完全に解釈可能であることを実証する。
これはまずアグリゲーション・アテンション・マップ(英語版)を用いて達成され、このモデルが予測を行い、より深い層で徐々に注意を拡げるために、過去の心循環の類似点に焦点を当てていることを示す。
次に、同じ値のトークンは、ECG と PPG のサイクルの異なる点で発生し、変圧器ブロックを伝播するにつれて、その位相に基づいて高次元空間の別個のクラスタを形成する。
最後に, PPGのジクロティックノッチや心電図のP波など, 個々の注意が生理的変化に反応することを明らかにする。
また, 心房細動の分類などのタスクにおいて, これらの事前訓練モデルを簡単に微調整できることが実証された。
この具体例では、微調整はコンピュータ時間11分を要し、それぞれECGとPSGで0.99と0.93の単射AUCを達成した。
重要なことに、これらの微調整モデルも完全に説明可能であり、心房細動を強く示唆する文脈の領域に注意が移る。
関連論文リスト
- Self-supervised inter-intra period-aware ECG representation learning for detecting atrial fibrillation [41.82319894067087]
そこで本研究では,周期型ECG表現学習手法を提案する。
心房細動患者の心電図ではRR間隔の不規則性やP波の欠如を考慮し, 経時的および経時的表現のための特定の事前訓練タスクを開発する。
本手法は,発作/持続性心房細動検出のためのBTCHデータセット,textiti., 0.953/0.996におけるAUCの顕著な性能を示す。
論文 参考訳(メタデータ) (2024-10-08T10:03:52Z) - Improving Diffusion Models for ECG Imputation with an Augmented Template
Prior [43.6099225257178]
ノイズと品質の悪い録音は、モバイルヘルスシステムを使って収集された信号にとって大きな問題である。
近年の研究では、確率的時系列モデルによるECGの欠落値の計算が検討されている。
本稿では,様々な健康状態の事前情報として,テンプレート誘導型拡散確率モデル(DDPM)PulseDiffを提案する。
論文 参考訳(メタデータ) (2023-10-24T11:34:15Z) - PulseNet: Deep Learning ECG-signal classification using random
augmentation policy and continous wavelet transform for canines [46.09869227806991]
犬心電図(ECG)の評価には熟練した獣医が必要である。
心電図の解釈と診断支援のための獣医師の現在の利用状況は限られている。
犬の心電図配列を正常または異常と分類するためのディープ畳み込みニューラルネットワーク(CNN)アプローチを実装した。
論文 参考訳(メタデータ) (2023-05-17T09:06:39Z) - Deep learning based ECG segmentation for delineation of diverse arrhythmias [0.0]
多様な不整脈に着目した心電図記述のためのU-Netライクセグメンテーションモデルを提案する。
これに続いて後処理アルゴリズムがノイズを除去し、P、QRS、T波の境界を自動的に決定する。
F1スコアはQRSおよびT波の99%,LUDBデータセットのP波の97%以上である。
論文 参考訳(メタデータ) (2023-04-13T03:20:45Z) - Performer: A Novel PPG to ECG Reconstruction Transformer For a Digital
Biomarker of Cardiovascular Disease Detection [0.0]
心臓血管疾患(CVD)は死因の上位1つとなり、これらの死亡の4分の3は低所得層で発生している。
心電図 (ECG) は, ユーザ参加の必要性から, 連続心臓モニタリングには有効ではない。
フォトプレチスモグラフィーは容易に収集できるが、精度の制限により臨床応用は制限される。
論文 参考訳(メタデータ) (2022-04-25T17:10:13Z) - Global ECG Classification by Self-Operational Neural Networks with
Feature Injection [25.15075119957447]
コンパクトな1次元自己組織化オペレーショナルニューラルネットワーク(Self-ONN)を用いた患者間心電図分類のための新しいアプローチを提案する。
我々は1D Self-ONN層を用いてECGデータから形態表現を自動的に学習し、Rピーク付近のECG波形の形状を捉えることができた。
提案手法は,MIT-BIH ベンチマークデータベースを用いて,これまでで最高の分類性能を達成している。
論文 参考訳(メタデータ) (2022-04-07T22:49:18Z) - Generalizing electrocardiogram delineation: training convolutional
neural networks with synthetic data augmentation [63.51064808536065]
ECGのデライン化のための既存のデータベースは小さく、サイズやそれらが表す病態の配列に不足している。
まず、原データベースから抽出した基本セグメントのプールを与えられたECGトレースを確率的に合成し、その整合性のある合成トレースに配置するための一連のルールを考案した。
第二に、2つの新しいセグメンテーションに基づく損失関数が開発され、これは、正確な数の独立構造の予測を強制し、サンプル数の削減に焦点をあてて、より密接なセグメンテーション境界を創出することを目的としている。
論文 参考訳(メタデータ) (2021-11-25T10:11:41Z) - Anomaly Detection in Time Series with Triadic Motif Fields and
Application in Atrial Fibrillation ECG Classification [3.026059658770843]
時系列分析では、時系列モチーフと時系列の順序パターンは、一般的な時間パターンと動的特徴を明らかにすることができる。
TMFは、三進時系列モチーフに基づくシンプルで効果的な時系列画像符号化方法です。
この動的特徴は、伝達学習事前学習畳み込みニューラルネットワーク(CNN)モデルを用いて、TMF画像から抽出することができる。
symmetrized Gradient-weighted Class Mappingによって明らかにされたパターンは、明確な臨床解釈を有する。
論文 参考訳(メタデータ) (2020-12-09T09:39:48Z) - Multilabel 12-Lead Electrocardiogram Classification Using Gradient
Boosting Tree Ensemble [64.29529357862955]
我々は,心電図の診断を分類するために,形態や信号処理機能に適合した勾配強化木のアンサンブルを用いたアルゴリズムを構築した。
各リードについて、心拍変動、PQRSTテンプレート形状、全信号波形から特徴を導出する。
各クラスに属するECGインスタンスの確率を予測するため、全12項目の特徴と合わせて、勾配を増す決定ツリーの集合に適合する。
論文 参考訳(メタデータ) (2020-10-21T18:11:36Z) - Classification of Arrhythmia by Using Deep Learning with 2-D ECG
Spectral Image Representation [3.3426603061273994]
本稿では,ECG信号を8つのクラスに分類するための2次元(2次元)畳み込みニューラルネットワーク(CNN)モデルを提案する。
我々は,最新の平均分類精度99.11%を達成し,同種の不整脈の分類において,最近報告した結果より優れている。
論文 参考訳(メタデータ) (2020-05-14T12:11:41Z) - ECG-DelNet: Delineation of Ambulatory Electrocardiograms with Mixed
Quality Labeling Using Neural Networks [69.25956542388653]
ディープラーニング(DL)アルゴリズムは、学術的、産業的にも重くなっている。
セグメンテーションフレームワークにECGの検出とデライン化を組み込むことにより、低解釈タスクにDLをうまく適用できることを実証する。
このモデルは、PhyloNetのQTデータベースを使用して、105個の増幅ECG記録から訓練された。
論文 参考訳(メタデータ) (2020-05-11T16:29:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。