論文の概要: Foundation Model for Cardiac Time Series via Masked Latent Attention
- arxiv url: http://arxiv.org/abs/2603.26475v1
- Date: Fri, 27 Mar 2026 14:41:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-30 21:49:48.546212
- Title: Foundation Model for Cardiac Time Series via Masked Latent Attention
- Title(参考訳): 仮面潜在注意による心的時系列の基礎モデル
- Authors: Moritz Vandenhirtz, Samuel Ruipérez-Campillo, Simon Böhi, Sonia Laguna, Irene Cannistraci, Andrea Agostini, Ece Ozkan, Thomas M. Sutter, Julia E. Vogt,
- Abstract要約: 心電図(ECG)は最も広く用いられる臨床信号であり、心臓血管診断において中心的な役割を果たす。
我々は,自己教師付き事前学習中に,この構造を直接活用する潜時注意マスク付きオートエンコーダ (LAMAE) FMを導入する。
提案手法は, 鉛間の高次相互作用を潜在的注意を通してモデル化し, 置換不変凝集と鉛固有表現の適応重み付けを可能にする。
- 参考スコア(独自算出の注目度): 19.265319330946465
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Electrocardiograms (ECGs) are among the most widely available clinical signals and play a central role in cardiovascular diagnosis. While recent foundation models (FMs) have shown promise for learning transferable ECG representations, most existing pretraining approaches treat leads as independent channels and fail to explicitly leverage their strong structural redundancy. We introduce the latent attention masked autoencoder (LAMAE) FM that directly exploits this structure by learning cross-lead connection mechanisms during self-supervised pretraining. Our approach models higher-order interactions across leads through latent attention, enabling permutation-invariant aggregation and adaptive weighting of lead-specific representations. We provide empirical evidence on the Mimic-IV-ECG database that leveraging the cross-lead connection constitutes an effective form of structural supervision, improving representation quality and transferability. Our method shows strong performance in predicting ICD-10 codes, outperforming independent-lead masked modeling and alignment-based baselines.
- Abstract(参考訳): 心電図(ECG)は最も広く用いられる臨床信号であり、心臓血管診断において中心的な役割を果たす。
最近の基礎モデル(FM)では、転送可能なECG表現の学習が約束されているが、既存の事前学習アプローチのほとんどは、リードを独立したチャネルとして扱い、その強い構造的冗長性を明示的に活用することができない。
我々は,自己教師付き事前学習中に,この構造を直接活用する潜時注意マスク付きオートエンコーダ (LAMAE) FMを導入する。
提案手法は, 鉛間の高次相互作用を潜在的注意を通してモデル化し, 置換不変凝集と鉛固有表現の適応重み付けを可能にする。
クロスリード接続を利用したMimic-IV-ECGデータベース上での実証的な証拠として,構造的監督の有効な形態を構成し,表現品質と転送性を向上させる。
提案手法は, ICD-10符号の予測, 独立型マスキングモデル, アライメントベースラインよりも優れた性能を示す。
関連論文リスト
- Transferring Clinical Knowledge into ECGs Representation [0.19498378931702776]
本稿では,マルチモーダル臨床データから強力なECGエンコーダへ知識を伝達する新しい3段階トレーニングパラダイムを提案する。
我々は、文脈的臨床情報に富んだ心電図表現を作成するために、自己監督型、共同埋め込み型プレトレーニングステージを用いている。
モデルの出力を説明する間接的な方法として、ECG埋め込みから直接、関連する実験室の異常を予測できるように訓練する。
論文 参考訳(メタデータ) (2025-12-07T22:19:24Z) - Vision Foundation Models Can Be Good Tokenizers for Latent Diffusion Models [45.63522160275318]
Vision Foundation Model Variational Autoencoder (VFM-VAE) は、VFMのセマンティックフォーカスとピクセルレベルの忠実さの必要性の間の固有の緊張を解決するために設計された。
我々のシステムは80エポックで2.20のgFID(w/o CFG)に達する(先行トークン化器の10倍の高速化)。
論文 参考訳(メタデータ) (2025-10-21T09:30:45Z) - Mitigating Attention Hacking in Preference-Based Reward Modeling via Interaction Distillation [62.14692332209628]
インタラクション蒸留(Interaction Distillation)は、注意レベル最適化によるより適切な嗜好モデリングのための新しいトレーニングフレームワークである。
最先端のRM最適化法と比較して、より安定で一般化可能な報酬信号を提供する。
論文 参考訳(メタデータ) (2025-08-04T17:06:23Z) - Sensing Cardiac Health Across Scenarios and Devices: A Multi-Modal Foundation Model Pretrained on Heterogeneous Data from 1.7 Million Individuals [36.08910150609342]
広大で異質な健康記録から統一された表現を学習する心センシング基礎モデル(CSFM)を提案する。
我々のモデルは、複数の大規模データセットからのデータの革新的なマルチモーダル統合に基づいて事前訓練されている。
CSFMは従来のワンモーダル・ワン・タスク・アプローチより一貫して優れている。
論文 参考訳(メタデータ) (2025-06-23T20:58:12Z) - Channel-Imposed Fusion: A Simple yet Effective Method for Medical Time Series Classification [18.061020420145407]
本研究は、構造的透明性を重視したモデリングパラダイムに焦点を移し、医療データの本質的な特徴とより密接に一致させる。
本稿では,チャネル間情報融合による信号と雑音の比を高める新しい手法であるChannel Imposed Fusion (CIF)を提案する。
複数のパブリックなEEGおよびECGデータセットの実験結果は、提案手法が既存の最先端(SOTA)アプローチを様々な分類基準で上回るだけでなく、分類プロセスの透明性を著しく向上させ、医療時系列分類の新しい視点を提供することを示した。
論文 参考訳(メタデータ) (2025-05-31T01:44:30Z) - Channel Fingerprint Construction for Massive MIMO: A Deep Conditional Generative Approach [65.47969413708344]
CF双生児の概念を導入し、条件付き生成拡散モデル(CGDM)を設計する。
本研究では, 粗粒CFに条件付き観測された細粒CFの対数分布に対するエビデンスローバウンド(ELBO)を導出するために, 変分推論手法を用いる。
提案手法は, ベースラインと比較して, 復元性能が著しく向上していることを示す。
論文 参考訳(メタデータ) (2025-05-12T01:36:06Z) - Self-supervised inter-intra period-aware ECG representation learning for detecting atrial fibrillation [41.82319894067087]
そこで本研究では,周期型ECG表現学習手法を提案する。
心房細動患者の心電図ではRR間隔の不規則性やP波の欠如を考慮し, 経時的および経時的表現のための特定の事前訓練タスクを開発する。
本手法は,発作/持続性心房細動検出のためのBTCHデータセット,textiti., 0.953/0.996におけるAUCの顕著な性能を示す。
論文 参考訳(メタデータ) (2024-10-08T10:03:52Z) - Boosting Masked ECG-Text Auto-Encoders as Discriminative Learners [10.088785685439134]
本稿では,コントラッシブマスクを用いた自動エンコーダアーキテクチャを用いて,ECGとテキストデータを事前学習するフレームワークD-BETAを提案する。
D-BETAは、生成性の強さと差別能力の強化を一意に組み合わせて、堅牢なクロスモーダル表現を実現する。
論文 参考訳(メタデータ) (2024-10-03T01:24:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。