論文の概要: A Lightweight Self-Supervised Learning Framework for Multivariate Time Series using Hierarchical-JEPA on ECG Data
- arxiv url: http://arxiv.org/abs/2607.01145v1
- Date: Wed, 01 Jul 2026 16:27:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-02 19:56:07.990433
- Title: A Lightweight Self-Supervised Learning Framework for Multivariate Time Series using Hierarchical-JEPA on ECG Data
- Title(参考訳): 階層型JEPAを用いたECGデータを用いた多変量時系列の軽量自己監督学習フレームワーク
- Authors: Siwon Kim,
- Abstract要約: 本研究は,多変量時系列の軽量SSLフレームワークであるイベント再構成合同組込み予測アーキテクチャ(ER-JEPA)を紹介する。
ER-JEPA の特徴は、(1) 時間間隔毎に表現を構築し、その後、これらの表現を単変量時系列として処理する2段階構造、(2) 統合組込み予測アーキテクチャ(JEPA)の階層的な統合、(3) 視覚変換器(ViT)のバックボーンである。
このモデルはST-MEMベンチマークで,高速な計算と最小限のリソース使用量で,最先端のダウンストリーム性能を実現する。
- 参考スコア(独自算出の注目度): 9.438029977122275
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Data analysis in the medical domain often encounters scenarios involving a limited target dataset and a large, unannotated dataset with a general distribution. Under such circumstances, self-supervised learning (SSL) methods are highly effective for utilizing large datasets, making them a popular choice for electrocardiogram (ECG) analysis. This work presents the Event Reconstruction Joint-Embedding Predictive Architecture (ER-JEPA), a lightweight SSL framework for multivariate time series, whose name and two-fold hierarchical structure are inspired by the diagnostic approach of cardiologists. At its core, ER-JEPA features: (1) a two-stage structure that constructs representations for each time interval and subsequently processes these representations as a univariate time series, (2) the hierarchical integration of two Joint-Embedding Predictive Architectures (JEPAs), and (3) a Vision Transformer (ViT) backbone. The structural concatenation of two JEPAs categorizes the model as a Hierarchical JEPA (H-JEPA), designed to encode multiple levels of abstract representations for enhanced prediction on complex tasks. This study reports a successful application of H-JEPA to 12-lead ECG data as a multivariate time series alongside an analysis of the sensitivity of hierarchical representation during the pretraining stage. Pretrained on approximately 180,000 10-second recordings, the model achieves state-of-the-art downstream performance on the ST-MEM benchmark, with rapid computation and minimal resource usage.
- Abstract(参考訳): 医療領域のデータ分析は、限られたターゲットデータセットと一般的な分布を持つ大規模で注釈のないデータセットを含むシナリオに遭遇することが多い。
このような状況下では、自己教師付き学習(SSL)法は大きなデータセットを利用するのに非常に効果的であり、心電図解析(ECG)の一般的な選択肢である。
本研究は,多変量時系列の軽量SSLフレームワークであるイベント再構築合同予測アーキテクチャ(ER-JEPA)について述べる。
ER-JEPAのコアとなるのは、(1)時間間隔ごとに表現を構築し、その後にこれらの表現を単変量時系列として処理する2段階構造、(2)JEPA(Joint-Embedding Predictive Architecture)の階層的な統合、(3)ViT(Vit)バックボーンである。
2つのJEPAの構造的結合は、モデルを階層的JEPA (H-JEPA) に分類する。
本研究は,12誘導ECGデータに対するH-JEPAの多変量時系列化に成功し,事前学習段階における階層表現の感度を解析した。
約180,000 10秒の録音で事前訓練されたこのモデルは、ST-MEMベンチマークで最先端のダウンストリーム性能を実現し、高速な計算と最小限のリソース使用量を持つ。
関連論文リスト
- VISTA Architect: A graph database-oriented health AI system demonstrated in multidisciplinary tumor boards [1.5504500166769226]
本稿では,データベース指向のAIアーキテクチャであるVISTA Architectを紹介した。
摂取時に、複雑な臨床文書を永続的で前立腺にリンクした知識グラフに変換する。
1,180人以上の患者で、VISTA Architectは15の腫瘍基板型変数に対して96.4%の精度を達成した。
論文 参考訳(メタデータ) (2026-06-21T22:09:12Z) - Beyond Holistic Models: Systematic Component-level Benchmarking of Deep Multivariate Time-Series Forecasting [38.12202305030755]
我々は,深部予測手法をそのコアとなる微細なコンポーネントに体系的に分解する,最初の大規模ベンチマークであるTSCOMPを提案する。
我々は、異なるバックボーン、データ特性、およびそれらの相互作用におけるコンポーネントの有効性を明らかにする多視点分析を行う。
実験の結果,コーパス駆動型アプローチは最先端手法よりも一貫して優れていることがわかった。
論文 参考訳(メタデータ) (2026-05-26T05:18:38Z) - Efficient Neural Architectures for Real-Time ECG Interpretation on Limited Hardware [0.0]
本稿では,畳み込みニューラルネットワーク(CNN)アーキテクチャを実証的に研究し,診断精度と計算効率のトレードオフについて検討する。
本稿では,ParallelCNN,ParallelCNNew,SimpleNetの3つの軽量モデルを提案する。
我々の実験は、ドイツ、中国、米国から入手可能な12のECGデータセットを3つにまとめたものです。
論文 参考訳(メタデータ) (2026-05-11T01:02:28Z) - A Comprehensive Benchmark for Electrocardiogram Time-Series [31.656774120734358]
心電図は、心臓の健康と様々な疾患の診断に不可欠である。
ECGデータは、大規模な時系列モデルトレーニングのための事前トレーニングデータセットに組み込まれることが多い。
論文 参考訳(メタデータ) (2025-07-15T02:54:24Z) - HiT-JEPA: A Hierarchical Self-supervised Trajectory Embedding Framework for Similarity Computation [7.602963978226802]
セマンティック抽象化レベルを越えたマルチスケール都市軌道表現を学習するための統合フレームワークであるHiT-JEPAを提案する。
HiT-JEPAは、ポイントレベルの細粒度、中間パターン、高レベルの軌道抽象をキャプチャする3層階層構造を採用している。
軌道類似性のための実世界の複数のデータセットの実験は、HiT-JEPAの階層設計がよりリッチでマルチスケールな表現をもたらすことを示している。
論文 参考訳(メタデータ) (2025-06-17T11:46:03Z) - PMT: Progressive Mean Teacher via Exploring Temporal Consistency for Semi-Supervised Medical Image Segmentation [51.509573838103854]
医用画像セグメンテーションのための半教師付き学習フレームワークであるプログレッシブ平均教師(PMT)を提案する。
我々のPMTは、トレーニングプロセスにおいて、堅牢で多様な特徴を学習することで、高忠実な擬似ラベルを生成する。
CT と MRI の異なる2つのデータセットに対する実験結果から,本手法が最先端の医用画像分割法より優れていることが示された。
論文 参考訳(メタデータ) (2024-09-08T15:02:25Z) - Revisiting the Evaluation of Image Synthesis with GANs [55.72247435112475]
本研究では, 合成性能の評価に関する実証的研究を行い, 生成モデルの代表としてGAN(Generative Adversarial Network)を用いた。
特に、表現空間におけるデータポイントの表現方法、選択したサンプルを用いた公平距離の計算方法、各集合から使用可能なインスタンス数など、さまざまな要素の詳細な分析を行う。
論文 参考訳(メタデータ) (2023-04-04T17:54:32Z) - Learning from Temporal Spatial Cubism for Cross-Dataset Skeleton-based
Action Recognition [88.34182299496074]
アクションラベルはソースデータセットでのみ利用可能だが、トレーニング段階のターゲットデータセットでは利用できない。
我々は,2つの骨格に基づく行動データセット間の領域シフトを低減するために,自己スーパービジョン方式を利用する。
時間的セグメントや人体部分のセグメンテーションとパーフォーミングにより、我々は2つの自己教師あり学習分類タスクを設計する。
論文 参考訳(メタデータ) (2022-07-17T07:05:39Z) - Generalizing electrocardiogram delineation: training convolutional
neural networks with synthetic data augmentation [63.51064808536065]
ECGのデライン化のための既存のデータベースは小さく、サイズやそれらが表す病態の配列に不足している。
まず、原データベースから抽出した基本セグメントのプールを与えられたECGトレースを確率的に合成し、その整合性のある合成トレースに配置するための一連のルールを考案した。
第二に、2つの新しいセグメンテーションに基づく損失関数が開発され、これは、正確な数の独立構造の予測を強制し、サンプル数の削減に焦点をあてて、より密接なセグメンテーション境界を創出することを目的としている。
論文 参考訳(メタデータ) (2021-11-25T10:11:41Z) - Few-Shot Named Entity Recognition: A Comprehensive Study [92.40991050806544]
マルチショット設定のモデル一般化能力を向上させるための3つの手法を検討する。
ラベル付きデータの比率の異なる10の公開nerデータセットについて経験的比較を行う。
マルチショットとトレーニングフリーの両方の設定で最新の結果を作成します。
論文 参考訳(メタデータ) (2020-12-29T23:43:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。