論文の概要: Self-DANA: A Resource-Efficient Channel-Adaptive Self-Supervised Approach for ECG Foundation Models
- arxiv url: http://arxiv.org/abs/2507.14151v1
- Date: Thu, 03 Jul 2025 20:39:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-27 08:26:15.920141
- Title: Self-DANA: A Resource-Efficient Channel-Adaptive Self-Supervised Approach for ECG Foundation Models
- Title(参考訳): Self-DANA:ECGファンデーションモデルのためのリソース効率の良いチャネル適応型セルフスーパービジョンアプローチ
- Authors: Giuliana Monachino, Nicolò La Porta, Beatrice Zanchi, Luigi Fiorillo, Alvise Dei Rossi, Georgiy Farina, Francesca Dalia Faraci,
- Abstract要約: Self-DANAは、自己教師型アーキテクチャを少ない数の入力チャネルに適応させる、新しくて簡単に統合できるソリューションである。
最大69.3%のピークCPUメモリ、34.4%のピークGPUメモリ、約17%のCPU時間、約24%のエポックGPU時間を必要とする。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Foundation Models (FMs) are large-scale machine learning models trained on extensive, diverse datasets that can be adapted to a wide range of downstream tasks with minimal fine-tuning. In the last two years, interest in FMs has also grown for applications in the cardiological field to analyze the electrocardiogram (ECG) signals. One of the key properties of FMs is their transferability to a wide range of downstream scenarios. With the spread of wearable and portable devices, keen interest in learning from reduced-channel configurations has arisen. However, the adaptation of ECG FMs to downstream scenarios with fewer available channels still has to be properly investigated. In this work, we propose Self-DANA, a novel, easy-to-integrate solution that makes self-supervised architectures adaptable to a reduced number of input channels, ensuring resource efficiency and high performance. We also introduce Random Lead Selection, a novel augmentation technique to pre-train models in a more robust and channel-agnostic way. Our experimental results on five reduced-channel configurations demonstrate that Self-DANA significantly enhances resource efficiency while reaching state-of-the-art performance. It requires up to 69.3% less peak CPU memory, 34.4% less peak GPU memory, about 17% less average epoch CPU time, and about 24% less average epoch GPU time.
- Abstract(参考訳): Foundation Models(FM)は、広範囲で多様なデータセットに基づいてトレーニングされた大規模な機械学習モデルである。
過去2年間で、心電図(ECG)信号解析の分野での応用にもFMへの関心が高まっている。
FMの重要な特性の1つは、幅広い下流シナリオへの転送性である。
ウェアラブルやポータブルデバイスの普及に伴い、チャネル構成の縮小から学ぶことへの関心が高まっている。
しかし、利用可能なチャンネルが少ない下流シナリオへのECG FMの適応については、まだ適切に検討する必要がある。
本研究では,自己教師型アーキテクチャを少ない数の入力チャネルに適応させ,資源効率と高性能を確保できる,新しい統合型ソリューションであるSelf-DANAを提案する。
また、より堅牢でチャネルに依存しない方法で事前学習モデルに新たな拡張手法であるランダムリード選択を導入する。
5つの減チャネル構成に関する実験結果から,セルフDANAは資源効率を向上し,最先端性能を達成できることが示された。
最大69.3%のピークCPUメモリ、34.4%のピークGPUメモリ、約17%のエポックCPU時間、約24%のエポックGPU時間を必要とする。
関連論文リスト
- Improving Deep Learning-based Respiratory Sound Analysis with Frequency Selection and Attention Mechanism [3.1515385358176817]
軽量な自己アテンションを効率的なCNNバックボーンに統合するCNN-TSA(CNN-TSA)ネットワークを提案する。
提案手法の中心は周波数帯域選択 (FBS) モジュールで, 雑音域と非変形域を抑える。
また,多様な患者群にまたがるロバスト性を高めるための年齢特化モデルも導入した。
論文 参考訳(メタデータ) (2025-07-26T20:29:25Z) - A Lightweight Deep Learning Model for Automatic Modulation Classification using Dual Path Deep Residual Shrinkage Network [0.0]
自動変調分類(AMC)はスペクトル効率を高める上で重要な役割を果たしている。
低複雑性と高い分類精度のバランスをとる軽量AMCモデルの必要性が高まっている。
本稿では,資源制約エッジデバイスに最適化された低複雑さ,軽量深層学習(DL)AMCモデルを提案する。
論文 参考訳(メタデータ) (2025-07-07T00:37:54Z) - R-Sparse: Rank-Aware Activation Sparsity for Efficient LLM Inference [77.47238561728459]
R-スパース(R-Sparse)は、高度なLCMにおいて高い疎度を達成できる訓練不要なアクティベーション・スパシティ・アプローチである。
10種類のタスクにわたるLlama-2/3およびMistralモデルの実験は、R-Sparseが50%のモデルレベルの間隔で同等のパフォーマンスを達成することを示した。
論文 参考訳(メタデータ) (2025-04-28T03:30:32Z) - 6G WavesFM: A Foundation Model for Sensing, Communication, and Localization [6.70088826174291]
本稿では,無線基礎モデル(WFM)フレームワークについて紹介する。
提案アーキテクチャでは,共有ビジョントランスフォーマー(ViT)バックボーンとタスク固有の多層パーセプトロンヘッドを組み合わせるとともに,パラメータ効率の良い微調整のためのローランド適応(LoRA)を組み込む。
我々は、統一WFMが多様なタスクをサポートし、性能と効率の両方において大きな利益をもたらすことを示す。
論文 参考訳(メタデータ) (2025-04-18T22:51:35Z) - Ultra-Resolution Adaptation with Ease [62.56434979517156]
我々は,EmphURAEと呼ばれる超高分解能適応のための重要なガイドラインのセットを提案する。
重み行列の小さな成分のチューニングは、合成データが利用できない場合に広く使用される低ランクアダプタよりも優れていることを示す。
URAEは、FLUX1.1[Pro] Ultraのような最先端のクローズドソースモデルに匹敵する2K世代の性能を達成している。
論文 参考訳(メタデータ) (2025-03-20T16:44:43Z) - Pruning-Based TinyML Optimization of Machine Learning Models for Anomaly Detection in Electric Vehicle Charging Infrastructure [8.29566258132752]
本稿では,EVCIを対象とする資源制約環境における異常検出のためのプルーニング手法について検討する。
最適化されたモデルは、モデルのサイズと推論時間の大幅な削減を実現しました。
特に,EVCIでは,プルーニングとFSが重要な異常検出能力を保ちながら,計算効率を向上させることが示唆された。
論文 参考訳(メタデータ) (2025-03-19T00:18:37Z) - CEReBrO: Compact Encoder for Representations of Brain Oscillations Using Efficient Alternating Attention [53.539020807256904]
交互注意(CEReBrO)を用いた脳振動の表現のための圧縮法について紹介する。
トークン化方式は、チャネルごとのパッチで脳波信号を表現します。
本研究では,チャネル内時間的ダイナミックスとチャネル間空間的相関を共同でモデル化し,通常の自己アテンションに比べて6倍少ないメモリで2倍の速度向上を実現するための注意機構を提案する。
論文 参考訳(メタデータ) (2025-01-18T21:44:38Z) - Scalable Speech Enhancement with Dynamic Channel Pruning [0.44998333629984877]
遠隔協調環境における生産性向上には,音声強調(SE)が不可欠である。
ディープラーニングモデルはSEでは非常に効果的であるが、その計算要求により組み込みシステムでは実用的ではない。
音声領域にDynamic Channel Pruningを導入し,それをSEの独自の畳み込みアーキテクチャに適用する。
論文 参考訳(メタデータ) (2024-12-22T18:21:08Z) - FlowTS: Time Series Generation via Rectified Flow [67.41208519939626]
FlowTSは、確率空間における直線輸送を伴う整流フローを利用するODEベースのモデルである。
非条件設定では、FlowTSは最先端のパフォーマンスを達成し、コンテキストFIDスコアはStockとETThデータセットで0.019と0.011である。
条件設定では、太陽予測において優れた性能を達成している。
論文 参考訳(メタデータ) (2024-11-12T03:03:23Z) - How Critical is Site-Specific RAN Optimization? 5G Open-RAN Uplink Air Interface Performance Test and Optimization from Macro-Cell CIR Data [0.6753334733130354]
我々は,特定の地点からのチャネル計測データの重要性と,その空気界面の最適化と試験への影響を考察する。
我々は, NR PUSCHアップリンクシミュレーションにOmniPHY-5Gニューラルレシーバを利用する。
提案手法は、事前学習と比較して1.85dBの低信号-雑音比(SNR)で10%のブロック誤り率(BLER)を達成する。
論文 参考訳(メタデータ) (2024-10-25T13:57:48Z) - PREM: A Simple Yet Effective Approach for Node-Level Graph Anomaly
Detection [65.24854366973794]
ノードレベルのグラフ異常検出(GAD)は、医学、ソーシャルネットワーク、eコマースなどの分野におけるグラフ構造化データから異常ノードを特定する上で重要な役割を果たす。
本稿では,GADの効率を向上させるために,PREM (preprocessing and Matching) という簡単な手法を提案する。
我々のアプローチは、強力な異常検出機能を維持しながら、GADを合理化し、時間とメモリ消費を削減します。
論文 参考訳(メタデータ) (2023-10-18T02:59:57Z) - Convolutional Monge Mapping Normalization for learning on sleep data [63.22081662149488]
我々は、CMMN(Convolutional Monge Mapping Normalization)と呼ばれる新しい手法を提案する。
CMMNは、そのパワースペクトル密度(PSD)をトレーニングデータに基づいて推定されるワッサーシュタインバリセンタに適応させるために、信号をフィルタリングする。
睡眠脳波データに関する数値実験により、CMMNはニューラルネットワークアーキテクチャから独立して、顕著で一貫したパフォーマンス向上をもたらすことが示された。
論文 参考訳(メタデータ) (2023-05-30T08:24:01Z) - Decision Forest Based EMG Signal Classification with Low Volume Dataset
Augmented with Random Variance Gaussian Noise [51.76329821186873]
我々は6種類の手振りを限定的なサンプル数で分類できるモデルを作成し、より広い聴衆によく一般化する。
信号のランダムなバウンドの使用など、より基本的な手法のセットにアピールするが、これらの手法がオンライン環境で持てる力を示したいと考えている。
論文 参考訳(メタデータ) (2022-06-29T23:22:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。