論文の概要: LRH-Net: A Multi-Level Knowledge Distillation Approach for Low-Resource Heart Network

• arxiv url: http://arxiv.org/abs/2204.08000v1
• Date: Mon, 11 Apr 2022 06:24:20 GMT
• ステータス: 処理完了
• システム内更新日: 2022-04-24 15:47:54.832416
• Title: LRH-Net: A Multi-Level Knowledge Distillation Approach for Low-Resource Heart Network
• Title（参考訳）: LRH-Net:低リソース心臓ネットワークのための多層知識蒸留手法
• Authors: Ekansh Chauhan, Swathi Guptha, Likith Reddy and Bapi Raju
• Abstract要約: 近年では、心臓血管疾患を検出するために大規模なディープラーニングモデルが用いられている。 本稿では、ECG異常を検出するために、少ないリードを使用する低リソースHeart-Network(LRH-Net)を提案する。 提案手法は低リソースのLRH-Netを用いてECGリードのサブセットを用いており,エッジデバイスへの展開に極めて適している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: An electrocardiogram (ECG) monitors the electrical activity generated by the heart and is used to detect fatal cardiovascular diseases (CVDs). Conventionally, to capture the precise electrical activity, clinical experts use multiple-lead ECGs (typically 12 leads). But in recent times, large-size deep learning models have been used to detect these diseases. However, such models require heavy compute resources like huge memory and long inference time. To alleviate these shortcomings, we propose a low-parameter model, named Low Resource Heart-Network (LRH-Net), which uses fewer leads to detect ECG anomalies in a resource-constrained environment. A multi-level knowledge distillation process is used on top of that to get better generalization performance on our proposed model. The multi-level knowledge distillation process distills the knowledge to LRH-Net trained on a reduced number of leads from higher parameter (teacher) models trained on multiple leads to reduce the performance gap. The proposed model is evaluated on the PhysioNet-2020 challenge dataset with constrained input. The parameters of the LRH-Net are 106x less than our teacher model for detecting CVDs. The performance of the LRH-Net was scaled up to 3.2% and the inference time scaled down by 75% compared to the teacher model. In contrast to the compute- and parameter-intensive deep learning techniques, the proposed methodology uses a subset of ECG leads using the low resource LRH-Net, making it eminently suitable for deployment on edge devices.
• Abstract（参考訳）: 心電図(ECG)は、心臓によって生じる電気活動を監視し、致命的な心血管疾患(CVD)を検出するために用いられる。 従来、正確な電気活動を捉えるために、臨床専門家は複数のリード心電図(典型的には12個の鉛)を使用する。 しかし近年では、大規模ディープラーニングモデルがこれらの病気の検出に使われている。 しかし、そのようなモデルは巨大なメモリや長い推測時間のような重い計算資源を必要とする。 これらの欠点を軽減するため,資源制約環境下でのECG異常を検出するために,低リソースハートネットワーク (LRH-Net) と呼ばれる低パラメータモデルを提案する。 その上に多段階の知識蒸留プロセスを用い,提案モデルの一般化性能を向上させる。 多段階の知識蒸留プロセスでは、複数のパラメータ(教師)モデルから少ない数のリードで訓練されたLRH-Netに知識を蒸留することで、性能ギャップを減少させる。 提案モデルは,制約付き入力を用いたphysionet-2020チャレンジデータセット上で評価される。 LRH-Netのパラメータは,CVDを検出するための教師モデルよりも106倍小さい。 LRH-Netの性能は3.2%まで向上し、推論時間は教師モデルに比べて75%も向上した。 計算およびパラメータ集約型ディープラーニング技術とは対照的に,提案手法では低リソースLRH-Netを用いてECGリードのサブセットを使用するため,エッジデバイスへの展開に適している。

関連論文リスト

• ECG Arrhythmia Detection Using Disease-specific Attention-based Deep Learning Model [0.0]
  短絡心電図記録から不整脈を検出するための病気特異的注意ベースディープラーニングモデル(DANet)を提案する。 新しいアイデアは、既存のディープニューラルネットワークにソフトコーディングまたはハードコーディングの波形拡張モジュールを導入することである。 DANetをソフトコーディングするためには、自己教師付き事前学習と2段階教師付きトレーニングを組み合わせた学習フレームワークも開発する。
  論文  参考訳（メタデータ） (2024-07-25T13:27:10Z)
• CE-SSL: Computation-Efficient Semi-Supervised Learning for ECG-based Cardiovascular Diseases Detection [16.34314710823127]
  本稿では,ECG を用いた計算効率の高い CVD 検出のための計算効率の高い半教師付き学習パラダイム (CE-SSL) を提案する。 これは、限られた監督と高い計算効率で、下流データセットに事前訓練されたモデルの堅牢な適応を可能にする。 CE-SSLは、マルチラベルCVDの検出における最先端メソッドよりも優れているだけでなく、GPUフットプリント、トレーニング時間、パラメータストレージスペースも少ない。
  論文  参考訳（メタデータ） (2024-06-20T14:45:13Z)
• Efficient ECG-based Atrial Fibrillation Detection via Parameterised Hypercomplex Neural Networks [11.964843902569925]
  心房細動(英: atrial fibrillation、AF)は、脳卒中などの重篤な疾患のリスクが高い心不整脈である。 心電図(ECG)から自動的かつタイムリーなAFアセスメントを組み込んだウェアラブルデバイスは、生命を脅かす事態を防ぐ上で有望であることが示されている。 ディープニューラルネットワークは、モデルパフォーマンスにおいて優位性を示しており、彼らのウェアラブルデバイスでの使用は、モデルパフォーマンスと複雑性の間のトレードオフによって制限されている。
  論文  参考訳（メタデータ） (2022-10-27T14:24:48Z)
• RoS-KD: A Robust Stochastic Knowledge Distillation Approach for Noisy Medical Imaging [67.02500668641831]
  ノイズの多いデータセットでトレーニングされたディープラーニングモデルは、ノイズタイプに敏感であり、目に見えないサンプルの一般化が少なくなる。 本稿では,複数の情報源からトピックを学習する概念を模倣したロバスト知識蒸留(RoS-KD)フレームワークを提案する。 RoS-KDは、訓練データの重複する部分集合について訓練された複数の教師から知識を蒸留することにより、滑らかで、よく表現された、堅牢な学生多様体を学習する。
  論文  参考訳（メタデータ） (2022-10-15T22:32:20Z)
• Classification of ECG based on Hybrid Features using CNNs for Wearable Applications [2.0999222360659604]
  ハイブリッド機能と3つの異なるモデルを用いたECG分類の性能向上を示す。 この研究で提案されたRR間隔の特徴に基づくモデルでは、98.98%の精度が達成され、ベースラインモデルよりも改善された。 周波数特性とRR間隔特性を組み合わせた別のモデルが開発され、ノイズ環境下での良好な持続性能で99%の精度で達成された。
  論文  参考訳（メタデータ） (2022-06-14T12:14:40Z)
• SSD-KD: A Self-supervised Diverse Knowledge Distillation Method for Lightweight Skin Lesion Classification Using Dermoscopic Images [62.60956024215873]
  皮膚がんは最も一般的な悪性腫瘍の1つであり、人口に影響を与え、世界中で経済的な重荷を負っている。 皮膚がん検出のほとんどの研究は、ポータブルデバイス上での計算資源の制限を考慮せずに、高い予測精度を追求している。 本研究は,皮膚疾患分類のための汎用的なKDフレームワークに多様な知識を統一する,SSD-KDと呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2022-03-22T06:54:29Z)
• Arrhythmia Classifier Using Convolutional Neural Network with Adaptive Loss-aware Multi-bit Networks Quantization [4.8538839251819486]
  メモリ消費を23.36倍に削減する高圧縮率を実現する1次元適応型ロスアウェア量子化を提案する。 我々は、MIT-BIHデータセットで訓練された17種類のリズムクラスを分類するために、17層のエンドツーエンドニューラルネットワーク分類器を提案する。 本研究は,ハードウェアフレンドリーで,ウェアラブルデバイスに展開可能な1次元畳み込みニューラルネットワークを実現する。
  論文  参考訳（メタデータ） (2022-02-27T14:26:41Z)
• Lung Cancer Lesion Detection in Histopathology Images Using Graph-Based Sparse PCA Network [93.22587316229954]
  ヘマトキシリンとエオシン(H&E)で染色した組織学的肺スライドにおける癌病変の自動検出のためのグラフベーススパース成分分析(GS-PCA)ネットワークを提案する。 我々は,SVM K-rasG12D肺がんモデルから得られたH&Eスライダーの精度・リコール率,Fスコア,谷本係数,レシーバ演算子特性(ROC)の曲線下領域を用いて,提案アルゴリズムの性能評価を行った。
  論文  参考訳（メタデータ） (2021-10-27T19:28:36Z)
• Classification of COVID-19 in CT Scans using Multi-Source Transfer Learning [91.3755431537592]
  我々は,従来のトランスファー学習の改良にマルチソース・トランスファー・ラーニングを応用して,CTスキャンによる新型コロナウイルスの分類を提案する。 マルチソースファインチューニングアプローチでは、ImageNetで微調整されたベースラインモデルよりも優れています。 我々の最高のパフォーマンスモデルは、0.893の精度と0.897のリコールスコアを達成でき、ベースラインのリコールスコアを9.3%上回った。
  論文  参考訳（メタデータ） (2020-09-22T11:53:06Z)
• Distilling Object Detectors with Task Adaptive Regularization [97.52935611385179]
  現在の最先端のオブジェクト検出器は高い計算コストを犠牲にしており、ローエンドデバイスへのデプロイが困難である。 より大規模な教師モデルから知識を伝達することで、より小さな学生ネットワークを訓練することを目的とした知識蒸留は、モデル小型化のための有望な解決策の1つである。
  論文  参考訳（メタデータ） (2020-06-23T15:58:22Z)
• ECG-DelNet: Delineation of Ambulatory Electrocardiograms with Mixed Quality Labeling Using Neural Networks [69.25956542388653]
  ディープラーニング(DL)アルゴリズムは、学術的、産業的にも重くなっている。 セグメンテーションフレームワークにECGの検出とデライン化を組み込むことにより、低解釈タスクにDLをうまく適用できることを実証する。 このモデルは、PhyloNetのQTデータベースを使用して、105個の増幅ECG記録から訓練された。
  論文  参考訳（メタデータ） (2020-05-11T16:29:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。