論文の概要: Seizure Detection and Prediction by Parallel Memristive Convolutional
Neural Networks
- arxiv url: http://arxiv.org/abs/2206.09951v1
- Date: Mon, 20 Jun 2022 18:16:35 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-22 19:14:44.185664
- Title: Seizure Detection and Prediction by Parallel Memristive Convolutional
Neural Networks
- Title(参考訳): 並列畳み込み畳み込みニューラルネットワークによるシーズーア検出と予測
- Authors: Chenqi Li, Corey Lammie, Xuening Dong, Amirali Amirsoleimani, Mostafa
Rahimi Azghadi, Roman Genov
- Abstract要約: 本稿では,低レイテンシ並列畳み込みニューラルネットワーク(CNN)アーキテクチャを提案する。
本ネットワークは,てんかん発作検出では99.84%,てんかん発作予測では97.54%のクロスバリデーション精度を達成している。
CNNは22nm FDSOI CMOSプロセスで31.255mm$2$の面積を占有しながら約2.791Wの電力を消費すると推定されている。
- 参考スコア(独自算出の注目度): 2.0738462952016232
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: During the past two decades, epileptic seizure detection and prediction
algorithms have evolved rapidly. However, despite significant performance
improvements, their hardware implementation using conventional technologies,
such as Complementary Metal-Oxide-Semiconductor (CMOS), in power and
area-constrained settings remains a challenging task; especially when many
recording channels are used. In this paper, we propose a novel low-latency
parallel Convolutional Neural Network (CNN) architecture that has between
2-2,800x fewer network parameters compared to SOTA CNN architectures and
achieves 5-fold cross validation accuracy of 99.84% for epileptic seizure
detection, and 99.01% and 97.54% for epileptic seizure prediction, when
evaluated using the University of Bonn Electroencephalogram (EEG), CHB-MIT and
SWEC-ETHZ seizure datasets, respectively. We subsequently implement our network
onto analog crossbar arrays comprising Resistive Random-Access Memory (RRAM)
devices, and provide a comprehensive benchmark by simulating, laying out, and
determining hardware requirements of the CNN component of our system. To the
best of our knowledge, we are the first to parallelize the execution of
convolution layer kernels on separate analog crossbars to enable 2 orders of
magnitude reduction in latency compared to SOTA hybrid Memristive-CMOS DL
accelerators. Furthermore, we investigate the effects of non-idealities on our
system and investigate Quantization Aware Training (QAT) to mitigate the
performance degradation due to low ADC/DAC resolution. Finally, we propose a
stuck weight offsetting methodology to mitigate performance degradation due to
stuck RON/ROFF memristor weights, recovering up to 32% accuracy, without
requiring retraining. The CNN component of our platform is estimated to consume
approximately 2.791W of power while occupying an area of 31.255mm$^2$ in a 22nm
FDSOI CMOS process.
- Abstract(参考訳): 過去20年間、てんかん発作検出と予測アルゴリズムは急速に進化してきた。
しかし、性能が大幅に向上したにもかかわらず、従来の技術であるComplementary Metal-Oxide-Semiconductor (CMOS) を用いたハードウェアの実装は、特に多くの記録チャネルを使用する場合、電力と領域制限の設定が困難な課題である。
本稿では,SOTA CNNアーキテクチャと比較してネットワークパラメータが2~2,800倍少ない新しい低遅延並列畳み込みニューラルネットワーク(CNN)アーキテクチャを提案し,それぞれ,ボン脳波(EEG),CHB-MIT,SWEC-ETHZの発作データセットを用いて評価した場合に,てんかん発作検出の99.84%,てんかん発作予測の99.01%,97.54%の5倍のクロスバリデーション精度を実現する。
その後,抵抗ランダムアクセスメモリ(rram)デバイスを含むアナログクロスバーアレイ上にネットワークを実装し,システムcnnコンポーネントのハードウェア要件をシミュレートし,構成し,決定する包括的なベンチマークを提供する。
我々の知る限り、我々は、分離されたアナログクロスバー上で畳み込み層カーネルの実行を並列化し、SOTAハイブリッドMemristive-CMOS DLアクセラレータと比較して2桁の遅延削減を可能にする。
さらに,本システムに対する非理想性の影響について検討し,低ADC/DAC分解能による性能劣化を軽減するための量子化アウェアトレーニング(QAT)について検討する。
最後に,ron/roff memristor重みによる性能低下を軽減し,リトレーニングを必要とせず,最大32%の精度を回復するスタッキングウェイトオフセット手法を提案する。
CNNは22nm FDSOI CMOSプロセスで31.255mm$^2$の面積を占有しながら約2.791Wの電力を消費すると推定される。
関連論文リスト
- High-speed Low-consumption sEMG-based Transient-state micro-Gesture
Recognition [6.649481653007372]
提案されたSNNの精度はそれぞれ83.85%と93.52%である。
この手法は、高精度、高速、低消費電力のマイクロジェスチャー認識タスクに使用できる。
論文 参考訳(メタデータ) (2024-03-04T08:59:12Z) - Synaptic metaplasticity with multi-level memristive devices [1.5598974049838272]
推論とトレーニングの両方において,メタ塑性を実現するためのメムリスタベースのハードウェアソリューションを提案する。
MNISTとFashion-MNISTの連続トレーニングにおいて,2層パーセプトロンの精度は97%,86%であった。
我々のアーキテクチャは、mmristorの制限された耐久性と互換性があり、メモリは15倍削減されている。
論文 参考訳(メタデータ) (2023-06-21T09:40:25Z) - Hardware-aware Training Techniques for Improving Robustness of Ex-Situ
Neural Network Transfer onto Passive TiO2 ReRAM Crossbars [0.8553766625486795]
ドロップアウト, 再パラメータ化トリック, TiO2クロスバー変数の正規化といった手法を応用したトレーニング手法を提案する。
提案手法を用いてトレーニングされたニューラルネットワークでは、テストセットのデータポイントの79.5%を95%以上の精度で分類することができる。
論文 参考訳(メタデータ) (2023-05-29T13:55:02Z) - TinyAD: Memory-efficient anomaly detection for time series data in
Industrial IoT [43.207210990362825]
我々は,リアルタイムな異常検出のためのCNNのオンボード推論を効率的に行うための,Tiny Anomaly Detection (TinyAD) という新しいフレームワークを提案する。
CNNのピークメモリ消費を低減するため、我々は2つの相補的戦略、 in-place と patch-by-patch のメモリ再スケジューリングについて検討する。
我々のフレームワークは、オーバーヘッドを無視してピークメモリ消費を2~5倍削減できる。
論文 参考訳(メタデータ) (2023-03-07T02:56:15Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - Binary Single-dimensional Convolutional Neural Network for Seizure
Prediction [4.42106872060105]
てんかん発作予測のための2次元畳み込みニューラルネットワーク(BSDCNN)を提案する。
BSDCNNは1D畳み込みカーネルを使用して予測性能を向上させる。
曲線、感度、誤予測率は0.915、89.26%、0.117/h、0.970、94.69%、0.095/hに達する。
論文 参考訳(メタデータ) (2022-06-08T09:27:37Z) - Continual Spatio-Temporal Graph Convolutional Networks [87.86552250152872]
時空間グラフ畳み込みニューラルネットワークを連続推論ネットワークとして再構成する。
オンライン推論において、最大109倍の時間複雑性、26倍のハードウェアアクセラレーション、最大割り当てメモリの最大52%の削減を観測した。
論文 参考訳(メタデータ) (2022-03-21T14:23:18Z) - ANNETTE: Accurate Neural Network Execution Time Estimation with Stacked
Models [56.21470608621633]
本稿では,アーキテクチャ検索を対象ハードウェアから切り離すための時間推定フレームワークを提案する。
提案手法は,マイクロカーネルと多層ベンチマークからモデルの集合を抽出し,マッピングとネットワーク実行時間推定のためのスタックモデルを生成する。
生成した混合モデルの推定精度と忠実度, 統計モデルとルーフラインモデル, 評価のための洗練されたルーフラインモデルを比較した。
論文 参考訳(メタデータ) (2021-05-07T11:39:05Z) - FastFlowNet: A Lightweight Network for Fast Optical Flow Estimation [81.76975488010213]
ディセンス光学フロー推定は、多くのロボットビジョンタスクで重要な役割を果たしています。
現在のネットワークはしばしば多くのパラメータを占有し、計算コストがかかる。
提案したFastFlowNetは、周知の粗大なやり方で、以下のイノベーションで機能する。
論文 参考訳(メタデータ) (2021-03-08T03:09:37Z) - One-step regression and classification with crosspoint resistive memory
arrays [62.997667081978825]
高速で低エネルギーのコンピュータは、エッジでリアルタイム人工知能を実現するために要求されている。
ワンステップ学習は、ボストンの住宅のコスト予測と、MNIST桁認識のための2層ニューラルネットワークのトレーニングによって支援される。
結果は、クロスポイントアレイ内の物理計算、並列計算、アナログ計算のおかげで、1つの計算ステップで得られる。
論文 参考訳(メタデータ) (2020-05-05T08:00:07Z) - Adaptive Anomaly Detection for IoT Data in Hierarchical Edge Computing [71.86955275376604]
本稿では,階層型エッジコンピューティング(HEC)システムに対する適応型異常検出手法を提案する。
本研究では,入力データから抽出した文脈情報に基づいてモデルを選択する適応的手法を設計し,異常検出を行う。
提案手法を実際のIoTデータセットを用いて評価し,検出タスクをクラウドにオフロードするのとほぼ同じ精度を維持しながら,検出遅延を84%削減できることを実証した。
論文 参考訳(メタデータ) (2020-01-10T05:29:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。