論文の概要: Dynamic Reliability Management in Neuromorphic Computing
- arxiv url: http://arxiv.org/abs/2105.02038v1
- Date: Wed, 5 May 2021 13:17:17 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-01 13:15:11.217681
- Title: Dynamic Reliability Management in Neuromorphic Computing
- Title(参考訳): ニューロモルフィックコンピューティングにおける動的信頼性管理
- Authors: Shihao Song, Jui Hanamshet, Adarsha Balaji, Anup Das, Jeffrey L.
Krichmar, Nikil D. Dutt, Nagarajan Kandasamy, Francky Catthoor
- Abstract要約: ニューロモルフィックコンピューティングシステムは、高密度で低エネルギーのシナプス記憶を実装するために非揮発性メモリ(NVM)を使用する。
NVMを操作するために必要な電流は、ハードウェアの各ニューロンとシナプス回路におけるCMOSベースのトランジスタの老化を引き起こす。
本稿では,知的ランタイムマネージャを設計することにより,ニューロモルフィックシステムにおける老化に伴う信頼性問題を緩和する新しい手法を提案する。
- 参考スコア(独自算出の注目度): 8.616676521313815
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neuromorphic computing systems uses non-volatile memory (NVM) to implement
high-density and low-energy synaptic storage. Elevated voltages and currents
needed to operate NVMs cause aging of CMOS-based transistors in each neuron and
synapse circuit in the hardware, drifting the transistor's parameters from
their nominal values. Aggressive device scaling increases power density and
temperature, which accelerates the aging, challenging the reliable operation of
neuromorphic systems. Existing reliability-oriented techniques periodically
de-stress all neuron and synapse circuits in the hardware at fixed intervals,
assuming worst-case operating conditions, without actually tracking their aging
at run time. To de-stress these circuits, normal operation must be interrupted,
which introduces latency in spike generation and propagation, impacting the
inter-spike interval and hence, performance, e.g., accuracy. We propose a new
architectural technique to mitigate the aging-related reliability problems in
neuromorphic systems, by designing an intelligent run-time manager (NCRTM),
which dynamically destresses neuron and synapse circuits in response to the
short-term aging in their CMOS transistors during the execution of machine
learning workloads, with the objective of meeting a reliability target. NCRTM
de-stresses these circuits only when it is absolutely necessary to do so,
otherwise reducing the performance impact by scheduling de-stress operations
off the critical path. We evaluate NCRTM with state-of-the-art machine learning
workloads on a neuromorphic hardware. Our results demonstrate that NCRTM
significantly improves the reliability of neuromorphic hardware, with marginal
impact on performance.
- Abstract(参考訳): ニューロモルフィックコンピューティングシステムは、高密度で低エネルギーのシナプス記憶を実装するために非揮発性メモリ(NVM)を使用する。
NVMを操作するのに必要な電圧と電流は、ハードウェア内の各ニューロンとシナプス回路におけるCMOSベースのトランジスタの老化を引き起こし、トランジスタのパラメータを名目値からドリフトさせる。
アグレッシブなデバイススケーリングは電力密度と温度を増加させ、老化を加速させ、ニューロモルフィックシステムの信頼性の高い動作に挑戦する。
既存の信頼性指向技術は、ハードウェア内のすべてのニューロンとシナプス回路を一定間隔で定期的に分解し、最悪の動作条件を仮定する。
これらの回路を分解するには、通常の動作を中断し、スパイク発生と伝播の遅延を発生させ、スパイク間間隔に影響を与え、その結果、例えば精度を低下させる必要がある。
本稿では,ニューラルネットワークの動作中のCMOSトランジスタの短期劣化に応答して,ニューロンとシナプス回路を動的に遅延するインテリジェントランタイムマネージャ(NCRTM)を設計し,信頼性目標を満たすことを目的として,ニューロモルフィックシステムにおける老化関連信頼性問題を緩和するアーキテクチャ手法を提案する。
NCRTMは、絶対に必要な場合にのみこれらの回路をデストレッチし、そうでなければ、クリティカルパスからデストレッチ操作をスケジューリングすることでパフォーマンスへの影響を低減する。
我々はNCRTMをニューロモルフィックハードウェア上で最先端の機械学習ワークロードで評価する。
以上の結果から,NCRTMはニューロモルフィックハードウェアの信頼性を著しく向上し,性能に限界があることが示された。
関連論文リスト
- Towards Low-latency Event-based Visual Recognition with Hybrid Step-wise Distillation Spiking Neural Networks [50.32980443749865]
スパイキングニューラルネットワーク(SNN)は、低消費電力と高い生物性のために大きな注目を集めている。
現在のSNNは、ニューロモルフィックデータセットの正確性とレイテンシのバランスをとるのに苦労している。
ニューロモルフィックデータセットに適したステップワイド蒸留法(HSD)を提案する。
論文 参考訳(メタデータ) (2024-09-19T06:52:34Z) - Advancing Spatio-Temporal Processing in Spiking Neural Networks through Adaptation [6.233189707488025]
本稿では、適応LIFニューロンとそのネットワークの動的、計算的、および学習特性について分析する。
適応LIFニューロンのネットワークの優越性は、複雑な時系列の予測と生成にまで及んでいることを示す。
論文 参考訳(メタデータ) (2024-08-14T12:49:58Z) - Resistive Memory-based Neural Differential Equation Solver for Score-based Diffusion Model [55.116403765330084]
スコアベースの拡散のような現在のAIGC法は、迅速性と効率性の点で依然として不足している。
スコアベース拡散のための時間連続型およびアナログ型インメモリ型ニューラル微分方程式解法を提案する。
我々は180nmの抵抗型メモリインメモリ・コンピューティング・マクロを用いて,我々の解を実験的に検証した。
論文 参考訳(メタデータ) (2024-04-08T16:34:35Z) - Single Neuromorphic Memristor closely Emulates Multiple Synaptic
Mechanisms for Energy Efficient Neural Networks [71.79257685917058]
我々はこれらのシナプス機能を本質的にエミュレートするSrTiO3に基づく膜状ナノデバイスを実証する。
これらのメムリスタは、安定かつエネルギー効率の良い運転を可能にする非定常低導電系で機能する。
論文 参考訳(メタデータ) (2024-02-26T15:01:54Z) - Long Short-term Memory with Two-Compartment Spiking Neuron [64.02161577259426]
LSTM-LIFとよばれる,生物学的にインスパイアされたLong Short-Term Memory Leaky Integrate-and-Fireのスパイキングニューロンモデルを提案する。
実験結果は,時間的分類タスクの多種多様な範囲において,優れた時間的分類能力,迅速な訓練収束,ネットワークの一般化性,LSTM-LIFモデルの高エネルギー化を実証した。
したがって、この研究は、新しいニューロモルフィック・コンピューティング・マシンにおいて、困難な時間的処理タスクを解決するための、無数の機会を開放する。
論文 参考訳(メタデータ) (2023-07-14T08:51:03Z) - Neuromorphic analog circuits for robust on-chip always-on learning in
spiking neural networks [1.9809266426888898]
混合信号ニューロモルフィックシステムは、極端コンピューティングタスクを解決するための有望なソリューションである。
彼らのスパイクニューラルネットワーク回路は、連続的にセンサーデータをオンラインに処理するために最適化されている。
我々は,短期的アナログ力学と長期的三状態離散化機構を備えたオンチップ学習回路を設計する。
論文 参考訳(メタデータ) (2023-07-12T11:14:25Z) - The Expressive Leaky Memory Neuron: an Efficient and Expressive Phenomenological Neuron Model Can Solve Long-Horizon Tasks [64.08042492426992]
本稿では,脳皮質ニューロンの生物学的モデルであるExpressive Memory(ELM)ニューロンモデルを紹介する。
ELMニューロンは、上記の入力-出力関係を1万以下のトレーニング可能なパラメータと正確に一致させることができる。
本稿では,Long Range Arena(LRA)データセットなど,時間構造を必要とするタスクで評価する。
論文 参考訳(メタデータ) (2023-06-14T13:34:13Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - Reliability-Performance Trade-offs in Neuromorphic Computing [0.30458514384586394]
非揮発性メモリ(NVM)で構築されたニューロモルフィックアーキテクチャは、スパイキングニューラルネットワーク(SNN)で設計された機械学習タスクのエネルギー効率を大幅に改善する。
寄生電圧低下は, クロスバー内のNVMセルのプログラミング速度と信頼性において, 顕著な非対称性を生じさせる。
ニューロモルフィックアーキテクチャにおけるこの非対称性は信頼性と性能のトレードオフを生み出し、SNNマッピング技術を用いて効率的に利用することができる。
論文 参考訳(メタデータ) (2020-09-26T19:38:18Z) - A Case for Lifetime Reliability-Aware Neuromorphic Computing [0.30458514384586394]
我々は,ニューロモルフィックハードウェア上での最先端機械学習タスクの実行による長期的,すなわち寿命の信頼性への影響を評価する。
ニューロモルフィック回路の周期的緩和により得られる信頼性と性能のトレードオフを示す。
論文 参考訳(メタデータ) (2020-07-04T23:53:13Z) - Improving Dependability of Neuromorphic Computing With Non-Volatile
Memory [5.306819482496464]
本稿では,機械学習アプリケーションをニューロモーフィックハードウェアにマップする信頼性指向アプローチであるRENEUを提案する。
RENEUの基本は、異なる故障機構を考慮したニューロモルフィックハードウェアにおけるCMOSベースの回路の老化の新たな定式化である。
その結果,回路の老化は平均38%減少し,ハードウェアの寿命は現行と比較して平均18%改善した。
論文 参考訳(メタデータ) (2020-06-10T14:50:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。