論文の概要: Dynamic Reliability Management in Neuromorphic Computing
- arxiv url: http://arxiv.org/abs/2105.02038v1
- Date: Wed, 5 May 2021 13:17:17 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-01 13:15:11.217681
- Title: Dynamic Reliability Management in Neuromorphic Computing
- Title(参考訳): ニューロモルフィックコンピューティングにおける動的信頼性管理
- Authors: Shihao Song, Jui Hanamshet, Adarsha Balaji, Anup Das, Jeffrey L.
Krichmar, Nikil D. Dutt, Nagarajan Kandasamy, Francky Catthoor
- Abstract要約: ニューロモルフィックコンピューティングシステムは、高密度で低エネルギーのシナプス記憶を実装するために非揮発性メモリ(NVM)を使用する。
NVMを操作するために必要な電流は、ハードウェアの各ニューロンとシナプス回路におけるCMOSベースのトランジスタの老化を引き起こす。
本稿では,知的ランタイムマネージャを設計することにより,ニューロモルフィックシステムにおける老化に伴う信頼性問題を緩和する新しい手法を提案する。
- 参考スコア(独自算出の注目度): 8.616676521313815
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neuromorphic computing systems uses non-volatile memory (NVM) to implement
high-density and low-energy synaptic storage. Elevated voltages and currents
needed to operate NVMs cause aging of CMOS-based transistors in each neuron and
synapse circuit in the hardware, drifting the transistor's parameters from
their nominal values. Aggressive device scaling increases power density and
temperature, which accelerates the aging, challenging the reliable operation of
neuromorphic systems. Existing reliability-oriented techniques periodically
de-stress all neuron and synapse circuits in the hardware at fixed intervals,
assuming worst-case operating conditions, without actually tracking their aging
at run time. To de-stress these circuits, normal operation must be interrupted,
which introduces latency in spike generation and propagation, impacting the
inter-spike interval and hence, performance, e.g., accuracy. We propose a new
architectural technique to mitigate the aging-related reliability problems in
neuromorphic systems, by designing an intelligent run-time manager (NCRTM),
which dynamically destresses neuron and synapse circuits in response to the
short-term aging in their CMOS transistors during the execution of machine
learning workloads, with the objective of meeting a reliability target. NCRTM
de-stresses these circuits only when it is absolutely necessary to do so,
otherwise reducing the performance impact by scheduling de-stress operations
off the critical path. We evaluate NCRTM with state-of-the-art machine learning
workloads on a neuromorphic hardware. Our results demonstrate that NCRTM
significantly improves the reliability of neuromorphic hardware, with marginal
impact on performance.
- Abstract(参考訳): ニューロモルフィックコンピューティングシステムは、高密度で低エネルギーのシナプス記憶を実装するために非揮発性メモリ(NVM)を使用する。
NVMを操作するのに必要な電圧と電流は、ハードウェア内の各ニューロンとシナプス回路におけるCMOSベースのトランジスタの老化を引き起こし、トランジスタのパラメータを名目値からドリフトさせる。
アグレッシブなデバイススケーリングは電力密度と温度を増加させ、老化を加速させ、ニューロモルフィックシステムの信頼性の高い動作に挑戦する。
既存の信頼性指向技術は、ハードウェア内のすべてのニューロンとシナプス回路を一定間隔で定期的に分解し、最悪の動作条件を仮定する。
これらの回路を分解するには、通常の動作を中断し、スパイク発生と伝播の遅延を発生させ、スパイク間間隔に影響を与え、その結果、例えば精度を低下させる必要がある。
本稿では,ニューラルネットワークの動作中のCMOSトランジスタの短期劣化に応答して,ニューロンとシナプス回路を動的に遅延するインテリジェントランタイムマネージャ(NCRTM)を設計し,信頼性目標を満たすことを目的として,ニューロモルフィックシステムにおける老化関連信頼性問題を緩和するアーキテクチャ手法を提案する。
NCRTMは、絶対に必要な場合にのみこれらの回路をデストレッチし、そうでなければ、クリティカルパスからデストレッチ操作をスケジューリングすることでパフォーマンスへの影響を低減する。
我々はNCRTMをニューロモルフィックハードウェア上で最先端の機械学習ワークロードで評価する。
以上の結果から,NCRTMはニューロモルフィックハードウェアの信頼性を著しく向上し,性能に限界があることが示された。
関連論文リスト
- Single Neuromorphic Memristor closely Emulates Multiple Synaptic
Mechanisms for Energy Efficient Neural Networks [71.79257685917058]
我々はこれらのシナプス機能を本質的にエミュレートするSrTiO3に基づく膜状ナノデバイスを実証する。
これらのメムリスタは、安定かつエネルギー効率の良い運転を可能にする非定常低導電系で機能する。
論文 参考訳(メタデータ) (2024-02-26T15:01:54Z) - Long Short-term Memory with Two-Compartment Spiking Neuron [64.02161577259426]
LSTM-LIFとよばれる,生物学的にインスパイアされたLong Short-Term Memory Leaky Integrate-and-Fireのスパイキングニューロンモデルを提案する。
実験結果は,時間的分類タスクの多種多様な範囲において,優れた時間的分類能力,迅速な訓練収束,ネットワークの一般化性,LSTM-LIFモデルの高エネルギー化を実証した。
したがって、この研究は、新しいニューロモルフィック・コンピューティング・マシンにおいて、困難な時間的処理タスクを解決するための、無数の機会を開放する。
論文 参考訳(メタデータ) (2023-07-14T08:51:03Z) - Neuromorphic analog circuits for robust on-chip always-on learning in
spiking neural networks [1.9809266426888898]
混合信号ニューロモルフィックシステムは、極端コンピューティングタスクを解決するための有望なソリューションである。
彼らのスパイクニューラルネットワーク回路は、連続的にセンサーデータをオンラインに処理するために最適化されている。
我々は,短期的アナログ力学と長期的三状態離散化機構を備えたオンチップ学習回路を設計する。
論文 参考訳(メタデータ) (2023-07-12T11:14:25Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - Braille Letter Reading: A Benchmark for Spatio-Temporal Pattern
Recognition on Neuromorphic Hardware [50.380319968947035]
近年の深層学習手法は,そのようなタスクにおいて精度が向上しているが,従来の組込みソリューションへの実装は依然として計算量が非常に高く,エネルギーコストも高い。
文字読み込みによるエッジにおける触覚パターン認識のための新しいベンチマークを提案する。
フィードフォワードとリカレントスパイキングニューラルネットワーク(SNN)を、サロゲート勾配の時間によるバックプロパゲーションを用いてオフラインでトレーニングし比較し、効率的な推論のためにIntel Loihimorphicチップにデプロイした。
LSTMは14%の精度で繰り返しSNNより優れており、Loihi上での繰り返しSNNは237倍のエネルギーである。
論文 参考訳(メタデータ) (2022-05-30T14:30:45Z) - On the Mitigation of Read Disturbances in Neuromorphic Inference
Hardware [0.22940141855172028]
非揮発性メモリ(NVM)セルはニューロモルフィックハードウェアでモデルパラメータを格納するために使用される。
NVM細胞は、推論中に繰り返しセルにアクセスすると、プログラムされた抵抗状態がドリフトする読み取り乱れ問題に悩まされる。
ニューロモルフィックハードウェアのNVMセル上のプログラミングモデルパラメータにそのような依存関係を組み込むシステムソフトウェアフレームワークを提案する。
論文 参考訳(メタデータ) (2022-01-27T14:02:54Z) - Reliability-Performance Trade-offs in Neuromorphic Computing [0.30458514384586394]
非揮発性メモリ(NVM)で構築されたニューロモルフィックアーキテクチャは、スパイキングニューラルネットワーク(SNN)で設計された機械学習タスクのエネルギー効率を大幅に改善する。
寄生電圧低下は, クロスバー内のNVMセルのプログラミング速度と信頼性において, 顕著な非対称性を生じさせる。
ニューロモルフィックアーキテクチャにおけるこの非対称性は信頼性と性能のトレードオフを生み出し、SNNマッピング技術を用いて効率的に利用することができる。
論文 参考訳(メタデータ) (2020-09-26T19:38:18Z) - A Case for Lifetime Reliability-Aware Neuromorphic Computing [0.30458514384586394]
我々は,ニューロモルフィックハードウェア上での最先端機械学習タスクの実行による長期的,すなわち寿命の信頼性への影響を評価する。
ニューロモルフィック回路の周期的緩和により得られる信頼性と性能のトレードオフを示す。
論文 参考訳(メタデータ) (2020-07-04T23:53:13Z) - Lipschitz Recurrent Neural Networks [100.72827570987992]
我々のリプシッツ再帰ユニットは、他の連続時間RNNと比較して、入力やパラメータの摂動に対してより堅牢であることを示す。
実験により,Lipschitz RNNは,ベンチマークタスクにおいて,既存のリカレントユニットよりも優れた性能を発揮することが示された。
論文 参考訳(メタデータ) (2020-06-22T08:44:52Z) - Improving Dependability of Neuromorphic Computing With Non-Volatile
Memory [5.306819482496464]
本稿では,機械学習アプリケーションをニューロモーフィックハードウェアにマップする信頼性指向アプローチであるRENEUを提案する。
RENEUの基本は、異なる故障機構を考慮したニューロモルフィックハードウェアにおけるCMOSベースの回路の老化の新たな定式化である。
その結果,回路の老化は平均38%減少し,ハードウェアの寿命は現行と比較して平均18%改善した。
論文 参考訳(メタデータ) (2020-06-10T14:50:28Z) - Recurrent Neural Network Learning of Performance and Intrinsic
Population Dynamics from Sparse Neural Data [77.92736596690297]
本稿では,RNNの入出力動作だけでなく,内部ネットワークのダイナミクスも学習できる新しいトレーニング戦略を提案する。
提案手法は、RNNを訓練し、生理学的にインスパイアされた神経モデルの内部ダイナミクスと出力信号を同時に再現する。
注目すべきは、トレーニングアルゴリズムがニューロンの小さなサブセットの活性に依存する場合であっても、内部動力学の再現が成功することである。
論文 参考訳(メタデータ) (2020-05-05T14:16:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。