論文の概要: Hardware Implementation of Spiking Neural Networks Using
Time-To-First-Spike Encoding
- arxiv url: http://arxiv.org/abs/2006.05033v2
- Date: Fri, 22 Oct 2021 05:56:20 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-23 14:28:52.377903
- Title: Hardware Implementation of Spiking Neural Networks Using
Time-To-First-Spike Encoding
- Title（参考訳）: time-to-first-spike 符号化を用いたスパイクニューラルネットワークのハードウェア実装
- Authors: Seongbin Oh, Dongseok Kwon, Gyuho Yeom, Won-Mook Kang, Soochang Lee,
Sung Yun Woo, Jang Saeng Kim, Min Kyu Park and Jong-Ho Lee
- Abstract要約: ハードウェアベースのスパイクニューラルネットワーク(SNN)は、認知コンピューティングシステムの有望な候補と見なされている。
本研究では, 時間的バックプロパゲーションを用いた情報伝達を行うSNNを訓練する。
512個の隠れニューロンを持つ時間的に符号化されたSNNは、MNISTテストセットの96.90%の精度を示した。
- 参考スコア（独自算出の注目度）: 5.709318189772638
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Hardware-based spiking neural networks (SNNs) are regarded as promising
candidates for the cognitive computing system due to low power consumption and
highly parallel operation. In this work, we train the SNN in which the firing
time carries information using temporal backpropagation. The temporally encoded
SNN with 512 hidden neurons showed an accuracy of 96.90% for the MNIST test
set. Furthermore, the effect of the device variation on the accuracy in
temporally encoded SNN is investigated and compared with that of the
rate-encoded network. In a hardware configuration of our SNN, NOR-type analog
memory having an asymmetric floating gate is used as a synaptic device. In
addition, we propose a neuron circuit including a refractory period generator
for temporally encoded SNN. The performance of the 2-layer neural network
consisting of synapses and proposed neurons is evaluated through circuit
simulation using SPICE. The network with 128 hidden neurons showed an accuracy
of 94.9%, a 0.1% reduction compared to that of the system simulation of the
MNIST dataset. Finally, the latency and power consumption of each block
constituting the temporal network is analyzed and compared with those of the
rate-encoded network depending on the total time step. Assuming that the total
time step number of the network is 256, the temporal network consumes 15.12
times lower power than the rate-encoded network and can make decisions 5.68
times faster.
- Abstract（参考訳）: ハードウェアベースのスパイクニューラルネットワーク(snn)は低消費電力と高並列動作のため、コグニティブコンピューティングシステムの有望な候補と見なされている。
本研究では, 時間的バックプロパゲーションを用いた情報伝達を行うSNNを訓練する。
512個の隠れたニューロンを持つsnnは、mnistテストセットの精度96.90%であった。
さらに, デバイス変動が時間符号化SNNの精度に及ぼす影響について検討し, レート符号化ネットワークと比較した。
SNNのハードウェア構成では、非対称浮動ゲートを有するNOR型アナログメモリがシナプスデバイスとして使用される。
さらに,snを時間符号化する難治性周期発生器を含むニューロン回路を提案する。
シナプスと提案ニューロンからなる2層ニューラルネットワークの性能をSPICEを用いた回路シミュレーションにより評価した。
128個の隠れニューロンを持つネットワークは94.9%の精度を示し、MNISTデータセットのシステムシミュレーションと比較すると0.1%削減された。
最後に、時間的ネットワークを構成する各ブロックのレイテンシと消費電力を分析し、総時間ステップに応じてレートエンコードされたネットワークと比較する。
ネットワークの総時間ステップ数が256であると仮定すると、時間ネットワークはレート符号化ネットワークの15.12倍の電力を消費し、決定を5.68倍速くすることができる。
関連論文リスト
- Scalable Mechanistic Neural Networks [52.28945097811129]
長い時間的シーケンスを含む科学機械学習応用のための拡張ニューラルネットワークフレームワークを提案する。
元のメカニスティックニューラルネットワーク (MNN) を再構成することにより、計算時間と空間の複雑さを、それぞれ、列長に関して立方体と二次体から線形へと減少させる。
大規模な実験により、S-MNNは元のMNNと精度で一致し、計算資源を大幅に削減した。
論文 参考訳（メタデータ） (2024-10-08T14:27:28Z) - Accurate Mapping of RNNs on Neuromorphic Hardware with Adaptive Spiking Neurons [2.9410174624086025]
我々は、SigmaDelta$-low-pass RNN(lpRNN)を、レートベースのRNNをスパイクニューラルネットワーク(SNN)にマッピングするために提示する。
適応スパイキングニューロンモデルは、$SigmaDelta$-modulationを使って信号を符号化し、正確なマッピングを可能にする。
我々は、Intelのニューロモルフィック研究チップLoihiにおけるlpRNNの実装を実演する。
論文 参考訳（メタデータ） (2024-07-18T14:06:07Z) - Accelerating SNN Training with Stochastic Parallelizable Spiking Neurons [1.7056768055368383]
スパイキングニューラルネットワーク(SNN)は、特にニューロモルフィックハードウェアにおいて、少ないエネルギーを使用しながら特徴を学習することができる。
深層学習において最も広く用いられるニューロンは、時間と火災(LIF)ニューロンである。
論文 参考訳（メタデータ） (2023-06-22T04:25:27Z) - Input-Aware Dynamic Timestep Spiking Neural Networks for Efficient
In-Memory Computing [7.738130109655604]
Spiking Neural Networks (SNN) はスパースとバイナリスパイク情報を処理できることから、広く研究の関心を集めている。
IMCハードウェアで使用される時間ステップの数に応じて,SNNのエネルギーコストとレイテンシが線形にスケールすることを示す。
入力対応動的時間ステップSNN(DT-SNN)を提案し,SNNの効率を最大化する。
論文 参考訳（メタデータ） (2023-05-27T03:01:27Z) - Timing-Based Backpropagation in Spiking Neural Networks Without
Single-Spike Restrictions [2.8360662552057323]
スパイキングニューラルネットワーク(SNN)のトレーニングのための新しいバックプロパゲーションアルゴリズムを提案する。
シングルスパイク制限なしで、個々のニューロンの相対多重スパイクタイミングに情報をエンコードする。
論文 参考訳（メタデータ） (2022-11-29T11:38:33Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳（メタデータ） (2022-11-19T15:44:08Z) - Braille Letter Reading: A Benchmark for Spatio-Temporal Pattern
Recognition on Neuromorphic Hardware [50.380319968947035]
近年の深層学習手法は,そのようなタスクにおいて精度が向上しているが,従来の組込みソリューションへの実装は依然として計算量が非常に高く,エネルギーコストも高い。
文字読み込みによるエッジにおける触覚パターン認識のための新しいベンチマークを提案する。
フィードフォワードとリカレントスパイキングニューラルネットワーク(SNN)を、サロゲート勾配の時間によるバックプロパゲーションを用いてオフラインでトレーニングし比較し、効率的な推論のためにIntel Loihimorphicチップにデプロイした。
LSTMは14%の精度で繰り返しSNNより優れており、Loihi上での繰り返しSNNは237倍のエネルギーである。
論文 参考訳（メタデータ） (2022-05-30T14:30:45Z) - Multi-Tones' Phase Coding (MTPC) of Interaural Time Difference by
Spiking Neural Network [68.43026108936029]
雑音の多い実環境下での正確な音像定位のための純粋スパイクニューラルネットワーク(SNN)に基づく計算モデルを提案する。
このアルゴリズムを,マイクロホンアレイを用いたリアルタイムロボットシステムに実装する。
実験の結果, 平均誤差方位は13度であり, 音源定位に対する他の生物学的に妥当なニューロモルフィックアプローチの精度を上回っていることがわかった。
論文 参考訳（メタデータ） (2020-07-07T08:22:56Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳（メタデータ） (2020-07-02T15:38:44Z) - You Only Spike Once: Improving Energy-Efficient Neuromorphic Inference
to ANN-Level Accuracy [51.861168222799186]
スパイキングニューラルネットワーク(英: Spiking Neural Networks、SNN)は、神経型ネットワークの一種である。
SNNはスパースであり、重量はごくわずかであり、通常、より電力集約的な乗算および累積演算の代わりに追加操作のみを使用する。
本研究では,TTFS符号化ニューロモルフィックシステムの限界を克服することを目的としている。
論文 参考訳（メタデータ） (2020-06-03T15:55:53Z) - Training of Quantized Deep Neural Networks using a Magnetic Tunnel
Junction-Based Synapse [23.08163992580639]
深層ニューラルネットワークの計算複雑性とメモリ強度のソリューションとして、量子ニューラルネットワーク(QNN)が積極的に研究されている。
磁気トンネル接合(MTJ)デバイスがQNNトレーニングにどのように役立つかを示す。
本稿では,MTJ動作を用いた新しいシナプス回路を導入し,量子化更新をサポートする。
論文 参考訳（メタデータ） (2019-12-29T11:36:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。