論文の概要: Effects of VLSI Circuit Constraints on Temporal-Coding Multilayer
Spiking Neural Networks
- arxiv url: http://arxiv.org/abs/2106.10382v2
- Date: Fri, 25 Jun 2021 01:27:25 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-26 08:07:48.143581
- Title: Effects of VLSI Circuit Constraints on Temporal-Coding Multilayer
Spiking Neural Networks
- Title(参考訳): 時間符号化多層スパイクニューラルネットワークにおけるVLSI回路制約の影響
- Authors: Yusuke Sakemi, Takashi Morie, Takeo Hosomi, Kazuyuki Aihara
- Abstract要約: スパイキングニューラルネットワーク(SNN)は、脳の数学的モデルとしてだけでなく、実世界の応用のためのエネルギー効率の高い情報処理モデルとしても注目されている。
本研究では,SNNの性能に及ぼす時間離散化および/または重み量子化の影響について検討した。
- 参考スコア(独自算出の注目度): 2.5234156040689237
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The spiking neural network (SNN) has been attracting considerable attention
not only as a mathematical model for the brain, but also as an energy-efficient
information processing model for real-world applications. In particular, SNNs
based on temporal coding are expected to be much more efficient than those
based on rate coding, because the former requires substantially fewer spikes to
carry out tasks. As SNNs are continuous-state and continuous-time models, it is
favorable to implement them with analog VLSI circuits. However, the
construction of the entire system with continuous-time analog circuits would be
infeasible when the system size is very large. Therefore, mixed-signal circuits
must be employed, and the time discretization and quantization of the synaptic
weights are necessary. Moreover, the analog VLSI implementation of SNNs
exhibits non-idealities, such as the effects of noise and device mismatches, as
well as other constraints arising from the analog circuit operation. In this
study, we investigated the effects of the time discretization and/or weight
quantization on the performance of SNNs. Furthermore, we elucidated the effects
the lower bound of the membrane potentials and the temporal fluctuation of the
firing threshold. Finally, we propose an optimal approach for the mapping of
mathematical SNN models to analog circuits with discretized time.
- Abstract(参考訳): spiking neural network (snn)は、脳の数学的モデルとしてだけでなく、現実世界のアプリケーションのためのエネルギー効率の良い情報処理モデルとしても注目されている。
特に、テンポラリ符号化に基づくsnsは、タスクの実行にかなり少ないスパイクを必要とするため、レート符号化に基づくものよりもずっと効率的であることが期待されている。
SNNは連続状態および連続時間モデルであるため、アナログVLSI回路で実装することが好ましい。
しかし、システムサイズが非常に大きい場合、連続時間アナログ回路によるシステム全体の構築は不可能である。
したがって、混合信号回路を用いる必要があり、シナプス重みの時間離散化と量子化が必要である。
さらに、SNNのアナログVLSI実装は、ノイズやデバイスミスマッチの影響、アナログ回路操作に起因する他の制約など、非理想性を示す。
本研究では,SNNの性能に及ぼす時間離散化および/または重み量子化の影響を検討した。
さらに, 膜電位の下限と焼成閾値の時間的変動の影響を解明した。
最後に,数理SNNモデルを離散時間でアナログ回路にマッピングするための最適手法を提案する。
関連論文リスト
- Scalable Mechanistic Neural Networks [52.28945097811129]
長い時間的シーケンスを含む科学機械学習応用のための拡張ニューラルネットワークフレームワークを提案する。
元のメカニスティックニューラルネットワーク (MNN) を再構成することにより、計算時間と空間の複雑さを、それぞれ、列長に関して立方体と二次体から線形へと減少させる。
大規模な実験により、S-MNNは元のMNNと精度で一致し、計算資源を大幅に削減した。
論文 参考訳(メタデータ) (2024-10-08T14:27:28Z) - Towards Low-latency Event-based Visual Recognition with Hybrid Step-wise Distillation Spiking Neural Networks [50.32980443749865]
スパイキングニューラルネットワーク(SNN)は、低消費電力と高い生物性のために大きな注目を集めている。
現在のSNNは、ニューロモルフィックデータセットの正確性とレイテンシのバランスをとるのに苦労している。
ニューロモルフィックデータセットに適したステップワイド蒸留法(HSD)を提案する。
論文 参考訳(メタデータ) (2024-09-19T06:52:34Z) - How neural networks learn to classify chaotic time series [77.34726150561087]
本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。
入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
論文 参考訳(メタデータ) (2023-06-04T08:53:27Z) - Input-Aware Dynamic Timestep Spiking Neural Networks for Efficient
In-Memory Computing [7.738130109655604]
Spiking Neural Networks (SNN) はスパースとバイナリスパイク情報を処理できることから、広く研究の関心を集めている。
IMCハードウェアで使用される時間ステップの数に応じて,SNNのエネルギーコストとレイテンシが線形にスケールすることを示す。
入力対応動的時間ステップSNN(DT-SNN)を提案し,SNNの効率を最大化する。
論文 参考訳(メタデータ) (2023-05-27T03:01:27Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - Adaptive-SpikeNet: Event-based Optical Flow Estimation using Spiking
Neural Networks with Learnable Neuronal Dynamics [6.309365332210523]
ニューラルインスパイアされたイベント駆動処理でニューラルネットワーク(SNN)をスパイクすることで、非同期データを効率的に処理できる。
スパイク消滅問題を緩和するために,学習可能な神経力学を用いた適応型完全スパイキングフレームワークを提案する。
実験の結果,平均終端誤差(AEE)は最先端のANNと比較して平均13%減少した。
論文 参考訳(メタデータ) (2022-09-21T21:17:56Z) - Coupled Oscillatory Recurrent Neural Network (coRNN): An accurate and
(gradient) stable architecture for learning long time dependencies [15.2292571922932]
本稿では,リカレントニューラルネットワークのための新しいアーキテクチャを提案する。
提案するRNNは, 2次常微分方程式系の時間分解に基づく。
実験の結果,提案したRNNは,様々なベンチマークによる最先端技術に匹敵する性能を示した。
論文 参考訳(メタデータ) (2020-10-02T12:35:04Z) - Multi-Tones' Phase Coding (MTPC) of Interaural Time Difference by
Spiking Neural Network [68.43026108936029]
雑音の多い実環境下での正確な音像定位のための純粋スパイクニューラルネットワーク(SNN)に基づく計算モデルを提案する。
このアルゴリズムを,マイクロホンアレイを用いたリアルタイムロボットシステムに実装する。
実験の結果, 平均誤差方位は13度であり, 音源定位に対する他の生物学的に妥当なニューロモルフィックアプローチの精度を上回っていることがわかった。
論文 参考訳(メタデータ) (2020-07-07T08:22:56Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-07-02T15:38:44Z) - Exploiting Neuron and Synapse Filter Dynamics in Spatial Temporal
Learning of Deep Spiking Neural Network [7.503685643036081]
空間的時間特性を持つ生物解析可能なSNNモデルは複雑な力学系である。
ニューロン非線形性を持つ無限インパルス応答(IIR)フィルタのネットワークとしてSNNを定式化する。
本稿では,最適シナプスフィルタカーネルと重みを求めることにより,時空間パターンを学習できる学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-02-19T01:27:39Z) - A Supervised Learning Algorithm for Multilayer Spiking Neural Networks
Based on Temporal Coding Toward Energy-Efficient VLSI Processor Design [2.6872737601772956]
スパイキングニューラルネットワーク(スパイキングニューラルネット、英: Spiking Neural Network、SNN)は、スパイクの形で情報を処理できる脳にインスパイアされた数学的モデルである。
時間符号化に基づくSNNのための新しい教師付き学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-01-08T03:37:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。