論文の概要: In-Hardware Learning of Multilayer Spiking Neural Networks on a
Neuromorphic Processor
- arxiv url: http://arxiv.org/abs/2105.03649v1
- Date: Sat, 8 May 2021 09:22:21 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-01 03:28:45.631793
- Title: In-Hardware Learning of Multilayer Spiking Neural Networks on a
Neuromorphic Processor
- Title(参考訳): ニューロモルフィックプロセッサを用いた多層スパイクニューラルネットワークのハードウェア内学習
- Authors: Amar Shrestha, Haowen Fang, Daniel Patrick Rider, Zaidao Mei and Qinru
Qiu
- Abstract要約: この研究は、生物学的に妥当な局所更新規則を持つスパイクベースのバックプロパゲーションアルゴリズムを示し、ニューロモルフィックハードウェアの制約に適合するように適応する。
このアルゴリズムはIntel Loihiチップ上に実装されており、モバイルアプリケーション用の多層SNNの低消費電力ハードウェアによるオンライン学習を可能にする。
- 参考スコア(独自算出の注目度): 6.816315761266531
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Although widely used in machine learning, backpropagation cannot directly be
applied to SNN training and is not feasible on a neuromorphic processor that
emulates biological neuron and synapses. This work presents a spike-based
backpropagation algorithm with biological plausible local update rules and
adapts it to fit the constraint in a neuromorphic hardware. The algorithm is
implemented on Intel Loihi chip enabling low power in-hardware supervised
online learning of multilayered SNNs for mobile applications. We test this
implementation on MNIST, Fashion-MNIST, CIFAR-10 and MSTAR datasets with
promising performance and energy-efficiency, and demonstrate a possibility of
incremental online learning with the implementation.
- Abstract(参考訳): 機械学習では広く用いられているが、バックプロパゲーションはSNNトレーニングに直接適用できず、生物学的ニューロンやシナプスをエミュレートする神経形プロセッサでは実現できない。
この研究は、生物学的に妥当な局所更新規則を持つスパイクベースのバックプロパゲーションアルゴリズムを示し、ニューロモルフィックハードウェアの制約に適合するように適応する。
このアルゴリズムはintel loihiチップに実装され、モバイルアプリケーション向けの多層snsの低消費電力なオンライン学習を可能にする。
本実装は, MNIST, Fashion-MNIST, CIFAR-10, MSTARデータセット上で, 性能とエネルギー効率を保証し, インクリメンタルオンライン学習の可能性を示す。
関連論文リスト
- Scalable Mechanistic Neural Networks [52.28945097811129]
長い時間的シーケンスを含む科学機械学習応用のための拡張ニューラルネットワークフレームワークを提案する。
元のメカニスティックニューラルネットワーク (MNN) を再構成することにより、計算時間と空間の複雑さを、それぞれ、列長に関して立方体と二次体から線形へと減少させる。
大規模な実験により、S-MNNは元のMNNと精度で一致し、計算資源を大幅に削減した。
論文 参考訳(メタデータ) (2024-10-08T14:27:28Z) - EchoSpike Predictive Plasticity: An Online Local Learning Rule for Spiking Neural Networks [4.644628459389789]
スパイキングニューラルネットワーク(SNN)は、低電力とメモリを必要とするアプリケーションにおいて、その可能性のために魅力的である。
EchoSpike Predictive Plasticity(ESPP)学習ルールは,オンライン学習ルールのパイオニアである。
ESPPは、エッジでのニューロモルフィックコンピューティングのための生物学的に妥当な自己教師付き学習モデルの開発において、大きな進歩を示している。
論文 参考訳(メタデータ) (2024-05-22T20:20:43Z) - SpikingJelly: An open-source machine learning infrastructure platform
for spike-based intelligence [51.6943465041708]
スパイキングニューラルネットワーク(SNN)は、高エネルギー効率のニューロモルフィックチップに脳にインスパイアされたインテリジェンスを実現することを目的としている。
我々は、ニューロモルフィックデータセットの事前処理、深層SNNの構築、パラメータの最適化、およびニューロモルフィックチップへのSNNのデプロイのためのフルスタックツールキットをコントリビュートする。
論文 参考訳(メタデータ) (2023-10-25T13:15:17Z) - PC-SNN: Supervised Learning with Local Hebbian Synaptic Plasticity based
on Predictive Coding in Spiking Neural Networks [1.6172800007896282]
本稿では,予測符号化理論に触発された新しい学習アルゴリズムを提案する。
教師あり学習を完全自律的に行うことができ、バックプロップとして成功することを示す。
この手法は,最先端の多層SNNと比較して,良好な性能を実現する。
論文 参考訳(メタデータ) (2022-11-24T09:56:02Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - Training Spiking Neural Networks with Local Tandem Learning [96.32026780517097]
スパイキングニューラルネットワーク(SNN)は、前者よりも生物学的に可塑性でエネルギー効率が高いことが示されている。
本稿では,局所タンデム学習(Local Tandem Learning, LTL)と呼ばれる一般化学習規則を提案する。
CIFAR-10データセット上の5つのトレーニングエポック内に高速なネットワーク収束を示すとともに,計算複雑性が低い。
論文 参考訳(メタデータ) (2022-10-10T10:05:00Z) - Mapping and Validating a Point Neuron Model on Intel's Neuromorphic
Hardware Loihi [77.34726150561087]
インテルの第5世代ニューロモルフィックチップ「Loihi」の可能性について検討する。
Loihiは、脳内のニューロンをエミュレートするスパイキングニューラルネットワーク(SNN)という新しいアイデアに基づいている。
Loihiは従来のシミュレーションを非常に効率的に再現し、ネットワークが大きくなるにつれて、時間とエネルギーの両方のパフォーマンスにおいて顕著にスケールする。
論文 参考訳(メタデータ) (2021-09-22T16:52:51Z) - The Backpropagation Algorithm Implemented on Spiking Neuromorphic
Hardware [4.3310896118860445]
本稿ではパルスゲートの動的情報調整と処理に基づくニューロモルフィック・スパイクバックプロパゲーションアルゴリズムを提案する。
MNISTデータセットから桁の分類を学習する3層回路の実証を実証する。
論文 参考訳(メタデータ) (2021-06-13T15:56:40Z) - On-Chip Error-triggered Learning of Multi-layer Memristive Spiking
Neural Networks [1.7958576850695402]
オンライン3次重み更新を用いた局所的,勾配に基づく,エラートリガー付き学習アルゴリズムを提案する。
提案アルゴリズムは,多層SNNを記憶型ニューロモルフィックハードウェアでオンライントレーニングすることを可能にする。
論文 参考訳(メタデータ) (2020-11-21T19:44:19Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-07-02T15:38:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。