論文の概要: The Backpropagation Algorithm Implemented on Spiking Neuromorphic
Hardware
- arxiv url: http://arxiv.org/abs/2106.07030v1
- Date: Sun, 13 Jun 2021 15:56:40 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-15 16:21:18.623684
- Title: The Backpropagation Algorithm Implemented on Spiking Neuromorphic
Hardware
- Title(参考訳): スパイキングニューロモルフィックハードウェアに実装したバックプロパゲーションアルゴリズム
- Authors: Alpha Renner, Forrest Sheldon, Anatoly Zlotnik, Louis Tao, Andrew
Sornborger
- Abstract要約: 本稿ではパルスゲートの動的情報調整と処理に基づくニューロモルフィック・スパイクバックプロパゲーションアルゴリズムを提案する。
MNISTデータセットから桁の分類を学習する3層回路の実証を実証する。
- 参考スコア(独自算出の注目度): 4.3310896118860445
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The capabilities of natural neural systems have inspired new generations of
machine learning algorithms as well as neuromorphic very large-scale integrated
(VLSI) circuits capable of fast, low-power information processing. However,
most modern machine learning algorithms are not neurophysiologically plausible
and thus are not directly implementable in neuromorphic hardware. In
particular, the workhorse of modern deep learning, the backpropagation
algorithm, has proven difficult to translate to neuromorphic hardware. In this
study, we present a neuromorphic, spiking backpropagation algorithm based on
pulse-gated dynamical information coordination and processing, implemented on
Intel's Loihi neuromorphic research processor. We demonstrate a
proof-of-principle three-layer circuit that learns to classify digits from the
MNIST dataset. This implementation shows a path for using massively parallel,
low-power, low-latency neuromorphic processors in modern deep learning
applications.
- Abstract(参考訳): 自然言語システムの能力は、新しい世代の機械学習アルゴリズムや、高速で低消費電力の情報処理が可能なニューロモルフィックな超大規模集積(VLSI)回路に影響を与えた。
しかし、現代の機械学習のアルゴリズムは神経生理学的に妥当ではないため、ニューロモルフィックなハードウェアでは直接実装できない。
特に、バックプロパゲーションアルゴリズムである現代のディープラーニングの成果は、ニューロモルフィックハードウェアへの変換が困難であることが証明されている。
本研究では,intelのloihiニューロモルフィック・リサーチ・プロセッサに実装した,パルス制御による動的情報調整と処理に基づくニューロモルフィック・スパイキングバックプロパゲーションアルゴリズムを提案する。
MNISTデータセットから桁の分類を学習する3層回路の実証を実証する。
この実装は、現代のディープラーニングアプリケーションにおいて、非常に並列で低消費電力で低遅延のニューロモルフィックプロセッサを使用するための経路を示す。
関連論文リスト
- Contrastive Learning in Memristor-based Neuromorphic Systems [55.11642177631929]
スパイクニューラルネットワークは、現代のバックプロパゲーションによって訓練されたディープネットワークに直面する重要な制約の多くを横取りする、ニューロンベースのモデルの重要なファミリーとなっている。
本研究では,前向き・後向き学習のニューロモルフィック形式であるコントラッシブ・シグナル依存型塑性(CSDP)の概念実証を設計し,検討する。
論文 参考訳(メタデータ) (2024-09-17T04:48:45Z) - Neuromorphic Intermediate Representation: A Unified Instruction Set for Interoperable Brain-Inspired Computing [4.066607775161713]
神経力学をシミュレートするニューラルネットワークとニューロモルフィックハードウェアプラットフォームが注目されている。
本稿では,デジタルニューロモルフィックシステムにおける計算の共通参照フレームを確立する。
7つのニューロモルフィックシミュレータと4つのデジタルハードウェアプラットフォームにまたがる複雑さの異なる3つのスパイクニューラルネットワークモデルを再現して実演する。
論文 参考訳(メタデータ) (2023-11-24T18:15:59Z) - SpikingJelly: An open-source machine learning infrastructure platform
for spike-based intelligence [51.6943465041708]
スパイキングニューラルネットワーク(SNN)は、高エネルギー効率のニューロモルフィックチップに脳にインスパイアされたインテリジェンスを実現することを目的としている。
我々は、ニューロモルフィックデータセットの事前処理、深層SNNの構築、パラメータの最適化、およびニューロモルフィックチップへのSNNのデプロイのためのフルスタックツールキットをコントリビュートする。
論文 参考訳(メタデータ) (2023-10-25T13:15:17Z) - Neuromorphic Artificial Intelligence Systems [58.1806704582023]
フォン・ノイマンアーキテクチャと古典的ニューラルネットワークに基づく現代のAIシステムは、脳と比較して多くの基本的な制限がある。
この記事では、そのような制限と、それらが緩和される方法について論じる。
これは、これらの制限が克服されている現在利用可能なニューロモーフィックAIプロジェクトの概要を示す。
論文 参考訳(メタデータ) (2022-05-25T20:16:05Z) - Mapping and Validating a Point Neuron Model on Intel's Neuromorphic
Hardware Loihi [77.34726150561087]
インテルの第5世代ニューロモルフィックチップ「Loihi」の可能性について検討する。
Loihiは、脳内のニューロンをエミュレートするスパイキングニューラルネットワーク(SNN)という新しいアイデアに基づいている。
Loihiは従来のシミュレーションを非常に効率的に再現し、ネットワークが大きくなるにつれて、時間とエネルギーの両方のパフォーマンスにおいて顕著にスケールする。
論文 参考訳(メタデータ) (2021-09-22T16:52:51Z) - In-Hardware Learning of Multilayer Spiking Neural Networks on a
Neuromorphic Processor [6.816315761266531]
この研究は、生物学的に妥当な局所更新規則を持つスパイクベースのバックプロパゲーションアルゴリズムを示し、ニューロモルフィックハードウェアの制約に適合するように適応する。
このアルゴリズムはIntel Loihiチップ上に実装されており、モバイルアプリケーション用の多層SNNの低消費電力ハードウェアによるオンライン学習を可能にする。
論文 参考訳(メタデータ) (2021-05-08T09:22:21Z) - Neuromorphic Algorithm-hardware Codesign for Temporal Pattern Learning [11.781094547718595]
複雑な空間時間パターンを学習するためにSNNを訓練できるLeaky IntegrateとFireニューロンの効率的なトレーニングアルゴリズムを導出する。
我々は,ニューロンとシナプスのメムリスタに基づくネットワークのためのCMOS回路実装を開発した。
論文 参考訳(メタデータ) (2021-04-21T18:23:31Z) - Brain-Inspired Learning on Neuromorphic Substrates [5.279475826661643]
本稿では、ニューロモルフィック基板のための実用的なオンライン学習アルゴリズムの設計のための数学的枠組みを提供する。
具体的には、リアルタイムリカレントラーニング(RTRL)と、スパイキングニューラルネットワーク(SNN)をトレーニングするための生物学的に妥当な学習規則との直接的な関連を示す。
我々はブロック対角ジャコビアンに基づくスパース近似を動機付け、アルゴリズムの計算複雑性を低減する。
論文 参考訳(メタデータ) (2020-10-22T17:56:59Z) - Spiking Neural Networks Hardware Implementations and Challenges: a
Survey [53.429871539789445]
スパイキングニューラルネットワークは、ニューロンとシナプスの操作原理を模倣する認知アルゴリズムである。
スパイキングニューラルネットワークのハードウェア実装の現状について述べる。
本稿では,これらのイベント駆動アルゴリズムの特性をハードウェアレベルで活用するための戦略について論じる。
論文 参考訳(メタデータ) (2020-05-04T13:24:00Z) - Rectified Linear Postsynaptic Potential Function for Backpropagation in
Deep Spiking Neural Networks [55.0627904986664]
スパイキングニューラルネットワーク(SNN)は、時間的スパイクパターンを用いて情報を表現し、伝達する。
本稿では,情報符号化,シナプス可塑性,意思決定におけるスパイクタイミングダイナミクスの寄与について検討し,将来のDeepSNNやニューロモルフィックハードウェアシステムの設計への新たな視点を提供する。
論文 参考訳(メタデータ) (2020-03-26T11:13:07Z) - Structural plasticity on an accelerated analog neuromorphic hardware
system [0.46180371154032884]
我々は, プレ・グポストシナプスのパートナーを常に切り替えることにより, 構造的可塑性を達成するための戦略を提案する。
我々はこのアルゴリズムをアナログニューロモルフィックシステムBrainScaleS-2に実装した。
ネットワークトポロジを最適化する能力を示し、簡単な教師付き学習シナリオで実装を評価した。
論文 参考訳(メタデータ) (2019-12-27T10:15:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。