論文の概要: ETLP: Event-based Three-factor Local Plasticity for online learning with
neuromorphic hardware
- arxiv url: http://arxiv.org/abs/2301.08281v1
- Date: Thu, 19 Jan 2023 19:45:42 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-23 14:14:22.626540
- Title: ETLP: Event-based Three-factor Local Plasticity for online learning with
neuromorphic hardware
- Title(参考訳): ETLP:ニューロモルフィックハードウェアを用いたオンライン学習のためのイベントベースの3要素局所塑性
- Authors: Fernando M. Quintana, Fernando Perez-Pe\~na, Pedro L. Galindo, Emre O.
Netfci, Elisabetta Chicca, Lyes Khacef
- Abstract要約: イベントベース3要素局所塑性(ETLP)の計算複雑性に明らかな優位性を有する精度の競争性能を示す。
また, 局所的可塑性を用いた場合, スパイキングニューロンの閾値適応, 繰り返しトポロジーは, 時間的構造が豊富な時間的パターンを学習するために必要であることを示した。
- 参考スコア(独自算出の注目度): 105.54048699217668
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neuromorphic perception with event-based sensors, asynchronous hardware and
spiking neurons is showing promising results for real-time and energy-efficient
inference in embedded systems. The next promise of brain-inspired computing is
to enable adaptation to changes at the edge with online learning. However, the
parallel and distributed architectures of neuromorphic hardware based on
co-localized compute and memory imposes locality constraints to the on-chip
learning rules. We propose in this work the Event-Based Three-factor Local
Plasticity (ETLP) rule that uses (1) the pre-synaptic spike trace, (2) the
post-synaptic membrane voltage and (3) a third factor in the form of projected
labels with no error calculation, that also serve as update triggers. We apply
ETLP with feedforward and recurrent spiking neural networks on visual and
auditory event-based pattern recognition, and compare it to Back-Propagation
Through Time (BPTT) and eProp. We show a competitive performance in accuracy
with a clear advantage in the computational complexity for ETLP. We also show
that when using local plasticity, threshold adaptation in spiking neurons and a
recurrent topology are necessary to learn spatio-temporal patterns with a rich
temporal structure. Finally, we provide a proof of concept hardware
implementation of ETLP on FPGA to highlight the simplicity of its computational
primitives and how they can be mapped into neuromorphic hardware for online
learning with low-energy consumption and real-time interaction.
- Abstract(参考訳): イベントベースのセンサ、非同期ハードウェア、スパイクニューロンによるニューロモルフィック認識は、組み込みシステムにおけるリアルタイムおよびエネルギー効率の高い推論に有望な結果を示している。
脳に触発されたコンピューティングの次の約束は、オンライン学習による端点の変化への適応を可能にすることだ。
しかしながら、共局在計算とメモリに基づくニューロモルフィックハードウェアの並列および分散アーキテクチャは、オンチップ学習ルールに局所性制約を課している。
本稿では,(1)シナプス前スパイクトレース,(2)シナプス後膜電圧,(3)誤差計算を伴わない投影ラベル形式における第3因子を,更新トリガーとして用いる,事象に基づく3要素局所可塑性(etlp)ルールを提案する。
ETLPにフィードフォワードと繰り返し発生するスパイクニューラルネットワークを視覚的および聴覚的事象に基づくパターン認識に適用し、それをBPTT(Back-Propagation Through Time)とePropと比較する。
ETLPの計算複雑性に明らかな優位性を有する精度で競合性能を示す。
また,局所可塑性の場合,スパイキングニューロンのしきい値適応と再帰トポロジーが必要であり,時間的構造に富む時空間パターンを学習できることを示した。
最後に,その計算プリミティブの単純さと,低消費電力とリアルタイムインタラクションを備えたオンライン学習のためのニューロモルフィックハードウェアへのマッピングを強調するために,fpga上のetlpのコンセプトハードウェア実装を提案する。
関連論文リスト
- DYNAP-SE2: a scalable multi-core dynamic neuromorphic asynchronous
spiking neural network processor [2.9175555050594975]
我々は、リアルタイムイベントベーススパイキングニューラルネットワーク(SNN)をプロトタイピングするための、脳にインスパイアされたプラットフォームを提案する。
提案システムは, 短期可塑性, NMDA ゲーティング, AMPA拡散, ホメオスタシス, スパイク周波数適応, コンダクタンス系デンドライトコンパートメント, スパイク伝達遅延などの動的および現実的なニューラル処理現象の直接エミュレーションを支援する。
異なる生物学的に可塑性のニューラルネットワークをエミュレートする柔軟性と、個体群と単一ニューロンの信号の両方をリアルタイムで監視する能力により、基礎研究とエッジコンピューティングの両方への応用のための複雑なニューラルネットワークモデルの開発と検証が可能になる。
論文 参考訳(メタデータ) (2023-10-01T03:48:16Z) - Neuromorphic Computing with AER using Time-to-Event-Margin Propagation [7.730429080477441]
我々は、AERプロトコルに固有の遅延、トリガー、ソートといった因果的時間的プリミティブが、スケーラブルなニューロモルフィックコンピューティングにどのように活用できるかを示す。
提案したTEMPベースのAERアーキテクチャは、完全に非同期であり、メモリとコンピューティングの相互接続遅延に依存している。
概念実証として、トレーニングされたTEMPベースの畳み込みニューラルネットワーク(CNN)が、MNISTデータセット上で99%以上の精度を示すことを示す。
論文 参考訳(メタデータ) (2023-04-27T02:01:54Z) - Contrastive-Signal-Dependent Plasticity: Forward-Forward Learning of
Spiking Neural Systems [73.18020682258606]
我々は、ニューロンの個々の層が並列に機能する、スパイキングニューロンユニットからなる神経模倣アーキテクチャを開発する。
コントラスト信号依存塑性(CSDP)と呼ばれるイベントベース前方学習の一般化を提案する。
いくつかのパターンデータセットに対する実験結果から,CSDPプロセスは分類と再構成の両方が可能な動的再帰スパイクネットワークのトレーニングに有効であることが示された。
論文 参考訳(メタデータ) (2023-03-30T02:40:28Z) - The Predictive Forward-Forward Algorithm [79.07468367923619]
本稿では,ニューラルネットワークにおける信頼割当を行うための予測フォワード(PFF)アルゴリズムを提案する。
我々は,有向生成回路と表現回路を同時に同時に学習する,新しい動的リカレントニューラルネットワークを設計する。
PFFは効率よく学習し、学習信号を伝達し、フォワードパスのみでシナプスを更新する。
論文 参考訳(メタデータ) (2023-01-04T05:34:48Z) - Biologically Plausible Learning on Neuromorphic Hardware Architectures [27.138481022472]
ニューロモルフィックコンピューティング(Neuromorphic Computing)は、アナログメモリの計算によってこの不均衡に直面している新興パラダイムである。
この研究は、異なる学習アルゴリズムがCompute-In-Memoryベースのハードウェアに与える影響を初めて比較し、その逆も行った。
論文 参考訳(メタデータ) (2022-12-29T15:10:59Z) - Spike-based local synaptic plasticity: A survey of computational models
and neuromorphic circuits [1.8464222520424338]
シナプス可塑性のモデル化における歴史的,ボトムアップ的,トップダウン的なアプローチを概観する。
スパイクベース学習ルールの低レイテンシおよび低消費電力ハードウェア実装をサポートする計算プリミティブを同定する。
論文 参考訳(メタデータ) (2022-09-30T15:35:04Z) - Braille Letter Reading: A Benchmark for Spatio-Temporal Pattern
Recognition on Neuromorphic Hardware [50.380319968947035]
近年の深層学習手法は,そのようなタスクにおいて精度が向上しているが,従来の組込みソリューションへの実装は依然として計算量が非常に高く,エネルギーコストも高い。
文字読み込みによるエッジにおける触覚パターン認識のための新しいベンチマークを提案する。
フィードフォワードとリカレントスパイキングニューラルネットワーク(SNN)を、サロゲート勾配の時間によるバックプロパゲーションを用いてオフラインでトレーニングし比較し、効率的な推論のためにIntel Loihimorphicチップにデプロイした。
LSTMは14%の精度で繰り返しSNNより優れており、Loihi上での繰り返しSNNは237倍のエネルギーである。
論文 参考訳(メタデータ) (2022-05-30T14:30:45Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳(メタデータ) (2022-02-01T17:11:13Z) - Multi-Tones' Phase Coding (MTPC) of Interaural Time Difference by
Spiking Neural Network [68.43026108936029]
雑音の多い実環境下での正確な音像定位のための純粋スパイクニューラルネットワーク(SNN)に基づく計算モデルを提案する。
このアルゴリズムを,マイクロホンアレイを用いたリアルタイムロボットシステムに実装する。
実験の結果, 平均誤差方位は13度であり, 音源定位に対する他の生物学的に妥当なニューロモルフィックアプローチの精度を上回っていることがわかった。
論文 参考訳(メタデータ) (2020-07-07T08:22:56Z) - Structural plasticity on an accelerated analog neuromorphic hardware
system [0.46180371154032884]
我々は, プレ・グポストシナプスのパートナーを常に切り替えることにより, 構造的可塑性を達成するための戦略を提案する。
我々はこのアルゴリズムをアナログニューロモルフィックシステムBrainScaleS-2に実装した。
ネットワークトポロジを最適化する能力を示し、簡単な教師付き学習シナリオで実装を評価した。
論文 参考訳(メタデータ) (2019-12-27T10:15:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。