論文の概要: Supervised Learning with First-to-Spike Decoding in Multilayer Spiking
Neural Networks
- arxiv url: http://arxiv.org/abs/2008.06937v1
- Date: Sun, 16 Aug 2020 15:34:48 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-28 08:56:53.933035
- Title: Supervised Learning with First-to-Spike Decoding in Multilayer Spiking
Neural Networks
- Title（参考訳）: 多層スパイクニューラルネットワークにおける初対スパイクデコーディングによる教師付き学習
- Authors: Brian Gardner, Andr\'e Gr\"uning
- Abstract要約: 本稿では,多層スパイキングニューラルネットワークを学習して分類問題を解くための教師あり学習手法を提案する。
提案した学習規則は、隠れニューロンが発する複数のスパイクをサポートし、決定論的出力層によって生成された最初のスパイク応答に依存することにより安定である。
また、入力データのコンパクト表現を形成するために、いくつかの異なるスパイクベースの符号化戦略についても検討する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Experimental studies support the notion of spike-based neuronal information
processing in the brain, with neural circuits exhibiting a wide range of
temporally-based coding strategies to rapidly and efficiently represent sensory
stimuli. Accordingly, it would be desirable to apply spike-based computation to
tackling real-world challenges, and in particular transferring such theory to
neuromorphic systems for low-power embedded applications. Motivated by this, we
propose a new supervised learning method that can train multilayer spiking
neural networks to solve classification problems based on a rapid,
first-to-spike decoding strategy. The proposed learning rule supports multiple
spikes fired by stochastic hidden neurons, and yet is stable by relying on
first-spike responses generated by a deterministic output layer. In addition to
this, we also explore several distinct, spike-based encoding strategies in
order to form compact representations of presented input data. We demonstrate
the classification performance of the learning rule as applied to several
benchmark datasets, including MNIST. The learning rule is capable of
generalising from the data, and is successful even when used with constrained
network architectures containing few input and hidden layer neurons.
Furthermore, we highlight a novel encoding strategy, termed `scanline
encoding', that can transform image data into compact spatiotemporal patterns
for subsequent network processing. Designing constrained, but optimised,
network structures and performing input dimensionality reduction has strong
implications for neuromorphic applications.
- Abstract（参考訳）: 実験的研究は、スパイクに基づく神経情報処理の概念を支持し、神経回路は、感覚刺激を迅速かつ効率的に表現するための時間的ベースの幅広いコーディング戦略を示す。
したがって、スパイクベースの計算を実世界の課題に取り組み、特にそのような理論を低消費電力の組み込みアプリケーションのためのニューロモルフィックシステムに移すことが望ましい。
そこで本研究では,階層型スパイクニューラルネットワークを学習し,高速で初歩的な解法に基づく分類問題を解くための教師付き学習手法を提案する。
提案した学習規則は,確率的に隠れたニューロンが発する複数のスパイクをサポートするが,決定論的出力層が生成する最初のスパイク応答に頼れば安定である。
これに加えて,入力データのコンパクト表現を形成するための,スパイクベースの符号化戦略についても検討する。
MNISTを含むいくつかのベンチマークデータセットに適用した学習規則の分類性能を示す。
学習ルールは、データから一般化することができ、少ない入力層と隠れ層ニューロンを含む制約付きネットワークアーキテクチャで使用しても成功できる。
さらに、画像データをコンパクトな時空間パターンに変換し、その後のネットワーク処理を行うための新しい符号化戦略である「スカンライン符号化」を強調する。
制約のある、しかし最適化されたネットワーク構造の設計と入力次元の削減は、神経形態学の応用に強い意味を持つ。
関連論文リスト
- Towards Scalable and Versatile Weight Space Learning [51.78426981947659]
本稿では,重み空間学習におけるSANEアプローチを紹介する。
ニューラルネットワーク重みのサブセットの逐次処理に向けて,超表現の概念を拡張した。
論文 参考訳（メタデータ） (2024-06-14T13:12:07Z) - NeuralFastLAS: Fast Logic-Based Learning from Raw Data [54.938128496934695]
シンボリック・ルール学習者は解釈可能な解を生成するが、入力を記号的に符号化する必要がある。
ニューロシンボリックアプローチは、ニューラルネットワークを使用して生データを潜在シンボリック概念にマッピングすることで、この問題を克服する。
我々は,ニューラルネットワークを記号学習者と共同でトレーニングする,スケーラブルで高速なエンドツーエンドアプローチであるNeuralFastLASを紹介する。
論文 参考訳（メタデータ） (2023-10-08T12:33:42Z) - Neuromorphic Auditory Perception by Neural Spiketrum [27.871072042280712]
本研究では、時間変化のアナログ信号を効率的なスパイクパターンに変換するために、スパイク時相と呼ばれるニューラルスパイク符号化モデルを導入する。
このモデルは、様々な聴覚知覚タスクにおいて、スパイクニューラルネットワークのトレーニングを容易にする、正確に制御可能なスパイクレートを備えたスパースで効率的な符号化スキームを提供する。
論文 参考訳（メタデータ） (2023-09-11T13:06:19Z) - A Hybrid Neural Coding Approach for Pattern Recognition with Spiking
Neural Networks [53.31941519245432]
脳にインスパイアされたスパイクニューラルネットワーク(SNN)は、パターン認識タスクを解く上で有望な能力を示している。
これらのSNNは、情報表現に一様神経コーディングを利用する同質ニューロンに基づいている。
本研究では、SNNアーキテクチャは異種符号化方式を組み込むよう、均質に設計されるべきである、と論じる。
論文 参考訳（メタデータ） (2023-05-26T02:52:12Z) - Spiking neural network for nonlinear regression [68.8204255655161]
スパイクニューラルネットワークは、メモリとエネルギー消費を大幅に削減する可能性を持っている。
彼らは、次世代のニューロモルフィックハードウェアによって活用できる時間的および神経的疎結合を導入する。
スパイキングニューラルネットワークを用いた回帰フレームワークを提案する。
論文 参考訳（メタデータ） (2022-10-06T13:04:45Z) - Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。
データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
論文 参考訳（メタデータ） (2022-02-01T17:11:13Z) - A Study On the Effects of Pre-processing On Spatio-temporal Action
Recognition Using Spiking Neural Networks Trained with STDP [0.0]
ビデオ分類タスクにおいて,教師なし学習手法で訓練したSNNの行動を研究することが重要である。
本稿では,時間情報を静的な形式に変換し,遅延符号化を用いて視覚情報をスパイクに変換する手法を提案する。
スパイクニューラルネットワークを用いた行動認識における行動の形状と速度の類似性の効果を示す。
論文 参考訳（メタデータ） (2021-05-31T07:07:48Z) - Discovery of slow variables in a class of multiscale stochastic systems
via neural networks [0.0]
本研究では,システムから遅い表現を抽出するマップを,人工ニューラルネットワークにエンコードする新しい手法を提案する。
我々は、このメソッドを、正しいスロー表現を見つける能力を示すいくつかの例でテストする。
論文 参考訳（メタデータ） (2021-04-28T17:48:25Z) - An error-propagation spiking neural network compatible with neuromorphic
processors [2.432141667343098]
本稿では,局所的な重み更新機構を用いたバックプロパゲーションを近似したスパイクに基づく学習手法を提案する。
本稿では,重み更新機構による誤り信号のバックプロパゲートを可能にするネットワークアーキテクチャを提案する。
この研究は、超低消費電力混合信号ニューロモルフィック処理系の設計に向けた第一歩である。
論文 参考訳（メタデータ） (2021-04-12T07:21:08Z) - Rectified Linear Postsynaptic Potential Function for Backpropagation in
Deep Spiking Neural Networks [55.0627904986664]
スパイキングニューラルネットワーク(SNN)は、時間的スパイクパターンを用いて情報を表現し、伝達する。
本稿では,情報符号化,シナプス可塑性,意思決定におけるスパイクタイミングダイナミクスの寄与について検討し,将来のDeepSNNやニューロモルフィックハードウェアシステムの設計への新たな視点を提供する。
論文 参考訳（メタデータ） (2020-03-26T11:13:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。