論文の概要: Expressivity of Spiking Neural Networks
- arxiv url: http://arxiv.org/abs/2308.08218v1
- Date: Wed, 16 Aug 2023 08:45:53 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-17 14:13:06.745412
- Title: Expressivity of Spiking Neural Networks
- Title（参考訳）: スパイクニューラルネットワークの表現性
- Authors: Manjot Singh, Adalbert Fono and Gitta Kutyniok
- Abstract要約: 本稿では,ニューロンの発射時間に情報を符号化したスパイクニューラルネットワークの表現力について検討する。
ニューロモルフィックハードウェア上でのスパイクニューラルネットワークの実装は、将来のエネルギー効率の高いAIアプリケーションにとって有望な選択である。
- 参考スコア（独自算出の注目度）: 17.062437567844874
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This article studies the expressive power of spiking neural networks where
information is encoded in the firing time of neurons. The implementation of
spiking neural networks on neuromorphic hardware presents a promising choice
for future energy-efficient AI applications. However, there exist very few
results that compare the computational power of spiking neurons to arbitrary
threshold circuits and sigmoidal neurons. Additionally, it has also been shown
that a network of spiking neurons is capable of approximating any continuous
function. By using the Spike Response Model as a mathematical model of a
spiking neuron and assuming a linear response function, we prove that the
mapping generated by a network of spiking neurons is continuous piecewise
linear. We also show that a spiking neural network can emulate the output of
any multi-layer (ReLU) neural network. Furthermore, we show that the maximum
number of linear regions generated by a spiking neuron scales exponentially
with respect to the input dimension, a characteristic that distinguishes it
significantly from an artificial (ReLU) neuron. Our results further extend the
understanding of the approximation properties of spiking neural networks and
open up new avenues where spiking neural networks can be deployed instead of
artificial neural networks without any performance loss.
- Abstract（参考訳）: 本稿では,ニューロンの発火時間に情報がエンコードされるスパイキングニューラルネットワークの表現力について検討する。
ニューロモルフィックハードウェア上でのスパイクニューラルネットワークの実装は、将来のエネルギー効率の高いAIアプリケーションにとって有望な選択である。
しかし、スパイキングニューロンの計算能力と任意の閾値回路とsgmoidalニューロンを比較した結果は非常に少ない。
さらに、スパイキングニューロンのネットワークが連続的な機能を近似することができることも示されている。
スパイク応答モデルをスパイクニューロンの数学的モデルとし、線形応答関数を仮定することにより、スパイクニューロンのネットワークによって生成された写像が連続的に線形であることを証明する。
また、スパイクニューラルネットワークは、任意の多層ニューラルネットワーク(ReLU)の出力をエミュレートできることを示す。
さらに、スパイクニューロンが生成するリニア領域の最大数は、入力次元に対して指数関数的にスケールすることを示し、これは人工ニューロン(ReLU)と大きく区別する特徴である。
この結果により, スパイクニューラルネットワークの近似特性の理解がさらに深まり, スパイクニューラルネットワークを, 性能損失のない人工ニューラルネットワークの代わりに展開する新たな道が開かれた。
関連論文リスト
- Discovering Chunks in Neural Embeddings for Interpretability [53.80157905839065]
本稿では, チャンキングの原理を応用して, 人工神経集団活動の解釈を提案する。
まず、この概念を正則性を持つ人工シーケンスを訓練したリカレントニューラルネットワーク(RNN)で実証する。
我々は、これらの状態に対する摂動が関連する概念を活性化または阻害すると共に、入力における概念に対応する同様の繰り返し埋め込み状態を特定する。
論文 参考訳（メタデータ） (2025-02-03T20:30:46Z) - Contrastive Learning in Memristor-based Neuromorphic Systems [55.11642177631929]
スパイクニューラルネットワークは、現代のバックプロパゲーションによって訓練されたディープネットワークに直面する重要な制約の多くを横取りする、ニューロンベースのモデルの重要なファミリーとなっている。
本研究では,前向き・後向き学習のニューロモルフィック形式であるコントラッシブ・シグナル依存型塑性(CSDP)の概念実証を設計し,検討する。
論文 参考訳（メタデータ） (2024-09-17T04:48:45Z) - Stable Learning Using Spiking Neural Networks Equipped With Affine Encoders and Decoders [2.0072624123275533]
スパイクニューラルネットワークに関連する学習問題について検討する。
我々は、正のシナプス重みしか持たない単純なスパイキングニューロンからなるスパイキングニューラルネットワークに焦点を当てた。
特に、アフィンスパイクニューラルネットワークが浅いReLUニューラルネットワークを近似できるという理論とシミュレーションを示す。
論文 参考訳（メタデータ） (2024-04-06T08:17:07Z) - Graph Neural Networks for Learning Equivariant Representations of Neural Networks [55.04145324152541]
本稿では,ニューラルネットワークをパラメータの計算グラフとして表現することを提案する。
我々のアプローチは、ニューラルネットワークグラフを多種多様なアーキテクチャでエンコードする単一モデルを可能にする。
本稿では,暗黙的ニューラル表現の分類や編集など,幅広いタスクにおける本手法の有効性を示す。
論文 参考訳（メタデータ） (2024-03-18T18:01:01Z) - Connected Hidden Neurons (CHNNet): An Artificial Neural Network for
Rapid Convergence [0.6218519716921521]
我々は,同じ隠蔽層に隠されたニューロンが相互に相互に結合し,急速に収束する,より堅牢な人工知能ニューラルネットワークモデルを提案する。
深層ネットワークにおける提案モデルの実験研究により,従来のフィードフォワードニューラルネットワークと比較して,モデルが顕著に収束率を上昇させることを示した。
論文 参考訳（メタデータ） (2023-05-17T14:00:38Z) - Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。
我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
論文 参考訳（メタデータ） (2023-03-30T02:40:28Z) - Functional Connectome: Approximating Brain Networks with Artificial
Neural Networks [1.952097552284465]
訓練されたディープニューラルネットワークは、合成生物学的ネットワークによって実行される計算を高精度に捉えることができることを示す。
訓練されたディープニューラルネットワークは、新しい環境でゼロショットの一般化を実行可能であることを示す。
本研究は, システム神経科学における新規かつ有望な方向性を明らかにする。
論文 参考訳（メタデータ） (2022-11-23T13:12:13Z) - Spiking neural network for nonlinear regression [68.8204255655161]
スパイクニューラルネットワークは、メモリとエネルギー消費を大幅に削減する可能性を持っている。
彼らは、次世代のニューロモルフィックハードウェアによって活用できる時間的および神経的疎結合を導入する。
スパイキングニューラルネットワークを用いた回帰フレームワークを提案する。
論文 参考訳（メタデータ） (2022-10-06T13:04:45Z) - Effective and Efficient Computation with Multiple-timescale Spiking
Recurrent Neural Networks [0.9790524827475205]
本稿では,新しいタイプの適応スパイクリカレントニューラルネットワーク(SRNN)が,最先端の性能を実現する方法を示す。
我々は、従来のRNNよりも難しいタスクにおいて、SRNNの100倍のエネルギー改善を計算します。
論文 参考訳（メタデータ） (2020-05-24T01:04:53Z) - Non-linear Neurons with Human-like Apical Dendrite Activations [81.18416067005538]
XOR論理関数を100%精度で学習し, 標準的なニューロンに後続のアピーカルデンドライト活性化(ADA)が認められた。
コンピュータビジョン,信号処理,自然言語処理の6つのベンチマークデータセットについて実験を行った。
論文 参考訳（メタデータ） (2020-02-02T21:09:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。