論文の概要: Low-Bit Data Processing Using Multiple-Output Spiking Neurons with Non-linear Reset Feedback
- arxiv url: http://arxiv.org/abs/2508.06292v1
- Date: Fri, 08 Aug 2025 13:12:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-11 20:39:06.235548
- Title: Low-Bit Data Processing Using Multiple-Output Spiking Neurons with Non-linear Reset Feedback
- Title(参考訳): 非線形リセットフィードバックを用いた複数出力スパイクニューロンを用いた低ビットデータ処理
- Authors: Sanja Karilanova, Subhrakanti Dey, Ayça Özçelikkale,
- Abstract要約: ニューロモルフィックコンピューティングにおける重要なアルゴリズムツールは、スパイクニューラルネットワーク(SNN)である
リセットによる一般SSM状態遷移と非線形フィードバック機構を組み合わせた新しい多出力スパイクニューロンモデルを提案する。
本研究は, リセット機構が不安定性を克服し, 神経力学の線形部分が不安定である場合でも学習を可能にすることを示す。
- 参考スコア(独自算出の注目度): 3.2443914909457594
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neuromorphic computing is an emerging technology enabling low-latency and energy-efficient signal processing. A key algorithmic tool in neuromorphic computing is spiking neural networks (SNNs). SNNs are biologically inspired neural networks which utilize stateful neurons, and provide low-bit data processing by encoding and decoding information using spikes. Similar to SNNs, deep state-space models (SSMs) utilize stateful building blocks. However, deep SSMs, which recently achieved competitive performance in various temporal modeling tasks, are typically designed with high-precision activation functions and no reset mechanisms. To bridge the gains offered by SNNs and the recent deep SSM models, we propose a novel multiple-output spiking neuron model that combines a linear, general SSM state transition with a non-linear feedback mechanism through reset. Compared to the existing neuron models for SNNs, our proposed model clearly conceptualizes the differences between the spiking function, the reset condition and the reset action. The experimental results on various tasks, i.e., a keyword spotting task, an event-based vision task and a sequential pattern recognition task, show that our proposed model achieves performance comparable to existing benchmarks in the SNN literature. Our results illustrate how the proposed reset mechanism can overcome instability and enable learning even when the linear part of neuron dynamics is unstable, allowing us to go beyond the strictly enforced stability of linear dynamics in recent deep SSM models.
- Abstract(参考訳): ニューロモルフィックコンピューティングは、低レイテンシとエネルギー効率の信号処理を可能にする新興技術である。
ニューロモルフィックコンピューティングにおける重要なアルゴリズムツールは、スパイクニューラルネットワーク(SNN)である。
SNNは、ステートフルニューロンを利用する生物学的にインスパイアされたニューラルネットワークであり、スパイクを使って情報をエンコードしてデコードすることで、低ビットのデータ処理を提供する。
SNNと同様に、ディープステートスペースモデル(SSM)はステートフルなビルディングブロックを使用する。
しかし、最近様々な時間的モデリングタスクにおいて競合性能を達成した深部SSMは、通常、高精度なアクティベーション機能とリセット機構を持たないように設計されている。
SNNと最近の深部SSMモデルの利得を橋渡しするために,リセットによる線形一般SSM状態遷移と非線形フィードバック機構を結合した新しい多出力スパイクニューロンモデルを提案する。
SNNの既存のニューロンモデルと比較して,本モデルではスパイキング関数,リセット条件,リセット動作の違いを明確に概念化している。
各種タスク,すなわちキーワードスポッティングタスク,イベントベース視覚タスク,逐次パターン認識タスクにおける実験結果から,提案モデルが既存のSNN文献のベンチマークに匹敵する性能を達成することを示す。
本研究は,近年の深部SSMモデルにおいて,線形力学の線形部分が不安定である場合でも,リセット機構が不安定性を克服し,学習を可能にすることを示すものである。
関連論文リスト
- Channel-wise Parallelizable Spiking Neuron with Multiplication-free Dynamics and Large Temporal Receptive Fields [32.349167886062105]
スパイキングニューラルネットワーク(SNN)は、生物学的ニューラルネットワークにインスパイアされた洗練された神経力学とスパースバイナリアクティベーション(スパイクス)によって、ニューラルネットワーク(ANN)と区別される。
従来のニューロンモデルは反復的なステップバイステップのダイナミクスを使用し、シリアル計算とSNNの遅いトレーニング速度をもたらす。
最近の並列化可能なスパイクニューロンモデルは、SNNの訓練を加速するために、グラフィックス処理ユニットの大規模並列計算能力をフル活用するために提案されている。
論文 参考訳(メタデータ) (2025-01-24T13:44:08Z) - Deep-Unrolling Multidimensional Harmonic Retrieval Algorithms on Neuromorphic Hardware [78.17783007774295]
本稿では,高精度かつエネルギー効率の高い単発多次元高調波検索のための変換に基づくニューロモルフィックアルゴリズムの可能性について検討する。
複雑な値の畳み込み層と活性化をスパイクニューラルネットワーク(SNN)に変換する新しい手法を開発した。
変換されたSNNは、元のCNNに比べて性能が低下し、ほぼ5倍の電力効率を実現している。
論文 参考訳(メタデータ) (2024-12-05T09:41:33Z) - TMN: A Lightweight Neuron Model for Efficient Nonlinear Spike Representation [7.524721345903027]
スパイク・トレインはスパイク・ニューラル・ネットワークにおける情報伝達の主要な媒体である。
スパイク数やタイミングに基づく既存の符号化スキームは、しばしば低ステップの制約の下で厳しい制限に直面している。
本稿では,2つの重要なイノベーションを特徴とする新しいニューロンモデルであるTernary Momentum Neuron (TMN)を提案する。
論文 参考訳(メタデータ) (2024-08-30T12:39:25Z) - P-SpikeSSM: Harnessing Probabilistic Spiking State Space Models for Long-Range Dependency Tasks [1.9775291915550175]
スパイキングニューラルネットワーク(SNN)は、従来のニューラルネットワークに代わる計算効率が高く生物学的に妥当な代替品として提案されている。
長距離依存タスクのためのスケーラブルな確率的スパイク学習フレームワークを開発した。
我々のモデルは、様々な長距離依存タスクにまたがるSNNモデル間の最先端性能を実現する。
論文 参考訳(メタデータ) (2024-06-05T04:23:11Z) - Learning Long Sequences in Spiking Neural Networks [0.0]
スパイキングニューラルネットワーク(SNN)は、エネルギー効率の高い計算を可能にするために、脳からインスピレーションを得ている。
トランスフォーマーの効率的な代替品に対する近年の関心は、状態空間モデル(SSM)と呼ばれる最先端の繰り返しアーキテクチャの台頭をもたらした。
論文 参考訳(メタデータ) (2023-12-14T13:30:27Z) - A Hybrid Neural Coding Approach for Pattern Recognition with Spiking
Neural Networks [53.31941519245432]
脳にインスパイアされたスパイクニューラルネットワーク(SNN)は、パターン認識タスクを解く上で有望な能力を示している。
これらのSNNは、情報表現に一様神経コーディングを利用する同質ニューロンに基づいている。
本研究では、SNNアーキテクチャは異種符号化方式を組み込むよう、均質に設計されるべきである、と論じる。
論文 参考訳(メタデータ) (2023-05-26T02:52:12Z) - Training High-Performance Low-Latency Spiking Neural Networks by
Differentiation on Spike Representation [70.75043144299168]
スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックハードウェア上に実装された場合、有望なエネルギー効率のAIモデルである。
非分化性のため、SNNを効率的に訓練することは困難である。
本稿では,ハイパフォーマンスを実現するスパイク表現法(DSR)の差分法を提案する。
論文 参考訳(メタデータ) (2022-05-01T12:44:49Z) - Training Feedback Spiking Neural Networks by Implicit Differentiation on
the Equilibrium State [66.2457134675891]
スパイキングニューラルネットワーク(英: Spiking Neural Network、SNN)は、ニューロモルフィックハードウェア上でエネルギー効率の高い実装を可能にする脳にインスパイアされたモデルである。
既存のほとんどの手法は、人工ニューラルネットワークのバックプロパゲーションフレームワークとフィードフォワードアーキテクチャを模倣している。
本稿では,フォワード計算の正逆性に依存しない新しいトレーニング手法を提案する。
論文 参考訳(メタデータ) (2021-09-29T07:46:54Z) - BackEISNN: A Deep Spiking Neural Network with Adaptive Self-Feedback and
Balanced Excitatory-Inhibitory Neurons [8.956708722109415]
スパイクニューラルネットワーク(SNN)は離散スパイクを通して情報を伝達し、空間時間情報を処理するのによく機能する。
適応型自己フィードバックと平衡興奮性および抑制性ニューロン(BackEISNN)を用いた深部スパイクニューラルネットワークを提案する。
MNIST、FashionMNIST、N-MNISTのデータセットに対して、我々のモデルは最先端の性能を達成した。
論文 参考訳(メタデータ) (2021-05-27T08:38:31Z) - Rectified Linear Postsynaptic Potential Function for Backpropagation in
Deep Spiking Neural Networks [55.0627904986664]
スパイキングニューラルネットワーク(SNN)は、時間的スパイクパターンを用いて情報を表現し、伝達する。
本稿では,情報符号化,シナプス可塑性,意思決定におけるスパイクタイミングダイナミクスの寄与について検討し,将来のDeepSNNやニューロモルフィックハードウェアシステムの設計への新たな視点を提供する。
論文 参考訳(メタデータ) (2020-03-26T11:13:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。