論文の概要: Gradient-Free Continual Learning in Spiking Neural Networks via Inter-Spike Interval Regularization
- arxiv url: http://arxiv.org/abs/2604.16496v1
- Date: Tue, 14 Apr 2026 03:16:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-21 21:52:52.02899
- Title: Gradient-Free Continual Learning in Spiking Neural Networks via Inter-Spike Interval Regularization
- Title(参考訳): スパイク間間隔正規化によるスパイクニューラルネットワークのグラディエントフリー連続学習
- Authors: Samrendra Roy, Kazuma Kobayashi, Souvik Chakraborty, Sajedul Talukder, Syed Bahauddin Alam,
- Abstract要約: ニューラルネットワークの動的現実環境へのデプロイには,継続的な学習が不可欠だ。
我々は,SNN連続学習のための最初の勾配なしシナプス重要度指標であるISI-CVを提案する。
スプリット-MNIST, Permuted-MNIST, Split-FashionMNIST, およびスプリット-N-MNIST の4つのベンチマークを実ダイナミックビジョンセンサ(DVS)データを用いて評価した。
- 参考スコア(独自算出の注目度): 4.190153363488523
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Continual learning, the ability to acquire new tasks sequentially without forgetting prior knowledge, is essential for deploying neural networks in dynamic real-world environments, from nuclear digital twin monitoring to grid-edge fault detection. Existing synaptic importance methods, such as Elastic Weight Consolidation (EWC) and Synaptic Intelligence (SI), rely on gradient computation, making them incompatible with neuromorphic hardware that lacks backpropagation support. We propose ISI-CV, the first gradient-free synaptic importance metric for SNN continual learning, derived from the Coefficient of Variation (CV) of Inter-Spike Intervals (ISIs). Neurons that fire regularly (low CV) encode stable, task-relevant features and are protected from overwriting; neurons with irregular firing are permitted to adapt freely. ISI-CV requires only spike time counters and integer arithmetic, all of which are native to every neuromorphic chip. We evaluate on four benchmarks of increasing difficulty: Split-MNIST, Permuted-MNIST, Split-FashionMNIST, and Split-N-MNIST using real Dynamic Vision Sensor (DVS) event data. Across three seeds, ISI-CV achieves zero forgetting (AF = 0.000 +/- 0.000) on Split-MNIST and Split-FashionMNIST, near-zero forgetting on Permuted-MNIST (AF = 0.001 +/- 0.000), and the highest accuracy with the lowest forgetting on real neuromorphic DVS data (AA = 0.820 +/- 0.012, AF = 0.221 +/- 0.014). On N-MNIST, gradient-based methods produce unreliable importance estimates and perform worse than no regularization; ISI-CV avoids this failure by design.
- Abstract(参考訳): 核デジタルツインモニタリングからグリッドエッジ障害検出まで、ニューラルネットワークを動的に現実の環境にデプロイする上では、継続的な学習は、事前の知識を忘れずにシーケンシャルに新しいタスクを取得する能力である。
EWC(Elastic Weight Consolidation)やSI(Synaptic Intelligence)といった既存のシナプス的重要性の手法は勾配計算に依存しており、バックプロパゲーションをサポートしていないニューロモルフィックハードウェアと互換性がない。
ISI-CVはSNN連続学習のための最初の勾配なしシナプス重要度指標であり,ISIの変動係数(CV)から導かれる。
定期的に発火するニューロン(低CV)は、安定なタスク関連の特徴をコードし、上書きを防ぎ、不規則な発火を持つニューロンは自由に適応することが許されている。
ISI-CVはスパイク時間カウンタと整数演算しか必要とせず、これら全てはすべてのニューロモルフィックチップにネイティブである。
スプリット-MNIST, Permuted-MNIST, Split-FashionMNIST, およびスプリット-N-MNIST の4つのベンチマークを実ダイナミックビジョンセンサ(DVS)イベントデータを用いて評価した。
3つの種にわたって、ISI-CV は Split-MNIST と Split-FashionMNIST のゼロ忘れ(AF = 0.000 +/- 0.000)、Permuted-MNIST (AF = 0.001 +/- 0.000) のほぼゼロ忘れ(AF = 0.820 +/- 0.012, AF = 0.221 +/- 0.014)を達成する。
N-MNISTでは、勾配に基づく手法は信頼性の低い重要度を推定し、正規化を伴わないよりも悪い結果を与えるが、ISI-CVはこの失敗を設計によって避ける。
関連論文リスト
- PTS-SNN: A Prompt-Tuned Temporal Shift Spiking Neural Networks for Efficient Speech Emotion Recognition [12.087823767638788]
音声感情認識(SER)は人間とコンピュータのインタラクションに広く利用されているが、高い計算コストはリソースに制約のあるエッジデバイスの実装を妨げる。
本稿では, スパイキングダイナミクスを用いたパラメータ効率のよいニューロモルフィック適応である, Prompt-Tuned Spiking Neural Networks (PTS-SNN) を提案する。
論文 参考訳(メタデータ) (2026-02-09T03:29:16Z) - Learning from Dense Events: Towards Fast Spiking Neural Networks Training via Event Dataset Distillation [33.31825132631613]
イベントカメラは明るさの変化を感知し、バイナリ非同期イベントストリームを出力する。
彼らのバイオインスパイアされたダイナミクスはニューラルネットワーク(SNN)とよく一致しており、従来のビジョンシステムに代わる有望なエネルギー効率の代替手段を提供する。
本稿では,SNNにおける最初のデータセット蒸留フレームワークであるbfPACE(text-Aligned Condensation for Events)を紹介する。
論文 参考訳(メタデータ) (2025-11-15T08:20:47Z) - NM-Hebb: Coupling Local Hebbian Plasticity with Metric Learning for More Accurate and Interpretable CNNs [0.0]
NM-Hebbは神経刺激による局所的可塑性と遠隔監視を統合している。
フェーズ1は、クロスエントロピーの目標を共同で最適化することで、標準的な教師付きトレーニングを拡張します。
フェーズ2は、一対のメートル法学習損失でバックボーンを微調整する。
論文 参考訳(メタデータ) (2025-08-27T13:53:04Z) - Deep-Unrolling Multidimensional Harmonic Retrieval Algorithms on Neuromorphic Hardware [78.17783007774295]
本稿では,高精度かつエネルギー効率の高い単発多次元高調波検索のための変換に基づくニューロモルフィックアルゴリズムの可能性について検討する。
複雑な値の畳み込み層と活性化をスパイクニューラルネットワーク(SNN)に変換する新しい手法を開発した。
変換されたSNNは、元のCNNに比べて性能が低下し、ほぼ5倍の電力効率を実現している。
論文 参考訳(メタデータ) (2024-12-05T09:41:33Z) - Assessing Neural Network Representations During Training Using
Noise-Resilient Diffusion Spectral Entropy [55.014926694758195]
ニューラルネットワークにおけるエントロピーと相互情報は、学習プロセスに関する豊富な情報を提供する。
データ幾何を利用して基礎となる多様体にアクセスし、これらの情報理論測度を確実に計算する。
本研究は,高次元シミュレーションデータにおける固有次元と関係強度の耐雑音性の測定結果である。
論文 参考訳(メタデータ) (2023-12-04T01:32:42Z) - Knowing When to Stop: Delay-Adaptive Spiking Neural Network Classifiers with Reliability Guarantees [36.14499894307206]
スパイキングニューラルネットワーク(SNN)は、内部イベント駆動型ニューラルネットワークを通じて時系列データを処理する。
本稿では,入力依存停止時に発生する決定に対して,信頼性を保証する新しい遅延適応型SNNベースの推論手法を提案する。
論文 参考訳(メタデータ) (2023-05-18T22:11:04Z) - Continuous time recurrent neural networks: overview and application to
forecasting blood glucose in the intensive care unit [56.801856519460465]
連続時間自己回帰リカレントニューラルネットワーク(Continuous Time Autoregressive Recurrent Neural Network, CTRNN)は、不規則な観測を考慮に入れたディープラーニングモデルである。
重篤なケア環境下での血糖値の確率予測へのこれらのモデルの適用を実証する。
論文 参考訳(メタデータ) (2023-04-14T09:39:06Z) - Training High-Performance Low-Latency Spiking Neural Networks by
Differentiation on Spike Representation [70.75043144299168]
スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックハードウェア上に実装された場合、有望なエネルギー効率のAIモデルである。
非分化性のため、SNNを効率的に訓練することは困難である。
本稿では,ハイパフォーマンスを実現するスパイク表現法(DSR)の差分法を提案する。
論文 参考訳(メタデータ) (2022-05-01T12:44:49Z) - Training Feedback Spiking Neural Networks by Implicit Differentiation on
the Equilibrium State [66.2457134675891]
スパイキングニューラルネットワーク(英: Spiking Neural Network、SNN)は、ニューロモルフィックハードウェア上でエネルギー効率の高い実装を可能にする脳にインスパイアされたモデルである。
既存のほとんどの手法は、人工ニューラルネットワークのバックプロパゲーションフレームワークとフィードフォワードアーキテクチャを模倣している。
本稿では,フォワード計算の正逆性に依存しない新しいトレーニング手法を提案する。
論文 参考訳(メタデータ) (2021-09-29T07:46:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。