論文の概要: Intrinsically Stable Spiking Neural Networks: Overcoming the Performance Barrier in the Absence of Batch Normalization

• arxiv url: http://arxiv.org/abs/2606.31695v1
• Date: Tue, 30 Jun 2026 14:07:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-01 18:27:19.246977
• Title: Intrinsically Stable Spiking Neural Networks: Overcoming the Performance Barrier in the Absence of Batch Normalization
• Title（参考訳）: 本質的に安定なスパイクニューラルネットワーク:バッチ正規化の欠如による性能障壁克服
• Abstract要約: 本研究では、信号ホメオスタシスを強制することによって活性化正規化層を除去するIntrinsically Staable SNNアーキテクチャを提案する。 標準化操作をオフラインで静的な重みに折り畳むことで、IS-SNNはアクティベーション正規化によって導入された実行時統計の追跡と乗算を取り除く。 実験の結果,IS-SNN は計算コストの高い BN 技術と競合するか,あるいは性能に優れていることが示された。
• 参考スコア（独自算出の注目度）: 6.399076427640221
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The performance of deep spiking neural networks (SNNs) often relies on batch normalization (BN). However, the advanced dynamic BN variants used in state-of-the-art models introduce runtime multiplications, which weaken the hardware-efficiency motivation of SNNs. To address this tension, we identify catastrophic firing-rate decay as a primary cause of severe performance degradation in normalization-free SNNs. Guided by this insight, this work proposes the Intrinsically Stable SNN (IS-SNN) architecture, which removes activation-normalization layers by enforcing signal homeostasis through topology-aware weight standardization and modified residual connections. By folding the standardization operations into static weights offline, IS-SNN removes the runtime statistics tracking and multiplications introduced by activation normalization, restoring an accumulation-oriented inference datapath. Comprehensive experiments show that IS-SNN achieves performance competitive with or superior to computationally expensive dynamic BN techniques across VGG, ResNet, and Transformer-based models. Notably, it achieves a competitive accuracy of 68.05\% on ImageNet and overcomes the severe depth limitations of prior BN-free attempts. Together with a 96.4\% reduction in FPGA lookup table resource consumption for neuron implementations, these results support IS-SNN as a practical framework for building accurate and hardware-friendly deep neuromorphic systems.
• Abstract（参考訳）: ディープスパイクニューラルネットワーク(SNN)の性能はバッチ正規化(BN)に依存することが多い。 しかし、最先端のモデルで使用される高度な動的BN変種はランタイム乗法を導入し、SNNのハードウェア効率のモチベーションを弱める。 この張力に対処するため, 正則化のないSNNにおいて, 破滅的焼成速度崩壊が深刻な性能劣化の原因であると同定した。 本研究は,信号ホメオスタシスをトポロジ対応の重み付け標準化と修正残差接続により強制することで,活性化正規化層を除去するIntrinsically Staable SNN(IS-SNN)アーキテクチャを提案する。 標準化操作をオフラインで静的な重みに折り畳むことで、IS-SNNはアクティベーション正規化によって導入された実行時統計の追跡と乗算を取り除き、蓄積指向の推論データパスを復元する。 総合的な実験により、IS-SNNはVGG、ResNet、Transformerベースのモデルにまたがる計算コストの高い動的BN技術と競合するか、優れていることを示す。 特に、ImageNetで68.05\%の競争精度を達成し、BNフリーの試みの深刻な深さ制限を克服している。 これらの結果は、神経実装のためのFPGAルックアップテーブルリソース消費の96.4\%削減とともに、IS-SNNを正確でハードウェアフレンドリーなディープニューロモルフィックシステムを構築するための実践的なフレームワークとしてサポートしている。

関連論文リスト

• Reducing ANN-SNN Conversion Error via Residual Membrane Potential Alignment [52.910770415431244]
  スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックコンピューティングのコアアーキテクチャとして機能する。 ANN-SNN変換は、低レイテンシでエネルギー効率のよい推論のために、よく訓練されたANN重みを再利用することで問題を回避している。 既存の変換方式は、小さなタイミングで精度の低下、大きな推論遅延、累積量子化誤差に悩まされている。
  論文  参考訳（メタデータ） (2026-08-14T04:46:03Z)
• Burst Spiking Neural Networks [48.73525332410879]
  スパイキングニューラルネットワーク(SNN)は、ニューラルネットワーク(ANN)の低消費電力代替を目指す 既存のSNNメソッドは堅牢性を損なう。 本稿では,Burst-enhanced Spiking Neurons (BSN) と Dynamic Weight Constraint (DWC) を用いたBurst Spiking Neural Networks (BuSNN) を提案する。
  論文  参考訳（メタデータ） (2026-07-05T09:27:17Z)
• CaRe-BN: Precise Moving Statistics for Stabilizing Spiking Neural Networks in Reinforcement Learning [50.87795054453648]
  Spiking Neural Networks (SNN)は、ニューロモルフィックハードウェア上で低レイテンシでエネルギー効率の意思決定を提供する。 スパイクの離散的かつ微分不可能な性質のため、直接訓練されたSNNは勾配更新を安定させるためにバッチ正規化(BN)に大きく依存する。 オンライン強化学習(RL)では、BN統計は搾取を妨げ、収束と準最適政策を遅くする。
  論文  参考訳（メタデータ） (2025-09-28T10:21:17Z)
• Training Deep Normalization-Free Spiking Neural Networks with Lateral Inhibition [52.59263087086756]
  深層ニューラルネットワーク(SNN)のトレーニングは、バッチ正規化のような明示的な正規化スキームに依存している。 本研究では,皮質回路にインスパイアされた側方抑制を取り入れた正規化自由学習フレームワークを提案する。 本稿では,生物リアリズムを持つ深層SNNの安定的学習を可能にするとともに,明示的な正規化に頼らずに競争性能を達成できることを述べる。
  論文  参考訳（メタデータ） (2025-09-27T11:11:30Z)
• Proxy Target: Bridging the Gap Between Discrete Spiking Neural Networks and Continuous Control [59.65431931190187]
  スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックハードウェア上で低レイテンシかつエネルギー効率の意思決定を提供する。 連続制御のためのほとんどの連続制御アルゴリズムは、人工ニューラルネットワーク(ANN)のために設計されている。 このミスマッチはSNNのトレーニングを不安定にし、性能を劣化させる。 離散SNNと連続制御アルゴリズムのギャップを埋める新しいプロキシターゲットフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-05-30T03:08:03Z)
• QP-SNN: Quantized and Pruned Spiking Neural Networks [10.74122828236122]
  スパイキングニューラルネットワーク(SNN)はスパイクを利用して情報をエンコードし、イベント駆動方式で運用する。 資源限定シナリオにおいて,高性能なSNNを効果的に展開することを目的とした,ハードウェアフレンドリで軽量なSNNを提案する。
  論文  参考訳（メタデータ） (2025-02-09T13:50:59Z)
• Deep-Unrolling Multidimensional Harmonic Retrieval Algorithms on Neuromorphic Hardware [78.17783007774295]
  本稿では,高精度かつエネルギー効率の高い単発多次元高調波検索のための変換に基づくニューロモルフィックアルゴリズムの可能性について検討する。 複雑な値の畳み込み層と活性化をスパイクニューラルネットワーク(SNN)に変換する新しい手法を開発した。 変換されたSNNは、元のCNNに比べて性能が低下し、ほぼ5倍の電力効率を実現している。
  論文  参考訳（メタデータ） (2024-12-05T09:41:33Z)
• Recurrent Bilinear Optimization for Binary Neural Networks [58.972212365275595]
  BNNは、実数値重みとスケールファクターの内在的双線型関係を無視している。 私たちの仕事は、双線形の観点からBNNを最適化する最初の試みです。 我々は、様々なモデルやデータセット上で最先端のBNNに対して印象的な性能を示す頑健なRBONNを得る。
  論文  参考訳（メタデータ） (2022-09-04T06:45:33Z)
• Optimal Conversion of Conventional Artificial Neural Networks to Spiking Neural Networks [0.0]
  spiking neural networks (snns) は生物学に触発されたニューラルネットワーク (anns) である。 しきい値バランスとソフトリセット機構を組み合わせることで、重みをターゲットSNNに転送する新しい戦略パイプラインを提案する。 提案手法は,SNNのエネルギーとメモリの制限によるサポートを向上し,組込みプラットフォームに組み込むことが期待できる。
  論文  参考訳（メタデータ） (2021-02-28T12:04:22Z)
• Skip-Connected Self-Recurrent Spiking Neural Networks with Joint Intrinsic Parameter and Synaptic Weight Training [14.992756670960008]
  我々はSkip-Connected Self-Recurrent SNNs (ScSr-SNNs) と呼ばれる新しいタイプのRSNNを提案する。 ScSr-SNNは、最先端BP法で訓練された他のタイプのRSNNと比較して、パフォーマンスを最大2.55%向上させることができる。
  論文  参考訳（メタデータ） (2020-10-23T22:27:13Z)
• Progressive Tandem Learning for Pattern Recognition with Deep Spiking Neural Networks [80.15411508088522]
  スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。 高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-07-02T15:38:44Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。