論文の概要: Surrogates, Spikes, and Sparsity: Performance Analysis and Characterization of SNN Hyperparameters on Hardware

• arxiv url: http://arxiv.org/abs/2603.24891v1
• Date: Thu, 26 Mar 2026 00:12:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-27 20:52:48.024479
• Title: Surrogates, Spikes, and Sparsity: Performance Analysis and Characterization of SNN Hyperparameters on Hardware
• Title（参考訳）: サーロゲート,スパイク,スパーシリティ:ハードウェア上でのSNNハイパーパラメータの性能解析と評価
• Authors: Ilkin Aliyev, Jesus Lopez, Tosiron Adegbija,
• Abstract要約: スパイキングニューラルネットワーク(SNN)は、スパースでイベント駆動型計算による低消費電力推論に固有の利点を提供する。 SNNの理論的エネルギの利点は、トレーニング時間選択と推論時間間隔の間の不透明な関係のため、実際のハードウェア性能から切り離されることが多い。
• 参考スコア（独自算出の注目度）: 3.632189127068905
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Spiking Neural Networks (SNNs) offer inherent advantages for low-power inference through sparse, event-driven computation. However, the theoretical energy benefits of SNNs are often decoupled from real hardware performance due to the opaque relationship between training-time choices and inference-time sparsity. While prior work has focused on weight pruning and compression, the role of training hyperparameters -- specifically surrogate gradient functions and neuron model configurations -- in shaping hardware-level activation sparsity remains underexplored. This paper presents a workload characterization study quantifying the sensitivity of hardware latency to SNN hyperparameters. We decouple the impact of surrogate gradient functions (e.g., Fast Sigmoid, Spike Rate Escape) and neuron models (LIF, Lapicque) on classification accuracy and inference efficiency across three event-based vision datasets: DVS128-Gesture, N-MNIST, and DVS-CIFAR10. Our analysis reveals that standard accuracy metrics are poor predictors of hardware efficiency. While Fast Sigmoid achieves the highest accuracy on DVS-CIFAR10, Spike Rate Escape reduces inference latency by up to 12.2% on DVS128-Gesture with minimal accuracy trade-offs. We also demonstrate that neuron model selection is as critical as parameter tuning; transitioning from LIF to Lapicque neurons yields up to 28% latency reduction. We validate on a custom cycle-accurate FPGA-based SNN instrumentation platform, showing that sparsity-aware hyperparameter selection can improve accuracy by 9.1% and latency by over 2x compared to baselines. These findings establish a methodology for predicting hardware behavior from training parameters. The RTL and reproducibility artifacts are at https://zenodo.org/records/18893738.
• Abstract（参考訳）: スパイキングニューラルネットワーク(SNN)は、スパースでイベント駆動型計算による低消費電力推論に固有の利点を提供する。 しかしながら、SNNの理論的エネルギの利点は、トレーニング時間選択と推論時間間隔の間の不透明な関係のため、実際のハードウェア性能から切り離されることが多い。 以前の作業では、重み付けと圧縮に重点を置いてきたが、ハードウェアレベルのアクティベーション空間を形成する上でのハイパーパラメーター(特に代理勾配関数とニューロンモデル構成)のトレーニングの役割は、まだ解明されていない。 本稿では,SNNハイパーパラメータに対するハードウェア遅延の感度を定量的に評価する。 DVS128-Gesture、N-MNIST、DVS-CIFAR10という3つのイベントベースビジョンデータセットの分類精度と推論効率に及ぼす代理勾配関数(例えば、高速シグミド、スパイクレートエスケープ)とニューロンモデル(LIF、ラピック)の影響を分離する。 分析の結果,標準精度の指標はハードウェア効率の予測精度が低いことが判明した。 Fast SigmoidはDVS-CIFAR10で最高精度を達成するが、Spike Rate Escapeは最小の精度でDVS128-Gestureで推論遅延を最大12.2%削減する。 また、パラメータチューニングと同様にニューロンモデル選択が重要であり、LIFからLapicqueへの遷移は最大28%の遅延減少をもたらすことを示した。 本研究では,FPGAをベースとしたSNNインスツルメンテーションプラットフォーム上で,並列性を考慮したハイパーパラメータ選択により精度が9.1%向上し,ベースラインに比べてレイテンシが2倍以上向上することを示す。 これらの知見は,トレーニングパラメータからハードウェアの動作を予測する手法を確立した。 RTLと再現性アーティファクトはhttps://zenodo.org/records/18893738にある。

関連論文リスト

• Spectral Gating Networks [65.9496901693099]
  我々は、フィードフォワードネットワークに周波数リッチな表現性を導入するために、スペクトルゲーティングネットワーク(SGN)を導入する。 SGNは、標準活性化経路をコンパクトなスペクトル経路と学習可能なゲートで拡張し、安定したベース動作からモデルを開始することができる。 計算予算に匹敵する精度と効率のトレードオフを継続的に改善する。
  論文  参考訳（メタデータ） (2026-02-07T20:00:49Z)
• Three factor delay learning rules for spiking neural networks [0.42970700836450487]
  シナプスおよび軸索遅延を導入し, リーク・アンド・ファイア(LIF)をベースとしたフィードフォワードとリカレントSNNを統合した。 オンライン上で遅延パラメータを同時に学習するための3つの制約付き学習ルールを提案する。 本研究は、デバイス上での学習を可能にし、メモリ要求を低くすることで、パワーと領域制約のあるニューロモルフィックプロセッサの設計に有効である。
  論文  参考訳（メタデータ） (2026-01-02T12:28:53Z)
• Towards Low-latency Event-based Visual Recognition with Hybrid Step-wise Distillation Spiking Neural Networks [50.32980443749865]
  スパイキングニューラルネットワーク(SNN)は、低消費電力と高い生物性のために大きな注目を集めている。 現在のSNNは、ニューロモルフィックデータセットの正確性とレイテンシのバランスをとるのに苦労している。 ニューロモルフィックデータセットに適したステップワイド蒸留法(HSD)を提案する。
  論文  参考訳（メタデータ） (2024-09-19T06:52:34Z)
• ZOBNN: Zero-Overhead Dependable Design of Binary Neural Networks with Deliberately Quantized Parameters [0.0]
  本稿では,低精度ニューラルネットワークの3番目の利点として,耐故障性の改善について紹介する。 本稿では,メモリ障害がBNN(State-of-the-art binary neural network)に与える影響を包括的解析により検討する。 本稿では,新しい均一量子化手法により,フロートパラメータの範囲を制限することにより,BNNの信頼性を向上させる手法を提案する。
  論文  参考訳（メタデータ） (2024-07-06T05:31:11Z)
• DelGrad: Exact event-based gradients for training delays and weights on spiking neuromorphic hardware [1.5226147562426895]
  スパイキングニューラルネットワーク(SNN)は本質的には情報表現と処理のための信号のタイミングに依存している。 我々は,シナプス重みと遅延の両方について,正確な損失勾配を計算するイベントベース手法であるDelGradを提案する。 ノイズの多い混合信号ハードウェア上でSNNに遅延を追加する際のメモリ効率と精度の利点を実験的に示す。
  論文  参考訳（メタデータ） (2024-04-30T00:02:34Z)
• Fine-Tuning Surrogate Gradient Learning for Optimal Hardware Performance in Spiking Neural Networks [1.52292571922932]
  スパイキングニューラルネットワーク(SNN)は、ハードウェアで慎重に活用することで、膨大なエネルギー効率の恩恵をもたらすことができる。 この研究は、トレーニングがハードウェアのパフォーマンスに与える影響に関する新たな洞察を明らかにします。
  論文  参考訳（メタデータ） (2024-02-09T06:38:12Z)
• Training High-Performance Low-Latency Spiking Neural Networks by Differentiation on Spike Representation [70.75043144299168]
  スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックハードウェア上に実装された場合、有望なエネルギー効率のAIモデルである。 非分化性のため、SNNを効率的に訓練することは困難である。 本稿では,ハイパフォーマンスを実現するスパイク表現法(DSR)の差分法を提案する。
  論文  参考訳（メタデータ） (2022-05-01T12:44:49Z)
• AQD: Towards Accurate Fully-Quantized Object Detection [94.06347866374927]
  本稿では,浮動小数点演算を除去するために,AQDと呼ばれる高精度な量子化オブジェクト検出ソリューションを提案する。 我々のAQDは、非常に低ビットのスキームの下での完全精度と比較して、同等またはそれ以上の性能を実現しています。
  論文  参考訳（メタデータ） (2020-07-14T09:07:29Z)
• Widening and Squeezing: Towards Accurate and Efficient QNNs [125.172220129257]
  量子化ニューラルネットワーク(QNN)は、非常に安価な計算とストレージオーバーヘッドのため、業界にとって非常に魅力的なものだが、その性能は、完全な精度パラメータを持つネットワークよりも悪い。 既存の手法の多くは、より効果的なトレーニング技術を利用して、特にバイナリニューラルネットワークの性能を高めることを目的としている。 本稿では,従来の完全精度ネットワークで高次元量子化機能に特徴を投影することで,この問題に対処する。
  論文  参考訳（メタデータ） (2020-02-03T04:11:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。