論文の概要: Integer-State Dynamics of Quantized Spiking Neural Networks for Efficient Hardware Acceleration
- arxiv url: http://arxiv.org/abs/2604.01042v1
- Date: Wed, 01 Apr 2026 15:51:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-02 16:44:32.069116
- Title: Integer-State Dynamics of Quantized Spiking Neural Networks for Efficient Hardware Acceleration
- Title(参考訳): ハードウェア高速化のための量子スパイクニューラルネットワークの整数状態ダイナミクス
- Authors: Lei Zhang,
- Abstract要約: スパイキングニューラルネットワーク(SNN)は、イベント駆動計算とスパースアクティビティが低消費電力のデジタルハードウェアに自然にマップされるため、エネルギー効率のよいマシンインテリジェンスをサポートする。
本稿では、ハードウェア指向SNNを有界整数格子上の決定論的写像としてモデル化し、整数状態の動的視点を採用する。
- 参考スコア(独自算出の注目度): 5.589961715298686
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Spiking neural networks (SNNs) support energy-efficient machine intelligence because event-driven computation and sparse activity map naturally to low-power digital hardware. In practical implementations, however, membrane states, synaptic weights, and thresholds are represented with finite-precision integer arithmetic. Quantization, clipping, and overflow can therefore alter network dynamics, not just approximate a higher-precision model. This paper adopts an integer-state dynamical perspective, modeling a hardware-oriented SNN as a deterministic map on a bounded integer lattice. Under this view, recurrence, periodic orbits, and regime changes become intrinsic properties of the system. We introduce a lightweight update rule with integer-valued states and shift-based leakage, and demonstrate the approach through exploratory simulations with network sizes N = 30-130, connection densities 0.1-0.9, and bit widths 4/8/16 over T = 1000 steps. The results show bounded and recurrent temporal structure with strong quantization sensitivity. The observed regimes depend heavily on representation semantics and scaling choices. These findings suggest that numerical precision acts as a dynamical design variable and highlight integer-state analysis as a useful framework for hardware-aware SNN co-design, motivating future work on attractor analysis, precision-aware training, and FPGA/ASIC validation.
- Abstract(参考訳): イベント駆動型計算とスパースアクティビティが、低消費電力のデジタルハードウェアに自然にマップされるため、スパイキングニューラルネットワーク(SNN)はエネルギー効率のよいマシンインテリジェンスをサポートする。
しかし、実際の実装では、膜状態、シナプス重み、しきい値は有限精度整数演算で表される。
したがって、量子化、クリッピング、オーバーフローは、より高い精度のモデルに近似するのではなく、ネットワークのダイナミクスを変えることができる。
本稿では、ハードウェア指向SNNを有界整数格子上の決定論的写像としてモデル化し、整数状態の動的視点を採用する。
この視点の下では、周期軌道、周期の変化が系の本質的な特性となる。
整数値状態とシフトベースリークを用いた軽量な更新ルールを導入し,ネットワークサイズ N = 30-130,接続密度 0.1-0.9,ビット幅 4/8/16 over T = 1000 ステップによる探索シミュレーションによるアプローチを実証する。
その結果,強い量子化感度を有する有界および繰り返し時間構造が得られた。
観察された体制は表現の意味論とスケーリングの選択に大きく依存している。
これらの結果は,数値精度が動的設計変数として機能し,ハードウェアを意識したSNN共同設計のための有用なフレームワークとして整数状態解析が強調され,アトラクタ解析,高精度学習,FPGA/ASICバリデーションの先駆けとなることを示唆している。
関連論文リスト
- Hardware-Aware Model Design and Training of Silicon-based Analog Neural Networks [33.83993649730681]
物理インフォームドハードウェア・アウェアモデルを用いてニューラルネットワークを再トレーニングすることにより、理想的なネットワークモデルの推論精度を完全に回復できることを示す。
これは、アナログニューラルネットワークの忠実性を改善するデフォルトオプションよりも、スケーラビリティと統合密度に有望である。
論文 参考訳(メタデータ) (2025-12-08T10:11:13Z) - Scalable Mechanistic Neural Networks for Differential Equations and Machine Learning [52.28945097811129]
長い時間的シーケンスを含む科学機械学習応用のための拡張ニューラルネットワークフレームワークを提案する。
計算時間と空間複雑度はそれぞれ、列長に関して立方体と二次体から線形へと減少する。
大規模な実験により、S-MNNは元のMNNと精度で一致し、計算資源を大幅に削減した。
論文 参考訳(メタデータ) (2024-10-08T14:27:28Z) - An Attempt to Devise a Pairwise Ising-Type Maximum Entropy Model Integrated Cost Function for Optimizing SNN Deployment [0.0]
スパイクニューラルネットワーク(SNN)は、生物学的ニューロンのスパイク動作をエミュレートし、通常、分散メモリニューロモルフィックハードウェアにデプロイされる。
We model SNN dynamics using a Ising-type pairwise interaction framework, bridging micro neuron interaction with macroscopic network behavior。
我々は、sPyNNakerニューロモルフィックプラットフォーム上に配置された2つのSNNに対するアプローチを評価した。
論文 参考訳(メタデータ) (2024-07-09T16:33:43Z) - Latency-aware Unified Dynamic Networks for Efficient Image Recognition [72.8951331472913]
LAUDNetは動的ネットワークの理論的および実用的な効率ギャップを橋渡しするフレームワークである。
3つの主要な動的パラダイム - 適応型計算、動的層スキップ、動的チャネルスキップ - を統合している。
これにより、V100,3090やTX2 GPUのようなプラットフォーム上で、ResNetのようなモデルの遅延を50%以上削減できる。
論文 参考訳(メタデータ) (2023-08-30T10:57:41Z) - Low Precision Quantization-aware Training in Spiking Neural Networks
with Differentiable Quantization Function [0.5046831208137847]
この研究は、量子化されたニューラルネットワークの最近の進歩とスパイクニューラルネットワークのギャップを埋めることを目的としている。
これは、シグモイド関数の線形結合として表される量子化関数の性能に関する広範な研究を示す。
提案した量子化関数は、4つの人気のあるベンチマーク上での最先端のパフォーマンスを示す。
論文 参考訳(メタデータ) (2023-05-30T09:42:05Z) - Training Integer-Only Deep Recurrent Neural Networks [3.1829446824051195]
精度の高い整数専用リカレントニューラルネットワーク(iRNN)を得るための量子化学習法を提案する。
本手法は, 層正規化, 注意, アクティベーション関数の適応的片方向線形(PWL)近似をサポートする。
提案手法により,RNNベースの言語モデルでエッジデバイス上で実行可能である。
論文 参考訳(メタデータ) (2022-12-22T15:22:36Z) - Hessian Aware Quantization of Spiking Neural Networks [1.90365714903665]
ニューロモルフィックアーキテクチャは、可変ビット精度と局所ビット精度の大規模並列計算を可能にする。
SNNトレーニングの現在の勾配に基づく方法は、複数の状態変数を持つ複雑なニューロンモデルを使用する。
我々は、勾配に基づくトレーニングと互換性を保ちつつ、状態変数の数を4倍に削減する単純化されたニューロンモデルを提案する。
論文 参考訳(メタデータ) (2021-04-29T05:27:34Z) - Liquid Time-constant Networks [117.57116214802504]
本稿では,時間連続リカレントニューラルネットワークモデルについて紹介する。
暗黙の非線形性によって学習システムの力学を宣言する代わりに、線形一階力学系のネットワークを構築する。
これらのニューラルネットワークは安定かつ有界な振る舞いを示し、ニューラル常微分方程式の族の中で優れた表現性をもたらす。
論文 参考訳(メタデータ) (2020-06-08T09:53:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。