論文の概要: Hybrid Temporal-8-Bit Spike Coding for Spiking Neural Network Surrogate Training
- arxiv url: http://arxiv.org/abs/2512.03879v1
- Date: Wed, 03 Dec 2025 15:29:26 GMT
- ステータス: 情報取得中
- システム内更新日: 2025-12-04 12:00:29.181419
- Title: Hybrid Temporal-8-Bit Spike Coding for Spiking Neural Network Surrogate Training
- Title(参考訳): スパイクニューラルネットワークサロゲートトレーニングのためのハイブリッド時間-8ビットスパイク符号化
- Authors: Luu Trong Nhan, Luu Trung Duong, Pham Ngoc Nam, Truong Cong Thang,
- Abstract要約: スパイキングニューラルネットワーク(SNN)は、計算神経科学と人工知能において有望な方向として登場した。
近年の研究では、ハイブリットレート・テンポラルコーディング戦略は、サロゲートバックプロパゲーションでトレーニングした際の性能を著しく向上させることができることが示されている。
本研究では,ビット平面分解と時間符号の原理を統合するハイブリッド時間ビットスパイク符号化法を提案する。
- 参考スコア(独自算出の注目度): 0.20999222360659606
- License:
- Abstract: Spiking neural networks (SNNs) have emerged as a promising direction in both computational neuroscience and artificial intelligence, offering advantages such as strong biological plausibility and low energy consumption on neuromorphic hardware. Despite these benefits, SNNs still face challenges in achieving state-of-the-art performance on vision tasks. Recent work has shown that hybrid rate-temporal coding strategies (particularly those incorporating bit-plane representations of images into traditional rate coding schemes) can significantly improve performance when trained with surrogate backpropagation. Motivated by these findings, this study proposes a hybrid temporal-bit spike coding method that integrates bit-plane decompositions with temporal coding principles. Through extensive experiments across multiple computer vision benchmarks, we demonstrate that blending bit-plane information with temporal coding yields competitive, and in some cases improved, performance compared to established spike-coding techniques. To the best of our knowledge, this is the first work to introduce a hybrid temporal-bit coding scheme specifically designed for surrogate gradient training of SNNs.
- Abstract(参考訳): スパイキングニューラルネットワーク(SNN)は、計算神経科学と人工知能の両方において有望な方向として現れ、強力な生物学的可視性やニューロモルフィックハードウェアへの低エネルギー消費などの利点を提供している。
これらのメリットにもかかわらず、SNNはビジョンタスクにおける最先端のパフォーマンスを達成する上で、依然として課題に直面している。
近年の研究では、ハイブリッドレート時間符号化戦略(特に、画像のビットプレーン表現を従来のレート符号化方式に組み込んだもの)は、サロゲートバックプロパゲーションでトレーニングした際の性能を著しく向上させることができることが示されている。
これらの知見に触発されて,ビット平面分解と時間符号の原理を統合するハイブリッド時間ビットスパイク符号化法を提案する。
複数のコンピュータビジョンベンチマークの広範な実験を通して、ビットプレーン情報と時間的符号化の混合が競合し、いくつかの場合において、確立されたスパイク符号化技術と比較して性能が向上することを示した。
我々の知る限りでは、SNNの勾配学習に特化して設計されたハイブリッド時間ビット符号化方式を導入する最初の試みである。
関連論文リスト
- Generalizable, real-time neural decoding with hybrid state-space models [19.90083268518243]
本稿では、クロスアテンションモジュールによる個別スパイクトークン化と、再帰状態空間モデル(SSM)のバックボーンを組み合わせた、新しいハイブリッドアーキテクチャPOSSMを提案する。
サル運動タスクの皮質内復号におけるPOSSMの復号性能と推論速度を評価し,臨床応用に拡張することを示す。
これらすべてのタスクにおいて、POSSMは、最先端のトランスフォーマーに匹敵する復号精度を推論コストのごく一部で達成している。
論文 参考訳(メタデータ) (2025-06-05T17:57:08Z) - Deep-Unrolling Multidimensional Harmonic Retrieval Algorithms on Neuromorphic Hardware [78.17783007774295]
本稿では,高精度かつエネルギー効率の高い単発多次元高調波検索のための変換に基づくニューロモルフィックアルゴリズムの可能性について検討する。
複雑な値の畳み込み層と活性化をスパイクニューラルネットワーク(SNN)に変換する新しい手法を開発した。
変換されたSNNは、元のCNNに比べて性能が低下し、ほぼ5倍の電力効率を実現している。
論文 参考訳(メタデータ) (2024-12-05T09:41:33Z) - A Hybrid Neural Coding Approach for Pattern Recognition with Spiking
Neural Networks [53.31941519245432]
脳にインスパイアされたスパイクニューラルネットワーク(SNN)は、パターン認識タスクを解く上で有望な能力を示している。
これらのSNNは、情報表現に一様神経コーディングを利用する同質ニューロンに基づいている。
本研究では、SNNアーキテクチャは異種符号化方式を組み込むよう、均質に設計されるべきである、と論じる。
論文 参考訳(メタデータ) (2023-05-26T02:52:12Z) - Intelligence Processing Units Accelerate Neuromorphic Learning [52.952192990802345]
スパイキングニューラルネットワーク(SNN)は、エネルギー消費と遅延の観点から、桁違いに改善されている。
我々は、カスタムSNN PythonパッケージsnnTorchのIPU最適化リリースを提示する。
論文 参考訳(メタデータ) (2022-11-19T15:44:08Z) - Efficient spike encoding algorithms for neuromorphic speech recognition [5.182266520875928]
スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックプロセッサの実装に非常に効果的である。
実値信号は、SNNに適さない実値信号として符号化される。
本稿では,話者独立桁分類システムにおける4つのスパイク符号化手法について検討する。
論文 参考訳(メタデータ) (2022-07-14T17:22:07Z) - Stochastic Markov Gradient Descent and Training Low-Bit Neural Networks [77.34726150561087]
本稿では,量子化ニューラルネットワークのトレーニングに適用可能な離散最適化手法であるGradient Markov Descent (SMGD)を紹介する。
アルゴリズム性能の理論的保証と数値的な結果の促進を提供する。
論文 参考訳(メタデータ) (2020-08-25T15:48:15Z) - Rectified Linear Postsynaptic Potential Function for Backpropagation in
Deep Spiking Neural Networks [55.0627904986664]
スパイキングニューラルネットワーク(SNN)は、時間的スパイクパターンを用いて情報を表現し、伝達する。
本稿では,情報符号化,シナプス可塑性,意思決定におけるスパイクタイミングダイナミクスの寄与について検討し,将来のDeepSNNやニューロモルフィックハードウェアシステムの設計への新たな視点を提供する。
論文 参考訳(メタデータ) (2020-03-26T11:13:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。