論文の概要: Globally Optimal Training of Spiking Neural Networks via Parameter Reconstruction
- arxiv url: http://arxiv.org/abs/2605.08022v1
- Date: Fri, 08 May 2026 17:10:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-11 19:43:39.230937
- Title: Globally Optimal Training of Spiking Neural Networks via Parameter Reconstruction
- Title(参考訳): パラメータ再構成によるスパイキングニューラルネットワークのグローバル最適学習
- Authors: Himanshu Udupi, Xiaocong Yang, ChengXiang Zhai,
- Abstract要約: スパイキングニューラルネットワーク(SNN)は、従来のニューラルネットワーク(ANN)に代わる生物学的に妥当でエネルギー効率のよい代替手段として提案されている。
本稿では,SNN学習におけるパラメータ再構成アルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 21.873941320853763
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Spiking Neural Networks (SNNs) have been proposed as biologically plausible and energy-efficient alternatives to conventional Artificial Neural Networks (ANNs). However, the training of SNN usually relies on surrogate gradients due to the non-differentiability of the spike function, introducing approximation errors that accumulate across layers. To address this challenge, we extend the work on convexification of parallel feedforward threshold networks to parallel recurrent threshold networks, which subsume parallel SNNs as a structured special case. Building on this theoretical framework, we propose a parameter reconstruction algorithm for SNN training that demonstrates consistent and significant advantages across various tasks, both as a standalone method and in combination with surrogate-gradient training. The ablations further demonstrate the data scalability and robustness to model configurations of our training algorithm, pointing toward its potential in large-scale SNN training.
- Abstract(参考訳): スパイキングニューラルネットワーク(SNN)は、従来のニューラルネットワーク(ANN)に代わる生物学的に妥当でエネルギー効率のよい代替手段として提案されている。
しかしながら、SNNのトレーニングは通常、スパイク関数の非微分性による代理勾配に依存し、層全体に蓄積する近似誤差を導入する。
この課題に対処するため、並列フィードフォワードしきい値ネットワークの凸化作業を並列リカレントしきい値ネットワークに拡張し、並列SNNを構造化された特別なケースとして仮定する。
本稿では,SNNトレーニングのためのパラメータ再構成アルゴリズムを提案する。
さらに、大規模SNNトレーニングにおけるその可能性を指して、トレーニングアルゴリズムのモデル構成に対するデータのスケーラビリティと堅牢性を示す。
関連論文リスト
- Generalization Bounds of Spiking Neural Networks via Rademacher Complexity [58.338455812259724]
スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックコンピューティングと計算における大きな可能性のために、バイオインスパイアされたモデルの1つとして注目を集めている。
近年の進歩は、発火を伴うSNNのラデマッハ複雑性が指数関数によって上界化されるような、励起依存的でアーキテクチャ関連の一般化が明らかにされている。
理論的には、Rademacher複雑性を通したいくつかの統合ファイアスキームによるSNNの一般化境界について検討する。
論文 参考訳(メタデータ) (2026-04-26T14:24:48Z) - Cannistraci-Hebb Training on Ultra-Sparse Spiking Neural Networks [10.30800655748035]
スパイキングニューラルネットワーク(SNN)は本質的に時間的アクティベーション間隔を持つ。
既存の手法では、大きな性能損失を伴わずに超スパースネットワーク構造を達成できない。
本稿では,SNN のための新規かつ一般化可能な動的スパーストレーニングフレームワークである Cannistraci-Hebb Spiking Neural Network (CH-SNN) を提案する。
論文 参考訳(メタデータ) (2025-11-05T07:59:19Z) - Random Feature Spiking Neural Networks [0.6875312133832079]
機械学習(ML)モデルとしてのスパイキングニューラルネットワーク(SNN)は最近、多くの注目を集めている。
本稿では,SNNのエンドツーエンドトレーニングのための新しいデータ駆動,高速,高性能,解釈可能なアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-10-01T15:18:40Z) - A Self-Ensemble Inspired Approach for Effective Training of Binary-Weight Spiking Neural Networks [66.80058515743468]
トレーニングスパイキングニューラルネットワーク(SNN)とバイナリニューラルネットワーク(BNN)は、差別化不可能なスパイク生成機能のために困難である。
本稿では, バックプロパゲーションプロセスの解析を通じて, SNN の力学とBNN との密接な関係を考察する。
具体的には、複数のショートカットの構造と知識蒸留に基づくトレーニング技術を活用し、(バイナリウェイト)SNNのトレーニングを改善する。
論文 参考訳(メタデータ) (2025-08-18T04:11:06Z) - Variational Tensor Neural Networks for Deep Learning [0.0]
深部ニューラルネットワーク(NN)へのテンソルネットワーク(TN)の統合を提案する。
これにより、大きなパラメータ空間上で効率的にトレーニングできるスケーラブルなテンソルニューラルネットワーク(TNN)アーキテクチャが実現される。
我々はTNNモデルを設計し、線形および非線形回帰、データ分類、MNIST手書き桁の画像認識のためのベンチマーク結果を提供することにより、提案手法の精度と効率を検証した。
論文 参考訳(メタデータ) (2022-11-26T20:24:36Z) - On the Intrinsic Structures of Spiking Neural Networks [66.57589494713515]
近年、時間依存データやイベント駆動データを扱う大きな可能性から、SNNへの関心が高まっている。
スパイキング計算における本質的な構造の影響を総合的に調査する研究が数多く行われている。
この研究はSNNの本質的な構造を深く掘り下げ、SNNの表現性への影響を解明する。
論文 参考訳(メタデータ) (2022-06-21T09:42:30Z) - Linear Leaky-Integrate-and-Fire Neuron Model Based Spiking Neural
Networks and Its Mapping Relationship to Deep Neural Networks [7.840247953745616]
スパイキングニューラルネットワーク(SNN)は、生物学的可視性や教師なし学習能力など、脳にインスパイアされた機械学習アルゴリズムである。
本稿では,リニアリーキー・インテグレート・アンド・ファイア・モデル(LIF/SNN)の生物学的パラメータとReLU-AN/Deep Neural Networks(DNN)のパラメータとの正確な数学的マッピングを確立する。
論文 参考訳(メタデータ) (2022-05-31T17:02:26Z) - Comparative Analysis of Interval Reachability for Robust Implicit and
Feedforward Neural Networks [64.23331120621118]
我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。
INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。
提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
論文 参考訳(メタデータ) (2022-04-01T03:31:27Z) - Modeling from Features: a Mean-field Framework for Over-parameterized
Deep Neural Networks [54.27962244835622]
本稿では、オーバーパラメータ化ディープニューラルネットワーク(DNN)のための新しい平均場フレームワークを提案する。
このフレームワークでは、DNNは連続的な極限におけるその特徴に対する確率測度と関数によって表現される。
本稿では、標準DNNとResidual Network(Res-Net)アーキテクチャを通してフレームワークを説明する。
論文 参考訳(メタデータ) (2020-07-03T01:37:16Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-07-02T15:38:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。