論文の概要: Generalization Bounds of Spiking Neural Networks via Rademacher Complexity

• arxiv url: http://arxiv.org/abs/2605.02927v1
• Date: Sun, 26 Apr 2026 14:24:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-06 19:35:43.496409
• Title: Generalization Bounds of Spiking Neural Networks via Rademacher Complexity
• Title（参考訳）: ラデマッハ複雑度によるスパイクニューラルネットワークの一般化境界
• Authors: Shao-Qun Zhang, Zhi-Hua Zhou,
• Abstract要約: スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックコンピューティングと計算における大きな可能性のために、バイオインスパイアされたモデルの1つとして注目を集めている。 近年の進歩は、発火を伴うSNNのラデマッハ複雑性が指数関数によって上界化されるような、励起依存的でアーキテクチャ関連の一般化が明らかにされている。 理論的には、Rademacher複雑性を通したいくつかの統合ファイアスキームによるSNNの一般化境界について検討する。
• 参考スコア（独自算出の注目度）: 58.338455812259724
• License: http://creativecommons.org/publicdomain/zero/1.0/
• Abstract: Spiking Neural Networks (SNNs) have garnered increasing attention as one of bio-inspired models due to their great potential in neuromorphic computing and sparse computation. Many practical algorithms and techniques have been developed; however, theoretical understandings of the generalization, that is, the extent to which SNNs perform well on unseen data, are far from clear. Recent advances disclosed an excitation-dependent and architecture-related generalization bound such that the Rademacher complexity of SNNs with stochastic firing can be upper bounded by an exponential function relative to the excitation probability and the architecture depth. In this paper, we theoretically investigate the generalization bounds of SNNs with several integration-and-fire schemes via Rademacher complexity. We recognize that the empirical Rademacher complexity of SNNs is close to the SNN configurations, which is exponential to the network depth and the maximum time duration of received spike sequences, superlinear and subquadratic to the network width, polynomial to the parameter norm, inverse-linear to the number of training samples, and independent of the computations within spiking neurons, achieving a more precise rate than conventional studies. Our theoretical results may support the scope of SNN theories and shed some insight into the development of SNNs.
• Abstract（参考訳）: スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックコンピューティングとスパース計算における大きな可能性のために、バイオインスパイアされたモデルの1つとして注目を集めている。 多くの実用的なアルゴリズムや手法が開発されているが、一般化の理論的理解、すなわち、SNNが目に見えないデータでうまく機能する程度は明らかになっていない。 近年の進歩は、確率的発火を伴うSNNのラデマッハ複雑性が、励起確率とアーキテクチャの深さに対して指数関数で上界化できるような、励起に依存したアーキテクチャ関連の一般化が明らかにされている。 本稿では,Rademacher複雑性を介し,いくつかの統合・火災スキームを用いたSNNの一般化境界について理論的に検討する。 SNNの実証的なRademacher複雑性は、ネットワーク深さと受信スパイクシーケンスの最大時間、パラメータノルムへの多項式、トレーニングサンプル数への逆線形化、スパイクニューロン内の計算の独立化など、SNNの構成に近く、従来の研究よりも正確な速度で達成されている。 我々の理論的結果は、SNN理論の範囲を支持し、SNNの発展に関するいくつかの知見を隠蔽する可能性がある。

関連論文リスト

• Parameter efficient hybrid spiking-quantum convolutional neural network with surrogate gradient and quantum data-reupload [0.20999222360659606]
  Spiking Quantum Neural Network(SQNN)は、スパイクニューラルネットワーク(SNN)と量子コンピューティングの原則を組み合わせたものだ。 SQDR-CNNは、単一のバックプロパゲーションフレームワーク内で畳み込みSNNと量子回路の共同トレーニングを可能にする。 我々は,SOTA SNNベースラインの平均最高性能精度の86%を達成しているが,最小スパイキングモデルのパラメータの0.5%しか使用していない。
  論文  参考訳（メタデータ） (2025-12-03T15:43:33Z)
• Accuracy, Memory Efficiency and Generalization: A Comparative Study on Liquid Neural Networks and Recurrent Neural Networks [4.8039887662381995]
  レビューは、液体ニューラルネットワーク(LNN)と従来のリカレントニューラルネットワーク(RNN)の比較分析を行うことを目的としている。 研究結果によると、LNNは、生物学的にインスパイアされた、継続的な時間的動的ニューラルネットワークとして、ノイズの多い非定常的なデータを扱う大きな可能性を示している。 いくつかのLNN変種はパラメータ効率と計算速度の点で従来のRNNより優れている。
  論文  参考訳（メタデータ） (2025-10-08T21:50:34Z)
• Flexible and Scalable Deep Dendritic Spiking Neural Networks with Multiple Nonlinear Branching [39.664692909673086]
  本稿では,複数の樹状突起枝に非線形力学を組み込んだ樹状突起スパイクニューロン(DendSN)を提案する。 点スパイクニューロンと比較すると、デンドSNははるかに高い発現を示す。 本研究は,従来のSNNに匹敵する深度とスケールで,生物解析可能な樹状SNNを訓練する可能性を実証するものである。
  論文  参考訳（メタデータ） (2024-12-09T10:15:46Z)
• On Neural Networks as Infinite Tree-Structured Probabilistic Graphical Models [44.676210493587256]
  本稿では,ニューラルネットワークに対応する無限木構造PGMを構築することにより,革新的な解を提案する。 我々の研究は、DNNが前方伝播中に、この代替のPGM構造において正確であるPGMの近似を実行することを明らかにした。
  論文  参考訳（メタデータ） (2023-05-27T21:32:28Z)
• Intrinsic and extrinsic deep learning on manifolds [2.207988653560308]
  固有ディープニューラルネットワーク(intrinsic Deep Neural Network, IDNN)は、指数写像と対数写像を通じて、多様体の基底となる固有幾何を包含する。 我々は、eDNNとiDNNの実証リスク最小化器(ERM)の実証リスクが最適な速度で収束していることを証明する。 eDNNsフレームワークはシンプルで簡単に計算できるが、iDNNsフレームワークは正確で高速な収束である。
  論文  参考訳（メタデータ） (2023-02-16T22:10:38Z)
• Extrapolation and Spectral Bias of Neural Nets with Hadamard Product: a Polynomial Net Study [55.12108376616355]
  NTKの研究は典型的なニューラルネットワークアーキテクチャに特化しているが、アダマール製品(NNs-Hp)を用いたニューラルネットワークには不完全である。 本研究では,ニューラルネットワークの特別なクラスであるNNs-Hpに対する有限幅Kの定式化を導出する。 我々は,カーネル回帰予測器と関連するNTKとの等価性を証明し,NTKの適用範囲を拡大する。
  論文  参考訳（メタデータ） (2022-09-16T06:36:06Z)
• On the Intrinsic Structures of Spiking Neural Networks [66.57589494713515]
  近年、時間依存データやイベント駆動データを扱う大きな可能性から、SNNへの関心が高まっている。 スパイキング計算における本質的な構造の影響を総合的に調査する研究が数多く行われている。 この研究はSNNの本質的な構造を深く掘り下げ、SNNの表現性への影響を解明する。
  論文  参考訳（メタデータ） (2022-06-21T09:42:30Z)
• Deep Architecture Connectivity Matters for Its Convergence: A Fine-Grained Analysis [94.64007376939735]
  我々は、勾配降下訓練におけるディープニューラルネットワーク(DNN)の収束に対する接続パターンの影響を理論的に特徴づける。 接続パターンの単純なフィルタリングによって、評価対象のモデルの数を削減できることが示される。
  論文  参考訳（メタデータ） (2022-05-11T17:43:54Z)
• Extended critical regimes of deep neural networks [0.0]
  重み付き重みは、微調整パラメータを使わずに、拡張臨界状態の出現を可能にすることを示す。 この拡張クリティカルレジームでは、DNNは層間のリッチで複雑な伝播ダイナミクスを示す。 効率的なニューラルアーキテクチャの設計のための理論的ガイドを提供する。
  論文  参考訳（メタデータ） (2022-03-24T10:15:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。