論文の概要: Criticality-Constrained Iterative Pruning for Energy-Efficient Spiking Neural Networks via Combined Importance Scoring

• arxiv url: http://arxiv.org/abs/2606.30676v1
• Date: Fri, 26 Jun 2026 08:48:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-01 18:27:18.949134
• Title: Criticality-Constrained Iterative Pruning for Energy-Efficient Spiking Neural Networks via Combined Importance Scoring
• Title（参考訳）: コンバインド・インシデンス・スコーリングによるエネルギー効率の良いスパイクニューラルネットワークの臨界制約反復的プルーニング
• Abstract要約: ニューロモルフィックハードウェアにスパイキングニューラルネットワーク(SNN)をデプロイするには、積極的なシナプス的プルーニングが必要である。 既存の戦略は、神経の無視的臨界性、または本質的に刈り取られる問題の凸緩和に依存する。 本稿では,PyTorchのパイプラインであるCriticality-Constrained Quadratic Pruning (CQP)について述べる。
• 参考スコア（独自算出の注目度）: 0.6345523830122167
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deploying spiking neural networks (SNNs) on neuromorphic hardware demands aggressive synaptic pruning while preserving temporal computation integrity. Existing strategies either neglect neuronal criticality or rely on convex relaxations of the inherently combinatorial pruning problem whose fractional masks, upon binarisation, destroy accuracy at moderate-to-high sparsity. We present Criticality-Constrained Quadratic Pruning (CQP), a native PyTorch pipeline that fuses weight magnitude with surrogate-gradient criticality into an analytically exact importance metric, eliminating the rounding artefacts endemic to solver-based approaches. We formally characterise a continuous-relaxation trap wherein OSQP-solver fractional masks overshoot the intended sparsity by up to 12 percentage points (pp), precipitating a 44 pp accuracy collapse. We identify and remediate a zombie-weight failure mode in which Adam's first-moment tensors resurrect pruned synapses, violating the binary sparsity guarantee. An iterative schedule - prune, fine-tune with gradient masking, recompute criticality, and repeat - eliminates gradient staleness at high sparsity. A KL-divergence temporal analysis identifies a redundant simulation timestep, enabling a free 10% theoretical energy reduction without weight modification. On MNIST (60,000 training examples), CQP yields 95.6% accuracy at 90% sparsity versus 93.4% for magnitude pruning (+2.2 pp). A criticality-threshold sweep reveals an empirical criticality cliff: accuracy falls from 87.0% to 14.4% as the threshold reaches tau = 0.9, constituting a quantitative SNN-level analogue of the Critical Brain Hypothesis. Combined weight sparsification and temporal truncation yield a compound 73% reduction in per-inference energy at 70% sparsity, confirming the practical value of the proposed pipeline for neuromorphic deployment.
• Abstract（参考訳）: ニューロモルフィックハードウェアにスパイキングニューラルネットワーク(SNN)をデプロイするには、時間的計算の整合性を保ちながら、積極的なシナプスプルーニングが必要である。 既存の戦略は、神経臨界性を無視したり、二項化によって中程度から高い間隔で精度を損なうような、本質的に組合せ型プルーニング問題に対する凸緩和に依存している。 本稿では,PyTorchのネイティブパイプラインであるCriticality-Constrained Quadratic Pruning (CQP)を提案する。 我々は,OSQP-溶媒分画マスクが意図した空間を最大12ポイント (pp) オーバーシュートし,44ppの精度で崩壊する連続緩和トラップを正式に特徴付ける。 我々は,Adamの第一モーメントテンソルが切断されたシナプスを復活させるゾンビ重み付け障害モードを同定し,リメディエートする。 反復的なスケジュール - プルーン、微調整、勾配マスキング、繰り返し臨界、繰り返し - は、高い間隔で勾配の安定化を取り除く。 KL分割時間解析は、余分なシミュレーションのタイムステップを特定し、重量修正なしで10%の理論エネルギー還元を可能にする。 MNIST(6万のトレーニング例)では、CQPは95.6%の精度を90%の間隔で達成し、93.4%は等級のプルーニング(+2.2pp)を行う。 しきい値がタウ=0.9に達すると、精度は87.0%から14.4%に低下し、臨界脳仮説の定量的SNNレベルのアナログを構成する。 重量分散と時間的切り離しを組み合わせることで、73%の参照エネルギーを70%の間隔で還元し、ニューロモルフィック展開のためのパイプラインの実用的価値を確認した。

関連論文リスト

• Neural Feature Governance: Extending Atom Prevalence [0.0]
  本稿では,フィードフォワードニューラルネットワークにおけるノードレベルモデル選択のための原理的ベイズ的フレームワークであるNeural Atom Prevalence (NAP)を紹介する。 Napは最先端の構造的疎結合を実現し、MNIST上の元の高密度アーキテクチャの8%まで活性ノードを減少させる。
  論文  参考訳（メタデータ） (2026-07-23T08:50:12Z)
• ESPO: Early-Stopping Proximal Policy Optimization [78.79610718910628]
  ESPO(Early-Stopping Proximal Policy Optimization)は、軌道上の障害を検出し、ロールアウトを早期に終了する。 DeepSeek-R1-Distill-Qwen-7Bでは、ESPOはAIME2024(46.28%対45.25%)、AMC2023(85.83%対82.94%)、MATH-500(87.42%対85.43%)でPPOを上回っている。
  論文  参考訳（メタデータ） (2026-05-28T12:40:22Z)
• BadCLIP++: Stealthy and Persistent Backdoors in Multimodal Contrastive Learning [73.46118996284888]
  マルチモーダル・コントラスト学習モデルに対するバックドア攻撃の研究は、ステルスネスと永続性という2つの大きな課題に直面している。 両課題に対処する統合フレームワークであるBadCLIP++を提案する。 ステルスネスのために,タスク関連領域付近に知覚不可能なパターンを埋め込むセマンティックフュージョンQRマイクロトリガーを導入する。 持続性については、半径縮小とセントロイドアライメントによるトリガ埋め込みを安定化する。
  論文  参考訳（メタデータ） (2026-02-19T08:31:16Z)
• The Eminence in Shadow: Exploiting Feature Boundary Ambiguity for Robust Backdoor Attacks [51.468144272905135]
  深層ニューラルネットワーク(DNN)は、バックドア攻撃に対して脆弱なままでも重要なアプリケーションを支える。 バックドア攻撃を標的とした理論的解析を行い,不均質なモデル操作を実現するための疎い決定境界に着目した。 エミネンス(Eminence)は、理論的な保証と固有なステルス特性を持つ、説明可能で堅牢なブラックボックスバックドアフレームワークである。
  論文  参考訳（メタデータ） (2025-12-11T08:09:07Z)
• Natural Geometry of Robust Data Attribution: From Convex Models to Deep Networks [9.553350856191743]
  コンベックスモデルからディープネットワークへ拡張するロバスト属性の統一フレームワークを提案する。 凸設定では、検証可能なカバレッジ保証を備えたW-RIF(Wasserstein-Robust Influence Function)を導出する。 ディープネットワークでは、ユークリッド認証がスペクトル増幅によって空白化されることを実証する。
  論文  参考訳（メタデータ） (2025-12-09T20:40:27Z)
• Quantized Neural Networks for Low-Precision Accumulation with Guaranteed Overflow Avoidance [68.8204255655161]
  本稿では,推定時のアキュムレータの精度を下げる際に,数値オーバーフローを回避する量子化学習アルゴリズムを提案する。 本手法は,浮動小数点点ベースラインに対するモデル精度を維持しつつ,アキュムレータの精度を低減できることを示す。
  論文  参考訳（メタデータ） (2023-01-31T02:46:57Z)
• Can pruning improve certified robustness of neural networks? [106.03070538582222]
  ニューラルネット・プルーニングはディープ・ニューラル・ネットワーク(NN)の実証的ロバスト性を向上させることができることを示す。 実験の結果,NNを適切に刈り取ることで,その精度を8.2%まで向上させることができることがわかった。 さらに,認証された宝くじの存在が,従来の密集モデルの標準および認証された堅牢な精度に一致することを観察する。
  論文  参考訳（メタデータ） (2022-06-15T05:48:51Z)
• Robust Learning via Persistency of Excitation [4.674053902991301]
  勾配勾配勾配を用いたネットワークトレーニングは力学系パラメータ推定問題と等価であることを示す。 極値理論を用いて対応するリプシッツ定数を推定する効率的な手法を提案する。 我々の手法は、様々な最先端の対数訓練モデルにおいて、対数精度を0.1%から0.3%に普遍的に向上させる。
  論文  参考訳（メタデータ） (2021-06-03T18:49:05Z)
• Scaling Equilibrium Propagation to Deep ConvNets by Drastically Reducing its Gradient Estimator Bias [65.13042449121411]
  実際には、EPによって提供される勾配推定によるネットワークのトレーニングは、MNISTよりも難しい視覚タスクにスケールしない。 有限ヌード法に固有のEPの勾配推定のバイアスがこの現象の原因であることを示す。 これらの手法を適用し、非対称な前方および後方接続を持つアーキテクチャをトレーニングし、13.2%のテストエラーを発生させる。
  論文  参考訳（メタデータ） (2020-06-06T09:36:07Z)
• Explicitly Trained Spiking Sparsity in Spiking Neural Networks with Backpropagation [7.952659059689134]
  スパイキングニューラルネットワーク(SNN)は、スパースでイベント駆動の計算によって生じる潜在的なエネルギー効率について検討されている。 本稿では,損失関数のスパイク数と従来の誤差損失とを明示的に含み,精度とスパイク間隔の両方の重みパラメータを最適化する手法を提案する。
  論文  参考訳（メタデータ） (2020-03-02T23:39:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。