論文の概要: BASC : Behavior-Aligned Quantization and Pruning for Low-Bit Spiking Neural Networks
- arxiv url: http://arxiv.org/abs/2608.19239v1
- Date: Wed, 12 Aug 2026 03:39:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-21 20:28:51.346917
- Title: BASC : Behavior-Aligned Quantization and Pruning for Low-Bit Spiking Neural Networks
- Title(参考訳): BASC : 低ビットスパイクニューラルネットワークの動作適応量子化とプルーニング
- Abstract要約: スパイキングニューラルネットワーク(SNN)はバイナリスパイクを通じて情報をエンコードし、イベント駆動方式で計算する。
高性能なSNNは、リソース制約のあるデバイスへのデプロイメントを妨げる、メモリとタイムステップのコストをかなり発生させる。
本稿では,2つの軽量モジュールを持つ統一フレームワークである行動適応型SNN圧縮(BASC)を提案する。
- 参考スコア(独自算出の注目度): 6.5713207503171285
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Spiking Neural Networks (SNNs) encode information through binary spikes and compute in an event-driven manner, offering an energy-efficient paradigm for machine intelligence. However, high-performance SNNs incur substantial memory and timestep-wise computation costs that hinder deployment on resource-constrained devices. Quantization and pruning provide complementary routes to reducing these costs, yet both make their decisions with local criteria that overlook temporal task feedback in quantization and inter-channel dependencies in pruning. Consequently, optimizing either criterion can still yield suboptimal compression performance. We refer to this discrepancy as criterion-behavior mismatch and propose Behavior-Aligned SNN Compression (BASC), a unified framework with two lightweight modules. For quantization, the scale is applied to synaptic current at every timestep and therefore shifts spike timing. Temporal-Behavior Scale Correction (TSC) makes the scale learnable under a temporal loss, allowing firing behavior to inform scale optimization. For pruning, channel importance depends on how channels jointly drive the membrane potential across the firing threshold. Boundary-Level Inter-Channel Correction (BIC) uses channelwise importance scores for initial selection and inter-channel information to re-evaluate only channels near the pruning threshold. Extensive experiments on static and neuromorphic benchmarks show that lower-bit BASC models match or outperform higher-bit baselines and retain this accuracy advantage after structured pruning, while further reducing model storage and synaptic operations.
- Abstract(参考訳): スパイキングニューラルネットワーク(SNN)は、バイナリスパイクを通じて情報をエンコードし、イベント駆動型で計算し、マシンインテリジェンスのためのエネルギー効率の良いパラダイムを提供する。
しかし、高性能なSNNはメモリとタイムステップの計算コストを発生させ、リソース制約のあるデバイスへの展開を妨げている。
量子化とプルーニングはこれらのコストを削減するための補完的な経路を提供するが、どちらもプルーニングにおける時間的タスクフィードバックとチャネル間の依存関係を無視する局所的な基準で決定する。
したがって、どちらの基準も最適化しても、最適以下の圧縮性能が得られる。
本稿では,2つの軽量モジュールを持つ統一フレームワークである行動適応型SNN圧縮(BASC)を提案する。
量子化のために、このスケールは各時点のシナプス電流に適用され、したがってスパイクタイミングがシフトする。
TSC(Temporal-Behavior Scale Correction)は、時間的損失下でのスケールの学習を可能にする。
プルーニングでは、チャネルの重要性は、チャネルが発射閾値を越えて膜電位を共同で駆動する方法に依存する。
BIC(Bundary-Level Inter-Channel Correction)は、チャネル単位の重要度スコアを初期選択とチャネル間情報に使用して、プルーニングしきい値付近のチャネルのみを再評価する。
静的およびニューロモルフィックベンチマークの大規模な実験により、低ビットのBASCモデルは高ビットのベースラインに適合または優れ、構造化プルーニング後の精度の優位性を保ちながら、モデル記憶とシナプス操作をさらに減らした。
関連論文リスト
- PTQ4SNN: Membrane-Aware Post-Training Quantization for Spiking Neural Networks [51.21235018272886]
スパイキングニューラルネットワーク(SNN)はスパースとイベント駆動の計算を可能にするが、その低ビット展開は不完全である。
本稿では,小さなキャリブレーションセットのみを用いて,重みと繰り返し膜状態の同時定量化を行う膜認識後量子化フレームワークPTQ4SNNを提案する。
静的および事象に基づく分類とセマンティックセグメンテーションの実験により、PTQ4SNNはW4量子化と約4ビットの膜精度の下でモデル精度を効果的に保存することを示した。
論文 参考訳(メタデータ) (2026-08-07T10:16:25Z) - Message Passing Based Two-Timescale Bayesian Learning for Joint Channel and Memory Hardware Impairments Tracking [15.722477105805256]
大規模マルチインプット・マルチアウトプット(MIMO)受信機におけるハードウェア障害は、シンボル間メモリと要素間結合を導入している。
本稿では,メッセージパスに基づく2時間ベイズ学習(MP-TTBDL)フレームワークを提案する。
シミュレーションの結果,提案手法は従来の補償器よりもチャネル推定誤差が低いことを示す。
論文 参考訳(メタデータ) (2026-07-02T03:39:56Z) - SCOPE: A Syndrome-Driven Control Plane for QEC-Enabled Quantum Networks [7.746657732894142]
純受動テレメトリを用いた共同ルーティングと符号化最適化を実現するネットワーク層アーキテクチャSCOPEを提案する。
SCOPEは、標準EMベースラインに対する推定誤差を60%以上削減する。
大規模ネットワークでは、この精度はトポロジーを意識したベースラインに対して論理誤差率を30~35%(最大65%)削減する。
論文 参考訳(メタデータ) (2026-06-07T23:00:09Z) - OScaR: The Occam's Razor for Extreme KV Cache Quantization in LLMs and Beyond [50.440302567029654]
マルチモーダルインテリジェンスにより、Key-Valueキャッシュは効率的なデプロイメントのための主要なメモリボトルネックとなった。
本研究では、チャネルごとの量子化パラダイムの本質的な限界を再考する。
X-LLMのための高精度かつ軽量なKVキャッシュ圧縮フレームワークOScaRを提案する。
論文 参考訳(メタデータ) (2026-05-19T10:53:03Z) - QB-LIF: Learnable-Scale Quantized Burst Neurons for Efficient SNNs [18.0608697536269]
量子化されたBurst-LIFニューロンは、学習可能なスケールで膜電位の飽和均一な量子化としてバーストスパイクを再構成する。
QB-LIFはバイナリと固定バーストSNNを一貫して上回り、超低レイテンシで高い精度を達成する。
論文 参考訳(メタデータ) (2026-04-28T14:18:53Z) - ISCS: Parameter-Guided Channel Ordering and Grouping for Learned Image Compression [11.645256028223272]
本稿では,事前学習したlicモデルにおいて重要なチャネルを特定し,整理するためのデータセットに依存しない手法を提案する。
提案手法は,再現性を維持しつつ計算を効果的に削減し,既存の学習圧縮フレームワークを実用的かつモジュール的に拡張する。
論文 参考訳(メタデータ) (2025-09-21T00:44:15Z) - DA-Flow: Dual Attention Normalizing Flow for Skeleton-based Video Anomaly Detection [52.74152717667157]
本稿では,DAM(Dual Attention Module)と呼ばれる軽量モジュールを提案する。
フレームアテンション機構を使用して、最も重要なフレームを識別し、スケルトンアテンション機構を使用して、最小パラメータとフロップで固定されたパーティション間の広範な関係をキャプチャする。
論文 参考訳(メタデータ) (2024-06-05T06:18:03Z) - Ultra-low Latency Spiking Neural Networks with Spatio-Temporal
Compression and Synaptic Convolutional Block [4.081968050250324]
スパイキングニューラルネットワーク(SNN)は、神経時間情報能力、低処理機能、高い生物学的妥当性を有する。
Neuro-MNIST、CIFAR10-S、DVS128ジェスチャデータセットは、個々のイベントをフレームに集約し、イベントストリーム分類の時間分解能を高める必要がある。
本研究では,NIST電流の時間ステップに個々のイベントを集約し,トレーニングや推論の遅延を低減する処理時間圧縮手法を提案する。
論文 参考訳(メタデータ) (2022-03-18T15:14:13Z) - CATRO: Channel Pruning via Class-Aware Trace Ratio Optimization [61.71504948770445]
本稿では,CATRO (Class-Aware Trace Ratio Optimization) を用いた新しいチャネルプルーニング手法を提案する。
CATROは、他の最先端チャネルプルーニングアルゴリズムと同等の精度で、同様のコストまたは低コストで高い精度を達成できることを示す。
CATROは、クラス認識の特性のため、様々な分類サブタスクに適応的に効率の良いネットワークを創り出すのに適している。
論文 参考訳(メタデータ) (2021-10-21T06:26:31Z) - GDP: Stabilized Neural Network Pruning via Gates with Differentiable
Polarization [84.57695474130273]
ゲートベースまたは重要度に基づくプルーニング手法は、重要度が最小のチャネルを削除することを目的としている。
GDPは、各チャネルのオン・アンド・オフを制御するために、ベルやホイッスルのない畳み込み層の前に接続することができる。
CIFAR-10とImageNetデータセットを用いて行った実験は、提案したGDPが最先端のパフォーマンスを達成することを示している。
論文 参考訳(メタデータ) (2021-09-06T03:17:10Z) - DAIS: Automatic Channel Pruning via Differentiable Annealing Indicator
Search [55.164053971213576]
畳み込みニューラルネットワークは,計算オーバーヘッドが大きいにもかかわらず,コンピュータビジョンタスクの実行において大きな成功を収めている。
構造的(チャネル)プルーニングは、通常、ネットワーク構造を保ちながらモデルの冗長性を低減するために適用される。
既存の構造化プルーニング法では、手作りのルールが必要であり、これは大きなプルーニング空間に繋がる可能性がある。
論文 参考訳(メタデータ) (2020-11-04T07:43:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。