論文の概要: Adversarially Robust Spiking Neural Networks with Sparse Connectivity

• arxiv url: http://arxiv.org/abs/2505.15833v1
• Date: Fri, 16 May 2025 07:52:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-23 17:12:47.792488
• Title: Adversarially Robust Spiking Neural Networks with Sparse Connectivity
• Title（参考訳）: 疎結合性を有する逆ロバストスパイクニューラルネットワーク
• Authors: Mathias Schmolli, Maximilian Baronig, Robert Legenstein, Ozan Özdenizci,
• Abstract要約: SNN(Sparse and adversarially robust spiking Neural Network)の作成を目的としたニューラルネットワーク変換アルゴリズムを提案する。 提案手法は,SNNのエネルギー効率の高いアーキテクチャと新しい変換アルゴリズムを組み合わせることで,疎結合とアクティベーションによるエネルギー効率とメモリ効率の向上を実現する。 我々のモデルでは、メモリに格納される重量の最大100倍の削減を実現し、密度の高いSNNに比べてエネルギー効率が8.6倍向上することが示されている。
• 参考スコア（独自算出の注目度）: 13.220581846415957
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deployment of deep neural networks in resource-constrained embedded systems requires innovative algorithmic solutions to facilitate their energy and memory efficiency. To further ensure the reliability of these systems against malicious actors, recent works have extensively studied adversarial robustness of existing architectures. Our work focuses on the intersection of adversarial robustness, memory- and energy-efficiency in neural networks. We introduce a neural network conversion algorithm designed to produce sparse and adversarially robust spiking neural networks (SNNs) by leveraging the sparse connectivity and weights from a robustly pretrained artificial neural network (ANN). Our approach combines the energy-efficient architecture of SNNs with a novel conversion algorithm, leading to state-of-the-art performance with enhanced energy and memory efficiency through sparse connectivity and activations. Our models are shown to achieve up to 100x reduction in the number of weights to be stored in memory, with an estimated 8.6x increase in energy efficiency compared to dense SNNs, while maintaining high performance and robustness against adversarial threats.
• Abstract（参考訳）: リソース制約のある組み込みシステムにディープニューラルネットワークを配置するには、そのエネルギーとメモリ効率を促進するために革新的なアルゴリズムによるソリューションが必要である。 悪意あるアクターに対するこれらのシステムの信頼性をさらに高めるため、近年の研究では、既存のアーキテクチャの敵対的堅牢性について広く研究されている。 我々の研究は、ニューラルネットワークにおける対向的堅牢性、メモリ、エネルギー効率の交差に焦点を当てている。 本研究では、頑健に事前学習された人工ニューラルネットワーク(ANN)の疎結合性と重みを利用することにより、スパースかつ逆向きに堅牢なスパイクニューラルネットワーク(SNN)を生成するように設計されたニューラルネットワーク変換アルゴリズムを提案する。 提案手法は,SNNのエネルギー効率の高いアーキテクチャと新しい変換アルゴリズムを組み合わせることで,疎結合とアクティベーションによる高エネルギー・メモリ効率を実現する。 本モデルでは, メモリに格納する重量の最大100倍の削減を実現し, 高密度SNNに比べてエネルギー効率が8.6倍向上し, 敵の脅威に対する高い性能と堅牢性を維持した。

関連論文リスト

• Adaptively Pruned Spiking Neural Networks for Energy-Efficient Intracortical Neural Decoding [0.06181089784338582]
  ニューロモルフィックハードウェア上でのニューラルネットワーク(SNN)のスパイキングは、ニューラルデコーディングにおいて顕著な効率性を示している。 本稿では,脳皮質内神経復号をターゲットとした,高アクティベーション領域を有するSNNを対象とした適応型プルーニングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-04-15T19:16:34Z)
• Spiking Meets Attention: Efficient Remote Sensing Image Super-Resolution with Attention Spiking Neural Networks [57.17129753411926]
  従来の人工ニューラルネットワーク(ANN)の代替手段としてスパイキングニューラルネットワーク(SNN)が登場 本稿では,AID,DOTA,DIORなどのリモートセンシングベンチマークにおいて,最先端の性能を実現するSpikeSRを提案する。
  論文  参考訳（メタデータ） (2025-03-06T09:06:06Z)
• Deep-Unrolling Multidimensional Harmonic Retrieval Algorithms on Neuromorphic Hardware [78.17783007774295]
  本稿では,高精度かつエネルギー効率の高い単発多次元高調波検索のための変換に基づくニューロモルフィックアルゴリズムの可能性について検討する。 複雑な値の畳み込み層と活性化をスパイクニューラルネットワーク(SNN)に変換する新しい手法を開発した。 変換されたSNNは、元のCNNに比べて性能が低下し、ほぼ5倍の電力効率を実現している。
  論文  参考訳（メタデータ） (2024-12-05T09:41:33Z)
• Exploiting Heterogeneity in Timescales for Sparse Recurrent Spiking Neural Networks for Energy-Efficient Edge Computing [16.60622265961373]
  スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックコンピューティングの最前線である。 本稿では,SNNのパフォーマンスに革命をもたらす3つの画期的な研究をまとめる。
  論文  参考訳（メタデータ） (2024-07-08T23:33:12Z)
• LitE-SNN: Designing Lightweight and Efficient Spiking Neural Network through Spatial-Temporal Compressive Network Search and Joint Optimization [48.41286573672824]
  スパイキングニューラルネットワーク(SNN)は人間の脳の情報処理機構を模倣し、エネルギー効率が高い。 本稿では,空間圧縮と時間圧縮の両方を自動ネットワーク設計プロセスに組み込むLitE-SNNという新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-01-26T05:23:11Z)
• Recent Advances in Scalable Energy-Efficient and Trustworthy Spiking Neural networks: from Algorithms to Technology [11.479629320025673]
  スパイキングニューラルネットワーク(SNN)は、幅広い信号処理アプリケーションのために、ディープニューラルネットワークの魅力的な代替品となっている。 我々は、低レイテンシとエネルギー効率のSNNを効率的に訓練し、拡張するためのアルゴリズムと最適化の進歩について述べる。 デプロイ可能なSNNシステム構築における研究の今後の可能性について論じる。
  論文  参考訳（メタデータ） (2023-12-02T19:47:00Z)
• A Hybrid Neural Coding Approach for Pattern Recognition with Spiking Neural Networks [53.31941519245432]
  脳にインスパイアされたスパイクニューラルネットワーク(SNN)は、パターン認識タスクを解く上で有望な能力を示している。 これらのSNNは、情報表現に一様神経コーディングを利用する同質ニューロンに基づいている。 本研究では、SNNアーキテクチャは異種符号化方式を組み込むよう、均質に設計されるべきである、と論じる。
  論文  参考訳（メタデータ） (2023-05-26T02:52:12Z)
• SpikeDyn: A Framework for Energy-Efficient Spiking Neural Networks with Continual and Unsupervised Learning Capabilities in Dynamic Environments [14.727296040550392]
  スパイキングニューラルネットワーク(SNN)は、生物学的妥当性のため、効率的な教師なしおよび継続的な学習能力の可能性を秘めている。 動的環境下での継続学習と教師なし学習機能を備えたエネルギー効率の高いSNNのためのフレームワークであるSpikeDynを提案する。
  論文  参考訳（メタデータ） (2021-02-28T08:26:23Z)
• Progressive Tandem Learning for Pattern Recognition with Deep Spiking Neural Networks [80.15411508088522]
  スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。 高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-07-02T15:38:44Z)
• Effective and Efficient Computation with Multiple-timescale Spiking Recurrent Neural Networks [0.9790524827475205]
  本稿では,新しいタイプの適応スパイクリカレントニューラルネットワーク(SRNN)が,最先端の性能を実現する方法を示す。 我々は、従来のRNNよりも難しいタスクにおいて、SRNNの100倍のエネルギー改善を計算します。
  論文  参考訳（メタデータ） (2020-05-24T01:04:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。