論文の概要: Spike timing reshapes robustness against attacks in spiking neural
networks
- arxiv url: http://arxiv.org/abs/2306.05654v1
- Date: Fri, 9 Jun 2023 03:48:57 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-12 14:59:23.168000
- Title: Spike timing reshapes robustness against attacks in spiking neural
networks
- Title(参考訳): スパイクタイミングはスパイクニューラルネットワークの攻撃に対する堅牢性を取り戻す
- Authors: Jianhao Ding, Zhaofei Yu, Tiejun Huang and Jian K. Liu
- Abstract要約: スパイキングニューラルネットワーク(SNN)は新しいタイプのニューラルネットワークモデルとして登場している。
我々は,SNNにおけるスパイクタイミングの役割を探求し,各種攻撃に対するシステムの堅牢性に着目した。
以上の結果から,SNNにおけるスパイクタイミング符号化の有用性は攻撃に対する堅牢性を向上させる可能性が示唆された。
- 参考スコア(独自算出の注目度): 21.983346771962566
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The success of deep learning in the past decade is partially shrouded in the
shadow of adversarial attacks. In contrast, the brain is far more robust at
complex cognitive tasks. Utilizing the advantage that neurons in the brain
communicate via spikes, spiking neural networks (SNNs) are emerging as a new
type of neural network model, boosting the frontier of theoretical
investigation and empirical application of artificial neural networks and deep
learning. Neuroscience research proposes that the precise timing of neural
spikes plays an important role in the information coding and sensory processing
of the biological brain. However, the role of spike timing in SNNs is less
considered and far from understood. Here we systematically explored the timing
mechanism of spike coding in SNNs, focusing on the robustness of the system
against various types of attacks. We found that SNNs can achieve higher
robustness improvement using the coding principle of precise spike timing in
neural encoding and decoding, facilitated by different learning rules. Our
results suggest that the utility of spike timing coding in SNNs could improve
the robustness against attacks, providing a new approach to reliable coding
principles for developing next-generation brain-inspired deep learning.
- Abstract(参考訳): 過去10年間のディープラーニングの成功は、部分的に敵対的な攻撃の影に隠れている。
対照的に、脳は複雑な認知タスクにおいてはるかに堅牢である。
脳内のニューロンがスパイクを介して通信する利点を生かして、スパイクニューラルネットワーク(SNN)が新しいタイプのニューラルネットワークモデルとして登場し、人工ニューラルネットワークとディープラーニングの実証的応用に関する理論的研究のフロンティアを高めている。
神経科学研究は、神経スパイクの正確なタイミングが生体脳の情報符号化と感覚処理に重要な役割を果たすことを示唆している。
しかし,SNNにおけるスパイクタイミングの役割は考慮されていない。
本稿では,snsにおけるスパイク符号化のタイミング機構を体系的に検討し,各種攻撃に対するシステムのロバスト性に着目した。
ニューラルエンコーディングとデコーディングの正確なスパイクタイミングの符号化原理を用いて,学習規則の相違により,snsは高いロバスト性向上を達成できることを見出した。
以上の結果から,snsにおけるスパイクタイミングコーディングの有用性は,攻撃に対するロバスト性を向上させる可能性があり,次世代脳インスパイア深層学習のための信頼性の高いコーディング原則への新たなアプローチが示唆された。
関連論文リスト
- Stepwise Weighted Spike Coding for Deep Spiking Neural Networks [7.524721345903027]
スパイキングニューラルネットワーク(SNN)は、生物学的ニューロンのスパイキング動作を模倣しようと試みている。
本稿では,スパイクにおける情報のエンコーディングを強化するために,SWS(Stepwise Weighted Spike)符号化方式を提案する。
このアプローチは、ニューラルネットワークの各ステップにおけるスパイクの重要性を重み付け、高い性能と低エネルギー消費を達成することでスパイクを圧縮する。
論文 参考訳(メタデータ) (2024-08-30T12:39:25Z) - Stochastic Spiking Neural Networks with First-to-Spike Coding [7.955633422160267]
スパイキングニューラルネットワーク (SNN) は、その生物の楽観性とエネルギー効率で知られている。
本研究では,SNNアーキテクチャにおける新しい計算手法と情報符号化方式の融合について検討する。
提案手法のトレードオフを,精度,推論遅延,スパイク空間性,エネルギー消費,データセットの観点から検討する。
論文 参考訳(メタデータ) (2024-04-26T22:52:23Z) - Curriculum Design Helps Spiking Neural Networks to Classify Time Series [16.402675046686834]
スパイキングニューラルネットワーク(SNN)は、ニューラルネットワーク(ANN)よりも時系列データをモデル化する可能性が大きい
この研究において、脳にインスパイアされた科学によって啓蒙され、構造だけでなく学習過程も人間に似ていなければならないことが判明した。
論文 参考訳(メタデータ) (2023-12-26T02:04:53Z) - A Hybrid Neural Coding Approach for Pattern Recognition with Spiking
Neural Networks [53.31941519245432]
脳にインスパイアされたスパイクニューラルネットワーク(SNN)は、パターン認識タスクを解く上で有望な能力を示している。
これらのSNNは、情報表現に一様神経コーディングを利用する同質ニューロンに基づいている。
本研究では、SNNアーキテクチャは異種符号化方式を組み込むよう、均質に設計されるべきである、と論じる。
論文 参考訳(メタデータ) (2023-05-26T02:52:12Z) - Exploiting Noise as a Resource for Computation and Learning in Spiking
Neural Networks [32.0086664373154]
本研究では,雑音型スパイクニューラルネットワーク(NSNN)とノイズ駆動学習規則(NDL)を紹介する。
NSNNは、スケーラブルでフレキシブルで信頼性の高い計算をもたらす理論的なフレームワークを提供する。
論文 参考訳(メタデータ) (2023-05-25T13:21:26Z) - Deep Reinforcement Learning Guided Graph Neural Networks for Brain
Network Analysis [61.53545734991802]
本稿では,各脳ネットワークに最適なGNNアーキテクチャを探索する新しい脳ネットワーク表現フレームワークBN-GNNを提案する。
提案するBN-GNNは,脳ネットワーク解析タスクにおける従来のGNNの性能を向上させる。
論文 参考訳(メタデータ) (2022-03-18T07:05:27Z) - Deep Reinforcement Learning with Spiking Q-learning [51.386945803485084]
スパイクニューラルネットワーク(SNN)は、少ないエネルギー消費で人工知能(AI)を実現することが期待されている。
SNNと深部強化学習(RL)を組み合わせることで、現実的な制御タスクに有望なエネルギー効率の方法を提供する。
論文 参考訳(メタデータ) (2022-01-21T16:42:11Z) - Artificial Neural Variability for Deep Learning: On Overfitting, Noise
Memorization, and Catastrophic Forgetting [135.0863818867184]
人工ニューラルネットワーク(ANV)は、ニューラルネットワークが自然のニューラルネットワークからいくつかの利点を学ぶのに役立つ。
ANVは、トレーニングデータと学習モデルの間の相互情報の暗黙の正則化として機能する。
過度にフィットし、ノイズの記憶をラベル付けし、無視できるコストで破滅的な忘れを効果的に軽減することができる。
論文 参考訳(メタデータ) (2020-11-12T06:06:33Z) - Progressive Tandem Learning for Pattern Recognition with Deep Spiking
Neural Networks [80.15411508088522]
スパイキングニューラルネットワーク(SNN)は、低レイテンシと高い計算効率のために、従来の人工知能ニューラルネットワーク(ANN)よりも優位性を示している。
高速かつ効率的なパターン認識のための新しいANN-to-SNN変換およびレイヤワイズ学習フレームワークを提案する。
論文 参考訳(メタデータ) (2020-07-02T15:38:44Z) - Rectified Linear Postsynaptic Potential Function for Backpropagation in
Deep Spiking Neural Networks [55.0627904986664]
スパイキングニューラルネットワーク(SNN)は、時間的スパイクパターンを用いて情報を表現し、伝達する。
本稿では,情報符号化,シナプス可塑性,意思決定におけるスパイクタイミングダイナミクスの寄与について検討し,将来のDeepSNNやニューロモルフィックハードウェアシステムの設計への新たな視点を提供する。
論文 参考訳(メタデータ) (2020-03-26T11:13:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。