論文の概要: Sneaky Spikes: Uncovering Stealthy Backdoor Attacks in Spiking Neural
Networks with Neuromorphic Data
- arxiv url: http://arxiv.org/abs/2302.06279v1
- Date: Mon, 13 Feb 2023 11:34:17 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-14 15:58:28.304315
- Title: Sneaky Spikes: Uncovering Stealthy Backdoor Attacks in Spiking Neural
Networks with Neuromorphic Data
- Title（参考訳）: Sneaky Spikes:ニューロモーフィックデータによるスパイクニューラルネットワークのバックドア攻撃を発見
- Authors: Gorka Abad, Oguzhan Ersoy, Stjepan Picek, Aitor Urbieta
- Abstract要約: スパイキングニューラルネットワーク(SNN)はエネルギー効率が良く、生物学的に妥当な方法でデータを処理できる。
本稿では、ニューロモルフィックデータセットと異なるトリガーを用いたSNNにおけるバックドアアタックの適用について検討する。
クリーンな精度劣化を生じさせることなく、100%の攻撃成功率を達成する異なる攻撃を提案する。
- 参考スコア（独自算出の注目度）: 4.9464680875214695
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep neural networks (DNNs) have achieved excellent results in various tasks,
including image and speech recognition. However, optimizing the performance of
DNNs requires careful tuning of multiple hyperparameters and network parameters
via training. High-performance DNNs utilize a large number of parameters,
corresponding to high energy consumption during training. To address these
limitations, researchers have developed spiking neural networks (SNNs), which
are more energy-efficient and can process data in a biologically plausible
manner, making them well-suited for tasks involving sensory data processing,
i.e., neuromorphic data. Like DNNs, SNNs are vulnerable to various threats,
such as adversarial examples and backdoor attacks. Yet, the attacks and
countermeasures for SNNs have been almost fully unexplored.
This paper investigates the application of backdoor attacks in SNNs using
neuromorphic datasets and different triggers. More precisely, backdoor triggers
in neuromorphic data can change their position and color, allowing a larger
range of possibilities than common triggers in, e.g., the image domain. We
propose different attacks achieving up to 100\% attack success rate without
noticeable clean accuracy degradation. We also evaluate the stealthiness of the
attacks via the structural similarity metric, showing our most powerful attacks
being also stealthy. Finally, we adapt the state-of-the-art defenses from the
image domain, demonstrating they are not necessarily effective for neuromorphic
data resulting in inaccurate performance.
- Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、画像や音声認識など、さまざまなタスクにおいて優れた成果を上げている。
しかし、DNNの性能を最適化するには、トレーニングを通じて複数のハイパーパラメータとネットワークパラメータを慎重にチューニングする必要がある。
高性能DNNは、訓練中の高エネルギー消費に対応する多数のパラメータを利用する。
これらの制限に対処するため、研究者はよりエネルギー効率が高く、生物学的に妥当な方法でデータを処理できるスパイキングニューラルネットワーク(SNN)を開発し、感覚データ処理、すなわちニューロモルフィックデータに関わるタスクに適している。
DNNと同様に、SNNは敵の例やバックドア攻撃など、さまざまな脅威に対して脆弱である。
しかし、SNNに対する攻撃と対策はほとんど検討されていない。
本稿では、ニューロモルフィックデータセットと異なるトリガーを用いたSNNにおけるバックドアアタックの適用について検討する。
より正確には、ニューロモルフィックデータのバックドアトリガーは、その位置と色を変えることができ、例えば画像領域における一般的なトリガーよりも広い範囲の可能性がある。
クリーンな精度の劣化を生じさせることなく,攻撃成功率100\%までの異なる攻撃を提案する。
また,構造的類似度指標による攻撃のステルス性を評価し,最も強力な攻撃もステルス性を示す。
最後に、画像領域から最先端の防御を適応させ、必ずしもニューロモルフィックなデータに対して効果がないことを示す。
関連論文リスト
- BrainLeaks: On the Privacy-Preserving Properties of Neuromorphic Architectures against Model Inversion Attacks [3.4673556247932225]
従来の人工知能ニューラルネットワーク(ANN)は、機密データを漏洩する可能性のあるいくつかの攻撃に対して脆弱であることがわかった。
我々の研究は、スパイキングニューラルネットワーク(SNN)の差別化不可能な側面が、固有のプライバシー保護特性をもたらすという直感に動機づけられている。
我々は、SNNをターゲットとした、包括的に設計された新しい逆攻撃戦略を開発する。
論文 参考訳（メタデータ） (2024-02-01T03:16:40Z) - Fully Spiking Actor Network with Intra-layer Connections for
Reinforcement Learning [51.386945803485084]
エージェントが制御する多次元決定論的ポリシーを学習する必要があるタスクに焦点をあてる。
既存のスパイクベースのRL法は、SNNの出力として発火率を取り、完全に接続された層を通して連続的なアクション空間(つまり決定論的なポリシー)を表すように変換する。
浮動小数点行列操作を伴わない完全にスパイクするアクターネットワークを開発するため,昆虫に見られる非スパイク介在ニューロンからインスピレーションを得た。
論文 参考訳（メタデータ） (2024-01-09T07:31:34Z) - Investigating Human-Identifiable Features Hidden in Adversarial
Perturbations [54.39726653562144]
我々の研究では、最大5つの攻撃アルゴリズムを3つのデータセットにわたって探索する。
対人摂動における人間の識別可能な特徴を同定する。
画素レベルのアノテーションを用いて、そのような特徴を抽出し、ターゲットモデルに妥協する能力を実証する。
論文 参考訳（メタデータ） (2023-09-28T22:31:29Z) - Adversarial alignment: Breaking the trade-off between the strength of an
attack and its relevance to human perception [10.883174135300418]
敵対的な攻撃は長年、深層学習の「アキレスのヒール」と見なされてきた。
本稿では、ImageNetにおけるDNNの敵攻撃に対する堅牢性がどのように発展し、精度が向上し続けているかを検討する。
論文 参考訳（メタデータ） (2023-06-05T20:26:17Z) - Adversarial Defense via Neural Oscillation inspired Gradient Masking [0.0]
スパイクニューラルネットワーク(SNN)は、低消費電力、低レイテンシ、生物学的妥当性のために大きな注目を集めている。
本稿では,SNNの安全性を高めるためにバイオインスパイアされた発振機構を組み込んだ新しいニューラルモデルを提案する。
論文 参考訳（メタデータ） (2022-11-04T02:13:19Z) - Adversarial Attacks on Spiking Convolutional Networks for Event-based
Vision [0.6999740786886537]
我々は、ホワイトボックスの敵対的攻撃アルゴリズムが、イベントベースの視覚データの離散的かつスパースな性質にどのように適応できるかを示す。
また、ニューロモルフィックハードウェア上でのこれらの摂動の有効性を初めて検証した。
論文 参考訳（メタデータ） (2021-10-06T17:20:05Z) - BreakingBED -- Breaking Binary and Efficient Deep Neural Networks by
Adversarial Attacks [65.2021953284622]
CNNのホワイトボックス攻撃やブラックボックス攻撃に対する堅牢性について検討する。
結果は、蒸留されたCNN、エージェントベースの最新のprunedモデル、およびバイナライズニューラルネットワークのために示されています。
論文 参考訳（メタデータ） (2021-03-14T20:43:19Z) - Graph Backdoor [53.70971502299977]
GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。
GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。
トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
論文 参考訳（メタデータ） (2020-06-21T19:45:30Z) - Inherent Adversarial Robustness of Deep Spiking Neural Networks: Effects
of Discrete Input Encoding and Non-Linear Activations [9.092733355328251]
スパイキングニューラルネットワーク(SNN)は、敵対的攻撃に対する固有の堅牢性の候補である。
本研究では、勾配に基づく攻撃によるSNNの対向精度が、非スパイク攻撃よりも高いことを示す。
論文 参考訳（メタデータ） (2020-03-23T17:20:24Z) - Learn2Perturb: an End-to-end Feature Perturbation Learning to Improve
Adversarial Robustness [79.47619798416194]
Learn2Perturbは、ディープニューラルネットワークの対角的堅牢性を改善するために、エンドツーエンドの機能摂動学習アプローチである。
予測最大化にインスパイアされ、ネットワークと雑音パラメータを連続的にトレーニングするために、交互にバックプロパゲーショントレーニングアルゴリズムが導入された。
論文 参考訳（メタデータ） (2020-03-02T18:27:35Z) - Defending against Backdoor Attack on Deep Neural Networks [98.45955746226106]
トレーニングデータの一部にバックドアトリガーを注入する、いわゆるテキストバックドア攻撃について検討する。
実験の結果,本手法は攻撃成功率を効果的に低減し,クリーン画像の分類精度も高いことがわかった。
論文 参考訳（メタデータ） (2020-02-26T02:03:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。