Fugu-MT 論文翻訳(概要): Data Poisoning-based Backdoor Attack Framework against Supervised Learning Rules of Spiking Neural Networks

論文の概要: Data Poisoning-based Backdoor Attack Framework against Supervised Learning Rules of Spiking Neural Networks

arxiv url: http://arxiv.org/abs/2409.15670v1
Date: Tue, 24 Sep 2024 02:15:19 GMT
ステータス: 処理完了
システム内更新日: 2024-09-26 11:19:39.672565
Title: Data Poisoning-based Backdoor Attack Framework against Supervised Learning Rules of Spiking Neural Networks
Title（参考訳）: データポジショニングに基づくスパイクニューラルネットワークの監視学習ルールに対するバックドアアタックフレームワーク
Authors: Lingxin Jin, Meiyu Lin, Wei Jiang, Jinyu Zhan,
Abstract要約: スパイキングニューラルネットワーク(SNN)は、低エネルギー消費と高ロバスト性で知られている。本稿では,バックドア攻撃時の教師付き学習規則により訓練されたSNNの堅牢性について検討する。
参考スコア（独自算出の注目度）: 3.9444202574850755
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Spiking Neural Networks (SNNs), the third generation neural networks, are known for their low energy consumption and high robustness. SNNs are developing rapidly and can compete with Artificial Neural Networks (ANNs) in many fields. To ensure that the widespread use of SNNs does not cause serious security incidents, much research has been conducted to explore the robustness of SNNs under adversarial sample attacks. However, many other unassessed security threats exist, such as highly stealthy backdoor attacks. Therefore, to fill the research gap in this and further explore the security vulnerabilities of SNNs, this paper explores the robustness performance of SNNs trained by supervised learning rules under backdoor attacks. Specifically, the work herein includes: i) We propose a generic backdoor attack framework that can be launched against the training process of existing supervised learning rules and covers all learnable dataset types of SNNs. ii) We analyze the robustness differences between different learning rules and between SNN and ANN, which suggests that SNN no longer has inherent robustness under backdoor attacks. iii) We reveal the vulnerability of conversion-dependent learning rules caused by backdoor migration and further analyze the migration ability during the conversion process, finding that the backdoor migration rate can even exceed 99%. iv) Finally, we discuss potential countermeasures against this kind of backdoor attack and its technical challenges and point out several promising research directions.
Abstract（参考訳）: 第3世代のニューラルネットワークであるスパイキングニューラルネットワーク(SNN)は、低エネルギー消費と高ロバスト性で知られている。 SNNは急速に発展しており、多くの分野でArtificial Neural Networks (ANN)と競合することができる。 SNNの広範な使用が重大なセキュリティ問題を引き起こしないことを保証するため、敵のサンプル攻撃下でのSNNの堅牢性を調べるために多くの研究がなされている。しかし、非常にステルスなバックドア攻撃など、多くの未評価のセキュリティ脅威が存在する。そこで本研究では,SNNの研究ギャップを埋め,SNNのセキュリティ脆弱性をさらに探究するために,バックドア攻撃による教師付き学習ルールによって訓練されたSNNの堅牢性について検討する。具体的には、以下を含む。 i)既存の教師付き学習ルールのトレーニングプロセスに対して起動可能な汎用バックドアアタックフレームワークを提案し,学習可能なデータセットの種類をすべてカバーする。二学習ルールの違いとSNNとANNの堅牢性の違いを分析し、SNNがバックドアアタック時に本質的に堅牢性を持たないことを示唆する。三バックドアマイグレーションによる変換依存学習規則の脆弱性を明らかにし、変換過程におけるマイグレーション能力をさらに分析し、バックドアマイグレーション率が99%を超えることを明らかにする。 iv)最後に、このようなバックドア攻撃に対する潜在的な対策とその技術的課題について論じ、いくつかの有望な研究方針を指摘した。

関連論文リスト

Flashy Backdoor: Real-world Environment Backdoor Attack on SNNs with DVS Cameras [11.658496836117907]
スパイキングニューラルネットワーク(SNN)を用いた実環境におけるバックドアアタックの初評価について述べる。本稿では,SNNに新たな3つのバックドア攻撃手法,すなわちFramed,Strobing,F Flashy Backdoorを提案する。本研究は, バックドア攻撃に対するSNNベースのシステムのセキュリティと, 現実のシナリオにおける安全性を確保するために, さらなる研究が必要であることを示すものである。
論文参考訳（メタデータ） (2024-11-05T11:44:54Z)
Time-Distributed Backdoor Attacks on Federated Spiking Learning [14.314066620468637]
本稿では,ニューロモルフィックデータを用いたバックドア攻撃に対するスパイクニューラルネットワーク(SNN)とフェデレーション学習(FL)の脆弱性について検討する。我々はSNNやFLに合わせた新たな攻撃戦略を開発し、悪意のあるデバイスにバックドアトリガーを時間的および時間的に配布する。本研究は、SNNとFLの展開において、堅牢なセキュリティ対策の必要性を浮き彫りにする。
論文参考訳（メタデータ） (2024-02-05T10:54:17Z)
Trustworthy Graph Neural Networks: Aspects, Methods and Trends [115.84291569988748]
グラフニューラルネットワーク(GNN)は,さまざまな実世界のシナリオに対して,有能なグラフ学習手法として登場した。パフォーマンス指向のGNNは、敵の攻撃に対する脆弱性のような潜在的な副作用を示す。こうした意図しない害を避けるためには、信頼度に特徴付けられる有能なGNNを構築する必要がある。
論文参考訳（メタデータ） (2022-05-16T02:21:09Z)
A Comprehensive Survey on Trustworthy Graph Neural Networks: Privacy, Robustness, Fairness, and Explainability [59.80140875337769]
グラフニューラルネットワーク(GNN)は近年,急速な発展を遂げている。 GNNは個人情報をリークしたり、敵対的攻撃に弱いり、トレーニングデータから社会的バイアスを継承したり、拡大したりすることができる。本稿では、プライバシー、堅牢性、公正性、説明可能性の計算面におけるGNNの包括的調査を行う。
論文参考訳（メタデータ） (2022-04-18T21:41:07Z)
Toward Robust Spiking Neural Network Against Adversarial Perturbation [22.56553160359798]
スパイキングニューラルネットワーク(SNN)は、現実の効率クリティカルなアプリケーションにますます多くデプロイされている。研究者はすでに、SNNを敵の例で攻撃できることを実証している。我々の知る限りでは、これはSNNの堅牢なトレーニングに関する最初の分析である。
論文参考訳（メタデータ） (2022-04-12T21:26:49Z)
Exploring Architectural Ingredients of Adversarially Robust Deep Neural Networks [98.21130211336964]
ディープニューラルネットワーク(DNN)は敵の攻撃に弱いことが知られている。本稿では,ネットワーク幅と深さがDNNの強靭性に及ぼす影響について検討する。
論文参考訳（メタデータ） (2021-10-07T23:13:33Z)
Securing Deep Spiking Neural Networks against Adversarial Attacks through Inherent Structural Parameters [11.665517294899724]
本稿では、内部構造パラメータによるスパイクニューラルネットワーク(SNN)のセキュリティ強化について検討する。我々の知る限りでは、SNNにおける構造的パラメータが敵攻撃に対する堅牢性に与える影響を調査する最初の研究である。
論文参考訳（メタデータ） (2020-12-09T21:09:03Z)
Noise-Response Analysis of Deep Neural Networks Quantifies Robustness and Fingerprints Structural Malware [48.7072217216104]
ディープ・ニューラル・ネットワーク(DNN)は構造的マルウェア(すなわち、重みと活性化経路)を持つバックドアの検出は一般的に困難であり、既存の検出手法は計算に高価であり、膨大なリソースを必要とする(トレーニングデータへのアクセスなど)。そこで本研究では,DNNの堅牢性,指紋の非線形性を定量化し,バックドアの検出を可能にする,高速な特徴生成手法を提案する。実験の結果,既存の手法(秒対秒)よりも高い信頼度でバックドアを正確に検出できることが判明した。
論文参考訳（メタデータ） (2020-07-31T23:52:58Z)
Boosting Deep Neural Networks with Geometrical Prior Knowledge: A Survey [77.99182201815763]
ディープニューラルネットワーク(DNN)は多くの異なる問題設定において最先端の結果を達成する。 DNNはしばしばブラックボックスシステムとして扱われ、評価と検証が複雑になる。コンピュータビジョンタスクにおける畳み込みニューラルネットワーク(CNN)の成功に触発された、有望な分野のひとつは、対称幾何学的変換に関する知識を取り入れることである。
論文参考訳（メタデータ） (2020-06-30T14:56:05Z)
NeuroAttack: Undermining Spiking Neural Networks Security through Externally Triggered Bit-Flips [11.872768663147776]
Spiking Neural Networks(SNN)は、機械学習システムにおける正確性、リソース利用、エネルギー効率の課題に対する、有望な解決策として登場した。これらのシステムは主流になってきていますが、本質的にセキュリティと信頼性の問題があります。我々は低レベルの信頼性問題を利用してSNNの整合性を脅かすクロスレイヤー攻撃であるNeuroAttackを提案する。
論文参考訳（メタデータ） (2020-05-16T16:54:00Z)
Adversarial Attacks and Defenses on Graphs: A Review, A Tool and Empirical Studies [73.39668293190019]
敵攻撃は入力に対する小さな摂動によって容易に騙される。グラフニューラルネットワーク(GNN)がこの脆弱性を継承することを実証している。本調査では,既存の攻撃と防御を分類し,対応する最先端の手法を概観する。
論文参考訳（メタデータ） (2020-03-02T04:32:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。