Fugu-MT 論文翻訳(概要): Spikewhisper: Temporal Spike Backdoor Attacks on Federated Neuromorphic Learning over Low-power Devices

論文の概要: Spikewhisper: Temporal Spike Backdoor Attacks on Federated Neuromorphic Learning over Low-power Devices

arxiv url: http://arxiv.org/abs/2403.18607v1
Date: Wed, 27 Mar 2024 14:25:02 GMT
ステータス: 処理完了
システム内更新日: 2024-03-28 16:38:49.152244
Title: Spikewhisper: Temporal Spike Backdoor Attacks on Federated Neuromorphic Learning over Low-power Devices
Title（参考訳）: Spikewhisper:低消費電力デバイス上でのフェデレーションニューロモーフィック学習に対する一時的なスパイクバックドア攻撃
Authors: Hanqing Fu, Gaolei Li, Jun Wu, Jianhua Li, Xi Lin, Kai Zhou, Yuchen Liu,
Abstract要約: 本稿では,時間分割多重化の概念を用いて,FedNLベースのシステムの新たな脆弱性を探究する。特に、スパイクウィスパーのステルス性は、グローバルトリガーの時間領域の可視性に由来する。 2つの異なるニューロモルフィックデータセットに基づく実験により、スパイクウィスファーの攻撃成功率は時間的に集中的な攻撃よりも高いことが示された。
参考スコア（独自算出の注目度）: 13.815209543189159
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Federated neuromorphic learning (FedNL) leverages event-driven spiking neural networks and federated learning frameworks to effectively execute intelligent analysis tasks over amounts of distributed low-power devices but also perform vulnerability to poisoning attacks. The threat of backdoor attacks on traditional deep neural networks typically comes from time-invariant data. However, in FedNL, unknown threats may be hidden in time-varying spike signals. In this paper, we start to explore a novel vulnerability of FedNL-based systems with the concept of time division multiplexing, termed Spikewhisper, which allows attackers to evade detection as much as possible, as multiple malicious clients can imperceptibly poison with different triggers at different timeslices. In particular, the stealthiness of Spikewhisper is derived from the time-domain divisibility of global triggers, in which each malicious client pastes only one local trigger to a certain timeslice in the neuromorphic sample, and also the polarity and motion of each local trigger can be configured by attackers. Extensive experiments based on two different neuromorphic datasets demonstrate that the attack success rate of Spikewispher is higher than the temporally centralized attacks. Besides, it is validated that the effect of Spikewispher is sensitive to the trigger duration.
Abstract（参考訳）: フェデレーションニューロモルフィック学習(FedNL)は、イベント駆動のスパイクニューラルネットワークとフェデレーション学習フレームワークを活用して、分散低消費電力デバイス上でインテリジェント分析タスクを効果的に実行すると同時に、攻撃に対する脆弱性を実行する。従来のディープニューラルネットワークに対するバックドア攻撃の脅威は、一般的に時間不変のデータから生じる。しかし、FedNLでは、未知の脅威が時間変化のスパイク信号に隠されている可能性がある。本稿では,複数の悪意あるクライアントが異なるタイミングで異なるトリガを許容できるため,攻撃者が可能な限り検出を回避できる,Spikewhisperと呼ばれる時間分割多重化の概念を用いて,FedNLベースのシステムの新たな脆弱性を探求する。特に、Spikewhisperのステルスネスは、各悪意のあるクライアントが1つのローカルトリガだけを神経形標本の特定のタイムスライスに貼り付け、また各ローカルトリガの極性と動きを攻撃者によって設定できるグローバルトリガの時間領域ディバイザビリティから導かれる。 2つの異なるニューロモルフィックデータセットに基づく大規模な実験により、スパイクウィスファーの攻撃成功率は時間的に集中的な攻撃よりも高いことが示された。さらに、スパイクウィスファーの効果がトリガー持続時間に敏感であることが検証された。

関連論文リスト

Twin Trigger Generative Networks for Backdoor Attacks against Object Detection [14.578800906364414]
オブジェクト検出器は、現実世界のアプリケーションで広く使われているが、バックドア攻撃に弱い。バックドア攻撃に関するほとんどの研究は画像分類に焦点を合わせており、物体検出について限定的な研究がなされている。本研究では,トレーニング中のモデルにバックドアを埋め込むための目に見えないトリガと,推論中の安定したアクティベーションのための目に見えるトリガを生成する新しいツイントリガ生成ネットワークを提案する。
論文参考訳（メタデータ） (2024-11-23T03:46:45Z)
LOTUS: Evasive and Resilient Backdoor Attacks through Sub-Partitioning [49.174341192722615]
バックドア攻撃は、ディープラーニングアプリケーションに重大なセキュリティ脅威をもたらす。近年の研究では、特殊な変換機能によって作られたサンプル特異的に見えないトリガーを用いた攻撃が導入されている。我々は、回避性とレジリエンスの両方に対処するために、新しいバックドアアタックLOTUSを導入する。
論文参考訳（メタデータ） (2024-03-25T21:01:29Z)
FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning [98.43475653490219]
フェデレート・ラーニング(Federated Learning, FL)は、毒素による攻撃を受けやすい。 FreqFedは、モデルの更新を周波数領域に変換する新しいアグリゲーションメカニズムである。 FreqFedは, 凝集モデルの有用性に悪影響を及ぼすことなく, 毒性攻撃を効果的に軽減できることを実証した。
論文参考訳（メタデータ） (2023-12-07T16:56:24Z)
Investigating Human-Identifiable Features Hidden in Adversarial Perturbations [54.39726653562144]
我々の研究では、最大5つの攻撃アルゴリズムを3つのデータセットにわたって探索する。対人摂動における人間の識別可能な特徴を同定する。画素レベルのアノテーションを用いて、そのような特徴を抽出し、ターゲットモデルに妥協する能力を実証する。
論文参考訳（メタデータ） (2023-09-28T22:31:29Z)
FTA: Stealthy and Adaptive Backdoor Attack with Flexible Triggers on Federated Learning [11.636353298724574]
我々は,新たなステルスで堅牢なバックドア攻撃を,連邦学習(FL)防衛に対して提案する。我々は、許容できない柔軟なトリガーパターンで良質なサンプルを操作することを学べる生成的トリガー関数を構築した。我々のトリガージェネレータは学習を継続し、異なるラウンドにまたがって適応し、グローバルモデルの変化に適応できるようにします。
論文参考訳（メタデータ） (2023-08-31T20:25:54Z)
Backdoor Attacks Against Incremental Learners: An Empirical Evaluation Study [79.33449311057088]
本稿では,11人の典型的なインクリメンタル学習者の3つの学習シナリオに対する中毒ベースのバックドア攻撃に対する高い脆弱性を実証的に明らかにする。アクティベーションクラスタリングに基づく防御機構は,潜在的なセキュリティリスクを軽減するためのトリガーパターンの検出に有効であることがわかった。
論文参考訳（メタデータ） (2023-05-28T09:17:48Z)
Few-shot Backdoor Defense Using Shapley Estimation [123.56934991060788]
我々は、深層ニューラルネットワークに対するバックドア攻撃を軽減するために、Shapley Pruningと呼ばれる新しいアプローチを開発した。 ShapPruningは、感染した数少ないニューロン(全ニューロンの1%以下)を特定し、モデルの構造と正確性を保護する。様々な攻撃やタスクに対して,本手法の有効性とロバスト性を示す実験を行った。
論文参考訳（メタデータ） (2021-12-30T02:27:03Z)
FooBaR: Fault Fooling Backdoor Attack on Neural Network Training [5.639451539396458]
ニューラルネットワークのトレーニングフェーズ中に障害を注入することで,新たな攻撃パラダイムを探索する。このような攻撃は、トレーニングフェーズの障害攻撃がネットワークにバックドアを注入し、攻撃者が不正な入力を生成できるようにするような、不正なバックドアと呼ばれる。
論文参考訳（メタデータ） (2021-09-23T09:43:19Z)
Can You Hear It? Backdoor Attacks via Ultrasonic Triggers [31.147899305987934]
本研究では,自動音声認識システムへのバックドア攻撃の選択肢について検討する。以上の結果から, 毒性データの1%未満は, バックドア攻撃の実施に十分であり, 100%攻撃成功率に達することが示唆された。
論文参考訳（メタデータ） (2021-07-30T12:08:16Z)
The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
論文参考訳（メタデータ） (2021-06-26T10:50:07Z)
RAID: Randomized Adversarial-Input Detection for Neural Networks [7.37305608518763]
本稿では,2次分類器を訓練し,良性入力と逆性入力のニューロン活性化値の違いを識別する,逆性画像検出のための新しい手法であるRAIDを提案する。 RAIDは、一般的な6つの攻撃に対して評価すると、最先端技術よりも信頼性が高く、効果的である。
論文参考訳（メタデータ） (2020-02-07T13:27:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。