Fugu-MT 論文翻訳(概要): A Panda? No, It's a Sloth: Slowdown Attacks on Adaptive Multi-Exit Neural Network Inference

論文の概要: A Panda? No, It's a Sloth: Slowdown Attacks on Adaptive Multi-Exit Neural Network Inference

arxiv url: http://arxiv.org/abs/2010.02432v2
Date: Thu, 25 Feb 2021 22:38:35 GMT
ステータス: 処理完了
システム内更新日: 2022-10-10 07:59:04.859246
Title: A Panda? No, It's a Sloth: Slowdown Attacks on Adaptive Multi-Exit Neural Network Inference
Title（参考訳）: パンダ? 適応型マルチエクイットニューラルネットワーク推論におけるスローダウン攻撃
Authors: Sanghyun Hong, Yi\u{g}itcan Kaya, Ionu\c{t}-Vlad Modoranu, Tudor Dumitra\c{s}
Abstract要約: スローダウン攻撃は、マルチエクイットDNNの有効性を90-100%削減し、典型的なIoTデプロイメントにおいて1.5～5$times$のレイテンシを増幅する。汎用的で再利用可能な摂動を構築でき、攻撃は現実的なブラックボックスのシナリオで有効であることを示す。
参考スコア（独自算出の注目度）: 6.320009081099895
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Recent increases in the computational demands of deep neural networks (DNNs), combined with the observation that most input samples require only simple models, have sparked interest in $input$-$adaptive$ multi-exit architectures, such as MSDNets or Shallow-Deep Networks. These architectures enable faster inferences and could bring DNNs to low-power devices, e.g., in the Internet of Things (IoT). However, it is unknown if the computational savings provided by this approach are robust against adversarial pressure. In particular, an adversary may aim to slowdown adaptive DNNs by increasing their average inference time$-$a threat analogous to the $denial$-$of$-$service$ attacks from the Internet. In this paper, we conduct a systematic evaluation of this threat by experimenting with three generic multi-exit DNNs (based on VGG16, MobileNet, and ResNet56) and a custom multi-exit architecture, on two popular image classification benchmarks (CIFAR-10 and Tiny ImageNet). To this end, we show that adversarial example-crafting techniques can be modified to cause slowdown, and we propose a metric for comparing their impact on different architectures. We show that a slowdown attack reduces the efficacy of multi-exit DNNs by 90-100%, and it amplifies the latency by 1.5-5$\times$ in a typical IoT deployment. We also show that it is possible to craft universal, reusable perturbations and that the attack can be effective in realistic black-box scenarios, where the attacker has limited knowledge about the victim. Finally, we show that adversarial training provides limited protection against slowdowns. These results suggest that further research is needed for defending multi-exit architectures against this emerging threat. Our code is available at https://github.com/sanghyun-hong/deepsloth.
Abstract（参考訳）: 近年のディープニューラルネットワーク(DNN)の計算要求の増加は、ほとんどの入力サンプルが単純なモデルのみを必要とするという観測と相まって、MSDNetsやShallow-Deep Networksのような$input$-$adaptive$マルチエクイットアーキテクチャへの関心を喚起している。これらのアーキテクチャはより高速な推論を可能にし、IoT(Internet of Things)などの低消費電力デバイスにDNNをもたらす可能性がある。しかし、この手法による計算の節約が逆圧力に対して堅牢かどうかは不明である。特に、敵は、インターネットからの$denial$-$of$-$service$攻撃に類似した平均的推論時間$-$aの脅威を増大させることで、適応的なDNNを減速させようとする。本稿では,VGG16,MobileNet,ResNet56をベースとした3つの汎用マルチエクイットDNNと,2つの人気画像分類ベンチマーク(CIFAR-10,Tiny ImageNet)を用いたカスタムマルチエクイットアーキテクチャを用いて,この脅威のシステマティック評価を行う。この目的のために, 逆例作成手法がスローダウンを引き起こすように修正可能であることを示し, 異なるアーキテクチャに対する影響を比較するための指標を提案する。ローダウン攻撃は、マルチエクイットDNNの有効性を90～100%削減し、典型的なIoTデプロイメントにおいて1.5～5$\times$のレイテンシを増幅することを示した。また,攻撃者が被害者に関する知識が限られている現実のブラックボックスシナリオにおいて,普遍的で再利用可能な摂動を構築できることを示す。最後に、敵の訓練がスローダウンに対して限定的な保護を与えることを示す。これらの結果は、この新興の脅威からマルチエクイティアーキテクチャを守るためにさらなる研究が必要であることを示唆している。私たちのコードはhttps://github.com/sanghyun-hong/deepslothで入手できます。

関連論文リスト

A Geometrical Approach to Evaluate the Adversarial Robustness of Deep Neural Networks [52.09243852066406]
対向収束時間スコア(ACTS)は、対向ロバストネス指標として収束時間を測定する。我々は,大規模画像Netデータセットに対する異なる敵攻撃に対して,提案したACTSメトリックの有効性と一般化を検証する。
論文参考訳（メタデータ） (2023-10-10T09:39:38Z)
Not So Robust After All: Evaluating the Robustness of Deep Neural Networks to Unseen Adversarial Attacks [5.024667090792856]
ディープニューラルネットワーク(DNN)は、分類、認識、予測など、さまざまなアプリケーションで注目を集めている。従来のDNNの基本的属性は、入力データの修正に対する脆弱性である。本研究の目的は、敵攻撃に対する現代の防御機構の有効性と一般化に挑戦することである。
論文参考訳（メタデータ） (2023-08-12T05:21:34Z)
Quantization Aware Attack: Enhancing Transferable Adversarial Attacks by Model Quantization [57.87950229651958]
量子ニューラルネットワーク(QNN)は、異常な一般化性のため、リソース制約のあるシナリオに注目が集まっている。従来の研究では、ビット幅の異なるQNN間で転送性を実現することは困難であった。マルチビット学習目的のQNN代替モデルを微調整するテキスト品質認識攻撃(QAA)を提案する。
論文参考訳（メタデータ） (2023-05-10T03:46:53Z)
Training High-Performance Low-Latency Spiking Neural Networks by Differentiation on Spike Representation [70.75043144299168]
スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックハードウェア上に実装された場合、有望なエネルギー効率のAIモデルである。非分化性のため、SNNを効率的に訓練することは困難である。本稿では,ハイパフォーマンスを実現するスパイク表現法(DSR)の差分法を提案する。
論文参考訳（メタデータ） (2022-05-01T12:44:49Z)
Robustness of Bayesian Neural Networks to White-Box Adversarial Attacks [55.531896312724555]
ベイジアンネットワーク(BNN)は、ランダム性を組み込むことで、敵の攻撃を扱うのに頑丈で適している。我々はベイズ的推論(つまり変分ベイズ)をDenseNetアーキテクチャに融合させることで、BNN-DenseNetと呼ばれるBNNモデルを作成する。逆向きに訓練されたBNNは、ほとんどの実験で非ベイズ的で逆向きに訓練されたBNNよりも優れています。
論文参考訳（メタデータ） (2021-11-16T16:14:44Z)
Detect and Defense Against Adversarial Examples in Deep Learning using Natural Scene Statistics and Adaptive Denoising [12.378017309516965]
本稿では,DNN を敵のサンプルから守るためのフレームワークを提案する。この検出器は、自然の景観統計を利用してAEを検出することを目的としている。提案手法は最先端の防御技術より優れている。
論文参考訳（メタデータ） (2021-07-12T23:45:44Z)
BreakingBED -- Breaking Binary and Efficient Deep Neural Networks by Adversarial Attacks [65.2021953284622]
CNNのホワイトボックス攻撃やブラックボックス攻撃に対する堅牢性について検討する。結果は、蒸留されたCNN、エージェントベースの最新のprunedモデル、およびバイナライズニューラルネットワークのために示されています。
論文参考訳（メタデータ） (2021-03-14T20:43:19Z)
Adversarial Attacks on Deep Learning Based Power Allocation in a Massive MIMO Network [62.77129284830945]
本稿では,大規模なマルチインプット・マルチアウトプット(MAMIMO)ネットワークのダウンリンクにおいて,逆攻撃がDLベースの電力割り当てを損なう可能性があることを示す。我々はこれらの攻撃のパフォーマンスをベンチマークし、ニューラルネットワーク(NN)の入力に小さな摂動がある場合、ホワイトボックス攻撃は最大86%まで実現不可能な解決策をもたらすことを示した。
論文参考訳（メタデータ） (2021-01-28T16:18:19Z)
Towards Universal Physical Attacks On Cascaded Camera-Lidar 3D Object Detection Models [16.7400223249581]
マルチモーダル深層学習ネットワーク(DNN)に対する普遍的かつ物理的に実現可能な敵対的攻撃を提案する。提案されたユニバーサルマルチモーダル攻撃は、モデルが車を73%近く検出する能力を低下させることに成功したことを示す。
論文参考訳（メタデータ） (2021-01-26T12:40:34Z)
Progressive Defense Against Adversarial Attacks for Deep Learning as a Service in Internet of Things [9.753864027359521]
一部のディープニューラルネットワーク(DNN)は、比較的小さいが逆方向の摂動を入力に追加することで容易に誤認することができる。本稿では, 対人攻撃に対するプログレッシブ・ディフェンス(PDAAA)と呼ばれる防衛戦略を提案し, 対人画素変異を効果的かつ効果的に除去する。その結果、モデルトレーニングのコストを平均50%削減しながら、最先端技術よりも優れています。
論文参考訳（メタデータ） (2020-10-15T06:40:53Z)
DeepHammer: Depleting the Intelligence of Deep Neural Networks through Targeted Chain of Bit Flips [29.34622626909906]
量子化ディープニューラルネットワーク(DNN)に対するハードウェアベースの最初の攻撃を実演する。 DeepHammerは、数分で実行時にDNNの推論動作を修正することができる。私たちの研究は、将来のディープラーニングシステムにセキュリティメカニズムを組み込む必要性を強調しています。
論文参考訳（メタデータ） (2020-03-30T18:51:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。