論文の概要: Using Undervolting as an On-Device Defense Against Adversarial Machine Learning Attacks

• arxiv url: http://arxiv.org/abs/2107.09804v1
• Date: Tue, 20 Jul 2021 23:21:04 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-22 22:36:22.023028
• Title: Using Undervolting as an On-Device Defense Against Adversarial Machine Learning Attacks
• Title（参考訳）: 敵対的機械学習攻撃に対するオンデバイス防御としてのアンダーボルティングの使用
• Authors: Saikat Majumdar, Mohammad Hossein Samavatian, Kristin Barber, Radu Teodorescu
• Abstract要約: 本稿では,画像分類器のための新しい,軽量な逆補正および/または検出機構を提案する。 これらの誤りは、分類を正したり、入力を逆数として検出するために使用できる方法で、逆数入力を妨害することを示す。
• 参考スコア（独自算出の注目度）: 1.9212368803706579
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep neural network (DNN) classifiers are powerful tools that drive a broad spectrum of important applications, from image recognition to autonomous vehicles. Unfortunately, DNNs are known to be vulnerable to adversarial attacks that affect virtually all state-of-the-art models. These attacks make small imperceptible modifications to inputs that are sufficient to induce the DNNs to produce the wrong classification. In this paper we propose a novel, lightweight adversarial correction and/or detection mechanism for image classifiers that relies on undervolting (running a chip at a voltage that is slightly below its safe margin). We propose using controlled undervolting of the chip running the inference process in order to introduce a limited number of compute errors. We show that these errors disrupt the adversarial input in a way that can be used either to correct the classification or detect the input as adversarial. We evaluate the proposed solution in an FPGA design and through software simulation. We evaluate 10 attacks on two popular DNNs and show an average detection rate of 80% to 95%.
• Abstract（参考訳）: deep neural network (dnn)分類器は、画像認識から自動運転車まで、幅広い重要な応用を駆動する強力なツールである。 残念ながら、DNNは事実上すべての最先端モデルに影響を与える敵攻撃に対して脆弱であることが知られている。 これらの攻撃は、DNNが間違った分類を生成するのに十分な入力に対して、小さな知覚不可能な修正を与える。 本稿では,低電圧(安全な限界をわずかに下回る電圧でチップを実行する)に依存する画像分類器に対して,新しい軽量な逆補正および/または検出機構を提案する。 我々は,限られた数の計算誤差を導入するために,推論プロセスを実行するチップの制御アンダーボイングを用いることを提案する。 これらの誤りは, 分類を訂正するか, 逆として検出するかのどちらかに使用可能な方法で, 敵の入力を乱すことを示した。 提案手法をFPGA設計およびソフトウェアシミュレーションにより評価する。 2つの人気DNNに対する10件の攻撃を評価し,平均検出率は80%から95%であった。

関連論文リスト

• DNNShield: Dynamic Randomized Model Sparsification, A Defense Against Adversarial Machine Learning [2.485182034310304]
  本稿では,ハードウェアによる機械学習攻撃に対する防御手法を提案する。 DNNSHIELDは、相手入力の信頼度に応じて応答の強さに適応する。 VGG16は86%,ResNet50は88%であった。
  論文  参考訳（メタデータ） (2022-07-31T19:29:44Z)
• A Mask-Based Adversarial Defense Scheme [3.759725391906588]
  敵対的攻撃はディープニューラルネットワーク(DNN)の機能と精度を妨げる 敵攻撃による負の効果を軽減するため,DNNのためのMask-based Adversarial Defense scheme (MAD)を提案する。
  論文  参考訳（メタデータ） (2022-04-21T12:55:27Z)
• AntidoteRT: Run-time Detection and Correction of Poison Attacks on Neural Networks [18.461079157949698]
  画像分類ネットワークに対する バックドア毒殺攻撃 本稿では,毒殺攻撃に対する簡易な自動検出・補正手法を提案する。 我々の手法は、一般的なベンチマークにおいて、NeuralCleanseやSTRIPといった既存の防御よりも優れています。
  論文  参考訳（メタデータ） (2022-01-31T23:42:32Z)
• Towards Adversarial Patch Analysis and Certified Defense against Crowd Counting [61.99564267735242]
  安全クリティカルな監視システムの重要性から、群衆のカウントは多くの注目を集めています。 近年の研究では、ディープニューラルネットワーク(DNN)の手法が敵の攻撃に弱いことが示されている。 群衆カウントモデルのロバスト性を評価するために,Momentumを用いた攻撃戦略としてAdversarial Patch Attackを提案する。
  論文  参考訳（メタデータ） (2021-04-22T05:10:55Z)
• BreakingBED -- Breaking Binary and Efficient Deep Neural Networks by Adversarial Attacks [65.2021953284622]
  CNNのホワイトボックス攻撃やブラックボックス攻撃に対する堅牢性について検討する。 結果は、蒸留されたCNN、エージェントベースの最新のprunedモデル、およびバイナライズニューラルネットワークのために示されています。
  論文  参考訳（メタデータ） (2021-03-14T20:43:19Z)
• Targeted Attack against Deep Neural Networks via Flipping Limited Weight Bits [55.740716446995805]
  我々は,悪質な目的で展開段階におけるモデルパラメータを修飾する新しい攻撃パラダイムについて検討する。 私たちのゴールは、特定のサンプルをサンプル修正なしでターゲットクラスに誤分類することです。 整数プログラミングにおける最新の手法を利用することで、このBIP問題を連続最適化問題として等価に再構成する。
  論文  参考訳（メタデータ） (2021-02-21T03:13:27Z)
• Towards Adversarial-Resilient Deep Neural Networks for False Data Injection Attack Detection in Power Grids [7.351477761427584]
  偽データインジェクション攻撃(FDIA)は、電力システムの状態推定に重大なセキュリティ上の脅威をもたらす。 最近の研究では、機械学習(ML)技術、特にディープニューラルネットワーク(DNN)が提案されている。
  論文  参考訳（メタデータ） (2021-02-17T22:26:34Z)
• Adversarial Attacks on Deep Learning Based Power Allocation in a Massive MIMO Network [62.77129284830945]
  本稿では,大規模なマルチインプット・マルチアウトプット(MAMIMO)ネットワークのダウンリンクにおいて,逆攻撃がDLベースの電力割り当てを損なう可能性があることを示す。 我々はこれらの攻撃のパフォーマンスをベンチマークし、ニューラルネットワーク(NN)の入力に小さな摂動がある場合、ホワイトボックス攻撃は最大86%まで実現不可能な解決策をもたらすことを示した。
  論文  参考訳（メタデータ） (2021-01-28T16:18:19Z)
• GreedyFool: Distortion-Aware Sparse Adversarial Attack [138.55076781355206]
  現代のディープニューラルネットワーク(DNN)は、敵のサンプルに対して脆弱である。 スパース逆数サンプルは、数ピクセルだけを摂動させることでターゲットモデルを騙すことができる。 GreedyFoolと呼ばれる2段階の歪みを考慮したグリーディ法を提案する。
  論文  参考訳（メタデータ） (2020-10-26T17:59:07Z)
• Detection of Iterative Adversarial Attacks via Counter Attack [4.549831511476249]
  ディープニューラルネットワーク(DNN)は、非構造化データを処理する強力なツールであることが証明されている。 画像のような高次元データの場合、それらは本質的に敵対的な攻撃に対して脆弱である。 本研究では、CW攻撃が検出器自体として使用できるという数学的証明を概説する。
  論文  参考訳（メタデータ） (2020-09-23T21:54:36Z)
• Anomaly Detection-Based Unknown Face Presentation Attack Detection [74.4918294453537]
  異常検出に基づくスプーフ攻撃検出は、顔提示攻撃検出の最近の進歩である。 本稿では,異常検出に基づくスプーフ攻撃検出のためのディープラーニングソリューションを提案する。 提案手法はCNNの表現学習能力の恩恵を受け,fPADタスクの優れた特徴を学習する。
  論文  参考訳（メタデータ） (2020-07-11T21:20:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。