論文の概要: Real-time Detection of Practical Universal Adversarial Perturbations

• arxiv url: http://arxiv.org/abs/2105.07334v1
• Date: Sun, 16 May 2021 03:01:29 GMT
• ステータス: 処理完了
• システム内更新日: 2021-05-18 15:10:15.970649
• Title: Real-time Detection of Practical Universal Adversarial Perturbations
• Title（参考訳）: 現実的普遍的摂動のリアルタイム検出
• Authors: Kenneth T. Co, Luis Mu\~noz-Gonz\'alez, Leslie Kanthan, Emil C. Lupu
• Abstract要約: ディープニューラルネットワーク(dnn)に対する物理的に実現可能で堅牢な攻撃を可能にするuniversal adversarial perturbation(uaps) 本稿では、UAPのリアルタイム検出を可能にする効率的でスケーラブルなアルゴリズムであるHyperNeuronを提案する。
• 参考スコア（独自算出の注目度）: 3.806971160251168
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Universal Adversarial Perturbations (UAPs) are a prominent class of adversarial examples that exploit the systemic vulnerabilities and enable physically realizable and robust attacks against Deep Neural Networks (DNNs). UAPs generalize across many different inputs; this leads to realistic and effective attacks that can be applied at scale. In this paper we propose HyperNeuron, an efficient and scalable algorithm that allows for the real-time detection of UAPs by identifying suspicious neuron hyper-activations. Our results show the effectiveness of HyperNeuron on multiple tasks (image classification, object detection), against a wide variety of universal attacks, and in realistic scenarios, like perceptual ad-blocking and adversarial patches. HyperNeuron is able to simultaneously detect both adversarial mask and patch UAPs with comparable or better performance than existing UAP defenses whilst introducing a significantly reduced latency of only 0.86 milliseconds per image. This suggests that many realistic and practical universal attacks can be reliably mitigated in real-time, which shows promise for the robust deployment of machine learning systems.
• Abstract（参考訳）: UAP(Universal Adversarial Perturbations)は、システムの脆弱性を悪用し、Deep Neural Networks(DNN)に対する物理的に実現可能で堅牢な攻撃を可能にする、著名な敵のクラスである。 UAPは多くの異なる入力にまたがって一般化され、これは大規模に適用可能な現実的で効果的な攻撃につながる。 本稿では,疑わしいニューロンのハイパーアクティベーションを同定することで,uapをリアルタイムに検出できる効率的でスケーラブルなアルゴリズムであるhyperneuronを提案する。 以上の結果から,複数のタスク(画像分類,オブジェクト検出)におけるハイパーニューロンの有効性,およびパーセプショナル・アドブロッキングや敵対的パッチといった現実的シナリオに対する効果が示された。 HyperNeuronは、既存のUAPディフェンスに匹敵する、あるいは優れたパフォーマンスでUAPのマスクとパッチの両方を同時に検出すると同時に、画像当たり0.86ミリ秒のレイテンシを大幅に削減する。 これは、多くの現実的で実用的な普遍的な攻撃が、リアルタイムに確実に軽減できることを示唆している。

関連論文リスト

• Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks [62.036798488144306]
  現在の防衛は主に既知の攻撃に焦点を当てているが、未知の攻撃に対する敵意の強固さは見過ごされている。 メタ不変防衛(Meta Invariance Defense, MID)と呼ばれる攻撃非依存の防御手法を提案する。 MIDは高レベルの画像分類と低レベルの頑健な画像再生における攻撃抑制において,知覚不能な逆方向の摂動に対して同時に頑健性を実現する。
  論文  参考訳（メタデータ） (2024-04-04T10:10:38Z)
• Adversarial Vulnerability of Temporal Feature Networks for Object Detection [5.525433572437716]
  本研究では,物体検出のための時間的特徴ネットワークが,普遍的敵攻撃に対して脆弱であるかどうかを検討する。 画像全体に対する知覚不能ノイズと,局所的な対向パッチの2種類の攻撃について検討した。 KITTIおよびnuScenesデータセットに関する実験により、K-PGDによるロバスト化モデルが、研究された攻撃に耐えられることを示した。
  論文  参考訳（メタデータ） (2022-08-23T07:08:54Z)
• Universal Adversarial Attacks on Neural Networks for Power Allocation in a Massive MIMO System [60.46526086158021]
  我々は,White-box や Black-box 攻撃として,UAP (Universal Adversarial Perturbation) 工法を提案する。 その結果, 敵の成功率は最大60%, 40%の確率で達成できることがわかった。 提案されたUAPベースの攻撃は、古典的なホワイトボックス攻撃に比べて実用的で現実的なアプローチである。
  論文  参考訳（メタデータ） (2021-10-10T08:21:03Z)
• Jacobian Regularization for Mitigating Universal Adversarial Perturbations [2.9465623430708905]
  UAP(Universal Adversarial Perturbations)は、大規模なデータセットでニューラルネットワークを騙すことができる入力摂動である。 データ依存ヤコビアンのノルムに基づくUPAの有効性の上限を導出する。
  論文  参考訳（メタデータ） (2021-04-21T11:00:21Z)
• Universal Adversarial Training with Class-Wise Perturbations [78.05383266222285]
  敵の訓練は 敵の攻撃を防御するために 最も広く使われる方法です この作業では、UAPがすべてのクラスを等しく攻撃しないことがわかります。 我々は,対人訓練におけるクラスワイドUAPの利用を提案することで,SOTA UATを改善した。
  論文  参考訳（メタデータ） (2021-04-07T09:05:49Z)
• A Survey On Universal Adversarial Attack [68.1815935074054]
  ディープニューラルネットワーク(DNN)は、様々なアプリケーションで顕著な性能を示している。 敵の摂動の攻撃に弱いことが広く知られている。 ユニバーサル敵対的摂動(UAP)は、ほとんどの画像のターゲットDNNをだまします。
  論文  参考訳（メタデータ） (2021-03-02T06:35:09Z)
• Double Targeted Universal Adversarial Perturbations [83.60161052867534]
  本稿では, インスタンス別画像依存摂動と汎用的普遍摂動のギャップを埋めるために, 二重目標普遍摂動(DT-UAP)を導入する。 提案したDTAアルゴリズムの幅広いデータセットに対する有効性を示すとともに,物理攻撃の可能性を示す。
  論文  参考訳（メタデータ） (2020-10-07T09:08:51Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)
• RAID: Randomized Adversarial-Input Detection for Neural Networks [7.37305608518763]
  本稿では,2次分類器を訓練し,良性入力と逆性入力のニューロン活性化値の違いを識別する,逆性画像検出のための新しい手法であるRAIDを提案する。 RAIDは、一般的な6つの攻撃に対して評価すると、最先端技術よりも信頼性が高く、効果的である。
  論文  参考訳（メタデータ） (2020-02-07T13:27:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。