論文の概要: Turning Your Strength against You: Detecting and Mitigating Robust and
Universal Adversarial Patch Attack
- arxiv url: http://arxiv.org/abs/2108.05075v1
- Date: Wed, 11 Aug 2021 07:37:03 GMT
- ステータス: 処理完了
- システム内更新日: 2021-08-12 17:00:32.448086
- Title: Turning Your Strength against You: Detecting and Mitigating Robust and
Universal Adversarial Patch Attack
- Title（参考訳）: あなたに対する強み:堅牢で普遍的な敵のパッチ攻撃の検出と緩和
- Authors: Zitao Chen, Pritam Dash, Karthik Pattabiraman
- Abstract要約: 画像分類深層ニューラルネットワーク(DNN)に対する逆パッチ攻撃
本研究は、強固で普遍的な敵パッチ攻撃を検知・緩和する技術である柔術を提案する。
2つのデータセット上で5つのDNN上での柔術の評価を行い、柔術が優れた性能を発揮し、既存の技術よりも著しく優れていることを示す。
- 参考スコア（独自算出の注目度）: 2.363388546004777
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Adversarial patch attack against image classification deep neural networks
(DNNs), in which the attacker can inject arbitrary distortions within a bounded
region of an image, is able to generate adversarial perturbations that are
robust (i.e., remain adversarial in physical world) and universal (i.e., remain
adversarial on any input). It is thus important to detect and mitigate such
attack to ensure the security of DNNs.
This work proposes Jujutsu, a technique to detect and mitigate robust and
universal adversarial patch attack. Jujutsu leverages the universal property of
the patch attack for detection. It uses explainable AI technique to identify
suspicious features that are potentially malicious, and verify their
maliciousness by transplanting the suspicious features to new images. An
adversarial patch continues to exhibit the malicious behavior on the new images
and thus can be detected based on prediction consistency. Jujutsu leverages the
localized nature of the patch attack for mitigation, by randomly masking the
suspicious features to "remove" adversarial perturbations. However, the network
might fail to classify the images as some of the contents are removed (masked).
Therefore, Jujutsu uses image inpainting for synthesizing alternative contents
from the pixels that are masked, which can reconstruct the "clean" image for
correct prediction. We evaluate Jujutsu on five DNNs on two datasets, and show
that Jujutsu achieves superior performance and significantly outperforms
existing techniques. Jujutsu can further defend against various variants of the
basic attack, including 1) physical-world attack; 2) attacks that target
diverse classes; 3) attacks that use patches in different shapes and 4)
adaptive attacks.
- Abstract（参考訳）: 画像分類深層ニューラルネットワーク(DNN)に対する敵対パッチ攻撃は、攻撃者が画像の有界領域内で任意の歪みを注入でき、頑健な(物理的世界における敵対的のまま)かつ普遍的な(すなわち、任意の入力に対して敵対的である)敵対的摂動を発生させることができる。
したがって、dnnのセキュリティを確保するためにそのような攻撃を検出し緩和することが重要である。
本研究は,強固で普遍的なパッチ攻撃を検知し軽減する手法である柔術を提案する。
柔術はパッチ攻撃の普遍性を利用して検出する。
説明可能なAI技術を使って、悪意のある可能性のある不審な特徴を識別し、不審な特徴を新しい画像に移植することでその悪意を検証する。
敵パッチは新たな画像に対して悪意のある動作を継続し、予測一貫性に基づいて検出することができる。
柔術は、不審な特徴をランダムにマスキングして敵の摂動を「消す」ことで、パッチ攻撃の局所的な性質を緩和する。
しかし、いくつかのコンテンツが削除されたため、ネットワークはイメージの分類に失敗する可能性がある。
そのため、偽装された画素から代替コンテンツの合成に画像インペインティングを用い、正確な予測のために「クリーン」イメージを再構築することができる。
2つのデータセット上で5つのDNN上での柔術の評価を行い、柔術が優れた性能を発揮し、既存の技術よりも著しく優れていることを示す。
柔術は、1)物理世界攻撃、2)多様なクラスをターゲットにした攻撃、3)異なる形状のパッチを使用する攻撃、4)適応攻撃など、基本攻撃の様々なバリエーションを防御することができる。
関連論文リスト
- The Best Defense is a Good Offense: Adversarial Augmentation against
Adversarial Attacks [91.56314751983133]
A5$は、手元の入力に対する攻撃が失敗することを保証するために防御的摂動を構築するためのフレームワークである。
我々は,地上の真理ラベルを無視するロバスト化ネットワークを用いて,実機での防御強化を効果的に示す。
また、A5$を適用して、確実に堅牢な物理オブジェクトを作成する方法も示します。
論文 参考訳（メタデータ） (2023-05-23T16:07:58Z) - Task-agnostic Defense against Adversarial Patch Attacks [25.15948648034204]
対向パッチは、指定された局所領域内に対向画素を注入することにより、誤誘導ニューラルネットワークを攻撃する。
我々は、ホワイトボックスの敵パッチに対するタスク非依存の防御であるPatchZeroを提示する。
本手法は, 良性性能の劣化を伴わずに, SOTAの頑健な精度を実現する。
論文 参考訳（メタデータ） (2022-07-05T03:49:08Z) - Empirical Evaluation of Physical Adversarial Patch Attacks Against
Overhead Object Detection Models [2.2588953434934416]
逆パッチ(Adversarial patch)は、ニューラルネットワークベースのコンピュータビジョンモデルに悪用されたイメージである。
近年の研究では、これらの攻撃が物理的世界への移動に成功できることが示されている。
我々はさらに、より困難な条件下で、物理的世界における敵パッチ攻撃の有効性を検証した。
論文 参考訳（メタデータ） (2022-06-25T20:05:11Z) - Defending Against Person Hiding Adversarial Patch Attack with a
Universal White Frame [28.128458352103543]
高性能物体検出ネットワークは、敵のパッチ攻撃に対して脆弱である。
人身攻撃は、多くの安全クリティカルなアプリケーションにおいて深刻な問題として浮上している。
防御パターンを最適化することで人身攻撃を緩和する新しい防衛戦略を提案する。
論文 参考訳（メタデータ） (2022-04-27T15:18:08Z) - Segment and Complete: Defending Object Detectors against Adversarial
Patch Attacks with Robust Patch Detection [142.24869736769432]
敵のパッチ攻撃は最先端の物体検出器に深刻な脅威をもたらす。
パッチ攻撃に対して物体検出器を防御するフレームワークであるSegment and Complete Defense (SAC)を提案する。
SACは、物理的パッチ攻撃の標的攻撃成功率を著しく低減できることを示す。
論文 参考訳（メタデータ） (2021-12-08T19:18:48Z) - Inconspicuous Adversarial Patches for Fooling Image Recognition Systems
on Mobile Devices [8.437172062224034]
敵パッチと呼ばれる敵の例の変種は、強力な攻撃能力のために研究者の注意を引き付けている。
1枚の画像で逆パッチを生成する手法を提案する。
提案手法は,ホワイトボックス設定における強力な攻撃能力とブラックボックス設定における優れた転送性を示す。
論文 参考訳（メタデータ） (2021-06-29T09:39:34Z) - We Can Always Catch You: Detecting Adversarial Patched Objects WITH or
WITHOUT Signature [3.5272597442284104]
本稿では,オブジェクト検出に対する逆パッチ攻撃の検知問題について検討する。
高速シグネチャベース防御法を提案し,有効であることが実証された。
新たに生成された敵パッチは、提案されたシグネチャベースの防御を回避できる。
本稿では,内部コンテンツセマンティクスの整合性に基づく署名に依存しない新しい検出手法を提案する。
論文 参考訳（メタデータ） (2021-06-09T17:58:08Z) - Error Diffusion Halftoning Against Adversarial Examples [85.11649974840758]
敵対的な例には、深いニューラルネットワークを誤った予測にだますことができる慎重に作られた摂動が含まれます。
誤り拡散のハーフトン化に基づく新しい画像変換防御を提案し、逆転の例に対して防御するための逆転訓練と組み合わせます。
論文 参考訳（メタデータ） (2021-01-23T07:55:02Z) - FaceGuard: A Self-Supervised Defense Against Adversarial Face Images [59.656264895721215]
我々は,多種多様な対向顔を自動的に検出し,局所化し,浄化する,新たな自己監督型対向防御フレームワークFaceGuardを提案する。
トレーニング中、FaceGuardは、困難で多様な敵攻撃を自動的に合成し、分類器が実際の顔と区別することを学ぶことができる。
LFWデータセットの実験結果から、FaceGuardは6つの未知の敵攻撃タイプに対して99.81%の精度で検出できることが示された。
論文 参考訳（メタデータ） (2020-11-28T21:18:46Z) - Online Alternate Generator against Adversarial Attacks [144.45529828523408]
ディープラーニングモデルは、実際の画像に準知覚可能なノイズを加えることによって合成される敵の例に非常に敏感である。
対象ネットワークのパラメータをアクセスしたり変更したりする必要のない,ポータブルな防御手法であるオンライン代替ジェネレータを提案する。
提案手法は,入力画像のスクラッチから別の画像をオンライン合成することで,対向雑音を除去・破壊する代わりに機能する。
論文 参考訳（メタデータ） (2020-09-17T07:11:16Z) - Certified Defenses for Adversarial Patches [72.65524549598126]
敵パッチ攻撃は、現実世界のコンピュータビジョンシステムに対する最も実用的な脅威モデルの一つである。
本稿では,パッチアタックに対する認証と実証的防御について検討する。
論文 参考訳（メタデータ） (2020-03-14T19:57:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。