論文の概要: Segment and Complete: Defending Object Detectors against Adversarial
Patch Attacks with Robust Patch Detection
- arxiv url: http://arxiv.org/abs/2112.04532v1
- Date: Wed, 8 Dec 2021 19:18:48 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-10 15:23:30.121688
- Title: Segment and Complete: Defending Object Detectors against Adversarial
Patch Attacks with Robust Patch Detection
- Title(参考訳): セグメントと完全:ロバストパッチ検出による対向パッチ攻撃に対する物体検出器の防御
- Authors: Jiang Liu, Alexander Levine, Chun Pong Lau, Rama Chellappa, Soheil
Feizi
- Abstract要約: 敵のパッチ攻撃は最先端の物体検出器に深刻な脅威をもたらす。
パッチ攻撃に対して物体検出器を防御するフレームワークであるSegment and Complete Defense (SAC)を提案する。
SACは、物理的パッチ攻撃の標的攻撃成功率を著しく低減できることを示す。
- 参考スコア(独自算出の注目度): 142.24869736769432
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Object detection plays a key role in many security-critical systems.
Adversarial patch attacks, which are easy to implement in the physical world,
pose a serious threat to state-of-the-art object detectors. Developing reliable
defenses for object detectors against patch attacks is critical but severely
understudied. In this paper, we propose Segment and Complete defense (SAC), a
general framework for defending object detectors against patch attacks through
detecting and removing adversarial patches. We first train a patch segmenter
that outputs patch masks that provide pixel-level localization of adversarial
patches. We then propose a self adversarial training algorithm to robustify the
patch segmenter. In addition, we design a robust shape completion algorithm,
which is guaranteed to remove the entire patch from the images given the
outputs of the patch segmenter are within a certain Hamming distance of the
ground-truth patch masks. Our experiments on COCO and xView datasets
demonstrate that SAC achieves superior robustness even under strong adaptive
attacks with no performance drop on clean images, and generalizes well to
unseen patch shapes, attack budgets, and unseen attack methods. Furthermore, we
present the APRICOT-Mask dataset, which augments the APRICOT dataset with
pixel-level annotations of adversarial patches. We show SAC can significantly
reduce the targeted attack success rate of physical patch attacks.
- Abstract(参考訳): オブジェクト検出は多くのセキュリティクリティカルなシステムにおいて重要な役割を果たす。
物理的な世界で容易に実装できる敵のパッチ攻撃は、最先端の物体検出装置に深刻な脅威をもたらす。
パッチ攻撃に対する物体探知器の信頼性の高い防御を開発することは重要であるが、厳格に検討されている。
本稿では,敵パッチの検出・削除を通じて,対象検知器をパッチ攻撃から守るための一般的なフレームワークであるSegment and Complete Defense (SAC)を提案する。
まず、逆パッチの画素レベルのローカライゼーションを提供するパッチマスクを出力するパッチセグメンタを訓練する。
次に、パッチセグメンタを堅牢化するための自己逆行訓練アルゴリズムを提案する。
さらに,パッチセグメンタの出力が接地トラス・パッチマスクの一定のハミング距離内にある場合,画像からパッチ全体を除去することが保証される頑健な形状補完アルゴリズムを設計する。
COCOおよびxViewデータセットに対する実験により、SACは、クリーンな画像に性能低下のない強い適応攻撃でも優れた堅牢性を実現し、見えないパッチ形状、アタック予算、および見えないアタック手法によく適応できることを示した。
さらに,APRICOT-Maskデータセットを提案する。APRICOTデータセットは,逆パッチの画素レベルのアノテーションで拡張される。
SACは、物理的パッチ攻撃の標的攻撃成功率を著しく低減できることを示す。
関連論文リスト
- Task-agnostic Defense against Adversarial Patch Attacks [25.15948648034204]
対向パッチは、指定された局所領域内に対向画素を注入することにより、誤誘導ニューラルネットワークを攻撃する。
我々は、ホワイトボックスの敵パッチに対するタスク非依存の防御であるPatchZeroを提示する。
本手法は, 良性性能の劣化を伴わずに, SOTAの頑健な精度を実現する。
論文 参考訳(メタデータ) (2022-07-05T03:49:08Z) - ObjectSeeker: Certifiably Robust Object Detection against Patch Hiding
Attacks via Patch-agnostic Masking [95.6347501381882]
物体探知機は物理的世界のパッチ隠蔽攻撃に弱いことが判明した。
我々は,堅牢なオブジェクト検出器を構築するためのフレームワークとしてObjectSeekerを提案する。
論文 参考訳(メタデータ) (2022-02-03T19:34:25Z) - PatchGuard++: Efficient Provable Attack Detection against Adversarial
Patches [28.94435153159868]
逆パッチは、制限領域内の画像画素を任意に操作して、モデル誤分類を誘導することができる。
最近の堅牢な防御は、通常、小さな受容フィールドを持つCNNを使用することで、パッチガードフレームワークに従います。
PatchGuardをPatchGuard++に拡張し、敵のパッチ攻撃を確実に検出し、証明可能な堅牢な精度とクリーンな精度を向上します。
論文 参考訳(メタデータ) (2021-04-26T14:22:33Z) - RPATTACK: Refined Patch Attack on General Object Detectors [31.28929190510979]
汎用物体検出器を攻撃する新しいパッチベースの手法を提案する。
私たちの RPAttack は、Yolo v4 と Faster R-CNN の両方で、驚異的なミス検出率 100% を達成できます。
論文 参考訳(メタデータ) (2021-03-23T11:45:41Z) - The Translucent Patch: A Physical and Universal Attack on Object
Detectors [48.31712758860241]
最先端の物体検出器を馬鹿にする非接触の物理パッチを提案する。
パッチの主な目標は、選択されたターゲットクラスのすべてのインスタンスを隠すことです。
我々のパッチは、すべてのストップサインインスタンスの42.27%の検出を阻止できた。
論文 参考訳(メタデータ) (2020-12-23T07:47:13Z) - DPAttack: Diffused Patch Attacks against Universal Object Detection [66.026630370248]
対象検出に対する敵対攻撃は、全画素攻撃とパッチ攻撃の2つのカテゴリに分けられる。
小惑星や格子状形状の拡散パッチを用いて物体検出装置を騙すための拡散パッチ攻撃(textbfDPAttack)を提案する。
実験の結果、我々のDPAttackは拡散パッチでほとんどの物体検出器を騙すことに成功した。
論文 参考訳(メタデータ) (2020-10-16T04:48:24Z) - PatchGuard: A Provably Robust Defense against Adversarial Patches via
Small Receptive Fields and Masking [46.03749650789915]
画像の制限領域内の画素を任意に修正することで、機械学習モデルの誤分類を誘発することを目的としている。
そこで我々はPatchGuardという汎用防衛フレームワークを提案する。このフレームワークは、局所的な敵パッチに対して高い清潔さを維持しつつ、高い堅牢性を達成できる。
論文 参考訳(メタデータ) (2020-05-17T03:38:34Z) - Certified Defenses for Adversarial Patches [72.65524549598126]
敵パッチ攻撃は、現実世界のコンピュータビジョンシステムに対する最も実用的な脅威モデルの一つである。
本稿では,パッチアタックに対する認証と実証的防御について検討する。
論文 参考訳(メタデータ) (2020-03-14T19:57:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。