論文の概要: Query-Efficient Decision-based Black-Box Patch Attack

• arxiv url: http://arxiv.org/abs/2307.00477v1
• Date: Sun, 2 Jul 2023 05:15:43 GMT
• ステータス: 処理完了
• システム内更新日: 2023-07-05 15:57:51.841040
• Title: Query-Efficient Decision-based Black-Box Patch Attack
• Title（参考訳）: クエリ効率の良い決定型ブラックボックスパッチアタック
• Authors: Zhaoyu Chen, Bo Li, Shuang Wu, Shouhong Ding, Wenqiang Zhang
• Abstract要約: 本稿では,クエリ効率の高い決定ベースのパッチアタックに対して,DevoPatchという微分進化アルゴリズムを提案する。 DevoPatchは、パッチ領域とアタック成功率の点で、最先端のブラックボックスパッチ攻撃を上回っている。 本稿では,ViTの脆弱性評価と画像分類を,初めて決定ベースのパッチアタック設定で実施する。
• 参考スコア（独自算出の注目度）: 36.043297146652414
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep neural networks (DNNs) have been showed to be highly vulnerable to imperceptible adversarial perturbations. As a complementary type of adversary, patch attacks that introduce perceptible perturbations to the images have attracted the interest of researchers. Existing patch attacks rely on the architecture of the model or the probabilities of predictions and perform poorly in the decision-based setting, which can still construct a perturbation with the minimal information exposed -- the top-1 predicted label. In this work, we first explore the decision-based patch attack. To enhance the attack efficiency, we model the patches using paired key-points and use targeted images as the initialization of patches, and parameter optimizations are all performed on the integer domain. Then, we propose a differential evolutionary algorithm named DevoPatch for query-efficient decision-based patch attacks. Experiments demonstrate that DevoPatch outperforms the state-of-the-art black-box patch attacks in terms of patch area and attack success rate within a given query budget on image classification and face verification. Additionally, we conduct the vulnerability evaluation of ViT and MLP on image classification in the decision-based patch attack setting for the first time. Using DevoPatch, we can evaluate the robustness of models to black-box patch attacks. We believe this method could inspire the design and deployment of robust vision models based on various DNN architectures in the future.
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)は、知覚不能な逆境摂動に対して非常に脆弱であることが示されている。 画像に知覚的な摂動をもたらすパッチ攻撃は、相補的な種類の敵として研究者の興味を惹きつけている。 既存のパッチ攻撃は、モデルのアーキテクチャや予測の確率に依存しており、決定ベースの設定では不十分である。 本研究ではまず,意思決定に基づくパッチ攻撃について検討する。 攻撃効率を向上させるために,ペアのキーポイントを用いてパッチをモデル化し,パッチの初期化としてターゲットイメージを使用し,パラメータ最適化を整数領域で行う。 次に,クエリ効率の高い決定ベースパッチ攻撃のための微分進化アルゴリズムであるdevopatchを提案する。 DevoPatchは、画像分類と顔認証に関する所定のクエリ予算内で、パッチ領域やアタック成功率の観点から、最先端のブラックボックスパッチ攻撃よりも優れています。 また,vitとmlpによる画像分類の脆弱性評価を,決定に基づくパッチアタック設定において初めて実施する。 DevoPatchを使うことで、ブラックボックスパッチ攻撃に対するモデルの堅牢性を評価することができる。 本手法は将来,様々なDNNアーキテクチャに基づく堅牢な視覚モデルの設計と展開を刺激する可能性がある。

関連論文リスト

• Efficient Decision-based Black-box Patch Attacks on Video Recognition [33.5640770588839]
  この研究はまず、意思決定に基づくビデオモデルに対するパッチ攻撃について検討する。 問合せ効率の高い攻撃を実現するために,時空間差分進化フレームワークを提案する。 STDEは、脅威、効率、非受容性の点で最先端のパフォーマンスを実証している。
  論文  参考訳（メタデータ） (2023-03-21T15:08:35Z)
• Task-agnostic Defense against Adversarial Patch Attacks [25.15948648034204]
  対向パッチは、指定された局所領域内に対向画素を注入することにより、誤誘導ニューラルネットワークを攻撃する。 我々は、ホワイトボックスの敵パッチに対するタスク非依存の防御であるPatchZeroを提示する。 本手法は, 良性性能の劣化を伴わずに, SOTAの頑健な精度を実現する。
  論文  参考訳（メタデータ） (2022-07-05T03:49:08Z)
• Segment and Complete: Defending Object Detectors against Adversarial Patch Attacks with Robust Patch Detection [142.24869736769432]
  敵のパッチ攻撃は最先端の物体検出器に深刻な脅威をもたらす。 パッチ攻撃に対して物体検出器を防御するフレームワークであるSegment and Complete Defense (SAC)を提案する。 SACは、物理的パッチ攻撃の標的攻撃成功率を著しく低減できることを示す。
  論文  参考訳（メタデータ） (2021-12-08T19:18:48Z)
• PatchGuard++: Efficient Provable Attack Detection against Adversarial Patches [28.94435153159868]
  逆パッチは、制限領域内の画像画素を任意に操作して、モデル誤分類を誘導することができる。 最近の堅牢な防御は、通常、小さな受容フィールドを持つCNNを使用することで、パッチガードフレームワークに従います。 PatchGuardをPatchGuard++に拡張し、敵のパッチ攻撃を確実に検出し、証明可能な堅牢な精度とクリーンな精度を向上します。
  論文  参考訳（メタデータ） (2021-04-26T14:22:33Z)
• Attack Agnostic Adversarial Defense via Visual Imperceptible Bound [70.72413095698961]
  本研究の目的は、目視攻撃と目視攻撃の両方に対して一定の範囲内で堅牢な防衛モデルを設計することである。 提案するディフェンスモデルは,MNIST,CIFAR-10,Tiny ImageNetデータベース上で評価される。 提案アルゴリズムは攻撃非依存であり,攻撃アルゴリズムの知識を必要としない。
  論文  参考訳（メタデータ） (2020-10-25T23:14:26Z)
• Generating Adversarial yet Inconspicuous Patches with a Single Image [15.217367754000913]
  そこで本研究では, 対角的かつ不明瞭なパッチを単一画像で生成する手法を提案する。 提案手法では,複数スケールのジェネレータと識別器を用いて,逆パッチを粗大な方法で生成する。 我々のap-proachは、ホワイトボックスとブラックボックスの両方で強力な攻撃能力を示している。
  論文  参考訳（メタデータ） (2020-09-21T11:56:01Z)
• Decision-based Universal Adversarial Attack [55.76371274622313]
  ブラックボックス設定では、現在の普遍的敵攻撃法は代用モデルを用いて摂動を生成する。 効率的な決定に基づくユニバーサルアタック(DUAttack)を提案する。 DUAttackの有効性は、他の最先端攻撃との比較によって検証される。
  論文  参考訳（メタデータ） (2020-09-15T12:49:03Z)
• Patch-wise Attack for Fooling Deep Neural Network [153.59832333877543]
  我々は,一般的な訓練と防御モデルに対するブラックボックス攻撃であるパッチワイド反復アルゴリズムを提案する。 我々は、防衛モデルで9.2%、通常訓練されたモデルで3.7%、成功率で著しく改善した。
  論文  参考訳（メタデータ） (2020-07-14T01:50:22Z)
• Bias-based Universal Adversarial Patch Attack for Automatic Check-out [59.355948824578434]
  逆の例は、ディープニューラルネットワーク(DNN)を簡単に誤解させる、知覚不能な摂動を持つ入力である。 既存の戦略は強力な一般化能力を持つ敵パッチを生成できなかった。 本稿では,強い一般化能力を持つクラス非依存の普遍的敵パッチを生成するためのバイアスベースのフレームワークを提案する。
  論文  参考訳（メタデータ） (2020-05-19T07:38:54Z)
• PatchAttack: A Black-box Texture-based Attack with Reinforcement Learning [31.255179167694887]
  パッチベースの攻撃は、誤分類を引き起こす入力に認識できるが局所的な変更をもたらす。 提案したPatchAttackは、クエリ効率が高く、ターゲットと非ターゲットの両方の攻撃のモデルを壊すことができる。
  論文  参考訳（メタデータ） (2020-04-12T19:31:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。