論文の概要: Shadows can be Dangerous: Stealthy and Effective Physical-world Adversarial Attack by Natural Phenomenon

• arxiv url: http://arxiv.org/abs/2203.03818v2
• Date: Wed, 9 Mar 2022 12:06:47 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-10 13:57:12.273922
• Title: Shadows can be Dangerous: Stealthy and Effective Physical-world Adversarial Attack by Natural Phenomenon
• Title（参考訳）: 影は危険である - 自然現象によるステルス的かつ効果的な物理世界敵の攻撃
• Authors: Yiqi Zhong, Xianming Liu, Deming Zhai, Junjun Jiang, Xiangyang Ji
• Abstract要約: 我々は、非常に一般的な自然現象であるシャドーによって摂動が生じる新しい種類の光対角運動例について研究する。 我々は,シミュレーション環境と実環境の両方において,この新たな攻撃の有効性を広く評価した。
• 参考スコア（独自算出の注目度）: 79.33449311057088
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Estimating the risk level of adversarial examples is essential for safely deploying machine learning models in the real world. One popular approach for physical-world attacks is to adopt the "sticker-pasting" strategy, which however suffers from some limitations, including difficulties in access to the target or printing by valid colors. A new type of non-invasive attacks emerged recently, which attempt to cast perturbation onto the target by optics based tools, such as laser beam and projector. However, the added optical patterns are artificial but not natural. Thus, they are still conspicuous and attention-grabbed, and can be easily noticed by humans. In this paper, we study a new type of optical adversarial examples, in which the perturbations are generated by a very common natural phenomenon, shadow, to achieve naturalistic and stealthy physical-world adversarial attack under the black-box setting. We extensively evaluate the effectiveness of this new attack on both simulated and real-world environments. Experimental results on traffic sign recognition demonstrate that our algorithm can generate adversarial examples effectively, reaching 98.23% and 90.47% success rates on LISA and GTSRB test sets respectively, while continuously misleading a moving camera over 95% of the time in real-world scenarios. We also offer discussions about the limitations and the defense mechanism of this attack.
• Abstract（参考訳）: 実世界で機械学習モデルを安全にデプロイするには、敵例のリスクレベルの推定が不可欠である。 物理世界の攻撃の1つの一般的なアプローチは「ステッカーパッチ」戦略を採用することであるが、ターゲットへのアクセスの困難や有効色による印刷などいくつかの制限に悩まされている。 レーザービームやプロジェクターなどの光学ベースのツールによって、標的に摂動を投射しようとする新しいタイプの非侵襲的な攻撃が最近現れた。 しかし、追加の光学パターンは人工的だが自然ではない。 このように、それらは依然として目立たしく、注意を払っており、容易に人間に気づくことができる。 そこで本研究では,ブラックボックス環境下での自然現象,シャドーによって摂動が発生し,自然主義的かつステルス的な物理世界対人攻撃を実現する新しいタイプの光対人攻撃事例について検討する。 シミュレーションと実環境の両方において,この新たな攻撃の有効性を広く評価した。 リサとgtsrbのテストセットでそれぞれ98.23%と90.47%の成功率に達し、実世界のシナリオでは95%以上移動中のカメラを誤解させながら、トラヒックサイン認識の実験結果が示されています。 また、この攻撃の制限と防御機構についても議論する。

関連論文リスト

• Why Don't You Clean Your Glasses? Perception Attacks with Dynamic Optical Perturbations [17.761200546223442]
  敵の攻撃を物理的世界に適応させることが、攻撃者にとって望ましい。 EvilEyeは、ディスプレイを透過的に利用し、ダイナミックな物理的逆転の例を生成する、中間者認識攻撃である。
  論文  参考訳（メタデータ） (2023-07-24T21:16:38Z)
• Content-based Unrestricted Adversarial Attack [53.181920529225906]
  本稿では,コンテンツベース非制限攻撃という新たな非制限攻撃フレームワークを提案する。 自然像を表す低次元多様体を利用することで、像を多様体上に写像し、その逆方向に沿って最適化する。
  論文  参考訳（メタデータ） (2023-05-18T02:57:43Z)
• Physical Adversarial Attack meets Computer Vision: A Decade Survey [55.38113802311365]
  本稿では,身体的敵意攻撃の概要を概観する。 本研究は,身体的敵意攻撃の性能を体系的に評価する第一歩を踏み出した。 提案する評価基準であるhiPAAは6つの視点から構成される。
  論文  参考訳（メタデータ） (2022-09-30T01:59:53Z)
• Adversarial Catoptric Light: An Effective, Stealthy and Robust Physical-World Attack to DNNs [0.0]
  本研究では, 自然現象である陰極光を用いて, 対向性摂動を発生させる新しい物理的攻撃, 対向性陰極光(AdvCL)を紹介する。 提案手法は, 有効性, ステルス性, 堅牢性の3つの側面で評価する。 攻撃成功率は83.5%で、ベースラインを超えています。
  論文  参考訳（メタデータ） (2022-09-19T12:33:46Z)
• Adversarial Color Projection: A Projector-based Physical Attack to DNNs [3.9477796725601872]
  逆色投影(AdvCP)と呼ばれるブラックボックスプロジェクタによる物理的攻撃を提案する。 ImageNetのサブセットで97.60%の攻撃成功率を達成する一方、物理的な環境では100%の攻撃成功率を得る。 先進DNNを攻撃した場合, 実験結果から, 攻撃成功率85%以上が得られることが示された。
  論文  参考訳（メタデータ） (2022-09-19T12:27:32Z)
• Real-World Adversarial Examples involving Makeup Application [58.731070632586594]
  フルフェイスメイクを用いた身体的敵攻撃を提案する。 我々の攻撃は、色や位置関連エラーなどのメークアップアプリケーションにおける手動エラーを効果的に克服できる。
  論文  参考訳（メタデータ） (2021-09-04T05:29:28Z)
• Evaluating the Robustness of Semantic Segmentation for Autonomous Driving against Real-World Adversarial Patch Attacks [62.87459235819762]
  自動運転車のような現実のシナリオでは、現実の敵例(RWAE)にもっと注意を払わなければならない。 本稿では,デジタルおよび実世界の敵対パッチの効果を検証し,一般的なSSモデルのロバスト性を詳細に評価する。
  論文  参考訳（メタデータ） (2021-08-13T11:49:09Z)
• Demiguise Attack: Crafting Invisible Semantic Adversarial Perturbations with Perceptual Similarity [5.03315505352304]
  敵対的な例は、視覚的に知覚できない摂動を持つ悪意のあるイメージである。 我々は、知覚的類似性による非制限の摂動を創りだすデミガイズアタックを提案する。 我々のアプローチでは、広く利用されている攻撃を拡大し、敵に対する効果を著しく高めつつ、認識不能に寄与する。
  論文  参考訳（メタデータ） (2021-07-03T10:14:01Z)
• SPAA: Stealthy Projector-based Adversarial Attacks on Deep Image Classifiers [82.19722134082645]
  本稿では,ステルスプロジェクタを用いた対向攻撃を提案する。 PCNetというディープニューラルネットワークを用いて実際のプロジェクトとキャプチャ操作を推定します。 実験の結果,SPAAは高い攻撃成功率を達成し,他の手法よりも優れていることがわかった。
  論文  参考訳（メタデータ） (2020-12-10T18:14:03Z)
• SLAP: Improving Physical Adversarial Examples with Short-Lived Adversarial Perturbations [19.14079118174123]
  Short-Lived Adrial Perturbations (SLAP) は、光プロジェクターを用いて、敵が物理的に堅牢な現実世界のAEを実現できる新しい技術である。 SLAPは、敵のパッチよりも敵の攻撃に対するコントロールを大きくする。 自動走行シナリオにおけるSLAPの実現可能性について検討し,物体検出タスクと交通標識認識タスクの両方を対象として検討した。
  論文  参考訳（メタデータ） (2020-07-08T14:11:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。