論文の概要: Evaluating the Robustness of Semantic Segmentation for Autonomous Driving against Real-World Adversarial Patch Attacks

• arxiv url: http://arxiv.org/abs/2108.06179v1
• Date: Fri, 13 Aug 2021 11:49:09 GMT
• ステータス: 処理完了
• システム内更新日: 2021-08-16 13:07:23.105407
• Title: Evaluating the Robustness of Semantic Segmentation for Autonomous Driving against Real-World Adversarial Patch Attacks
• Title（参考訳）: 実世界の対向パッチ攻撃に対する自律運転のための意味セグメンテーションのロバスト性評価
• Authors: Federico Nesti, Giulio Rossolini, Saasha Nair, Alessandro Biondi, Giorgio Buttazzo
• Abstract要約: 自動運転車のような現実のシナリオでは、現実の敵例(RWAE)にもっと注意を払わなければならない。 本稿では,デジタルおよび実世界の敵対パッチの効果を検証し,一般的なSSモデルのロバスト性を詳細に評価する。
• 参考スコア（独自算出の注目度）: 62.87459235819762
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Deep learning and convolutional neural networks allow achieving impressive performance in computer vision tasks, such as object detection and semantic segmentation (SS). However, recent studies have shown evident weaknesses of such models against adversarial perturbations. In a real-world scenario instead, like autonomous driving, more attention should be devoted to real-world adversarial examples (RWAEs), which are physical objects (e.g., billboards and printable patches) optimized to be adversarial to the entire perception pipeline. This paper presents an in-depth evaluation of the robustness of popular SS models by testing the effects of both digital and real-world adversarial patches. These patches are crafted with powerful attacks enriched with a novel loss function. Firstly, an investigation on the Cityscapes dataset is conducted by extending the Expectation Over Transformation (EOT) paradigm to cope with SS. Then, a novel attack optimization, called scene-specific attack, is proposed. Such an attack leverages the CARLA driving simulator to improve the transferability of the proposed EOT-based attack to a real 3D environment. Finally, a printed physical billboard containing an adversarial patch was tested in an outdoor driving scenario to assess the feasibility of the studied attacks in the real world. Exhaustive experiments revealed that the proposed attack formulations outperform previous work to craft both digital and real-world adversarial patches for SS. At the same time, the experimental results showed how these attacks are notably less effective in the real world, hence questioning the practical relevance of adversarial attacks to SS models for autonomous/assisted driving.
• Abstract（参考訳）: ディープラーニングと畳み込みニューラルネットワークは、オブジェクト検出やセマンティックセグメンテーション(ss)など、コンピュータビジョンタスクで印象的なパフォーマンスを実現する。 しかし、近年の研究では、そのようなモデルの敵対的摂動に対する弱さが示されている。 代わりに、自律運転のような現実のシナリオでは、知覚パイプライン全体と敵対するように最適化された物理的なオブジェクト(例えば、看板やプリント可能なパッチ)である現実世界の敵の例(RWAE)により多くの注意を払わなければならない。 本稿では,デジタルおよび実世界の敵対パッチの効果を検証し,一般的なSSモデルのロバスト性を詳細に評価する。 これらのパッチは、新しい損失関数に富んだ強力な攻撃で作成されている。 まず、ssに対応するために、eot(expectation over transformation)パラダイムを拡張して、cityscapesデータセットに関する調査を行う。 そこで,シーン特異的攻撃と呼ばれる新たな攻撃最適化を提案する。 このような攻撃は、CARLA駆動シミュレータを利用して、提案したEOTベースの攻撃の実際の3D環境への転送性を向上させる。 最後に, 実環境における攻撃の可能性を評価するために, 屋外運転シナリオにおいて, 逆境パッチを含む印刷された物理的看板をテストした。 発掘実験により、提案された攻撃の定式化は、SSのためのデジタルと現実世界の両方の敵パッチを構築するために、以前の作業より優れていることが明らかになった。 同時に、実験結果は、これらの攻撃が現実世界において特に効果が低いことを示し、それゆえ、自律運転のためのssモデルに対する敵意攻撃の実際的妥当性を疑問視した。

関連論文リスト

• Transient Adversarial 3D Projection Attacks on Object Detection in Autonomous Driving [15.516055760190884]
  本稿では,自律運転シナリオにおける物体検出を対象とする3Dプロジェクション攻撃を提案する。 本研究は, YOLOv3 と Mask R-CNN の物理環境における攻撃効果を示すものである。
  論文  参考訳（メタデータ） (2024-09-25T22:27:11Z)
• Rethinking Targeted Adversarial Attacks For Neural Machine Translation [56.10484905098989]
  本報告では,NMTが標的とする敵攻撃に対して,信頼性の高い攻撃結果をもたらす可能性のある新たな設定を提案する。 新しい設定では、敵の例を作成するためのTWGA(Targeted Word Gradient Adversarial Attack)手法を提案する。 実験の結果,提案手法はNMTシステムに対する敵攻撃に対して忠実な攻撃効果をもたらす可能性が示唆された。
  論文  参考訳（メタデータ） (2024-07-07T10:16:06Z)
• TPatch: A Triggered Physical Adversarial Patch [19.768494127237393]
  音響信号によって引き起こされる物理的対向パッチであるTPatchを提案する。 運転者の疑念を避けるため,コンテンツベースカモフラージュ法と攻撃強化法を提案する。
  論文  参考訳（メタデータ） (2023-12-30T06:06:01Z)
• REAP: A Large-Scale Realistic Adversarial Patch Benchmark [14.957616218042594]
  アドリアパッチ攻撃は、自動運転車のようなカメラに依存するサイバー物理システムにとって重大な脅威となる。 実際の画像に対するパッチアタックをユーザが評価できるデジタルベンチマークであるREAPベンチマークを提案する。 Mapillary Vistasデータセットの上に構築された私たちのベンチマークには、14,000以上のトラフィックサインが含まれています。
  論文  参考訳（メタデータ） (2022-12-12T03:35:05Z)
• Physical Adversarial Attack meets Computer Vision: A Decade Survey [55.38113802311365]
  本稿では,身体的敵意攻撃の概要を概観する。 本研究は,身体的敵意攻撃の性能を体系的に評価する第一歩を踏み出した。 提案する評価基準であるhiPAAは6つの視点から構成される。
  論文  参考訳（メタデータ） (2022-09-30T01:59:53Z)
• Defending From Physically-Realizable Adversarial Attacks Through Internal Over-Activation Analysis [61.68061613161187]
  Z-Maskは、敵の攻撃に対する畳み込みネットワークの堅牢性を改善するための堅牢で効果的な戦略である。 提示されたディフェンスは、入力画像中の対向対象に対応する画素を検出し、隠蔽するために、内部ネットワーク機能で実行される特定のZスコア解析に依存する。 追加の実験では、Z-Maskは防衛対応攻撃に対して堅牢であることが示された。
  論文  参考訳（メタデータ） (2022-03-14T17:41:46Z)
• Shadows can be Dangerous: Stealthy and Effective Physical-world Adversarial Attack by Natural Phenomenon [79.33449311057088]
  我々は、非常に一般的な自然現象であるシャドーによって摂動が生じる新しい種類の光対角運動例について研究する。 我々は,シミュレーション環境と実環境の両方において,この新たな攻撃の有効性を広く評価した。
  論文  参考訳（メタデータ） (2022-03-08T02:40:18Z)
• On the Real-World Adversarial Robustness of Real-Time Semantic Segmentation Models for Autonomous Driving [59.33715889581687]
  現実世界の敵対的な例(通常はパッチの形で)の存在は、安全クリティカルなコンピュータビジョンタスクにおけるディープラーニングモデルの使用に深刻な脅威をもたらす。 本稿では,異なる種類の対立パッチを攻撃した場合のセマンティックセグメンテーションモデルのロバスト性を評価する。 画素の誤分類を誘導する攻撃者の能力を改善するために, 新たな損失関数を提案する。
  論文  参考訳（メタデータ） (2022-01-05T22:33:43Z)
• SLAP: Improving Physical Adversarial Examples with Short-Lived Adversarial Perturbations [19.14079118174123]
  Short-Lived Adrial Perturbations (SLAP) は、光プロジェクターを用いて、敵が物理的に堅牢な現実世界のAEを実現できる新しい技術である。 SLAPは、敵のパッチよりも敵の攻撃に対するコントロールを大きくする。 自動走行シナリオにおけるSLAPの実現可能性について検討し,物体検出タスクと交通標識認識タスクの両方を対象として検討した。
  論文  参考訳（メタデータ） (2020-07-08T14:11:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。