論文の概要: Towards Physically-Realizable Adversarial Attacks in Embodied Vision Navigation

• arxiv url: http://arxiv.org/abs/2409.10071v1
• Date: Mon, 16 Sep 2024 08:21:22 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-17 16:21:11.835344
• Title: Towards Physically-Realizable Adversarial Attacks in Embodied Vision Navigation
• Title（参考訳）: 身体視ナビゲーションにおける物理的に再現可能な敵攻撃に向けて
• Authors: Meng Chen, Jiawei Tu, Chao Qi, Yonghao Dang, Feng Zhou, Wei Wei, Jianqin Yin,
• Abstract要約: 本稿では,学習可能なテクスチャと不透明度を持つ対向パッチをオブジェクトにアタッチすることで,ナビゲーションを具体化するための実用的な攻撃手法を提案する。 実験の結果,我々の敵パッチは航法成功率を約40%削減し,実用性,有効性,自然性において従来の手法よりも優れていた。
• 参考スコア（独自算出の注目度）: 18.218913010189237
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The deployment of embodied navigation agents in safety-critical environments raises concerns about their vulnerability to adversarial attacks on deep neural networks. However, current attack methods often lack practicality due to challenges in transitioning from the digital to the physical world, while existing physical attacks for object detection fail to achieve both multi-view effectiveness and naturalness. To address this, we propose a practical attack method for embodied navigation by attaching adversarial patches with learnable textures and opacity to objects. Specifically, to ensure effectiveness across varying viewpoints, we employ a multi-view optimization strategy based on object-aware sampling, which uses feedback from the navigation model to optimize the patch's texture. To make the patch inconspicuous to human observers, we introduce a two-stage opacity optimization mechanism, where opacity is refined after texture optimization. Experimental results show our adversarial patches reduce navigation success rates by about 40%, outperforming previous methods in practicality, effectiveness, and naturalness. Code is available at: [https://github.com/chen37058/Physical-Attacks-in-Embodied-Navigation].
• Abstract（参考訳）: 安全クリティカルな環境におけるエンボディドナビゲーションエージェントの展開は、ディープニューラルネットワークに対する敵の攻撃に対する脆弱性に対する懸念を引き起こす。 しかし、現在の攻撃法は、デジタルから物理世界へ移行する際の課題により実用性に欠けることが多いが、既存の物体検出の物理的攻撃は、多視点の有効性と自然性の両方を達成できない。 そこで本研究では,学習可能なテクスチャと不透明度を対象物に付加することで,現実的なナビゲーション攻撃手法を提案する。 具体的には、様々な視点で有効性を確保するために、ナビゲーションモデルからのフィードバックを用いてパッチのテクスチャを最適化するオブジェクト認識サンプリングに基づく多視点最適化戦略を採用する。 このパッチを人間の観察者にとって目立たないものにするため、テクスチャ最適化後に不透明度を洗練させる2段階不透明度最適化機構を導入する。 実験の結果,我々の敵パッチは航法成功率を約40%削減し,実用性,有効性,自然性において従来の手法よりも優れていた。 コードは、[https://github.com/chen37058/Physical-Attacks-in-Embodied-Navigation]で入手できる。

関連論文リスト

• Environmental Matching Attack Against Unmanned Aerial Vehicles Object Detection [37.77615360932841]
  無人航空機の物体検出技術はディープニューラルネットワーク(DNN)に依存している UAV領域の既存のアルゴリズムによって生成された敵パッチは、敵パッチの自然性にはほとんど注意を払わない。 本研究では,環境マッチング攻撃(EMA)と呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-05-13T09:56:57Z)
• Dual Adversarial Resilience for Collaborating Robust Underwater Image Enhancement and Perception [54.672052775549]
  本研究では,水中画像の強調と検出を行うために,CARNetと呼ばれる協調的対向レジリエンスネットワークを導入する。 本稿では,ネットワークが様々な種類の攻撃を識別・除去できるように,視覚駆動型と知覚駆動型の両方による同時攻撃訓練戦略を提案する。 実験により,提案手法は画像の高画質化を図り,最先端の手法よりも平均6.71%高い検出精度が得られた。
  論文  参考訳（メタデータ） (2023-09-03T06:52:05Z)
• Unified Adversarial Patch for Visible-Infrared Cross-modal Attacks in the Physical World [11.24237636482709]
  我々は,単一パッチを同時に両モードで回避し,クロスモーダルな物理的攻撃を行える統一逆襲パッチを設計する。 本稿では, 対向パッチのコンパクトかつ滑らかな形状を実現することを目的とした, 境界制限型形状最適化手法を提案する。 提案手法はいくつかの最先端物体検出器に対して評価され,アタック成功率 (ASR) は80%以上である。
  論文  参考訳（メタデータ） (2023-07-27T08:14:22Z)
• Improving Adversarial Robustness to Sensitivity and Invariance Attacks with Deep Metric Learning [80.21709045433096]
  対向ロバスト性の標準的な方法は、サンプルを最小に摂動させることによって作られたサンプルに対して防御する枠組みを仮定する。 距離学習を用いて、最適輸送問題として逆正則化をフレーム化する。 予備的な結果から, 変分摂動の規則化は, 変分防御と敏感防御の両方を改善することが示唆された。
  論文  参考訳（メタデータ） (2022-11-04T13:54:02Z)
• Benchmarking Adversarial Patch Against Aerial Detection [11.591143898488312]
  適応パッチに基づく新しい物理攻撃(AP-PA)フレームワークを提案する。 AP-PAは、物理力学と様々なスケールに適応する逆パッチを生成する。 航空探知作業における敵パッチの攻撃効果を評価するため, 包括的, 一貫性, 厳密なベンチマークを最初に確立した。
  論文  参考訳（メタデータ） (2022-10-30T07:55:59Z)
• Shadows can be Dangerous: Stealthy and Effective Physical-world Adversarial Attack by Natural Phenomenon [79.33449311057088]
  我々は、非常に一般的な自然現象であるシャドーによって摂動が生じる新しい種類の光対角運動例について研究する。 我々は,シミュレーション環境と実環境の両方において,この新たな攻撃の有効性を広く評価した。
  論文  参考訳（メタデータ） (2022-03-08T02:40:18Z)
• Developing Imperceptible Adversarial Patches to Camouflage Military Assets From Computer Vision Enabled Technologies [0.0]
  畳み込みニューラルネットワーク(CNN)は、オブジェクト検出の急速な進歩と高いレベルの成功を示している。 最近の証拠は敵の攻撃に対する脆弱性を浮き彫りにした。 本稿では、大規模な軍事資産を模倣することのできる、知覚不能なパッチを生成するユニークな方法を提案する。
  論文  参考訳（メタデータ） (2022-02-17T20:31:51Z)
• On the Real-World Adversarial Robustness of Real-Time Semantic Segmentation Models for Autonomous Driving [59.33715889581687]
  現実世界の敵対的な例(通常はパッチの形で)の存在は、安全クリティカルなコンピュータビジョンタスクにおけるディープラーニングモデルの使用に深刻な脅威をもたらす。 本稿では,異なる種類の対立パッチを攻撃した場合のセマンティックセグメンテーションモデルのロバスト性を評価する。 画素の誤分類を誘導する攻撃者の能力を改善するために, 新たな損失関数を提案する。
  論文  参考訳（メタデータ） (2022-01-05T22:33:43Z)
• Evaluating the Robustness of Semantic Segmentation for Autonomous Driving against Real-World Adversarial Patch Attacks [62.87459235819762]
  自動運転車のような現実のシナリオでは、現実の敵例(RWAE)にもっと注意を払わなければならない。 本稿では,デジタルおよび実世界の敵対パッチの効果を検証し,一般的なSSモデルのロバスト性を詳細に評価する。
  論文  参考訳（メタデータ） (2021-08-13T11:49:09Z)
• Physical world assistive signals for deep neural network classifiers -- neither defense nor attack [23.138996515998347]
  攻撃中であろうとなかろうと、モデルの信頼度スコアを改善するために最適化されたアシスト信号の概念を導入する。 本手法により生成された補助信号が深層モデルの精度と信頼性を高めることを実験的に評価した。 我々は、現実世界の物体の検知可能性に寄与する可能性のあるパターンを再考したり、回避するために、これらの洞察を利用する方法について議論する。
  論文  参考訳（メタデータ） (2021-05-03T04:02:48Z)
• Temporally-Transferable Perturbations: Efficient, One-Shot Adversarial Attacks for Online Visual Object Trackers [81.90113217334424]
  本研究では, オブジェクトテンプレート画像からのみ, 一時移動可能な対人的摂動を生成するフレームワークを提案する。 この摂動はあらゆる検索画像に追加され、事実上何のコストもかからないが、それでもトラッカーを騙すのに成功している。
  論文  参考訳（メタデータ） (2020-12-30T15:05:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。