論文の概要: Dynamic Adversarial Attacks on Autonomous Driving Systems

• arxiv url: http://arxiv.org/abs/2312.06701v2
• Date: Wed, 15 May 2024 05:24:31 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-16 18:12:17.957831
• Title: Dynamic Adversarial Attacks on Autonomous Driving Systems
• Title（参考訳）: 自律走行システムにおける動的対向攻撃
• Authors: Amirhosein Chahe, Chenan Wang, Abhishek Jeyapratap, Kaidi Xu, Lifeng Zhou,
• Abstract要約: 本稿では,自律走行システムのレジリエンスに挑戦する攻撃機構を提案する。 我々は、他の移動車に搭載された画面に対向パッチを動的に表示することにより、自動運転車の意思決定プロセスを操作する。 我々の実験は、現実の自律走行シナリオにおけるこのような動的敵攻撃の実装が最初に成功したことを実証している。
• 参考スコア（独自算出の注目度）: 16.657485186920102
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This paper introduces an attacking mechanism to challenge the resilience of autonomous driving systems. Specifically, we manipulate the decision-making processes of an autonomous vehicle by dynamically displaying adversarial patches on a screen mounted on another moving vehicle. These patches are optimized to deceive the object detection models into misclassifying targeted objects, e.g., traffic signs. Such manipulation has significant implications for critical multi-vehicle interactions such as intersection crossing and lane changing, which are vital for safe and efficient autonomous driving systems. Particularly, we make four major contributions. First, we introduce a novel adversarial attack approach where the patch is not co-located with its target, enabling more versatile and stealthy attacks. Moreover, our method utilizes dynamic patches displayed on a screen, allowing for adaptive changes and movement, enhancing the flexibility and performance of the attack. To do so, we design a Screen Image Transformation Network (SIT-Net), which simulates environmental effects on the displayed images, narrowing the gap between simulated and real-world scenarios. Further, we integrate a positional loss term into the adversarial training process to increase the success rate of the dynamic attack. Finally, we shift the focus from merely attacking perceptual systems to influencing the decision-making algorithms of self-driving systems. Our experiments demonstrate the first successful implementation of such dynamic adversarial attacks in real-world autonomous driving scenarios, paving the way for advancements in the field of robust and secure autonomous driving.
• Abstract（参考訳）: 本稿では,自律走行システムのレジリエンスに挑戦する攻撃機構を提案する。 具体的には、他の移動車に搭載された画面に対向パッチを動的に表示することにより、自動運転車の意思決定プロセスを操作する。 これらのパッチは、オブジェクト検出モデルからターゲットオブジェクト、例えばトラフィックサインを誤って分類するように最適化されている。 このような操作は、交差点横断や車線変更といった、安全で効率的な自律運転システムにとって不可欠な重要な多車車間相互作用に重要な意味を持つ。 特に、大きな貢献は4つあります。 まず,パッチを目標と同一に配置せず,より汎用的でステルス的な攻撃を可能にする,新たな敵攻撃手法を提案する。 さらに,画面上に表示された動的パッチを利用することで,適応的な変更や動作が可能となり,攻撃の柔軟性や性能が向上する。 そこで我々は,画面画像変換ネットワーク(SIT-Net)を設計し,表示画像の環境効果をシミュレートし,シミュレートされたシナリオと実世界のシナリオとのギャップを狭める。 さらに、動的攻撃の成功率を高めるために、位置損失項を敵の訓練プロセスに統合する。 最後に、私たちは、単に知覚システムを攻撃することから、自動運転システムの意思決定アルゴリズムに影響を与えることに焦点を移します。 我々の実験は、現実の自律運転シナリオにおけるこのような動的敵攻撃の実装を初めて成功させ、堅牢で安全な自律運転の分野における進歩の道を開くことを実証した。

関連論文リスト

• SAFE-SIM: Safety-Critical Closed-Loop Traffic Simulation with Controllable Adversaries [94.84458417662407]
  本稿では,新しい拡散制御型クローズドループ安全クリティカルシミュレーションフレームワークであるSAFE-SIMを紹介する。 我々は,認知過程における敵対的項を通して,安全クリティカルなシナリオをシミュレートする新しい手法を開発した。 我々はNuScenesデータセットを実証的に検証し、リアリズムと制御性の両方の改善を実証した。
  論文  参考訳（メタデータ） (2023-12-31T04:14:43Z)
• TPatch: A Triggered Physical Adversarial Patch [19.768494127237393]
  音響信号によって引き起こされる物理的対向パッチであるTPatchを提案する。 運転者の疑念を避けるため,コンテンツベースカモフラージュ法と攻撃強化法を提案する。
  論文  参考訳（メタデータ） (2023-12-30T06:06:01Z)
• Embodied Adversarial Attack: A Dynamic Robust Physical Attack in Autonomous Driving [15.427248934229233]
  Embodied Adversarial Attack (EAA) は、インボディード・インテリジェンス(英語版)のパラダイムである知覚-決定-制御(英語版)を採用することを目的としている。 EAAは、物理的攻撃を実施するために、レーザーを高度に操作可能な媒体として採用し、さらに強化学習で攻撃エージェントを訓練し、最良の攻撃戦略を瞬時に決定できるようにする。 複雑な環境下での手法の有効性を検証した実験は多種多様である。
  論文  参考訳（メタデータ） (2023-12-15T06:16:17Z)
• Visual Perception System for Autonomous Driving [9.659835301514288]
  本研究は、走行物体の軌跡追跡と予測を統合して衝突を防止する、自律走行のための視覚的認識システムを導入する。 このシステムは歩行者の動きの手がかりを利用して、その動きを監視し、予測し、同時に環境をマッピングする。 このアプローチの性能、効率、レジリエンスは、シミュレーションと実世界の両方のデータセットの包括的な評価によって実証される。
  論文  参考訳（メタデータ） (2023-03-03T23:12:43Z)
• Tackling Real-World Autonomous Driving using Deep Reinforcement Learning [63.3756530844707]
  本研究では,加速と操舵角度を予測するニューラルネットワークを学習するモデルレスディープ強化学習プランナを提案する。 実際の自動運転車にシステムをデプロイするために、我々は小さなニューラルネットワークで表されるモジュールも開発する。
  論文  参考訳（メタデータ） (2022-07-05T16:33:20Z)
• Isolating and Leveraging Controllable and Noncontrollable Visual Dynamics in World Models [65.97707691164558]
  Iso-DreamはDream-to-Controlフレームワークを2つの側面で改善する。 まず、逆動力学を最適化することにより、世界モデルに制御可能で制御不能な情報源を学習させることを奨励する。 第2に、エージェントの挙動を世界モデルの切り離された潜在的想像力に最適化する。
  論文  参考訳（メタデータ） (2022-05-27T08:07:39Z)
• On the Real-World Adversarial Robustness of Real-Time Semantic Segmentation Models for Autonomous Driving [59.33715889581687]
  現実世界の敵対的な例(通常はパッチの形で)の存在は、安全クリティカルなコンピュータビジョンタスクにおけるディープラーニングモデルの使用に深刻な脅威をもたらす。 本稿では,異なる種類の対立パッチを攻撃した場合のセマンティックセグメンテーションモデルのロバスト性を評価する。 画素の誤分類を誘導する攻撃者の能力を改善するために, 新たな損失関数を提案する。
  論文  参考訳（メタデータ） (2022-01-05T22:33:43Z)
• Evaluating the Robustness of Semantic Segmentation for Autonomous Driving against Real-World Adversarial Patch Attacks [62.87459235819762]
  自動運転車のような現実のシナリオでは、現実の敵例(RWAE)にもっと注意を払わなければならない。 本稿では,デジタルおよび実世界の敵対パッチの効果を検証し,一般的なSSモデルのロバスト性を詳細に評価する。
  論文  参考訳（メタデータ） (2021-08-13T11:49:09Z)
• Learning Image Attacks toward Vision Guided Autonomous Vehicles [0.0]
  本論文では,自動運転車のミッションを効果的に誘導するオンライン対人的機械学習フレームワークを提案する。 生成ニューラルネットワークは、一連の画像フレーム上でトレーニングされ、動的で不確実な環境に対してより堅牢な攻撃ポリシーを得る。
  論文  参考訳（メタデータ） (2021-05-09T04:34:10Z)
• Deep Structured Reactive Planning [94.92994828905984]
  自動運転のための新しいデータ駆動型リアクティブ計画目標を提案する。 本モデルは,非常に複雑な操作を成功させる上で,非反応性変種よりも優れることを示す。
  論文  参考訳（メタデータ） (2021-01-18T01:43:36Z)
• Finding Physical Adversarial Examples for Autonomous Driving with Fast and Differentiable Image Compositing [33.466413757630846]
  本研究では、シミュレーションされた自律走行環境の逆修正を見つけるためのスケーラブルなアプローチを提案する。 ベイズ最適化に基づく最先端のアプローチよりも,我々のアプローチははるかにスケーラブルで,はるかに効果的です。
  論文  参考訳（メタデータ） (2020-10-17T18:35:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。