論文の概要: Hacking Predictors Means Hacking Cars: Using Sensitivity Analysis to Identify Trajectory Prediction Vulnerabilities for Autonomous Driving Security

• arxiv url: http://arxiv.org/abs/2401.10313v2
• Date: Mon, 20 May 2024 23:55:43 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-22 18:41:35.670745
• Title: Hacking Predictors Means Hacking Cars: Using Sensitivity Analysis to Identify Trajectory Prediction Vulnerabilities for Autonomous Driving Security
• Title（参考訳）: 自動車をハッキングする予測者をハックする: 自律走行セキュリティのための軌道予測脆弱性を識別するために感度分析を利用する
• Authors: Marsalis Gibson, David Babazadeh, Claire Tomlin, Shankar Sastry,
• Abstract要約: 本稿では,2つの軌道予測モデルである Trajectron++ と AgentFormer の感度解析を行う。 この分析により、全ての入力の間に、両方のモデルに対する摂動感度のほぼ全ては、最新の位置と速度状態にしか属さないことが明らかとなった。 さらに、状態履歴の摂動に支配的な感度があるにもかかわらず、検出不能な画像マップ摂動は、両方のモデルで大きな予測誤差の増加を誘発することを示した。
• 参考スコア（独自算出の注目度）: 1.949927790632678
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Adversarial attacks on learning-based multi-modal trajectory predictors have already been demonstrated. However, there are still open questions about the effects of perturbations on inputs other than state histories, and how these attacks impact downstream planning and control. In this paper, we conduct a sensitivity analysis on two trajectory prediction models, Trajectron++ and AgentFormer. The analysis reveals that between all inputs, almost all of the perturbation sensitivities for both models lie only within the most recent position and velocity states. We additionally demonstrate that, despite dominant sensitivity on state history perturbations, an undetectable image map perturbation made with the Fast Gradient Sign Method can induce large prediction error increases in both models, revealing that these trajectory predictors are, in fact, susceptible to image-based attacks. Using an optimization-based planner and example perturbations crafted from sensitivity results, we show how these attacks can cause a vehicle to come to a sudden stop from moderate driving speeds.
• Abstract（参考訳）: 学習に基づくマルチモーダル軌道予測器に対する逆攻撃はすでに実証されている。 しかし、状態履歴以外の入力に対する摂動の影響や、これらの攻撃が下流の計画と制御にどのように影響するかについては、まだ明らかな疑問がある。 本稿では,2つの軌道予測モデルである Trajectron++ と AgentFormer の感度解析を行う。 この分析により、全ての入力の間に、両方のモデルに対する摂動感度のほぼ全ては、最新の位置と速度状態にしか属さないことが明らかとなった。 さらに、状態履歴の摂動に支配的な感度があるにもかかわらず、高速勾配符号法による検出不可能な画像マップ摂動は、両方のモデルにおいて大きな予測誤差の増加を誘発し、これらの軌跡予測器が実際、画像ベース攻撃の影響を受けやすいことを示した。 評価結果から得られた最適プランナーと例摂動を用いて、これらの攻撃によって車両が突然、適度な運転速度から停止する可能性があることを示す。

関連論文リスト

• A First Physical-World Trajectory Prediction Attack via LiDAR-induced Deceptions in Autonomous Driving [23.08193005790747]
  既存の攻撃は、被害者AVの予測モデルを損なう。 単点攻撃を実現するための新たな2段階攻撃フレームワークを提案する。 我々の攻撃は、最大63%の衝突率と、被害者AVの様々な有害反応を引き起こす。
  論文  参考訳（メタデータ） (2024-06-17T16:26:00Z)
• Manipulating Trajectory Prediction with Backdoors [94.22382859996453]
  軌道予測に影響を及ぼす可能性のある4つのトリガを記述し,検討した。 モデルの性能は良好だが、バックドアには弱い。 バックドアに対する防御範囲を評価する。
  論文  参考訳（メタデータ） (2023-12-21T14:01:51Z)
• Adversarial Attacks Against Uncertainty Quantification [10.655660123083607]
  この研究は、攻撃者が依然として不確実性推定を操作することに興味を持つ異なる敵シナリオに焦点を当てる。 特に、アウトプットが下流モジュールや人間のオペレータによって消費される場合、機械学習モデルの使用を損なうことが目標である。
  論文  参考訳（メタデータ） (2023-09-19T12:54:09Z)
• Adversarial Backdoor Attack by Naturalistic Data Poisoning on Trajectory Prediction in Autonomous Driving [18.72382517467458]
  本稿では,軌道予測モデルに対する新たな逆バックドア攻撃を提案する。 我々の攻撃は、自然主義的、従って、新しい2段階のアプローチで作られた毒のサンプルを盗むことによって、訓練時に被害者に影響を及ぼす。 提案手法は,予測モデルの性能を著しく損なうおそれがあり,攻撃効果が高いことを示す。
  論文  参考訳（メタデータ） (2023-06-27T19:15:06Z)
• Robustness Benchmark of Road User Trajectory Prediction Models for Automated Driving [0.0]
  車両内のモデル展開中に観測される機能不全をシミュレートする摂動に対して、機械学習モデルをベンチマークする。 同様の摂動を持つモデルのトレーニングは、パフォーマンスの劣化を効果的に低減し、エラーは+87.5%まで増加する。 効果的な緩和戦略であるにもかかわらず、トレーニング中の摂動によるデータ拡張は、予期せぬ摂動に対する堅牢性を保証するものではない、と我々は主張する。
  論文  参考訳（メタデータ） (2023-04-04T15:47:42Z)
• AdvDO: Realistic Adversarial Attacks for Trajectory Prediction [87.96767885419423]
  軌道予測は、自動運転車が正しく安全な運転行動を計画するために不可欠である。 我々は,現実的な対向軌道を生成するために,最適化に基づく対向攻撃フレームワークを考案する。 私たちの攻撃は、AVが道路を走り去るか、シミュレーション中に他の車両に衝突する可能性がある。
  論文  参考訳（メタデータ） (2022-09-19T03:34:59Z)
• Trajectory Forecasting from Detection with Uncertainty-Aware Motion Encoding [121.66374635092097]
  物体検出と追跡から得られる軌道は、必然的にうるさい。 本稿では, 明示的に形成された軌道に依存することなく, 直接検出結果に基づく軌道予測器を提案する。
  論文  参考訳（メタデータ） (2022-02-03T09:09:56Z)
• Evaluating the Robustness of Semantic Segmentation for Autonomous Driving against Real-World Adversarial Patch Attacks [62.87459235819762]
  自動運転車のような現実のシナリオでは、現実の敵例(RWAE)にもっと注意を払わなければならない。 本稿では,デジタルおよび実世界の敵対パッチの効果を検証し,一般的なSSモデルのロバスト性を詳細に評価する。
  論文  参考訳（メタデータ） (2021-08-13T11:49:09Z)
• SGCN:Sparse Graph Convolution Network for Pedestrian Trajectory Prediction [64.16212996247943]
  歩行者軌道予測のためのスパースグラフ畳み込みネットワーク(SGCN)を提案する。 具体的には、SGCNはスパース指向の相互作用をスパース指向の空間グラフと明確にモデル化し、適応的な相互作用歩行者を捉える。 可視化は,歩行者の適応的相互作用とその運動特性を捉えることができることを示す。
  論文  参考訳（メタデータ） (2021-04-04T03:17:42Z)
• Safety-Oriented Pedestrian Motion and Scene Occupancy Forecasting [91.69900691029908]
  我々は、個々の動きとシーン占有マップの両方を予測することを提唱する。 歩行者の相対的な空間情報を保存するScene-Actor Graph Neural Network (SA-GNN)を提案する。 2つの大規模な実世界のデータセットで、我々のシーン占有率予測が最先端のモーション予測手法よりも正確でより校正されていることを示した。
  論文  参考訳（メタデータ） (2021-01-07T06:08:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。