論文の概要: Hacking Predictors Means Hacking Cars: Using Sensitivity Analysis to Identify Trajectory Prediction Vulnerabilities for Autonomous Driving Security

• arxiv url: http://arxiv.org/abs/2401.10313v1
• Date: Thu, 18 Jan 2024 18:47:29 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-22 17:55:07.485882
• Title: Hacking Predictors Means Hacking Cars: Using Sensitivity Analysis to Identify Trajectory Prediction Vulnerabilities for Autonomous Driving Security
• Title（参考訳）: ハッキング予測器は車をハッキングする: 感度分析を使って自動運転セキュリティの軌道予測脆弱性を同定する
• Authors: Marsalis Gibson, David Babazadeh, Claire Tomlin, Shankar Sastry
• Abstract要約: 本稿では,2つの軌道予測モデルである Trajectron++ と AgentFormer の感度解析を行う。 すべての入力の間に、Trajectron++の摂動感度のほぼ全ては、最新の状態履歴の時点にのみ存在することを観察する。 さらに、状態履歴の摂動に支配的な感度があるにもかかわらず、検出不能な画像マップ摂動が大きな予測誤差の増加を引き起こすことを実証した。
• 参考スコア（独自算出の注目度）: 2.1301560294088318
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Adversarial attacks on learning-based trajectory predictors have already been demonstrated. However, there are still open questions about the effects of perturbations on trajectory predictor inputs other than state histories, and how these attacks impact downstream planning and control. In this paper, we conduct a sensitivity analysis on two trajectory prediction models, Trajectron++ and AgentFormer. We observe that between all inputs, almost all of the perturbation sensitivities for Trajectron++ lie only within the most recent state history time point, while perturbation sensitivities for AgentFormer are spread across state histories over time. We additionally demonstrate that, despite dominant sensitivity on state history perturbations, an undetectable image map perturbation made with the Fast Gradient Sign Method can induce large prediction error increases in both models. Even though image maps may contribute slightly to the prediction output of both models, this result reveals that rather than being robust to adversarial image perturbations, trajectory predictors are susceptible to image attacks. Using an optimization-based planner and example perturbations crafted from sensitivity results, we show how this vulnerability can cause a vehicle to come to a sudden stop from moderate driving speeds.
• Abstract（参考訳）: 学習に基づく軌道予測に対する逆攻撃はすでに実証されている。 しかし、状態履歴以外の軌道予測器入力に対する摂動の影響や、これらの攻撃が下流の計画と制御にどう影響するかについては、未解決の疑問がある。 本稿では,2つの軌道予測モデルである Trajectron++ と AgentFormer の感度解析を行う。 我々はすべての入力の間に、Trajectron++の摂動感は最新の状態履歴時点にしかなく、AgentFormerの摂動感は時間とともに状態履歴に分散していることを観察する。 さらに, 状態履歴の摂動に支配的な感度があるにもかかわらず, 高速勾配符号法による検出不能な画像マップ摂動は, 両モデルとも大きな予測誤差を生じさせる可能性があることを示した。 画像マップは両モデルの予測出力にわずかに寄与する可能性があるが、この結果は、逆画像摂動に頑健である代わりに、軌跡予測器は画像攻撃の影響を受けやすいことを示している。 感度結果から得られた最適化に基づくプランナーと例摂動を用いて、この脆弱性が車両を適度な運転速度から突然停止させる可能性があることを示す。

関連論文リスト

• A First Physical-World Trajectory Prediction Attack via LiDAR-induced Deceptions in Autonomous Driving [23.08193005790747]
  既存の攻撃は、被害者AVの予測モデルを損なう。 単点攻撃を実現するための新たな2段階攻撃フレームワークを提案する。 我々の攻撃は、最大63%の衝突率と、被害者AVの様々な有害反応を引き起こす。
  論文  参考訳（メタデータ） (2024-06-17T16:26:00Z)
• Manipulating Trajectory Prediction with Backdoors [94.22382859996453]
  軌道予測に影響を及ぼす可能性のある4つのトリガを記述し,検討した。 モデルの性能は良好だが、バックドアには弱い。 バックドアに対する防御範囲を評価する。
  論文  参考訳（メタデータ） (2023-12-21T14:01:51Z)
• Adversarial Attacks Against Uncertainty Quantification [10.655660123083607]
  この研究は、攻撃者が依然として不確実性推定を操作することに興味を持つ異なる敵シナリオに焦点を当てる。 特に、アウトプットが下流モジュールや人間のオペレータによって消費される場合、機械学習モデルの使用を損なうことが目標である。
  論文  参考訳（メタデータ） (2023-09-19T12:54:09Z)
• Adversarial Backdoor Attack by Naturalistic Data Poisoning on Trajectory Prediction in Autonomous Driving [18.72382517467458]
  本稿では,軌道予測モデルに対する新たな逆バックドア攻撃を提案する。 我々の攻撃は、自然主義的、従って、新しい2段階のアプローチで作られた毒のサンプルを盗むことによって、訓練時に被害者に影響を及ぼす。 提案手法は,予測モデルの性能を著しく損なうおそれがあり,攻撃効果が高いことを示す。
  論文  参考訳（メタデータ） (2023-06-27T19:15:06Z)
• Robustness Benchmark of Road User Trajectory Prediction Models for Automated Driving [0.0]
  車両内のモデル展開中に観測される機能不全をシミュレートする摂動に対して、機械学習モデルをベンチマークする。 同様の摂動を持つモデルのトレーニングは、パフォーマンスの劣化を効果的に低減し、エラーは+87.5%まで増加する。 効果的な緩和戦略であるにもかかわらず、トレーニング中の摂動によるデータ拡張は、予期せぬ摂動に対する堅牢性を保証するものではない、と我々は主張する。
  論文  参考訳（メタデータ） (2023-04-04T15:47:42Z)
• AdvDO: Realistic Adversarial Attacks for Trajectory Prediction [87.96767885419423]
  軌道予測は、自動運転車が正しく安全な運転行動を計画するために不可欠である。 我々は,現実的な対向軌道を生成するために,最適化に基づく対向攻撃フレームワークを考案する。 私たちの攻撃は、AVが道路を走り去るか、シミュレーション中に他の車両に衝突する可能性がある。
  論文  参考訳（メタデータ） (2022-09-19T03:34:59Z)
• Trajectory Forecasting from Detection with Uncertainty-Aware Motion Encoding [121.66374635092097]
  物体検出と追跡から得られる軌道は、必然的にうるさい。 本稿では, 明示的に形成された軌道に依存することなく, 直接検出結果に基づく軌道予測器を提案する。
  論文  参考訳（メタデータ） (2022-02-03T09:09:56Z)
• Evaluating the Robustness of Semantic Segmentation for Autonomous Driving against Real-World Adversarial Patch Attacks [62.87459235819762]
  自動運転車のような現実のシナリオでは、現実の敵例(RWAE)にもっと注意を払わなければならない。 本稿では,デジタルおよび実世界の敵対パッチの効果を検証し,一般的なSSモデルのロバスト性を詳細に評価する。
  論文  参考訳（メタデータ） (2021-08-13T11:49:09Z)
• SGCN:Sparse Graph Convolution Network for Pedestrian Trajectory Prediction [64.16212996247943]
  歩行者軌道予測のためのスパースグラフ畳み込みネットワーク(SGCN)を提案する。 具体的には、SGCNはスパース指向の相互作用をスパース指向の空間グラフと明確にモデル化し、適応的な相互作用歩行者を捉える。 可視化は,歩行者の適応的相互作用とその運動特性を捉えることができることを示す。
  論文  参考訳（メタデータ） (2021-04-04T03:17:42Z)
• Safety-Oriented Pedestrian Motion and Scene Occupancy Forecasting [91.69900691029908]
  我々は、個々の動きとシーン占有マップの両方を予測することを提唱する。 歩行者の相対的な空間情報を保存するScene-Actor Graph Neural Network (SA-GNN)を提案する。 2つの大規模な実世界のデータセットで、我々のシーン占有率予測が最先端のモーション予測手法よりも正確でより校正されていることを示した。
  論文  参考訳（メタデータ） (2021-01-07T06:08:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。