論文の概要: Manipulating Trajectory Prediction with Backdoors

• arxiv url: http://arxiv.org/abs/2312.13863v1
• Date: Thu, 21 Dec 2023 14:01:51 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-22 14:40:28.811342
• Title: Manipulating Trajectory Prediction with Backdoors
• Title（参考訳）: バックドアによる軌道予測の操作
• Authors: Kaouther Massoud, Kathrin Grosse, Mickael Chen, Matthieu Cord, Patrick P\'erez, and Alexandre Alahi
• Abstract要約: 軌道予測に影響を及ぼす可能性のある4つのトリガを記述し,検討した。 モデルの性能は良好だが、バックドアには弱い。 バックドアに対する防御範囲を評価する。
• 参考スコア（独自算出の注目度）: 94.22382859996453
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Autonomous vehicles ought to predict the surrounding agents' trajectories to allow safe maneuvers in uncertain and complex traffic situations. As companies increasingly apply trajectory prediction in the real world, security becomes a relevant concern. In this paper, we focus on backdoors - a security threat acknowledged in other fields but so far overlooked for trajectory prediction. To this end, we describe and investigate four triggers that could affect trajectory prediction. We then show that these triggers (for example, a braking vehicle), when correlated with a desired output (for example, a curve) during training, cause the desired output of a state-of-the-art trajectory prediction model. In other words, the model has good benign performance but is vulnerable to backdoors. This is the case even if the trigger maneuver is performed by a non-casual agent behind the target vehicle. As a side-effect, our analysis reveals interesting limitations within trajectory prediction models. Finally, we evaluate a range of defenses against backdoors. While some, like simple offroad checks, do not enable detection for all triggers, clustering is a promising candidate to support manual inspection to find backdoors.
• Abstract（参考訳）: 自動運転車は、不確実で複雑な交通状況において安全な操作を可能にするため、周囲のエージェントの軌道を予測する必要がある。 企業が現実の世界で軌道予測を適用するようになるにつれ、セキュリティは関連する懸念となる。 本稿では,他の分野で認識されているセキュリティの脅威であるバックドアに着目した。 この目的のために,軌道予測に影響を与える4つのトリガーを記述し,検討する。 次に、これらのトリガ(例えばブレーキ車)がトレーニング中に所望の出力(例えば曲線)と相関すると、最先端の軌道予測モデルの所望の出力を引き起こすことを示す。 言い換えれば、モデルの性能は良好だが、バックドアには弱い。 これは、目標車両の後ろの非ケーシアルエージェントによってトリガー操作が実行された場合でもその場合である。 副作用として,軌道予測モデルにおける興味深い限界を明らかにする。 最後に,バックドアに対する防御範囲を評価する。 単純なオフロードチェックのように、すべてのトリガを検出できないものもあるが、クラスタリングはバックドアを見つけるための手動検査をサポートする有望な候補である。

関連論文リスト

• Hacking Predictors Means Hacking Cars: Using Sensitivity Analysis to Identify Trajectory Prediction Vulnerabilities for Autonomous Driving Security [1.949927790632678]
  本稿では,2つの軌道予測モデルである Trajectron++ と AgentFormer の感度解析を行う。 この分析により、全ての入力の間に、両方のモデルに対する摂動感度のほぼ全ては、最新の位置と速度状態にしか属さないことが明らかとなった。 さらに、状態履歴の摂動に支配的な感度があるにもかかわらず、検出不能な画像マップ摂動は、両方のモデルで大きな予測誤差の増加を誘発することを示した。
  論文  参考訳（メタデータ） (2024-01-18T18:47:29Z)
• Implicit Occupancy Flow Fields for Perception and Prediction in Self-Driving [68.95178518732965]
  自動運転車(SDV)は、周囲を認識でき、他の交通参加者の将来の行動を予測できなければならない。 既存の作業は、検出されたオブジェクトの軌跡が続くオブジェクト検出を実行するか、シーン全体の密度の高い占有とフローグリッドを予測するかのいずれかである。 これは、認識と将来の予測に対する統一されたアプローチを動機付け、単一のニューラルネットワークで時間とともに占有とフローを暗黙的に表現します。
  論文  参考訳（メタデータ） (2023-08-02T23:39:24Z)
• Trajectory-Prediction with Vision: A Survey [0.0]
  軌道予測は極めて困難な課題であり、最近自動運転車研究コミュニティで注目を集めている。 優れた予測モデルでは、道路上の衝突を防止でき、従って自動運転車の最終的な目標である衝突速度は、数百万マイル毎の衝突である。 我々は,関連アルゴリズムを異なるクラスに分類し,軌道予測研究分野のトレンドを追究する。
  論文  参考訳（メタデータ） (2023-03-15T01:06:54Z)
• Untargeted Backdoor Attack against Object Detection [69.63097724439886]
  我々は,タスク特性に基づいて,無目標で毒のみのバックドア攻撃を設計する。 攻撃によって、バックドアがターゲットモデルに埋め込まれると、トリガーパターンでスタンプされたオブジェクトの検出を失う可能性があることを示す。
  論文  参考訳（メタデータ） (2022-11-02T17:05:45Z)
• On Adversarial Robustness of Trajectory Prediction for Autonomous Vehicles [21.56253104577053]
  軌道予測は、安全な計画とナビゲーションを行う自動運転車にとって重要な要素である。 本稿では,予測誤差を最大化するために,通常の車両軌道を乱す新たな対向攻撃を提案する。 ケーススタディでは、敵が敵の軌道に沿って目標のAVに近い車両を運転した場合、AVは不正確な予測を行い、安全でない運転決定を行う可能性がある。
  論文  参考訳（メタデータ） (2022-01-13T16:33:04Z)
• You Mostly Walk Alone: Analyzing Feature Attribution in Trajectory Prediction [52.442129609979794]
  軌道予測のための最近の深層学習手法は有望な性能を示す。 そのようなブラックボックスモデルが実際にどのモデルを予測するために使うのかは、まだ不明である。 本稿では,モデル性能に対する異なるキューの貢献度を定量化する手法を提案する。
  論文  参考訳（メタデータ） (2021-10-11T14:24:15Z)
• The PREVENTION Challenge: How Good Are Humans Predicting Lane Changes? [0.0]
  本稿では,高速道路のシナリオにおける車線変化を予測する能力について分析する。 ユーザーは車線変更操作が行われていると考えた瞬間を示す必要がありました。 得られた結果は慎重に分析され、地上の真理ラベルと比較された。
  論文  参考訳（メタデータ） (2020-09-11T10:47:07Z)
• TNT: Target-driveN Trajectory Prediction [76.21200047185494]
  我々は移動エージェントのための目標駆動軌道予測フレームワークを開発した。 我々は、車や歩行者の軌道予測をベンチマークする。 私たちはArgoverse Forecasting、InterAction、Stanford Drone、および社内のPedestrian-at-Intersectionデータセットの最先端を達成しています。
  論文  参考訳（メタデータ） (2020-08-19T06:52:46Z)
• Backdoor Learning: A Survey [75.59571756777342]
  バックドア攻撃はディープニューラルネットワーク(DNN)に隠れたバックドアを埋め込む バックドア学習は、急速に成長する研究分野である。 本稿では,この領域を包括的に調査する。
  論文  参考訳（メタデータ） (2020-07-17T04:09:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。