論文の概要: A Certifiable Security Patch for Object Tracking in Self-Driving Systems via Historical Deviation Modeling

• arxiv url: http://arxiv.org/abs/2207.08556v1
• Date: Mon, 18 Jul 2022 12:30:24 GMT
• ステータス: 処理完了
• システム内更新日: 2022-07-19 18:19:29.544777
• Title: A Certifiable Security Patch for Object Tracking in Self-Driving Systems via Historical Deviation Modeling
• Title（参考訳）: 歴史的偏差モデリングによる自動走行システムにおける物体追跡のための認証セキュリティパッチ
• Authors: Xudong Pan, Qifan Xiao, Mi Zhang, Min Yang
• Abstract要約: 自動運転車における物体追跡の安全性に関する最初の体系的研究について述べる。 我々は,KF(Kalman Filter)に基づくメインストリームマルチオブジェクトトラッカー(MOT)が,マルチセンサ融合機構が有効であっても安全でないことを証明した。 我々は、KFベースのMOTのための単純かつ効果的なセキュリティパッチを提案し、その中核は、KFの観測と予測に対する焦点のバランスをとるための適応戦略である。
• 参考スコア（独自算出の注目度）: 22.753164675538457
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Self-driving cars (SDC) commonly implement the perception pipeline to detect the surrounding obstacles and track their moving trajectories, which lays the ground for the subsequent driving decision making process. Although the security of obstacle detection in SDC is intensively studied, not until very recently the attackers start to exploit the vulnerability of the tracking module. Compared with solely attacking the object detectors, this new attack strategy influences the driving decision more effectively with less attack budgets. However, little is known on whether the revealed vulnerability remains effective in end-to-end self-driving systems and, if so, how to mitigate the threat. In this paper, we present the first systematic research on the security of object tracking in SDC. Through a comprehensive case study on the full perception pipeline of a popular open-sourced self-driving system, Baidu's Apollo, we prove the mainstream multi-object tracker (MOT) based on Kalman Filter (KF) is unsafe even with an enabled multi-sensor fusion mechanism. Our root cause analysis reveals, the vulnerability is innate to the design of KF-based MOT, which shall error-handle the prediction results from the object detectors yet the adopted KF algorithm is prone to trust the observation more when its deviation from the prediction is larger. To address this design flaw, we propose a simple yet effective security patch for KF-based MOT, the core of which is an adaptive strategy to balance the focus of KF on observations and predictions according to the anomaly index of the observation-prediction deviation, and has certified effectiveness against a generalized hijacking attack model. Extensive evaluation on $4$ KF-based existing MOT implementations (including 2D and 3D, academic and Apollo ones) validate the defense effectiveness and the trivial performance overhead of our approach.
• Abstract（参考訳）: 自動運転車(SDC)は一般的に、周囲の障害物を検出し、走行軌跡を追跡するために知覚パイプラインを実装している。 SDCにおける障害検出のセキュリティは集中的に研究されているが、攻撃者は追跡モジュールの脆弱性を悪用し始めた。 対象検出器の攻撃のみと比較して、この新しい攻撃戦略は、より少ない攻撃予算でより効果的に駆動決定に影響を与える。 しかし、この脆弱性がエンド・ツー・エンドの自動運転システムで有効であるかどうか、脅威を緩和する方法についてはほとんど分かっていない。 本稿では,sdcにおける物体追跡の安全性に関する最初の体系的研究を行う。 オープンソースの自動運転システムであるBaiduのApolloの完全な認識パイプラインに関する包括的なケーススタディを通じて、Kalman Filter(KF)に基づくメインストリームのマルチオブジェクトトラッカー(MOT)が、有効にマルチセンサー融合機構を使用しても安全でないことを証明した。 我々の根本原因分析によると、この脆弱性はKFベースのMOTの設計に固有のものであり、対象検出器からの予測結果を誤り処理するが、採用したKFアルゴリズムは、予測からの偏差が大きい場合には、観測をより信頼する傾向にある。 この設計上の欠陥に対処するために,kfベースのmotに対する簡易かつ効果的なセキュリティパッチを提案する。そのコアは,観測予測偏差の異常指標に従って観測と予測にkfの焦点を合わせる適応戦略であり,一般的なハイジャック攻撃モデルに対する認証の有効性を有する。 4ドルのkfベースの既存のmot実装(2dおよび3d、アカデミックおよびアポロを含む)に関する広範囲な評価は、我々のアプローチの防御効果とささいなパフォーマンスオーバーヘッドを検証する。

関連論文リスト

• ControlLoc: Physical-World Hijacking Attack on Visual Perception in Autonomous Driving [30.286501966393388]
  危険な運転シナリオを引き起こすために、デジタルハイジャック攻撃が提案されている。 我々は、自律運転(AD)視覚認識全体のハイジャック脆弱性を活用するために設計された、新しい物理世界の逆パッチアタックであるControlLocを導入する。
  論文  参考訳（メタデータ） (2024-06-09T14:53:50Z)
• A Safety-Adapted Loss for Pedestrian Detection in Automated Driving [13.676179470606844]
  安全クリティカルなドメインでは、オブジェクト検出器によるエラーは歩行者や他の脆弱な道路利用者を危険にさらす可能性がある。 本稿では,トレーニング中の歩行者あたりの臨界点の推定値を活用する安全意識の損失変動を提案する。
  論文  参考訳（メタデータ） (2024-02-05T13:16:38Z)
• DARTH: Holistic Test-time Adaptation for Multiple Object Tracking [87.72019733473562]
  複数物体追跡(MOT)は、自律運転における知覚システムの基本的構成要素である。 運転システムの安全性の追求にもかかわらず、テスト時間条件における領域シフトに対するMOT適応問題に対する解決策は提案されていない。 我々はMOTの総合的なテスト時間適応フレームワークであるDARTHを紹介する。
  論文  参考訳（メタデータ） (2023-10-03T10:10:42Z)
• Exorcising ''Wraith'': Protecting LiDAR-based Object Detector in Automated Driving System from Appearing Attacks [20.38692153553779]
  自動駆動システムは、LiDAR点雲から可能な障害物を認識するために、3Dオブジェクト検出器に依存している。 近年の研究では、偽のポイント数点の予測結果において、敵が存在していない車を偽造できることが示されている。 そこで本研究では,LiDARをベースとしたオブジェクト検出装置を並列に動作させる,新しいプラグ・アンド・プレイディフェンスモジュールを提案する。
  論文  参考訳（メタデータ） (2023-03-17T02:20:47Z)
• AdvDO: Realistic Adversarial Attacks for Trajectory Prediction [87.96767885419423]
  軌道予測は、自動運転車が正しく安全な運転行動を計画するために不可欠である。 我々は,現実的な対向軌道を生成するために,最適化に基づく対向攻撃フレームワークを考案する。 私たちの攻撃は、AVが道路を走り去るか、シミュレーション中に他の車両に衝突する可能性がある。
  論文  参考訳（メタデータ） (2022-09-19T03:34:59Z)
• Invisible for both Camera and LiDAR: Security of Multi-Sensor Fusion based Perception in Autonomous Driving Under Physical-World Attacks [62.923992740383966]
  本稿では,MDFに基づくADシステムにおけるセキュリティ問題の最初の研究について述べる。 物理的に実現可能な逆3Dプリントオブジェクトを生成し、ADシステムが検出に失敗してクラッシュする。 以上の結果から,攻撃は様々なオブジェクトタイプおよびMSFに対して90%以上の成功率を達成した。
  論文  参考訳（メタデータ） (2021-06-17T05:11:07Z)
• End-to-end Uncertainty-based Mitigation of Adversarial Attacks to Automated Lane Centering [12.11406399284803]
  我々は,認識,計画,制御モジュール全体にわたる敵の攻撃の影響に対処するエンドツーエンドアプローチを提案する。 われわれのアプローチは、敵攻撃の影響を効果的に軽減し、元のOpenPilotよりも55%から90%改善できる。
  論文  参考訳（メタデータ） (2021-02-27T22:36:32Z)
• Sequential Attacks on Kalman Filter-based Forward Collision Warning Systems [23.117910305213016]
  我々は,前向き衝突警報システムの一部として,カルマンフィルタ(KF)に対する敵対攻撃について検討した。 我々の攻撃目標は、KFに誤った状態推定を出力させることで、人間のブレーキ決定に悪影響を及ぼすことである。 我々は,kfに供給される量量を順次操作し,最適操作を計算するための新しいモデル予測制御(mpc)手法を提案する。
  論文  参考訳（メタデータ） (2020-12-16T02:26:27Z)
• Automotive Radar Interference Mitigation with Unfolded Robust PCA based on Residual Overcomplete Auto-Encoder Blocks [88.46770122522697]
  自律走行では、レーダーシステムは道路上の他の車両のような標的を検出する上で重要な役割を果たす。 自動車用レーダー干渉緩和のための深層学習手法は、目標の振幅を確実に推定できるが、それぞれの目標の位相を回復できない。 干渉の有無で振幅と位相の両方を推定できる効率的かつ効率的な手法を提案する。
  論文  参考訳（メタデータ） (2020-10-14T09:41:06Z)
• Towards robust sensing for Autonomous Vehicles: An adversarial perspective [82.83630604517249]
  結果として得られる決定が摂動に対して堅牢であることは、最も重要なことです。 敵対的摂動は、意図的に環境や感覚測定の修正を施したものである。 より安全なシステムの構築とデプロイには,センサーシステムの脆弱性を慎重に評価する必要がある。
  論文  参考訳（メタデータ） (2020-07-14T05:25:15Z)
• Adversarial vs behavioural-based defensive AI with joint, continual and active learning: automated evaluation of robustness to deception, poisoning and concept drift [62.997667081978825]
  人工知能(AI)の最近の進歩は、サイバーセキュリティのための行動分析(UEBA)に新たな能力をもたらした。 本稿では、検出プロセスを改善し、人間の専門知識を効果的に活用することにより、この攻撃を効果的に軽減するソリューションを提案する。
  論文  参考訳（メタデータ） (2020-01-13T13:54:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。