論文の概要: Bait and Switch: Online Training Data Poisoning of Autonomous Driving Systems

• arxiv url: http://arxiv.org/abs/2011.04065v2
• Date: Mon, 7 Dec 2020 16:29:50 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-28 08:55:09.273055
• Title: Bait and Switch: Online Training Data Poisoning of Autonomous Driving Systems
• Title（参考訳）: Bait and Switch: 自律運転システムのオンライントレーニングデータ収集
• Authors: Naman Patel, Prashanth Krishnamurthy, Siddharth Garg, Farshad Khorrami
• Abstract要約: トレーニング済みのディープニューラルネットワーク(DNN)がオンラインで微調整されている物理的環境の一部を制御することで、敵が微妙なデータ中毒攻撃を発生させることができることを示す。
• 参考スコア（独自算出の注目度）: 12.867129768057175
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We show that by controlling parts of a physical environment in which a pre-trained deep neural network (DNN) is being fine-tuned online, an adversary can launch subtle data poisoning attacks that degrade the performance of the system. While the attack can be applied in general to any perception task, we consider a DNN based traffic light classifier for an autonomous car that has been trained in one city and is being fine-tuned online in another city. We show that by injecting environmental perturbations that do not modify the traffic lights themselves or ground-truth labels, the adversary can cause the deep network to learn spurious concepts during the online learning phase. The attacker can leverage the introduced spurious concepts in the environment to cause the model's accuracy to degrade during operation; therefore, causing the system to malfunction.
• Abstract（参考訳）: トレーニング済みのディープニューラルネットワーク(DNN)がオンラインで微調整されている物理的環境の一部を制御することで、敵はシステムの性能を低下させる微妙なデータ中毒攻撃を発生させることができる。 この攻撃は、一般にあらゆる知覚タスクに適用できるが、ある都市で訓練され、別の都市でオンラインで微調整されている自動運転車のDNNベースの信号分類器を考える。 そこで本研究では,トラヒックライト自体や地中ラベルを変更しない環境摂動を注入することで,オンライン学習の過程でディープネットワークがスプリアス概念を学習できることを示す。 攻撃者は、導入されたスプリアスの概念を環境に利用して、動作中にモデルの精度を低下させ、システムの故障を引き起こすことができる。

関連論文リスト

• Reinforcement Learning based Cyberattack Model for Adaptive Traffic Signal Controller in Connected Transportation Systems [61.39400591328625]
  接続輸送システムにおいて、適応交通信号制御装置(ATSC)は、車両から受信したリアルタイム車両軌跡データを利用して、グリーンタイムを規制する。 この無線接続されたATSCはサイバー攻撃面を増やし、その脆弱性を様々なサイバー攻撃モードに拡大する。 そのようなモードの1つは、攻撃者がネットワーク内で偽の車両を作成する「シビル」攻撃である。 RLエージェントは、シビル車噴射の最適速度を学習し、アプローチの混雑を生じさせるように訓練される
  論文  参考訳（メタデータ） (2022-10-31T20:12:17Z)
• Adversarial Attack Against Image-Based Localization Neural Networks [1.911678487931003]
  本稿では,自動運転車のイメージベース位置決めモジュールを敵に攻撃する概念実証について述べる。 レンダリングされた画像のデータベースにより、ローカライズタスクを実行し、敵のパターンを実装し、開発し、評価するディープニューラルネットワークをトレーニングすることができます。
  論文  参考訳（メタデータ） (2022-10-11T16:58:19Z)
• Tackling Real-World Autonomous Driving using Deep Reinforcement Learning [63.3756530844707]
  本研究では,加速と操舵角度を予測するニューラルネットワークを学習するモデルレスディープ強化学習プランナを提案する。 実際の自動運転車にシステムをデプロイするために、我々は小さなニューラルネットワークで表されるモジュールも開発する。
  論文  参考訳（メタデータ） (2022-07-05T16:33:20Z)
• Learning energy-efficient driving behaviors by imitating experts [75.12960180185105]
  本稿では,コミュニケーション・センシングにおける制御戦略と現実的限界のギャップを埋める上で,模倣学習が果たす役割について考察する。 擬似学習は、車両の5%に採用されれば、局地的な観測のみを用いて、交通条件の異なるネットワークのエネルギー効率を15%向上させる政策を導出できることを示す。
  論文  参考訳（メタデータ） (2022-06-28T17:08:31Z)
• Efficient Federated Learning with Spike Neural Networks for Traffic Sign Recognition [70.306089187104]
  我々は、エネルギー効率と高速モデルトレーニングのための交通信号認識に強力なスパイクニューラルネットワーク(SNN)を導入している。 数値的な結果から,提案するフェデレーションSNNは,従来のフェデレーション畳み込みニューラルネットワークよりも精度,ノイズ免疫性,エネルギー効率に優れていたことが示唆された。
  論文  参考訳（メタデータ） (2022-05-28T03:11:48Z)
• Automating Privilege Escalation with Deep Reinforcement Learning [71.87228372303453]
  本研究では,エージェントの訓練に深層強化学習を用いることで,悪意あるアクターの潜在的な脅威を実証する。 本稿では,最先端の強化学習アルゴリズムを用いて,局所的な特権エスカレーションを行うエージェントを提案する。 我々のエージェントは、実際の攻撃センサーデータを生成し、侵入検知システムの訓練と評価に利用できる。
  論文  参考訳（メタデータ） (2021-10-04T12:20:46Z)
• The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
  我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。 敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
  論文  参考訳（メタデータ） (2021-06-26T10:50:07Z)
• Finding Physical Adversarial Examples for Autonomous Driving with Fast and Differentiable Image Compositing [33.466413757630846]
  本研究では、シミュレーションされた自律走行環境の逆修正を見つけるためのスケーラブルなアプローチを提案する。 ベイズ最適化に基づく最先端のアプローチよりも,我々のアプローチははるかにスケーラブルで,はるかに効果的です。
  論文  参考訳（メタデータ） (2020-10-17T18:35:32Z)
• Integrated Traffic Simulation-Prediction System using Neural Networks with Application to the Los Angeles International Airport Road Network [39.975268616636]
  提案システムは,最適化に基づくOD行列生成手法と,トラフィックフローのパターンを介してOD行列を予測するニューラルネットワーク(NN)モデルと,微視的トラフィックシミュレータを含む。 ロサンゼルス国際空港(LAX)中央ターミナルエリア(CTA)の道路ネットワーク上で提案システムをテストする。
  論文  参考訳（メタデータ） (2020-08-05T01:41:10Z)
• Towards Safer Self-Driving Through Great PAIN (Physically Adversarial Intelligent Networks) [3.136861161060885]
  我々は、自動運転車が積極的に対話する「Physically Adrial Intelligent Network」(PAIN)を紹介する。 我々は2つのエージェント、主人公と敵を訓練し、優先された体験リプレイを伴う二重深度Qネットワーク(DDDQN)を使用する。 訓練された主人公は、環境の不確実性に対してより弾力性を持ち、ケースの失敗を抑える傾向がある。
  論文  参考訳（メタデータ） (2020-03-24T05:04:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。