論文の概要: Optimal Smoothing Distribution Exploration for Backdoor Neutralization
in Deep Learning-based Traffic Systems
- arxiv url: http://arxiv.org/abs/2303.14197v1
- Date: Fri, 24 Mar 2023 16:13:04 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-28 21:26:26.006493
- Title: Optimal Smoothing Distribution Exploration for Backdoor Neutralization
in Deep Learning-based Traffic Systems
- Title(参考訳): 深層学習に基づく交通システムにおけるバックドアニュートラル化のための最適平滑分布探索
- Authors: Yue Wang, Wending Li, Michail Maniatakos, Saif Eddin Jabari
- Abstract要約: 深部強化学習(DRL)は自律走行車(AV)の効率を高める
DRLは、交通渋滞や衝突の原因となるバックドア攻撃の影響を受けやすい。
バックドアを中和する入力に適切に設計された雑音を加える手法を提案する。
- 参考スコア(独自算出の注目度): 14.132670140863953
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep Reinforcement Learning (DRL) enhances the efficiency of Autonomous
Vehicles (AV), but also makes them susceptible to backdoor attacks that can
result in traffic congestion or collisions. Backdoor functionality is typically
incorporated by contaminating training datasets with covert malicious data to
maintain high precision on genuine inputs while inducing the desired
(malicious) outputs for specific inputs chosen by adversaries. Current defenses
against backdoors mainly focus on image classification using image-based
features, which cannot be readily transferred to the regression task of
DRL-based AV controllers since the inputs are continuous sensor data, i.e., the
combinations of velocity and distance of AV and its surrounding vehicles. Our
proposed method adds well-designed noise to the input to neutralize backdoors.
The approach involves learning an optimal smoothing (noise) distribution to
preserve the normal functionality of genuine inputs while neutralizing
backdoors. By doing so, the resulting model is expected to be more resilient
against backdoor attacks while maintaining high accuracy on genuine inputs. The
effectiveness of the proposed method is verified on a simulated traffic system
based on a microscopic traffic simulator, where experimental results showcase
that the smoothed traffic controller can neutralize all trigger samples and
maintain the performance of relieving traffic congestion
- Abstract(参考訳): 深層強化学習(Dep Reinforcement Learning, DRL)は、自律走行車(AV)の効率を高めるだけでなく、交通渋滞や衝突を引き起こすバックドア攻撃の影響を受けやすくする。
バックドア機能は典型的には、本物の入力に対して高い精度を維持するために、秘密の悪意のあるデータでトレーニングデータセットを汚染し、敵が選択した特定の入力に対して所望の(悪意のある)出力を誘導する。
バックドアに対する現在の防御は、主に画像に基づく特徴を用いた画像分類に重点を置いており、入力は連続センサデータ、すなわちAVとその周辺車両の速度と距離の組み合わせであるため、DRLベースのAVコントローラの回帰タスクに容易に移行できない。
提案手法はバックドアを中和するために入力によく設計されたノイズを付加する。
このアプローチでは、バックドアを中和しながら、真の入力の正常な機能を保ちながら最適な平滑化(ノイズ)分布を学習する。
これにより、実際の入力に対して高い精度を維持しつつ、バックドア攻撃に対してより回復力のあるモデルが期待できる。
本手法の有効性を微視的トラヒックシミュレータに基づくシミュレーショントラヒックシステムで検証し,スムース化トラヒックコントローラがすべてのトリガサンプルを中和し,トラヒックを緩和する性能を維持することを実験的に示した。
関連論文リスト
- FlowMur: A Stealthy and Practical Audio Backdoor Attack with Limited
Knowledge [13.43804949744336]
FlowMurはステルスで実用的なオーディオバックドア攻撃で、限られた知識で起動できる。
2つのデータセットで実施された実験は、FlowMurがデジタルと物理の両方で高い攻撃性能を達成することを示した。
論文 参考訳(メタデータ) (2023-12-15T10:26:18Z) - Setting the Trap: Capturing and Defeating Backdoors in Pretrained
Language Models through Honeypots [68.84056762301329]
近年の研究では、バックドア攻撃に対するプレトレーニング言語モデル(PLM)の感受性が明らかにされている。
バックドア情報のみを吸収するために,ハニーポットモジュールをオリジナルのPLMに統合する。
我々の設計は、PLMの低層表現が十分なバックドア特徴を持っているという観察に動機づけられている。
論文 参考訳(メタデータ) (2023-10-28T08:21:16Z) - Unsupervised Domain Adaptation for Self-Driving from Past Traversal
Features [69.47588461101925]
本研究では,新しい運転環境に3次元物体検出器を適応させる手法を提案する。
提案手法は,空間的量子化履歴特徴を用いたLiDARに基づく検出モデルを強化する。
実世界のデータセットの実験では、大幅な改善が示されている。
論文 参考訳(メタデータ) (2023-09-21T15:00:31Z) - LMSanitator: Defending Prompt-Tuning Against Task-Agnostic Backdoors [10.136109501389168]
LMSanitatorは、Transformerモデル上でタスク非依存のバックドアを検出し、削除するための新しいアプローチである。
LMSanitatorは960モデルで92.8%のバックドア検出精度を達成し、ほとんどのシナリオで攻撃成功率を1%以下に下げる。
論文 参考訳(メタデータ) (2023-08-26T15:21:47Z) - Implicit Occupancy Flow Fields for Perception and Prediction in
Self-Driving [68.95178518732965]
自動運転車(SDV)は、周囲を認識でき、他の交通参加者の将来の行動を予測できなければならない。
既存の作業は、検出されたオブジェクトの軌跡が続くオブジェクト検出を実行するか、シーン全体の密度の高い占有とフローグリッドを予測するかのいずれかである。
これは、認識と将来の予測に対する統一されたアプローチを動機付け、単一のニューラルネットワークで時間とともに占有とフローを暗黙的に表現します。
論文 参考訳(メタデータ) (2023-08-02T23:39:24Z) - Over-the-Air Federated Learning with Privacy Protection via Correlated
Additive Perturbations [57.20885629270732]
我々は、複数のユーザ/エージェントからエッジサーバへの勾配更新をOtA(Over-the-Air)で送信することで、無線フェデレーション学習のプライバシー面を考察する。
従来の摂動に基づく手法は、トレーニングの精度を犠牲にしてプライバシー保護を提供する。
本研究では,エッジサーバにおけるプライバシリークの最小化とモデル精度の低下を目標とする。
論文 参考訳(メタデータ) (2022-10-05T13:13:35Z) - DAAIN: Detection of Anomalous and Adversarial Input using Normalizing
Flows [52.31831255787147]
我々は、アウト・オブ・ディストリビューション(OOD)インプットと敵攻撃(AA)を検出する新しい手法であるDAINを導入する。
本手法は,ニューラルネットワークの内部動作を監視し,活性化分布の密度推定器を学習する。
当社のモデルは,特別なアクセラレータを必要とせずに,効率的な計算とデプロイが可能な単一のGPUでトレーニングすることが可能です。
論文 参考訳(メタデータ) (2021-05-30T22:07:13Z) - Adaptive conversion of real-valued input into spike trains [91.3755431537592]
本稿では,実数値入力をスパイクトレインに変換し,スパイクニューラルネットワークで処理する方法を提案する。
提案手法は網膜神経節細胞の適応的挙動を模倣し,入力ニューロンが入力の統計の変化に応答することを可能にする。
論文 参考訳(メタデータ) (2021-04-12T12:33:52Z) - Leveraging the Capabilities of Connected and Autonomous Vehicles and
Multi-Agent Reinforcement Learning to Mitigate Highway Bottleneck Congestion [2.0010674945048468]
RLをベースとしたマルチエージェントCAV制御モデルを提案する。
その結果、CAVのシェアが10%以下である場合でも、CAVはハイウェイ交通のボトルネックを著しく軽減することができることが示唆された。
論文 参考訳(メタデータ) (2020-10-12T03:52:10Z) - Stop-and-Go: Exploring Backdoor Attacks on Deep Reinforcement
Learning-based Traffic Congestion Control Systems [16.01681914880077]
DRLを用いたAVコントローラのバックドア/トロイジャリングについて検討する。
悪意ある行動としては、車両の減速と加速によって停止・停止する交通波が発生することが挙げられる。
実験により、バックドアモデルが通常の動作性能を損なわないことが示された。
論文 参考訳(メタデータ) (2020-03-17T08:20:43Z) - Real-time Out-of-distribution Detection in Learning-Enabled
Cyber-Physical Systems [1.4213973379473654]
サイバー物理システムは、現実世界の不確実性と可変性を処理できる機械学習コンポーネントを使用することで恩恵を受ける。
しかし、ディープニューラルネットワークは、システムの安全性に影響を及ぼす可能性のある、新しいタイプのハザードを導入している。
アウト・オブ・ディストリビューションデータは大きなエラーを引き起こし、安全性を損なう可能性がある。
論文 参考訳(メタデータ) (2020-01-28T17:51:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。