論文の概要: Module-wise Adaptive Adversarial Training for End-to-end Autonomous Driving
- arxiv url: http://arxiv.org/abs/2409.07321v1
- Date: Wed, 11 Sep 2024 15:00:18 GMT
- ステータス: 処理完了
- システム内更新日: 2024-09-12 14:13:20.298551
- Title: Module-wise Adaptive Adversarial Training for End-to-end Autonomous Driving
- Title（参考訳）: モジュールワイド・アダプティブ・アダプティブ・アダプティブ・アダプティブ・アダプティブ・トレーニングによるエンドツーエンド自動運転
- Authors: Tianyuan Zhang, Lu Wang, Jiaqi Kang, Xinwei Zhang, Siyuan Liang, Yuwei Chen, Aishan Liu, Xianglong Liu,
- Abstract要約: エンドツーエンドの自律運転モデルのためのモジュールワイド適応適応適応訓練(MA2T)を提案する。
本稿では,異なるモジュールが入力される前にノイズを注入するモジュールワイドノイズインジェクションについて紹介する。
また,各モジュールの損失重みを適応的に学習・調整するために,蓄積した重み変化を組み込んだ動的重み蓄積適応を導入する。
- 参考スコア（独自算出の注目度）: 33.90341803416033
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent advances in deep learning have markedly improved autonomous driving (AD) models, particularly end-to-end systems that integrate perception, prediction, and planning stages, achieving state-of-the-art performance. However, these models remain vulnerable to adversarial attacks, where human-imperceptible perturbations can disrupt decision-making processes. While adversarial training is an effective method for enhancing model robustness against such attacks, no prior studies have focused on its application to end-to-end AD models. In this paper, we take the first step in adversarial training for end-to-end AD models and present a novel Module-wise Adaptive Adversarial Training (MA2T). However, extending conventional adversarial training to this context is highly non-trivial, as different stages within the model have distinct objectives and are strongly interconnected. To address these challenges, MA2T first introduces Module-wise Noise Injection, which injects noise before the input of different modules, targeting training models with the guidance of overall objectives rather than each independent module loss. Additionally, we introduce Dynamic Weight Accumulation Adaptation, which incorporates accumulated weight changes to adaptively learn and adjust the loss weights of each module based on their contributions (accumulated reduction rates) for better balance and robust training. To demonstrate the efficacy of our defense, we conduct extensive experiments on the widely-used nuScenes dataset across several end-to-end AD models under both white-box and black-box attacks, where our method outperforms other baselines by large margins (+5-10%). Moreover, we validate the robustness of our defense through closed-loop evaluation in the CARLA simulation environment, showing improved resilience even against natural corruption.
- Abstract（参考訳）: 近年のディープラーニングの進歩は、自律運転(AD)モデル、特に認識、予測、計画段階を統合し、最先端のパフォーマンスを達成するエンド・ツー・エンドシステムを大幅に改善している。
しかし、これらのモデルは、人間の知覚できない摂動が意思決定プロセスを破壊するような敵の攻撃に弱いままである。
逆行訓練はこのような攻撃に対するモデル堅牢性を高める効果的な方法であるが、エンド・ツー・エンドADモデルに適用することに焦点を当てた先行研究は行われていない。
本稿では,Adaptive Adversarial Training (MA2T)を提案する。
しかし、モデル内の異なる段階は異なる目的を持ち、強く相互に結びついているため、従来の逆行訓練をこの文脈に拡張するのは非常に簡単ではない。
これらの課題に対処するため、MA2Tはまず、異なるモジュールの入力の前にノイズを注入するモジュールワイドノイズインジェクションを導入した。
さらに,積算重み変化を取り入れた動的重み蓄積適応を導入し,各モジュールの損失重みを適応的に学習・調整する。
防衛効果を示すため,白箱攻撃と黒箱攻撃の双方において,広範囲に使用されているnuScenesデータセットについて広範囲にわたる実験を行い,本手法は,他のベースラインよりも大きなマージン(+5-10%)で優れていた。
さらに, CARLAシミュレーション環境における閉ループ評価による防御の堅牢性を検証するとともに, 自然破壊に対してもレジリエンスが改善された。
関連論文リスト
- Dynamic Label Adversarial Training for Deep Learning Robustness Against Adversarial Attacks [11.389689242531327]
対人訓練は、モデルの堅牢性を高める最も効果的な方法の1つである。
従来のアプローチでは、主に敵の訓練に静的接地真理を用いるが、しばしば強固なオーバーフィッティングを引き起こす。
本稿では,動的ラベル対逆トレーニング(DYNAT)アルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-08-23T14:25:12Z) - MEAT: Median-Ensemble Adversarial Training for Improving Robustness and Generalization [38.445787290101826]
自己アンサンブル対逆訓練法は、異なる訓練エポックにおけるモデルのアンサンブルにより、モデルロバスト性を改善する。
これまでの研究によると、対戦訓練(AT)における自己アンサンブル防御法は、未だに頑強なオーバーフィッティングに悩まされている。
本稿では,この問題を解決するために,操作が容易かつ効果的なメディア・アンサンブル・アドバイザリアル・トレーニング(MEAT)手法を提案する。
論文 参考訳（メタデータ） (2024-06-20T12:28:47Z) - Efficient Adversarial Training in LLMs with Continuous Attacks [99.5882845458567]
大規模言語モデル(LLM)は、安全ガードレールをバイパスできる敵攻撃に対して脆弱である。
本稿では,2つの損失からなる高速対向訓練アルゴリズム(C-AdvUL)を提案する。
C-AdvIPOは、対向的に堅牢なアライメントのためのユーティリティデータを必要としない、対向型のIPOである。
論文 参考訳（メタデータ） (2024-05-24T14:20:09Z) - SOPHON: Non-Fine-Tunable Learning to Restrain Task Transferability For Pre-trained Models [19.41370590658815]
強力な事前訓練されたモデルは、非倫理的または違法なタスクに誤用される可能性がある。
先駆的な学習パラダイムであるNon-fine-tunable Learningを導入し、事前学習されたモデルが不適切なタスクに微調整されるのを防ぐ。
本稿では、予め定義された制限ドメインで微調整された場合に抵抗する、与えられた事前学習モデルを強化する保護フレームワークSOPHONを提案する。
論文 参考訳（メタデータ） (2024-04-19T08:07:26Z) - Not All Steps are Equal: Efficient Generation with Progressive Diffusion
Models [62.155612146799314]
ステップ適応トレーニングと呼ばれる新しい2段階のトレーニング戦略を提案する。
初期段階では、ベース・デノナイジング・モデルはすべてのタイムステップを包含するように訓練される。
タイムステップを別々のグループに分割し、各グループ内でモデルを微調整して、特殊な認知機能を実現します。
論文 参考訳（メタデータ） (2023-12-20T03:32:58Z) - Learn from the Past: A Proxy Guided Adversarial Defense Framework with
Self Distillation Regularization [53.04697800214848]
敵対的訓練(AT)は、ディープラーニングモデルの堅牢性を固める上で重要な要素である。
AT方式は、目標モデルの防御のために直接反復的な更新を頼りにしており、不安定な訓練や破滅的なオーバーフィッティングといった障害に頻繁に遭遇する。
汎用プロキシガイド型防衛フレームワークLAST(bf Pbf astから学ぶ)を提案する。
論文 参考訳（メタデータ） (2023-10-19T13:13:41Z) - TWINS: A Fine-Tuning Framework for Improved Transferability of
Adversarial Robustness and Generalization [89.54947228958494]
本稿では,様々な分類タスクにおいて,逆向きに事前訓練されたモデルの微調整に焦点を当てる。
本稿では,TWINS(Two-WIng NormliSation)ファインチューニングフレームワークを提案する。
TWINSは、一般化とロバスト性の両方の観点から、幅広い画像分類データセットに有効であることが示されている。
論文 参考訳（メタデータ） (2023-03-20T14:12:55Z) - Self-Ensemble Adversarial Training for Improved Robustness [14.244311026737666]
敵の訓練は、あらゆる種類の防衛方法において、様々な敵の攻撃に対する最強の戦略である。
最近の研究は主に新しい損失関数や正規化器の開発に重点を置いており、重み空間の特異な最適点を見つけようとしている。
我々は,歴史モデルの重みを平均化し,頑健な分類器を生成するための,単純だが強力なemphSelf-Ensemble Adversarial Training (SEAT)法を考案した。
論文 参考訳（メタデータ） (2022-03-18T01:12:18Z) - SafeAMC: Adversarial training for robust modulation recognition models [53.391095789289736]
通信システムには、Deep Neural Networks(DNN)モデルに依存する変調認識など、多くのタスクがある。
これらのモデルは、逆方向の摂動、すなわち、誤分類を引き起こすために作られた知覚不能な付加音に影響を受けやすいことが示されている。
本稿では,自動変調認識モデルのロバスト性を高めるために,逆方向の摂動を伴うモデルを微調整する逆方向トレーニングを提案する。
論文 参考訳（メタデータ） (2021-05-28T11:29:04Z) - Voting based ensemble improves robustness of defensive models [82.70303474487105]
我々は、より堅牢性を高めるためのアンサンブルを作ることができるかどうか研究する。
最先端の先制防衛モデルを複数組み合わせることで,59.8%の堅牢な精度を達成できる。
論文 参考訳（メタデータ） (2020-11-28T00:08:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。