論文の概要: On the Natural Robustness of Vision-Language Models Against Visual Perception Attacks in Autonomous Driving

• arxiv url: http://arxiv.org/abs/2506.11472v1
• Date: Fri, 13 Jun 2025 05:22:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-16 17:50:49.662231
• Title: On the Natural Robustness of Vision-Language Models Against Visual Perception Attacks in Autonomous Driving
• Title（参考訳）: 自律運転における視覚知覚攻撃に対する視覚言語モデルの自然なロバスト性について
• Authors: Pedram MohajerAnsari, Amir Salarpour, Michael Kühr, Siyu Huang, Mohammad Hamad, Sebastian Steinhorst, Habeeb Olufowobi, Mert D. Pesé,
• Abstract要約: 車両ビジョン言語モデル(V2LM)は、敵の訓練を必要とせず、目に見えない攻撃に対して優れた堅牢性を示す。 V2LMは平均8%未満の減少率で敵の精度を維持している。 以上の結果から,V2LMはより安全でレジリエントなAV知覚システムを実現する上で有望な道筋であることが示唆された。
• 参考スコア（独自算出の注目度）: 10.322375799524345
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Autonomous vehicles (AVs) rely on deep neural networks (DNNs) for critical tasks such as traffic sign recognition (TSR), automated lane centering (ALC), and vehicle detection (VD). However, these models are vulnerable to attacks that can cause misclassifications and compromise safety. Traditional defense mechanisms, including adversarial training, often degrade benign accuracy and fail to generalize against unseen attacks. In this work, we introduce Vehicle Vision Language Models (V2LMs), fine-tuned vision-language models specialized for AV perception. Our findings demonstrate that V2LMs inherently exhibit superior robustness against unseen attacks without requiring adversarial training, maintaining significantly higher accuracy than conventional DNNs under adversarial conditions. We evaluate two deployment strategies: Solo Mode, where individual V2LMs handle specific perception tasks, and Tandem Mode, where a single unified V2LM is fine-tuned for multiple tasks simultaneously. Experimental results reveal that DNNs suffer performance drops of 33% to 46% under attacks, whereas V2LMs maintain adversarial accuracy with reductions of less than 8% on average. The Tandem Mode further offers a memory-efficient alternative while achieving comparable robustness to Solo Mode. We also explore integrating V2LMs as parallel components to AV perception to enhance resilience against adversarial threats. Our results suggest that V2LMs offer a promising path toward more secure and resilient AV perception systems.
• Abstract（参考訳）: 自動運転車(AV)は、交通標識認識(TSR)、自動車線センター(ALC)、車両検出(VD)といった重要なタスクにディープニューラルネットワーク(DNN)に依存している。 しかし、これらのモデルは、誤分類を引き起こし、安全性を損なう可能性のある攻撃に対して脆弱である。 敵の訓練を含む伝統的な防御機構は、しばしば良識の精度を低下させ、目に見えない攻撃に対して一般化することができない。 本稿では,自動車ビジョン言語モデル(V2LM)を紹介する。 以上の結果より, V2LMは, 対人訓練を必要とせず, 対人訓練を必要とせず, 対人訓練を必要とせず, 対人訓練において従来のDNNよりも高い精度を維持していることが明らかとなった。 個別のV2LMが特定の知覚タスクを処理するソロモードと、複数のタスクに対して単一の統一V2LMを同時に微調整するタンデムモードの2つのデプロイメント戦略を評価した。 実験の結果,DNNは攻撃下では33%から46%の低下を示し,V2LMは平均8%未満の低下で敵の精度を維持した。 タンデムモードはさらにメモリ効率の良い代替手段を提供し、Soloモードに匹敵する堅牢性を実現している。 また,敵の脅威に対する耐性を高めるために,V2LMを並列成分としてAV知覚に統合することを検討する。 以上の結果から,V2LMはより安全でレジリエントなAV知覚システムを実現する上で有望な道筋であることが示唆された。

関連論文リスト

• Black-Box Adversarial Attack on Vision Language Models for Autonomous Driving [65.61999354218628]
  我々は、自律運転システムにおいて、視覚言語モデル(VLM)をターゲットとしたブラックボックス敵攻撃を設計する第一歩を踏み出す。 セマンティクスの生成と注入による低レベル推論の分解を目標とするカスケーディング・アディバーショナル・ディスラプション(CAD)を提案する。 本稿では,高レベルリスクシナリオの理解と構築に代理VLMを活用することで,動的適応に対処するリスクシーンインジェクションを提案する。
  論文  参考訳（メタデータ） (2025-01-23T11:10:02Z)
• Safeguarding Vision-Language Models Against Patched Visual Prompt Injectors [31.383591942592467]
  視覚言語モデル(VLM)は、視覚とテキストのデータを組み合わせて理解と相互作用を強化する革新的な方法を提供する。 パッチベースの敵攻撃は、物理的な視覚応用において最も現実的な脅威モデルと考えられている。 本研究では,スムージング技術に根ざした防御機構であるSmoothVLMを導入し,VLMをパッチ付き視覚プロンプトインジェクタの脅威から保護する。
  論文  参考訳（メタデータ） (2024-05-17T04:19:19Z)
• Meta Invariance Defense Towards Generalizable Robustness to Unknown Adversarial Attacks [62.036798488144306]
  現在の防衛は主に既知の攻撃に焦点を当てているが、未知の攻撃に対する敵意の強固さは見過ごされている。 メタ不変防衛(Meta Invariance Defense, MID)と呼ばれる攻撃非依存の防御手法を提案する。 MIDは高レベルの画像分類と低レベルの頑健な画像再生における攻撃抑制において,知覚不能な逆方向の摂動に対して同時に頑健性を実現する。
  論文  参考訳（メタデータ） (2024-04-04T10:10:38Z)
• Stackelberg Driver Model for Continual Policy Improvement in Scenario-Based Closed-Loop Autonomous Driving [5.765939495779461]
  安全クリティカルなシナリオを合成するための効率的な手法のクラスとして、敵生成法が登場した。 Stackelberg Driver Model (SDM) を調整し、車両相互作用の階層的な性質を正確に特徴づける。 提案アルゴリズムは,特に高次元シナリオにおいて,いくつかのベースラインと比較して優れた性能を示す。
  論文  参考訳（メタデータ） (2023-09-25T15:47:07Z)
• On Evaluating Adversarial Robustness of Large Vision-Language Models [64.66104342002882]
  大規模視覚言語モデル(VLM)のロバスト性を,最も現実的で高リスクな環境で評価する。 特に,CLIP や BLIP などの事前学習モデルに対して,まず攻撃対象のサンプルを作成する。 これらのVLM上のブラックボックスクエリは、ターゲットの回避の効果をさらに向上させることができる。
  論文  参考訳（メタデータ） (2023-05-26T13:49:44Z)
• Evaluating Adversarial Attacks on Driving Safety in Vision-Based Autonomous Vehicles [21.894836150974093]
  近年、多くのディープラーニングモデルが自動運転に採用されている。 近年の研究では、敵対的攻撃がディープラーニングに基づく3次元物体検出モデルの検出精度を著しく低下させることが示されている。
  論文  参考訳（メタデータ） (2021-08-06T04:52:09Z)
• Improving the Adversarial Robustness for Speaker Verification by Self-Supervised Learning [95.60856995067083]
  この研究は、特定の攻撃アルゴリズムを知らずにASVの敵防衛を行う最初の試みの一つである。 本研究の目的は,1) 対向摂動浄化と2) 対向摂動検出の2つの視点から対向防御を行うことである。 実験の結果, 検出モジュールは, 約80%の精度で対向検体を検出することにより, ASVを効果的に遮蔽することがわかった。
  論文  参考訳（メタデータ） (2021-06-01T07:10:54Z)
• Adversarial defense for automatic speaker verification by cascaded self-supervised learning models [101.42920161993455]
  ますます悪意のある攻撃者は、自動話者検証(ASV)システムで敵攻撃を仕掛けようとする。 本稿では,逐次的自己教師付き学習モデルに基づく標準的かつ攻撃非依存な手法を提案する。 実験により, 本手法は効果的な防御性能を実現し, 敵攻撃に対抗できることを示した。
  論文  参考訳（メタデータ） (2021-02-14T01:56:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。