論文の概要: AttackVLA: Benchmarking Adversarial and Backdoor Attacks on Vision-Language-Action Models

• arxiv url: http://arxiv.org/abs/2511.12149v1
• Date: Sat, 15 Nov 2025 10:30:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-18 14:36:23.640092
• Title: AttackVLA: Benchmarking Adversarial and Backdoor Attacks on Vision-Language-Action Models
• Title（参考訳）: アタックVLA:ビジョン・ランゲージ・アクションモデルによる敵・バックドア攻撃のベンチマーク
• Authors: Jiayu Li, Yunhan Zhao, Xiang Zheng, Zonghuan Xu, Yige Li, Xingjun Ma, Yu-Gang Jiang,
• Abstract要約: VLA(Vision-Language-Action)モデルは、ロボットが自然言語の命令を解釈し、多様なタスクを実行することを可能にするモデルである。 このようなモデルを攻撃することへの関心は高まっているが、既存の手法の有効性は依然として不明である。 我々はVLA開発ライフサイクルに合わせて統合されたフレームワークであるAttackVLAを提案する。
• 参考スコア（独自算出の注目度）: 60.39655329875822
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Vision-Language-Action (VLA) models enable robots to interpret natural-language instructions and perform diverse tasks, yet their integration of perception, language, and control introduces new safety vulnerabilities. Despite growing interest in attacking such models, the effectiveness of existing techniques remains unclear due to the absence of a unified evaluation framework. One major issue is that differences in action tokenizers across VLA architectures hinder reproducibility and fair comparison. More importantly, most existing attacks have not been validated in real-world scenarios. To address these challenges, we propose AttackVLA, a unified framework that aligns with the VLA development lifecycle, covering data construction, model training, and inference. Within this framework, we implement a broad suite of attacks, including all existing attacks targeting VLAs and multiple adapted attacks originally developed for vision-language models, and evaluate them in both simulation and real-world settings. Our analysis of existing attacks reveals a critical gap: current methods tend to induce untargeted failures or static action states, leaving targeted attacks that drive VLAs to perform precise long-horizon action sequences largely unexplored. To fill this gap, we introduce BackdoorVLA, a targeted backdoor attack that compels a VLA to execute an attacker-specified long-horizon action sequence whenever a trigger is present. We evaluate BackdoorVLA in both simulated benchmarks and real-world robotic settings, achieving an average targeted success rate of 58.4% and reaching 100% on selected tasks. Our work provides a standardized framework for evaluating VLA vulnerabilities and demonstrates the potential for precise adversarial manipulation, motivating further research on securing VLA-based embodied systems.
• Abstract（参考訳）: VLA(Vision-Language-Action)モデルは、ロボットが自然言語の命令を解釈し、多様なタスクを実行することを可能にする。 このようなモデルを攻撃することへの関心が高まっているが、統一的な評価フレームワークがないため、既存の手法の有効性は依然として不明である。 1つの大きな問題は、VLAアーキテクチャ間のアクショントークン化器の違いが再現性と公正な比較を妨げることである。 さらに重要なのは、既存の攻撃のほとんどは、現実世界のシナリオでは検証されていないことだ。 これらの課題に対処するため、我々はVLA開発ライフサイクルに沿った統合フレームワークであるAttackVLAを提案し、データ構築、モデルトレーニング、推論をカバーした。 このフレームワーク内では、VLAをターゲットにした既存の攻撃と、視覚言語モデル用に開発された複数の適応型攻撃を含む、幅広い攻撃群を実装し、シミュレーションと実世界の設定の両方でそれらを評価する。 現在の手法では、ターゲットのない障害や静的な動作状態が引き起こされる傾向があり、VLAをターゲットとする攻撃は、ほとんど探索されていない正確なロングホライゾンアクションシーケンスを実行する。 このギャップを埋めるために、ターゲットのバックドアアタックであるBackdoorVLAを導入する。これはVLAを補完し、トリガーが存在するたびに攻撃者が指定したロングホライゾンアクションシーケンスを実行する。 我々は、シミュレーションベンチマークと実世界のロボット設定の両方でBackdoorVLAを評価し、平均目標成功率58.4%、選択したタスクで100%に達することを達成した。 我々の研究は、VLAの脆弱性を評価するための標準化されたフレームワークを提供し、正確な敵操作の可能性を示し、VLAベースの実施システムの安全性に関するさらなる研究を動機付けている。

関連論文リスト

• TabVLA: Targeted Backdoor Attacks on Vision-Language-Action Models [63.51290426425441]
  バックドア付きVLAエージェントは、プレインジェクトされたバックドアによって隠蔽的にトリガーされ、敵のアクションを実行することができる。 我々は,VLAモデルに対するターゲットバックドア攻撃について検討し,ブラックボックスファインチューニングによる攻撃を可能にする新しいフレームワークであるTabVLAを紹介した。 我々の研究は、バックドア操作をターゲットにしたVLAモデルの脆弱性を強調し、より高度な防御の必要性を強調します。
  論文  参考訳（メタデータ） (2025-10-13T02:45:48Z)
• FreezeVLA: Action-Freezing Attacks against Vision-Language-Action Models [124.02734355214325]
  Vision-Language-Action(VLA)モデルはロボティクスの急速な進歩を加速している。 敵画像はVLAモデルを「凍結」し、その後の命令を無視する。 FreezeVLAは、min-maxバイレベル最適化を通じて、アクション凍結攻撃を生成し、評価する。
  論文  参考訳（メタデータ） (2025-09-24T08:15:28Z)
• Adversarial Attacks on Robotic Vision Language Action Models [118.02118618146568]
  視覚言語行動モデル(VLA)に対する敵対的攻撃について検討する。 我々のアルゴリズムの主な貢献は、完全な制御権限を得るためのLLMジェイルブレイク攻撃の適応と応用である。 LLMのジェイルブレイク文学とは大きく異なるのは、現実世界の攻撃は害の概念と意味的に結びついている必要はないからである。
  論文  参考訳（メタデータ） (2025-06-03T19:43:58Z)
• BadVLA: Towards Backdoor Attacks on Vision-Language-Action Models via Objective-Decoupled Optimization [45.97834622654751]
  BadVLAはObjective-Decoupled Optimizationに基づくバックドア攻撃手法である。 我々は,BadVLAがクリーンタスク精度に最小限の影響を伴って,ほぼ100%の攻撃成功率を達成することを示す。 我々の研究は、VLAモデルにおけるバックドア脆弱性に関する最初の体系的な調査を提供する。
  論文  参考訳（メタデータ） (2025-05-22T13:12:46Z)
• Chain of Attack: On the Robustness of Vision-Language Models Against Transfer-Based Adversarial Attacks [34.40254709148148]
  事前学習された視覚言語モデル(VLM)は、画像および自然言語理解において顕著な性能を示した。 彼らの潜在的な安全性と堅牢性の問題は、敵がシステムを回避し、悪意のある攻撃を通じて有害なコンテンツを生成することを懸念する。 本稿では,マルチモーダルなセマンティック・アップデートに基づいて,敵対的事例の生成を反復的に促進するアタック・チェーン(CoA)を提案する。
  論文  参考訳（メタデータ） (2024-11-24T05:28:07Z)
• Exploring the Adversarial Vulnerabilities of Vision-Language-Action Models in Robotics [68.36528819227641]
  本稿では,ビジョン・ランゲージ・アクション(VLA)モデルのロバスト性を体系的に評価する。 本研究では,ロボット行動の不安定化に空間的基盤を活用する2つの未目標攻撃目標と,ロボット軌道を操作する目標攻撃目標を導入する。 我々は、カメラの視野に小さなカラフルなパッチを配置し、デジタルと物理の両方の環境で効果的に攻撃を実行する逆パッチ生成アプローチを設計する。
  論文  参考訳（メタデータ） (2024-11-18T01:52:20Z)
• Towards Transferable Attacks Against Vision-LLMs in Autonomous Driving with Typography [21.632703081999036]
  Vision-Large-Language-Models (Vision-LLMs)は、自律走行(AD)システムに統合されつつある。 我々は,ビジョンLLMの意思決定能力に頼って,ADシステムに対するタイポグラフィー攻撃を活用することを提案する。
  論文  参考訳（メタデータ） (2024-05-23T04:52:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。