論文の概要: TrapVLA: Trapping Vision-Language-Action Models in Configured Failure Modes

• arxiv url: http://arxiv.org/abs/2608.26578v1
• Date: Thu, 27 Aug 2026 03:44:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-28 16:30:58.23438
• Title: TrapVLA: Trapping Vision-Language-Action Models in Configured Failure Modes
• Title（参考訳）: TrapVLA: 構成された故障モードにおける視線制御モデル
• Abstract要約: この研究は、Vision-Language-Action(VLA)モデルに対する新しいバックドア攻撃タスクであるConfigured Failure Trappingを導入している。 本稿では,高品質な目標軌道を合成するための効率的なデータエンジンと,構成欠陥の忠実度を測定するための自動スイートを提案する。 実験によると、TrapVLAは構成された障害モードをVLAモデルに効果的に注入し、クリーンなデータのパフォーマンスを保っている。
• 参考スコア（独自算出の注目度）: 65.10128145059127
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: This work introduces Configured Failure Trapping, a novel backdoor attack task against Vision-Language-Action (VLA) models, which aims to activate attacks through stealthy textual triggers and induce configured failure modes. Unlike prior backdoor attacks that treat any task failure as a successful attack, Configured Failure Trapping requires the attacker to control how the robot fails (e.g., causing the robot to grasp with a specified positional offset), making it substantially more challenging and hard to detect. To support the new task, we propose an effective data engine for synthesizing high-quality target trajectories and an automated suite for measuring configured-failure fidelity. Then, based on this foundation, we construct two new benchmarks, namely Trap-LIBERO and Trap-RoboTwin, that instantiate Configured Failure Trapping across four representative failure modes. To address this task, we identify sparse action deviation as a critical challenge and accordingly propose a novel method named TrapVLA, which explicitly learns trigger-induced action residuals to steer the policy toward the configured failure behavior. Extensive experiments across simulation benchmarks and real-world robotic settings show that TrapVLA effectively injects configured failure modes into VLA models while largely preserving performance on clean data. Project page: https://john-liua.github.io/TrapVLA/
• Abstract（参考訳）: これはVision-Language-Action(VLA)モデルに対する新しいバックドア攻撃タスクであり、ステルスなテキストトリガを通じて攻撃を活性化し、設定された障害モードを誘導することを目的としている。 あらゆるタスク障害を攻撃成功として扱う以前のバックドア攻撃とは異なり、設定された障害追跡では、攻撃者がロボットがどのように失敗するかを制御する必要がある(例えば、ロボットが特定の位置オフセットでつかむこと)。 新しいタスクを支援するために,高品質な目標軌道を合成するための効率的なデータエンジンと,構成欠陥の忠実度を測定するための自動スイートを提案する。 そして、この基盤に基づいて、Trap-LIBEROとTrap-RoboTwinという2つの新しいベンチマークを構築し、4つの代表的な障害モードでConfigured Failure Trappingをインスタンス化する。 この課題に対処するために,スパース動作の偏差を重要な課題として認識し,それに基づいてトリガ誘発動作残差を明示的に学習し,設定された障害行動に対するポリシーを判断するTrapVLAという新しい手法を提案する。 シミュレーションベンチマークと実世界のロボット設定による大規模な実験は、TrapVLAが構成済みの障害モードをVLAモデルに効果的に注入し、クリーンなデータのパフォーマンスを保っていることを示している。 プロジェクトページ: https://john-liua.github.io/TrapVLA/

関連論文リスト

• FLARE: A Failure-Aware Framework for Autonomous Correction and Recovery in Visual-Language Robotic Manipulation [43.89036551517797]
  VLA(Vision-Language-Action Models)は、複雑な長距離ロボット操作タスクへの一般化において、大きな可能性を証明している。 彼らのパフォーマンスは、通常、軌道単調で障害のないデモンストレーションで訓練されるため、不安定なままである。 我々は、リトライとリセットのパラダイムを通じて、堅牢なエラー回復機能を備えたVLAを実現する新しいフレームワークであるFLAREを提案する。
  論文  参考訳（メタデータ） (2026-08-27T05:58:06Z)
• Foresight: Failure Detection for Long-Horizon Robotic Manipulation with Action-Conditioned World Model Latents [58.49879338545782]
  ロングホライゾンタスクは、現実のロボット展開では一般的なものだが、そのようなタスクの障害検出は未調査のままである。 動作条件付き世界モデルからの潜在表現を用いて、操作軌跡をモニタする故障検出フレームワークであるForesightを提案する。 この結果から, 動作条件付きワールドモデル埋め込みは, 長距離操作における信頼性のある故障監視のためのスケーラブルな表現を提供する可能性が示唆された。
  論文  参考訳（メタデータ） (2026-06-22T09:32:28Z)
• Hide-and-Seek in Trajectories: Discovering Failure Signals for VLA Runtime Monitoring [35.34120853605602]
  textbf-and-Seekは、粗い教師付き学習問題としてVLA障害検出を定式化するフレームワークである。 我々は、LIBERO、VLABench、および3つの代表的なVLAポリシーをまたいだ現実世界のロボットプラットフォームについて、Hie-and-Seekの評価を行った。
  論文  参考訳（メタデータ） (2026-05-29T04:40:12Z)
• CycleVLA: Proactive Self-Correcting Vision-Language-Action Models via Subtask Backtracking and Minimum Bayes Risk Decoding [60.06899554269808]
  サイクロンVLA(CycleVLA)は、VLA(Vision-Language-Action Model)を積極的に自己補正するシステムである。 CycleVLAは、重要なサブタスク遷移ポイントにフラグを付けるプログレス対応のVLAを統合することで、これを実現する。 大規模な実験により、CycleVLAは、よく訓練されたVLAと訓練されていないVLAの両方のパフォーマンスを改善することが示された。
  論文  参考訳（メタデータ） (2026-01-05T17:31:01Z)
• Guardian: Detecting Robotic Planning and Execution Errors with Vision-Language Models [53.20969621498248]
  本稿では,多種多様な計画および実行障害を生成するために,軌道を手続き的に乱す自動ロボット故障合成手法を提案する。 RLBench-Fail, BridgeDataV2-Fail, UR5-Failの3つの新しい故障検出ベンチマークを構築した。 次に、詳細な障害推論と検出のためのマルチビューイメージを備えたVLMであるGuardianをトレーニングします。
  論文  参考訳（メタデータ） (2025-12-01T17:57:27Z)
• AttackVLA: Benchmarking Adversarial and Backdoor Attacks on Vision-Language-Action Models [60.39655329875822]
  VLA(Vision-Language-Action)モデルは、ロボットが自然言語の命令を解釈し、多様なタスクを実行することを可能にするモデルである。 このようなモデルを攻撃することへの関心は高まっているが、既存の手法の有効性は依然として不明である。 我々はVLA開発ライフサイクルに合わせて統合されたフレームワークであるAttackVLAを提案する。
  論文  参考訳（メタデータ） (2025-11-15T10:30:46Z)
• TabVLA: Targeted Backdoor Attacks on Vision-Language-Action Models [63.51290426425441]
  バックドア付きVLAエージェントは、プレインジェクトされたバックドアによって隠蔽的にトリガーされ、敵のアクションを実行することができる。 我々は,VLAモデルに対するターゲットバックドア攻撃について検討し,ブラックボックスファインチューニングによる攻撃を可能にする新しいフレームワークであるTabVLAを紹介した。 我々の研究は、バックドア操作をターゲットにしたVLAモデルの脆弱性を強調し、より高度な防御の必要性を強調します。
  論文  参考訳（メタデータ） (2025-10-13T02:45:48Z)
• SAFE: Multitask Failure Detection for Vision-Language-Action Models [28.746068068444924]
  視覚言語アクションモデル(VLA)は、様々な操作タスクのセットにわたって有望なロボット行動を示している。 最初から新しいタスクにデプロイすると、成功率は制限される。 本稿では,VLAなどの汎用ロボットポリシーのための障害検出ツールSAFEを提案する。
  論文  参考訳（メタデータ） (2025-06-11T16:59:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。