TrapVLA: Trapping Vision-Language-Action Models in Configured Failure Modes
Abstractの概要
本論文では、Vision-Language-Action（VLA）モデルに対する新たなバックドア攻撃設定として「Configured Failure Trapping」を研究しています。この設定では、ステルス性のあるテキストトリガーにより、ロボットが単にランダムに失敗するのではなく、事前設定された特定の方法で失敗するように誘導されます。この設定を支えるため、著者らはエキスパートのデモから標的軌道を合成するTrapEngineと、クリーンなタスクの維持および意図した失敗モードへの忠実度の両方を測定するTrapEvalを導入しています。さらに、Early Close、Grasp Deviation、Early Open、Release Deviationという4つの操作失敗モードを具体化し、Trap-LIBEROとTrap-RoboTwinという2つのベンチマークを構築しました。提案手法であるTrapVLAは、対となるクリーンな軌道とバックドア軌道からトリガーに起因する行動残差を明示的に学習することで、スパースな行動偏差に対処しており、シミュレーションおよびOpenVLA-OFTとπ0.5モデルを用いた実ロボットで実験が行われています。
新規性
本論文の主な新規性は、VLAバックドア攻撃の対象を制約のないタスク失敗から、テキストトリガーによってのみ発動する、攻撃者が制御可能かつ行動として妥当な失敗モードへと移行させた点にあります。また、このよりきめ細かな攻撃設定に合わせて調整されたベンチマークや評価基盤とともに、ペアデータ残差学習の目的関数であるTarget Residual Steeringを導入した点も新規性として挙げられます。
成果
Trap-LIBEROにおいて、TrapVLAはクリーンタスクの成功と設定された攻撃成功との間で最良またはそれに近い全体的なバランスを達成し、OpenVLA-OFTの全4スイートで最高のAVEを記録したほか、π0.5でも強力な結果を示しました。また、より困難な両腕操作のRoboTwinタスクや実世界のロボット実験にも汎化し、クリーンな性能を維持しつつDropVLAを大幅に上回りました。全体として、クリーンな指示に対する大幅な性能低下を招くことなく、設定された失敗モードをVLAモデルに確実に注入できることが実証されています。
論文の注目点
- Configured Failure Trappingはロボットの失敗の仕方を制御するバックドア攻撃を定義し、ステルス性のあるテキストトリガーを用いて特定の時間的または空間的な操作エラーを引き起こします。
- TrapVLAは標準的なバックドア学習とTarget Residual Steeringを組み合わせることで、トリガーを軌道全体の弱い手がかりとして扱うのではなく、トリガーによって誘発される局所的な行動偏差をモデルに学習させます。
- 実証研究には、新しいTrap-LIBEROおよびTrap-RoboTwinベンチマーク、C-ASRやAVEなどの自動評価指標、ならびにシミュレーションと実ロボット環境の両方での検証が含まれています。