論文の概要: Enhancing Visual Task-Redirection Attacks on Vision-Language-Action Models via Closed-Loop Optimization

• arxiv url: http://arxiv.org/abs/2610.23566v1
• Date: Fri, 16 Oct 2026 14:51:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 00:56:07.977236
• Title: Enhancing Visual Task-Redirection Attacks on Vision-Language-Action Models via Closed-Loop Optimization
• Title（参考訳）: 閉ループ最適化による視覚言語行動モデルに対する視覚的タスクリダイレクトアタックの強化
• Abstract要約: 視覚言語アクション(VLA)モデルは、言語誘導ロボット操作を可能にするが、視覚攻撃には弱い。 我々は,クローズドループ最適化による既存の視覚的攻撃を強化するフレームワークであるTRACOを提案する。 VLAモデルとシミュレーション環境をまたいだ実験では、TRACOによるタスク・リダイレクトの成功が改善された。
• 参考スコア（独自算出の注目度）: 53.4936961783344
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Vision-language-action (VLA) models enable language-guided robot manipulation, but remain vulnerable to visual attacks that undermine user control over robot behavior. Prior studies optimize visual perturbations using fixed target supervision. However, the perturbation can change earlier actions and, in turn, the physical states reached later. As the attacked trajectory evolves, this supervision may no longer match the behavior needed at the states actually reached. Accurately matching these targets can therefore fail to advance the attacker-specified task. Even with suitable supervision, reducing average matching error does not ensure sustained task progress. The robot may still fail at a critical stage, and further updates can disrupt previously successful behavior. To address these limitations, we propose TRACO, a framework that enhances existing targeted visual attacks through closed-loop optimization. Its Execution-Driven Supervision rebuilds supervision for the states reached under attack to guide subsequent updates. Within this framework, Progress-Guided Selection focuses updates where progress stalls while maintaining supervision on the earlier behavior needed to reach that point. Experiments across VLA models and simulation environments show improved task-redirection success with TRACO, highlighting the security implications of closed-loop attack optimization.
• Abstract（参考訳）: 視覚言語アクション(VLA)モデルは、言語誘導型ロボット操作を可能にするが、ロボットの動作に対するユーザ制御を損なう視覚的攻撃に弱いままである。 以前の研究では、固定された目標監視を用いて視覚摂動を最適化していた。 しかし、摂動は初期の行動を変え、物理的状態は後に到達した。 攻撃された軌跡が進化するにつれて、この監督は実際に到達した州に必要な行動ともはや一致しないかもしれない。 したがって、これらのターゲットを正確に一致させると、攻撃者が特定したタスクを前進させることができない。 適切な監視を行っても、平均的なマッチングエラーを減らすことは、持続的なタスクの進捗を保証しない。 ロボットはまだ重要な段階で失敗する可能性があり、さらなるアップデートは以前成功していた行動を妨害する可能性がある。 これらの制約に対処するため,我々は,クローズドループ最適化による既存の視覚的攻撃を強化するフレームワークであるTRACOを提案する。 実行駆動スーパービジョンは、その後の更新を導くために攻撃を受けた州の監督を再構築する。 このフレームワーク内では、プログレスガイドの選択は、その時点に到達するために必要な以前の動作の監視を維持しながら、進捗が停止する更新に焦点を当てている。 VLAモデルとシミュレーション環境での実験では、TRACOによるタスクリダイレクトの成功が向上し、クローズドループ攻撃最適化のセキュリティへの影響が強調された。

関連論文リスト

• Adapting Vision-Language-Action Models to Unknown Visual Disruptions During Execution [10.956260936426688]
  ロボットがタスクを実行している間に視覚障害が発生する可能性があり、視覚言語アクション(VLA)ポリシーはタイプやタイミングを知らずに応答する。 左上軌道からの自己教師付き適応(SALT)について紹介する。 SALTはテスト時間適応のための自己スーパービジョンとして、以前のアクションチャンクの未実行部分である左上軌道を使用する。
  論文  参考訳（メタデータ） (2026-10-06T08:21:19Z)
• ProAct-VLM: Pre-Failure Vision-Language Task Replanning with Continuous Perception Feedback [1.6590770361612988]
  長期のロボットタスクは、予期せぬ環境変化に対して脆弱である。 従来のルールベースの意思決定パイプラインは、オープンワールド環境では不安定である。 ProAct-VLMは、適応的で物理的に基盤付けられたタスク計画フレームワークである。
  論文  参考訳（メタデータ） (2026-09-29T14:30:35Z)
• TrapVLA: Trapping Vision-Language-Action Models in Configured Failure Modes [65.10128145059127]
  この研究は、Vision-Language-Action(VLA)モデルに対する新しいバックドア攻撃タスクであるConfigured Failure Trappingを導入している。 本稿では,高品質な目標軌道を合成するための効率的なデータエンジンと,構成欠陥の忠実度を測定するための自動スイートを提案する。 実験によると、TrapVLAは構成された障害モードをVLAモデルに効果的に注入し、クリーンなデータのパフォーマンスを保っている。
  論文  参考訳（メタデータ） (2026-08-27T03:44:49Z)
• See, Plan, Rewind: Progress-Aware Vision-Language-Action Models for Robust Robotic Manipulation [59.07792608884117]
  本稿では,See, Plan, Rewind (SPR)について紹介する。 SPRは、現在の状態と今後のマイルストーンを見て、次の2Dウェイポイントに向けて軌道を計画し、障害時に回復可能な状態に戻すという、継続的なコアサイクルを通じて運用される。 SPRは、OpenVLA-OFTとUniVLAを上回る最小のパフォーマンス低下で最先端のロバスト性を達成する。
  論文  参考訳（メタデータ） (2026-03-10T07:22:51Z)
• Self-Correcting VLA: Online Action Refinement via Sparse World Imagination [55.982504915794514]
  本稿では, 自己補正VLA (SC-VLA) を提案する。 SC-VLAは最先端のパフォーマンスを達成し、最高タスクスループットを16%削減し、最高パフォーマンスのベースラインよりも9%高い成功率を得る。
  論文  参考訳（メタデータ） (2026-02-25T06:58:06Z)
• ReViP: Reducing False Completion in Vision-Language-Action Models with Vision-Proprioception Rebalance [50.05984919728878]
  本稿では、視覚的接地と摂動下での堅牢性を高めるために、視覚-受容器リバランスを備えた新しいVLAフレームワークReViPを提案する。 具体的には、タスクステージオブザーバとして外部VLMを使用して、視覚的な観察からリアルタイムなタスク中心の視覚的手がかりを抽出する。 本稿では,オブジェクトドロップのような制御された設定を持つLIBERO上に構築された最初のFalse-Completion Benchmark Suiteを提案する。
  論文  参考訳（メタデータ） (2026-01-23T11:31:07Z)
• AttackVLA: Benchmarking Adversarial and Backdoor Attacks on Vision-Language-Action Models [60.39655329875822]
  VLA(Vision-Language-Action)モデルは、ロボットが自然言語の命令を解釈し、多様なタスクを実行することを可能にするモデルである。 このようなモデルを攻撃することへの関心は高まっているが、既存の手法の有効性は依然として不明である。 我々はVLA開発ライフサイクルに合わせて統合されたフレームワークであるAttackVLAを提案する。
  論文  参考訳（メタデータ） (2025-11-15T10:30:46Z)
• Scene Graph-Guided Proactive Replanning for Failure-Resilient Embodied Agent [9.370683025542686]
  本稿では,サブタスク境界における障害の検出と修正を行う,アクティブなリプランニングフレームワークを提案する。 AI2-THORシミュレータの実験では,実行障害発生前の意味的および空間的ミスマッチを検出する。
  論文  参考訳（メタデータ） (2025-08-15T07:48:51Z)
• A Unified Framework for Real-Time Failure Handling in Robotics Using Vision-Language Models, Reactive Planner and Behavior Trees [1.3481665321936716]
  本稿では,リアクティブプランナであるVLM(Vision-Language Models)とBT(Behavior Trees)を組み合わせて,リアルタイムの障害処理を実現する,統合された障害復旧フレームワークを提案する。 当社のアプローチには、実行前の潜在的な障害をチェックする事前実行検証と、実行中の障害を検出し修正するリアクティブ障害処理が含まれている。 我々は、ペグ挿入、オブジェクトソート、引き手の配置といったタスクにおいて、ABB YuMiロボットを用いた実世界の実験を通して、我々のフレームワークを評価する。
  論文  参考訳（メタデータ） (2025-03-19T13:40:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。