論文の概要: Detect and Suppress: A Mechanistic Defense against Adversarial Patches in VLA Models

• arxiv url: http://arxiv.org/abs/2610.03498v1
• Date: Fri, 02 Oct 2026 15:57:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.464714
• Title: Detect and Suppress: A Mechanistic Defense against Adversarial Patches in VLA Models
• Title（参考訳）: 検出・抑制:VLAモデルにおける逆行性パッチに対する機械的防御
• Abstract要約: アドリアパッチは視覚観察を操作することでビジョン・ランゲージ・アクション(VLA)モデルを妨害する可能性がある。 本研究では,スパースオートエンコーダ(SAE)を用いてVLA表現を機械的に解析し,その活性化が相手パッチの存在と強く相関する特徴を同定する。
• 参考スコア（独自算出の注目度）: 7.7858559037831725
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Adversarial patches can disrupt Vision-Language-Action (VLA) models by manipulating visual observations, leading to failures in robot control. However, it remains poorly understood which internal mechanisms underlie these failures and how targeted interventions can mitigate them. In this work, we mechanistically analyze VLA representations using a sparse autoencoder (SAE) and identify a feature whose activation strongly correlates with the presence of an adversarial patch. Based on this analysis, we suppress the identified feature at inference time only when a linear probe detects an attack. This intervention improves robustness without the cost of fine-tuning the VLA. We evaluate our method against VLA adversarial patch attacks on LIBERO-10. Conditional intervention improves success rate under intermittent attacks, whereas continuously applying the same intervention substantially degrades policy performance. These results show that attack-related internal representations can provide useful targets for VLA adversarial defense and that controlling when to intervene is important for limiting disruption to nominal policy behavior.
• Abstract（参考訳）: 対立パッチは視覚的な観察を操作することでビジョン・ランゲージ・アクション(VLA)モデルを妨害し、ロボット制御の失敗につながる。 しかしながら、どの内部メカニズムがこれらの障害を未然に防ぐのか、ターゲットとした介入がそれらを緩和する方法については、いまだに理解されていない。 本研究では,スパースオートエンコーダ(SAE)を用いてVLA表現を機械的に解析し,その活性化が相手パッチの存在と強く相関する特徴を同定する。 この分析に基づき、線形プローブが攻撃を検出する場合にのみ、推定時に識別された特徴を抑える。 この介入は、VLAを微調整するコストを伴わずに堅牢性を向上させる。 LIBERO-10に対するVLA敵パッチ攻撃に対する本手法の評価を行った。 条件付き介入は、断続的な攻撃による成功率を改善する一方、同じ介入を継続的に適用すると、政策性能が著しく低下する。 これらの結果から, 攻撃関連内部表現は, VLAの敵防衛に有用なターゲットとなり, 介入するタイミングの制御は, 名目上の政策行動の混乱を抑制する上で重要であることが示唆された。

関連論文リスト

• Structure-Aware Robust Fine-Tuning: Defending Vision-Language-Action Robots Against Physical Attention Hijacking [34.12193936594126]
  VLA(Vision-Language-Action)ポリシーは、一般的なロボット操作を約束するが、物理世界の攻撃に対する堅牢性は依然として脆弱だ。 物理的に実現可能な敵パッチは、ポリシークリティカルなアクション・ツー・ビジョン・アテンション・ハイジャックと呼ばれるメカニズムを起動することで、確実に障害を誘発できることを示す。 本研究では,機能アンカー,ポリシクリティカルアテンション補正,言語誘導型幾何整合性を用いた視覚エンコーダのみを微調整し,意味的関連領域に限定したゼロ推論オーバーヘッドディフェンスである構造認識ロバストファインタニング(SARF)を提案する。
  論文  参考訳（メタデータ） (2026-08-04T07:03:05Z)
• TrustVLA: Mechanism-Guided Inference-Time Defense Against Vision-Language-Action Backdoors [54.12833308568015]
  VLA(Vision-Language-Action)モデルは、エンドユーザが監査できないパイプラインを通じてデプロイされる。 小さな視覚トリガーは、障害が観測可能である前に、長い水平ロボットポリシーをリダイレクトする。 個別に提案した2つのVLA攻撃を通してこのギャップについて検討した。
  論文  参考訳（メタデータ） (2026-07-14T09:43:52Z)
• TAG: Target-Agnostic Guidance for Stable Object-Centric Inference in Vision-Language-Action Models [59.13964209628383]
  VLA(Vision-Language-Action)ポリシーは、言語指示や視覚的な観察をロボット行動にマッピングする上で大きな進歩を見せている。 本稿では,VLA政策における乱れや外見に起因したバイアスを明示的に軽減する単純な推論時ガイダンス機構であるTAG(Target-Agnostic Guidance)を提案する。 我々は, LIBERO, LIBERO-Plus, VLABenchなどの標準操作ベンチマーク上でTAGを評価し, クラッタ下での堅牢性を一貫して改善し, ニアミスや不正なオブジェクト実行を減らす。
  論文  参考訳（メタデータ） (2026-03-25T17:56:32Z)
• Attention-Guided Patch-Wise Sparse Adversarial Attacks on Vision-Language-Action Models [20.36843507452372]
  ADVLAは、視覚エンコーダからテキスト機能空間に投影される特徴に対して、敵対的な摂動を適用するフレームワークである。 シングルステップのイテレーションはわずか0.06秒で、従来のパッチベースの攻撃よりも大幅に向上する。
  論文  参考訳（メタデータ） (2025-11-26T18:37:54Z)
• AttackVLA: Benchmarking Adversarial and Backdoor Attacks on Vision-Language-Action Models [60.39655329875822]
  VLA(Vision-Language-Action)モデルは、ロボットが自然言語の命令を解釈し、多様なタスクを実行することを可能にするモデルである。 このようなモデルを攻撃することへの関心は高まっているが、既存の手法の有効性は依然として不明である。 我々はVLA開発ライフサイクルに合わせて統合されたフレームワークであるAttackVLAを提案する。
  論文  参考訳（メタデータ） (2025-11-15T10:30:46Z)
• Model-agnostic Adversarial Attack and Defense for Vision-Language-Action Models [25.45513133247862]
  VLA(Vision-Language-Action)モデルは、ロボット学習において革命的な進歩を遂げている。 この進歩にもかかわらず、その敵意の強固さは未解明のままである。 本稿では,VLAモデルに対する敵パッチ攻撃と対応する防御戦略の両方を提案する。
  論文  参考訳（メタデータ） (2025-10-15T07:42:44Z)
• TabVLA: Targeted Backdoor Attacks on Vision-Language-Action Models [63.51290426425441]
  バックドア付きVLAエージェントは、プレインジェクトされたバックドアによって隠蔽的にトリガーされ、敵のアクションを実行することができる。 我々は,VLAモデルに対するターゲットバックドア攻撃について検討し,ブラックボックスファインチューニングによる攻撃を可能にする新しいフレームワークであるTabVLAを紹介した。 我々の研究は、バックドア操作をターゲットにしたVLAモデルの脆弱性を強調し、より高度な防御の必要性を強調します。
  論文  参考訳（メタデータ） (2025-10-13T02:45:48Z)
• FreezeVLA: Action-Freezing Attacks against Vision-Language-Action Models [124.02734355214325]
  Vision-Language-Action(VLA)モデルはロボティクスの急速な進歩を加速している。 敵画像はVLAモデルを「凍結」し、その後の命令を無視する。 FreezeVLAは、min-maxバイレベル最適化を通じて、アクション凍結攻撃を生成し、評価する。
  論文  参考訳（メタデータ） (2025-09-24T08:15:28Z)
• Adversarial Visual Robustness by Causal Intervention [56.766342028800445]
  敵の訓練は、敵の例に対する事実上最も有望な防御である。 しかし、その受動性は必然的に未知の攻撃者への免疫を妨げる。 我々は、敵対的脆弱性の因果的視点を提供する: 原因は、学習に普遍的に存在する共同創設者である。
  論文  参考訳（メタデータ） (2021-06-17T14:23:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。