論文の概要: PASA-KV: Attacking Action-Facing Visual Routes in World Action Models

• arxiv url: http://arxiv.org/abs/2610.39816v1
• Date: Thu, 29 Oct 2026 10:58:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-02 22:34:06.805416
• Title: PASA-KV: Attacking Action-Facing Visual Routes in World Action Models
• Title（参考訳）: PASA-KV:世界行動モデルにおける行動決定視覚経路の攻撃
• Abstract要約: 内的視覚的表現や世界的表現に対する摂動が、いつ行動に影響を及ぼすかを検討する。 攻撃効果は視覚的K/V経路によって大きく変化するが、より大きな表現変位は確実に制御障害を強くするものではない。 このビューを、脆弱なルートを特定するショートプローブ信号であるTail-AVでインスタンス化し、PASA-KVで運用する。
• 参考スコア（独自算出の注目度）: 41.98416585901729
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: World action models (WAMs) increasingly couple internal visual or world representations with action generation, making their world-to-action pathways a critical yet poorly understood source of robustness. We investigate when perturbations to these internal representations actually become behaviorally consequential, and uncover a pronounced mismatch between representation perturbability and closed-loop vulnerability: attack effectiveness varies sharply across visual K/V routes, while larger representation displacement does not reliably imply stronger control failure. Our analysis attributes this mismatch to the action-conditioned readout, where keys determine where action queries read and values determine what content they receive. This motivates an action-facing view of vulnerability, in which the effect of a perturbation depends on how it is routed into action generation rather than on representation-space magnitude alone. We instantiate this view with Tail-AV, a short-probe signal for identifying vulnerable routes, and operationalize it in PASA-KV, which selects action-facing K/V targets before training a fresh task-shared attack. Experiments across multiple WAM systems and a physical robot validate readout-informed target selection, demonstrate strong closed-loop attacks, and reveal substantial system-level differences in resistance.
• Abstract（参考訳）: 世界行動モデル(WAM)は、内部の視覚的あるいは世界的表現とアクション生成とをますます混同し、それらの世界行動経路は、堅牢性の重要かつ未理解な源となっている。 本研究では,これらの内部表現に対する摂動が実際に連続的に進行し,表現の摂動性と閉ループ脆弱性との明らかなミスマッチが明らかになった場合について検討する。 私たちの分析では、このミスマッチはアクション条件の読み出しに起因しており、キーはアクションクエリがどこで読み取ったかを決定し、値が受信したコンテンツを決定する。 これは、摂動の効果が、表現空間の規模だけではなく、どのようにアクション生成にルーティングされるかに依存する、脆弱性のアクション対応ビューを動機付けている。 我々は、脆弱なルートを特定するショートプローブ信号であるTail-AVを用いてこのビューをインスタンス化し、新しいタスク共有攻撃を訓練する前にアクション対応K/Vターゲットを選択するPASA-KVで運用する。 複数のWAMシステムと物理ロボットを用いた実験は、読み出しインフォームされたターゲット選択を検証し、強いクローズループ攻撃を示し、抵抗のシステムレベルの違いを顕著に示す。

関連論文リスト

• PICA-WAM: Visual Perturbation Invariance via Cross-Appearance Self-Alignment in World Action Models [10.231817425514725]
  世界行動モデル(WAM)は、将来の映像を共同で予測し、アクションを生成するが、タスク非関連の視覚摂動には敏感である。 PICA-WAMは、摂動不変性を補助的対面自己調整タスクとして用いた自己教師型トレーニングフレームワークである。 PICA-WAMは、視覚的摂動下での堅牢性を一貫して改善し、シミュレーションにおける名目上の性能を維持し、実際のロボットの成功率を高める。
  論文  参考訳（メタデータ） (2026-10-19T17:50:59Z)
• Who Pays the Price? Stakeholder-Centric Prompt Injection Benchmarking for Real-world Web Agents [93.19140872946842]
  大規模言語モデル(LLM)によって駆動されるWebエージェントは、現実の環境にますますデプロイされる。 これにより、一見良質なコンテンツがエージェントの振る舞いを操作する敵の命令を埋め込む、プロンプト・インジェクション・アタックに対して脆弱になる。 実世界のWebエージェントシステムにおいて,損害を体系的に分類し,属性付けするベンチマークである textbfsysname を導入する。
  論文  参考訳（メタデータ） (2026-06-11T14:12:43Z)
• Attention Hijacking: Response Manipulation Across Queries in Vision-Language Models [57.870323273127234]
  本研究の目的は,画像の持続的支配パターンに対して内的注意を喚起する新たな敵攻撃であるtextbfAttention Hijacking を提案することである。 提案手法は,クエリの特定の単語に対する操作された出力の依存性を低減する。
  論文  参考訳（メタデータ） (2026-05-17T08:02:27Z)
• From Stealthy Data Fabrication to Unsafe Driving: Realistic Scenario Attacks on Collaborative Perception [7.889284710970368]
  協調的な知覚により、コネクテッドカーや自動運転車は知覚データを共有することで知覚を改善することができる。 以前の研究は、アタッカーが共有データを作成してオブジェクトを偽造または削除できることを示しているが、現実の運転におけるそのような攻撃の実用性はまだ不明である。 本稿では,エンド・ツー・エンドのシステム効果を通じて,安全でない運転行動を引き起こす,ステルスで現実的なデータ生成攻撃を提案する。
  論文  参考訳（メタデータ） (2026-05-02T07:21:22Z)
• Uncovering Linguistic Fragility in Vision-Language-Action Models via Diversity-Aware Red Teaming [64.48633529149579]
  本稿では,VLA(Vision-Language-Action)モデルの言語的変異に対する脆弱性を明らかにするための新しいフレームワークを提案する。 本手法は, ストレス試験用VLAエージェントへのスケーラブルなアプローチを示すため, 平均作業成功率を93.33%から5.85%に下げる。
  論文  参考訳（メタデータ） (2026-04-07T08:43:36Z)
• AttackVLA: Benchmarking Adversarial and Backdoor Attacks on Vision-Language-Action Models [60.39655329875822]
  VLA(Vision-Language-Action)モデルは、ロボットが自然言語の命令を解釈し、多様なタスクを実行することを可能にするモデルである。 このようなモデルを攻撃することへの関心は高まっているが、既存の手法の有効性は依然として不明である。 我々はVLA開発ライフサイクルに合わせて統合されたフレームワークであるAttackVLAを提案する。
  論文  参考訳（メタデータ） (2025-11-15T10:30:46Z)
• Black-Box Adversarial Attack on Vision Language Models for Autonomous Driving [65.61999354218628]
  我々は、自律運転システムにおいて、視覚言語モデル(VLM)をターゲットとしたブラックボックス敵攻撃を設計する第一歩を踏み出す。 セマンティクスの生成と注入による低レベル推論の分解を目標とするカスケーディング・アディバーショナル・ディスラプション(CAD)を提案する。 本稿では,高レベルリスクシナリオの理解と構築に代理VLMを活用することで,動的適応に対処するリスクシーンインジェクションを提案する。
  論文  参考訳（メタデータ） (2025-01-23T11:10:02Z)
• Steering Away from Harm: An Adaptive Approach to Defending Vision Language Model Against Jailbreaks [16.508109544083496]
  視覚言語モデル(VLM)は、敵の攻撃にさらされると意図しない有害なコンテンツを生成できる。 既存の防御(例えば、入力前処理、敵の訓練、応答評価に基づく手法)は、実世界の展開には実用的ではないことが多い。 本稿では,VLM攻撃に対する対向的特徴方向からモデルを誘導し,効果的かつ効果的な防御法であるASTRAを提案する。
  論文  参考訳（メタデータ） (2024-11-23T02:17:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。