論文の概要: Test-time Adversarial Takeover: A Real-time Hijacking Interface against Robotic Diffusion Policies

• arxiv url: http://arxiv.org/abs/2606.10371v1
• Date: Tue, 09 Jun 2026 03:31:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-10 15:40:58.293186
• Title: Test-time Adversarial Takeover: A Real-time Hijacking Interface against Robotic Diffusion Policies
• Title（参考訳）: ロボット拡散政策に対するリアルタイムハイジャックインタフェース
• Authors: Zi Yin, Peilin Chai, Siyuan Huang, Zhanhao Hu,
• Abstract要約: 本研究では,攻撃者が凍結したロボットポリシーに対してリアルタイムの操舵インターフェースを得る,より強力な脅威であるテストタイム・アダベリアル・テイクオーバー(TAKO)について検討する。 本研究は, 自然目標ベースライン, ターゲット・ポリティィ・マッチングは, 被害者の方針が, 配当対象シフトを確実に監督できないため, 失敗することを示す。 人間のオペレータは、評価された設定ごとに攻撃者が定義した目的に対して100%の乗っ取り成功を達成する。
• 参考スコア（独自算出の注目度）: 11.428738769530847
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion-based action generation has become a foundational component of embodied AI, but its reliance on visual conditioning leaves deployed visuomotor policies vulnerable to adversarial manipulation. Most prior attacks focus on disruption: they perturb the observation stream to reduce task success or induce erratic behavior. We study a stronger threat, Test-time Adversarial Takeover (TAKO), in which an attacker obtains a real-time steering interface over a frozen robot policy and turns it into a remotely piloted instrument. TAKO learns a small vocabulary of reusable universal patches through differentiable diffusion inference; at test time, the attacker switches among these patches in the camera stream to compose attacker-chosen trajectories. This works because the perturbation acts on the visual conditioning pathway, where the induced bias can persist through iterative generative inference. We further show that the natural targeted baseline, target-policy matching, fails because the victim policy cannot reliably supervise itself on out-of-distribution target shifts. Across four tasks (2D manipulation, simulated aerial delivery, simulated ground navigation, and physical-world ground navigation), two visual encoders (ResNet-18 and EfficientNet-B0 + Transformer), and three generative inference families (DDPM, DDIM, and flow matching), human operators achieve 100\% takeover success on attacker-defined objectives in every evaluated setting. The project page is available at https://tako-attack.github.io.
• Abstract（参考訳）: 拡散に基づくアクション生成は、AIの基本的な構成要素となっているが、視覚条件への依存は、敵の操作に弱いビジュモータポリシーを配置する。 タスクの成功を減らしたり、不規則な振る舞いを誘発するために観察の流れを乱す。 本研究では,より強力な脅威であるTAKO(Test-time Adversarial Takeover)について検討する。 TAKOは、異なる拡散推論により、再利用可能なユニバーサルパッチの小さな語彙を学習し、テスト時に、アタッカーはこれらのパッチをカメラストリームに切り替えて、アタッカー・チョーゼン・トラジェクトリを構成する。 これは摂動が視覚条件付け経路に作用するためであり、誘導バイアスは反復的生成推論を通じて持続することができる。 さらに, 自然目標ベースライン, ターゲット・ポリティィマッチングは, 被害者の方針が流通対象シフトを確実に監督できないため, 失敗することを示した。 4つのタスク(2D操作、シミュレートされた空中配信、シミュレートされた地上ナビゲーション、物理世界の地上ナビゲーション)、2つのビジュアルエンコーダ(ResNet-18とEfficientNet-B0 + Transformer)、3つの生成推論ファミリ(DDPM、DDIM、フローマッチング)、人間のオペレーターは、評価された設定ごとに攻撃者が定義した目標に対して100%のテイクオーバー成功を達成する。 プロジェクトのページはhttps://tako- attack.github.io.comで公開されている。

関連論文リスト

• Diffusion-Guided Backdoor Attacks in Real-World Reinforcement Learning [13.244940433694024]
  バックドア攻撃は、強化学習ポリシーに隠された悪意のある振る舞いを埋め込み、テスト時にトリガーを使用してそれらをアクティベートする。 既存の攻撃のほとんどはシミュレーションでのみ検証されているが、実際のロボットシステムでの有効性はまだ不明である。 これまでに見過ごされてきた問題を考察し,現実世界のRLに対する拡散誘導型バックドアアタックフレームワーク(DGBA)を提案する。
  論文  参考訳（メタデータ） (2026-01-20T16:03:51Z)
• When Robots Obey the Patch: Universal Transferable Patch Attacks on Vision-Language-Action Models [81.7618160628979]
  VLA(Vision-Language-Action)モデルは敵の攻撃に弱いが、普遍的かつ移動可能な攻撃は未発見のままである。 UPA-RFAS(Universal Patch Attack via Robust Feature, Attention, and Semantics)は、単一の物理的パッチを共有機能空間で学習する統合フレームワークである。 多様なVLAモデル、操作スイート、物理実行の実験は、UPA-RFASがモデル、タスク、視点を一貫して移行していることを示している。
  論文  参考訳（メタデータ） (2025-11-26T09:16:32Z)
• Steering Away from Harm: An Adaptive Approach to Defending Vision Language Model Against Jailbreaks [16.508109544083496]
  視覚言語モデル(VLM)は、敵の攻撃にさらされると意図しない有害なコンテンツを生成できる。 既存の防御(例えば、入力前処理、敵の訓練、応答評価に基づく手法)は、実世界の展開には実用的ではないことが多い。 本稿では,VLM攻撃に対する対向的特徴方向からモデルを誘導し,効果的かつ効果的な防御法であるASTRAを提案する。
  論文  参考訳（メタデータ） (2024-11-23T02:17:17Z)
• Adversarial Vulnerability of Temporal Feature Networks for Object Detection [5.525433572437716]
  本研究では,物体検出のための時間的特徴ネットワークが,普遍的敵攻撃に対して脆弱であるかどうかを検討する。 画像全体に対する知覚不能ノイズと,局所的な対向パッチの2種類の攻撃について検討した。 KITTIおよびnuScenesデータセットに関する実験により、K-PGDによるロバスト化モデルが、研究された攻撃に耐えられることを示した。
  論文  参考訳（メタデータ） (2022-08-23T07:08:54Z)
• Fixed Points in Cyber Space: Rethinking Optimal Evasion Attacks in the Age of AI-NIDS [70.60975663021952]
  ネットワーク分類器に対するブラックボックス攻撃について検討する。 我々は、アタッカー・ディフェンダーの固定点がそれ自体、複雑な位相遷移を持つ一般サムゲームであると主張する。 攻撃防御力学の研究には連続的な学習手法が必要であることを示す。
  論文  参考訳（メタデータ） (2021-11-23T23:42:16Z)
• Evaluating the Robustness of Semantic Segmentation for Autonomous Driving against Real-World Adversarial Patch Attacks [62.87459235819762]
  自動運転車のような現実のシナリオでは、現実の敵例(RWAE)にもっと注意を払わなければならない。 本稿では,デジタルおよび実世界の敵対パッチの効果を検証し,一般的なSSモデルのロバスト性を詳細に評価する。
  論文  参考訳（メタデータ） (2021-08-13T11:49:09Z)
• The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
  我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。 敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
  論文  参考訳（メタデータ） (2021-06-26T10:50:07Z)
• Temporally-Transferable Perturbations: Efficient, One-Shot Adversarial Attacks for Online Visual Object Trackers [81.90113217334424]
  本研究では, オブジェクトテンプレート画像からのみ, 一時移動可能な対人的摂動を生成するフレームワークを提案する。 この摂動はあらゆる検索画像に追加され、事実上何のコストもかからないが、それでもトラッカーを騙すのに成功している。
  論文  参考訳（メタデータ） (2020-12-30T15:05:53Z)
• Double Targeted Universal Adversarial Perturbations [83.60161052867534]
  本稿では, インスタンス別画像依存摂動と汎用的普遍摂動のギャップを埋めるために, 二重目標普遍摂動(DT-UAP)を導入する。 提案したDTAアルゴリズムの幅広いデータセットに対する有効性を示すとともに,物理攻撃の可能性を示す。
  論文  参考訳（メタデータ） (2020-10-07T09:08:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。